Chuyên gia bàn giải pháp bảo vệ dữ liệu, ứng phó nguy cơ an ninh mạng từ AI

Chiều 12/6, Trường đại học Điện lực và Học viện Cảnh sát nhân dân tổ chức Hội thảo khoa học quốc gia: “Khoa học dữ liệu và một số vấn đề an ninh thông tin trong giai đoạn mới.

Hội thảo nhằm trao đổi, chia sẻ kết quả nghiên cứu, kinh nghiệm thực tiễn và đề xuất các giải pháp phù hợp trong lĩnh vực khoa học dữ liệu và an ninh thông tin. Đây cũng là dịp để Trường đại học Điện lực và Học viện Cảnh sát nhân dân tăng cường hợp tác trong đào tạo, nghiên cứu khoa học, đồng thời mở rộng kết nối với các cơ quan, tổ chức, doanh nghiệp, chuyên gia trong các lĩnh vực công nghệ thông tin, an ninh mạng, dữ liệu số và các lĩnh vực liên quan.

Sự phối hợp tổ chức hội thảo góp phần kết nối thế mạnh công nghệ với kinh nghiệm thực tiễn trong bảo đảm an ninh, trật tự; qua đó thúc đẩy ứng dụng khoa học dữ liệu, trí tuệ nhân tạo và tăng cường an ninh, an toàn cho dữ liệu, hệ thống và hạ tầng số.

Theo ban tổ chức, có 83 bài gửi đến hội thảo được lựa chọn đăng trong kỷ yếu (72%). Về chuyên môn, thầy Châu nhận thấy có hướng chính của hội thảo mà có số lượng bài báo tập trung cũng như phù hợp với các xu hướng nghiên cứu của thế giới. Trong đó có an ninh mạng, bảo vệ hạ tầng số và khả năng chống chịu; ứng dụng AI, học máy và khoa học dữ liệu trong thực tiễn; quản trị dữ liệu, bảo vệ dữ liệu cá nhân và hoàn thiện pháp luật; phát triển nguồn nhân lực, năng lực số và đổi mới giáo dục; AI tạo sinh, AI Agent, RAG tác tử và an ninh hệ thống AI.

Phát biểu tại hội thảo, NGƯT PGS.TS Vũ Đình Ngọ - Phó Hiệu trưởng Trường Đại học Điện lực – cho hay những trao đổi tại hội thảo cho thấy khoa học dữ liệu và an ninh thông tin là hai lĩnh vực có mối quan hệ chặt chẽ với nhau. Khai thác dữ liệu hiệu quả sẽ tạo ra động lực mới cho phát triển. Nhưng, theo PGS.TS Vũ Đình Ngọ, để dữ liệu thực sự trở thành tài nguyên có giá trị, chúng ta cần có năng lực bảo vệ, quản trị và sử dụng dữ liệu một cách an toàn, hợp pháp, có trách nhiệm và bền vững.

Cũng theo NGƯT PGS.TS Vũ Đình Ngọ, các nội dung được trình bày đã góp phần làm rõ hơn vai trò của dữ liệu trong bối cảnh chuyển đổi số; những cơ hội ứng dụng khoa học dữ liệu trong quản lý, đào tạo, nghiên cứu, sản xuất và đời sống xã hội. Đồng thời nhận diện các nguy cơ, thách thức mới về an toàn dữ liệu, bảo mật thông tin, tội phạm công nghệ cao và bảo vệ hạ tầng số.

Chủ động đào tạo nguồn nhân lực số

Cũng tại hội thảo, Đại tá PGS.TS Nguyễn Đăng Sáu - Phó Giám đốc Học viện Cảnh sát nhân dân, chia sẻ quá trình số hóa và kết nối dữ liệu cũng làm gia tăng nhiều nguy cơ mới. Dữ liệu có thể bị thu thập, sử dụng, chia sẻ hoặc phân tích sai mục đích. Hệ thống thông tin có thể bị tấn công, xâm nhập, chiếm quyền điều khiển hoặc làm gián đoạn. Các mô hình trí tuệ nhân tạo có thể bị thao túng bởi dữ liệu độc, tấn công đối kháng, lệnh điều khiển độc hại hoặc các kỹ thuật khai thác điểm yếu của mô hình.

Đại tá PGS.TS Nguyễn Đăng Sáu - Phó Giám đốc Học viện Cảnh sát nhân dân phát biểu.

Trí tuệ nhân tạo tạo sinh không chỉ hỗ trợ sáng tạo nội dung và tăng năng suất lao động mà còn có thể bị lợi dụng để sản xuất thông tin giả, hình ảnh giả, âm thanh giả, giả mạo danh tính, cá nhân hóa hành vi lừa đảo và tự động hóa một phần các cuộc tấn công mạng. Khi dữ liệu được kết nối trên quy mô lớn, một sai sót nhỏ trong quản trị, phân quyền hoặc bảo vệ dữ liệu cũng có thể gây ra hậu quả mang tính dây chuyền đối với cá nhân, tổ chức và toàn xã hội.

Do vậy, kỷ yếu hội thảo đã phản ánh sự quan tâm sâu rộng của các nhà khoa học, cán bộ thực tiễn, giảng viên và người học đối với khoa học dữ liệu và an ninh thông tin. Bức tranh khái quát một số nhóm vấn đề về quản trị dữ liệu, chủ quyền dữ liệu và bảo vệ dữ liệu cá nhân; ứng dụng khoa học dữ liệu và trí tuệ nhân tạo trong bảo đảm an ninh, trật tự; những nguy cơ an ninh mới phát sinh từ trí tuệ nhân tạo; an ninh hệ thống dữ liệu và hạ tầng thông tin trọng yếu; sự xuất hiện của AI Agent, RAG và các hệ thống tri thức thông minh và phát triển nguồn nhân lực và đổi mới giáo dục – đào tạo.

Ông cũng gợi ý cần chuyển từ tư duy bảo vệ hệ thống sau khi sự cố đã xảy ra sang tư duy an ninh ngay từ thiết kế; từ bảo vệ từng thiết bị riêng lẻ sang bảo vệ toàn bộ vòng đời dữ liệu; từ ứng phó bị động sang dự báo, phòng ngừa và xây dựng khả năng chống chịu.

“Các kết quả trao đổi tại Hội thảo cần được sử dụng làm nguồn tham khảo cho việc cập nhật chương trình đào tạo, xây dựng phòng thí nghiệm, tổ chức các hoạt động thực hành, diễn tập, nghiên cứu tình huống và phát triển đội ngũ chuyên gia”, ông Sáu bày tỏ.