Dùng AI kiểm soát bình luận trên mạng xã hội
2025/08/21 11:11
GD&TĐ - Nhóm sinh viên Trường Đại học Công nghệ Thông tin, Đại học Quốc gia TPHCM phát triển thành công ứng dụng trí tuệ nhân tạo (AI) tự động cảnh báo các bình luận có nội dung xúc phạm, phản cảm trên mạng xã hội với độ chính xác 81%.
Quản lý bình luận xấu độc
Phần mềm kiểm soát bình luận xấu độc trên mạng xã hội được phát triển bởi 4 sinh viên Khoa Khoa học và Kỹ thuật Thông tin, Trường Đại học Công nghệ Thông tin (Đại học Quốc gia TPHCM): Hoàng Gia Phú, Lưu Đức Cảnh, Trần Quốc Khánh và Võ Thiện Đông Dương. Ứng dụng sử dụng kỹ thuật xử lý ngôn ngữ tự nhiên (NLP) nhằm hạn chế những bình luận tiêu cực, giúp người quản lý theo dõi nội dung trên các diễn đàn tốt hơn.
Từ quá trình dùng mạng xã hội, Hoàng Gia Phú chia sẻ: Em nhận thấy rõ bên cạnh những bình luận tích cực, không gian mạng cũng tồn tại nhiều lời lẽ tiêu cực, thậm chí xúc phạm người khác. “Nhiều người cho rằng đó là quyền tự do ngôn luận để nêu quan điểm cá nhân, nhưng khi những bình luận đi quá xa, chúng có thể gây ra hệ lụy khó lường”, Phú nói.
Theo nhóm nghiên cứu, nếu một người tiếp xúc thường xuyên với các nội dung phản cảm, xúc phạm, tâm lý của họ sẽ bị ảnh hưởng nặng nề, thậm chí dẫn đến hành vi tiêu cực nếu họ là mục tiêu chính của các phát ngôn công kích trên mạng. Đối với người đọc bình luận, việc đọc những nội dung xấu độc thường xuyên có thể tạo ra tâm lý mất niềm tin vào xã hội, dễ tập trung vào điểm xấu của người khác, hoặc có xu hướng nhìn nhận sự việc theo hướng tiêu cực, công kích người khác dù trước đây không có thói quen này.
Phân tích sâu hơn, Phú nhớ lại giai đoạn cao điểm dịch Covid-19, thông tin về một giáo viên tiêm 2 mũi vắc-xin cùng lúc đã gây ra phản ứng trái chiều. Một bộ phận dư luận cho rằng nữ giáo viên này thiếu hiểu biết, trong khi những người khác lại chỉ trích cơ quan y tế khu vực thiếu trách nhiệm.
“Tất cả ý kiến này đều mang tính tiêu cực, xúc phạm cả cô giáo, cơ quan y tế và nhà trường. Nhiều người đã đẩy vấn đề đi quá xa, gây hoang mang dư luận trong khi bản chất chỉ là sự việc hy hữu”, Phú chia sẻ. Nam sinh cho rằng, cần có công cụ để quản lý những bình luận mang tính cực đoan, tiêu cực nhằm làm sạch môi trường mạng.
Với kiến thức đã học, Phú cùng nhóm bạn đã bắt tay phát triển phần mềm kiểm soát bình luận. Nhóm sử dụng hai công cụ PhoBERT và Text CNN (PhoBERT-CNN) cùng với AI để xử lý ngôn ngữ tự nhiên. Công cụ này được huấn luyện để phân loại các bình luận tiếng Việt có tính chất xấu độc, xúc phạm người khác hoặc phản cảm.
Độ chính xác cao
Để kiểm chứng mô hình, nhóm đã sử dụng bộ dữ liệu ViHSD của một nhóm chuyên gia Việt Nam, chứa hơn 33.000 dữ liệu từ Facebook và YouTube. Dữ liệu này được xử lý qua hai bước tiền xử lý trước khi đưa vào hệ thống PhoBERT-CNN. Kết quả cho thấy mô hình đạt độ chính xác 81% trong việc phát hiện bình luận tiêu cực.
Nhờ phương pháp tiền xử lý dữ liệu, các bình luận không dấu, viết tắt, pha tạp tiếng Anh, hay teencode... đều được “làm sạch” trước khi cho máy học, mang lại kết quả đáng kỳ vọng. “Tuy nhiên, hệ thống chưa nhận diện được các bình luận mang tính nói bóng gió”, Phú thừa nhận. Anh cho rằng, nhược điểm này có thể được khắc phục khi bổ sung thêm dữ liệu và huấn luyện hệ thống.
Mặt khác, ngôn ngữ trên mạng xã hội thay đổi liên tục, đòi hỏi người quản lý phải cập nhật các dạng ngôn ngữ mới. Theo nhóm sinh viên, cần có một chuyên gia am hiểu mạng xã hội và theo kịp các phong cách ngôn ngữ từ giới trẻ để thực hiện công việc này. Nhóm đã thử nghiệm giả lập một trang báo điện tử. Khi có bình luận tích cực, hệ thống sẽ phân loại và gán nhãn “sạch”.
Ngược lại, với bình luận tiêu cực, hệ thống sẽ nhận diện và đề xuất ẩn bình luận, đồng thời tô đậm khu vực chứa từ ngữ phản cảm. Thời gian tới, nhóm dự kiến thử nghiệm ứng dụng trên các trang mạng xã hội trong trường để đánh giá hiệu quả và tiếp tục phát triển.
Ngoài việc phát hiện nội dung tiêu cực, mô hình này còn có thể ứng dụng trong các lĩnh vực giáo dục, y tế, tâm lý học... khi người quản lý muốn nắm bắt quan điểm cộng đồng về một vấn đề cụ thể thông qua các bình luận trái chiều. Sản phẩm cũng có thể giúp người quản lý đánh giá được sự quan tâm và xu hướng của cộng đồng đối với chủ đề nào đó, làm căn cứ để đưa ra thông tin khách quan, công bằng, giúp định hướng dư luận tốt hơn.
Đánh giá về sản phẩm trên, PGS.TS Nguyễn Ngọc Lâm - nguyên Phân Viện trưởng Phân Viện Nghiên cứu Điện tử, Tin học và Tự động hóa (Bộ Công Thương) cho rằng, đây là sản phẩm hay và hoàn toàn có thể ứng dụng nếu được hoàn thiện về công nghệ. Ông nhận định, nhóm đã có các bước tiền xử lý dữ liệu để nâng cao độ chính xác của hệ thống.
Tuy nhiên, PGS Lâm lưu ý ngôn ngữ tiếng Việt rất phức tạp, có nhiều tiếng lóng, cùng một từ nhưng nhiều nghĩa khác nhau, và một từ có thể phù hợp trong ngữ cảnh này nhưng lại phản cảm trong ngữ cảnh khác. “Nhóm cần quan tâm hơn đến vấn đề này để phát triển giải pháp với khả năng phân tích tối ưu hơn và cần thử nghiệm nhiều hơn trong thực tế để đánh giá”, PGS Lâm chia sẻ.
Theo một thống kê, năm 2019, mạng xã hội Facebook phải gỡ bỏ 21 triệu bình luận vi phạm tiêu chuẩn cộng đồng. Tương tự, YouTube phải gỡ 1,8 triệu bình luận có nội dung xúc phạm và con số này ngày càng tăng. Một khảo sát của Microsoft về 21 hành vi không đúng mực trên không gian mạng tại Việt Nam cho thấy, 97% người được khảo sát từng bị tổn thương bởi các bình luận xấu độc và 83% lo lắng tình trạng này sẽ lặp lại.
Theo: giaoducthoidai.vn
2025/08/19 14:18 (GMT+7)
2026-02-27 08:48
Ninh Bình phát ấn Đền Trần từ 5h sáng Rằm tháng Giêng
GD&TĐ - Lễ Khai ấn Đền Trần xuân Bính Ngọ năm 2026 sẽ tổ chức phát ấn cho nhân dân, du khách từ 5h ngày 15 tháng Giêng âm lịch.
2026-02-27 08:40
Phú Thọ: 10 năm phối hợp giữ vững an ninh trường học
GD&TĐ - Chiều 27/2, tại Công an tỉnh Phú Thọ diễn ra lễ ký Quy chế phối hợp trong công tác quản lý Nhà nước giữa Công an tỉnh và Sở GD&ĐT.
2026-02-27 08:40
Hưng Yên đề xuất dành gần 2 tỷ đồng/năm hỗ trợ người nhiễm HIV/AIDS
GD&TĐ - Sở Y tế tỉnh Hưng Yên đề xuất dành gần 2 tỷ đồng/năm hỗ trợ mua thẻ BHYT và cùng chi trả thuốc kháng vi-rút HIV cho người nhiễm HIV/AIDS.
2026-02-27 08:40
Bác sĩ Vinmec 'hồi sinh' đôi chân cho bé gái liệt hoàn toàn
GD&TĐ - Bé gái 12 tuổi xuất hiện dấu hiệu yếu chân tay, dù đã chữa trị nhiều nơi, tình trạng vẫn ngày càng nặng, cuối cùng liệt hoàn toàn hai chân. Bước ngoặt đến với em khi các bác sĩ Vinmec Times City xác định nguyên nhân do khối nang nội bì trong tủy sống và phẫu thuật thành công, giúp em từ việc phải ngồi xe lăn nay chập chững bước đi trong niềm hạnh phúc vỡ òa của gia đình.
2026-02-27 08:40
Đột phá kỹ thuật E-CPR cứu sống bệnh nhân ngừng tim
GD&TĐ - Với kỹ thuật E-CPR (ECMO hồi sinh tim phổi), bác sĩ ở TPHCM cứu sống nhiều ca ngừng tim, tỷ lệ phục hồi đạt 36%.
2026-02-27 08:40
Lễ hội Việt - Nhật lần thứ 11 lần thúc đẩy giao lưu văn hóa, giáo dục
GD&TĐ - Lễ hội Việt - Nhật lần thứ 11 với chủ đề Chung tay vì “Trẻ em - Trái đất - Tương lai” sẽ diễn ra tại Công viên 23/9 (TPHCM).
2026-02-27 08:39
TPHCM khuyến cáo người dân cẩn trọng dịch bệnh sau Tết
GD&TĐ - Sau Tết, dịch bệnh tay chân miệng có thể tăng trong tháng 3, dịch sốt xuất huyết có thể tăng sớm hơn so với những năm trước.
2026-02-27 08:39
Bước tiến mới trong ứng dụng y học tái tạo và phục hồi chức năng
GD&TĐ - Y học tái tạo được xem là bước tiến quan trọng trong việc chuyển đổi mô hình từ điều trị đơn thuần sang chăm sóc tích hợp, hiện đại, nhân văn.
