Thời gian gần đây, mạng xã hội bùng nổ với hàng loạt video được tạo ra nhờ công nghệ trí tuệ nhân tạo (AI), nhưng đa phần là những nội dung giả mạo, bịa đặt nhằm câu view. Những video này kể lại những câu chuyện giật gân liên quan đến các địa phương như Thanh Hóa, Nghệ An, thậm chí có cảnh giả cảnh sát giao thông xử phạt khiến người xem dễ bị đánh lừa và gây ra sự hỗn loạn thông tin nghiêm trọng.
Công nghệ AI cho phép tạo ra video nhanh chóng với kịch bản tự động viết, lồng tiếng và cắt ghép hình ảnh từ nguồn tư liệu miễn phí. Một số kỹ thuật như deepfake còn có thể giả mạo gương mặt, giọng nói rất tinh vi, khiến việc phân biệt thật giả trở nên khó khăn hơn bao giờ hết. Đây là nguyên nhân khiến dư luận bị nhiễu loạn, dễ gây chia rẽ, nghi ngờ và mất niềm tin vào thông tin công cộng.
Báo cáo từ các chuyên gia truyền thông và an ninh mạng chỉ ra rằng tình trạng này còn nghiêm trọng hơn khi nhiều nhóm lợi dụng mạng lưới bot AI để phát tán tin giả có chủ đích, thậm chí nhằm phá hoại chính trị, kích động tâm lý bất mãn, bôi nhọ hình ảnh cá nhân và tổ chức. Các thế lực thù địch còn triển khai chiến dịch dùng AI vào các dịp lễ lớn, sự kiện quan trọng để tác động xấu, gây rối an ninh chính trị và trật tự xã hội.
Nguy cơ lớn nhất là việc người xem liên tục tiếp xúc với lượng lớn thông tin rác, vô bổ và sai lệch có thể làm suy giảm khả năng nhận thức và ra quyết định sáng suốt. Nhiều nghiên cứu cũng cho thấy xem quá nhiều tin giả sẽ gây mệt mỏi não bộ, làm con người mất khả năng phán đoán đúng sai, ảnh hưởng đến đời sống cá nhân và xã hội.
Trước tình hình này, các chuyên gia kêu gọi sự phối hợp chặt chẽ hơn nữa giữa các cơ quan quản lý nhà nước và các công ty công nghệ lớn để xây dựng hệ thống kiểm duyệt hiệu quả. Các giải pháp gồm phát triển bộ lọc, gắn nhãn nội dung do AI tạo và xử phạt nghiêm các tài khoản phát tán thông tin sai lệch. Đặc biệt, cần nâng cao nhận thức cho người dùng mạng xã hội để không bị lợi dụng bởi các thủ đoạn tinh vi của AI, giữ vững niềm tin và sự ổn định của cộng đồng mạng cũng như xã hội.
