Thời gian gần đây, một làn sóng video do trí tuệ nhân tạo (AI) tạo ra với nội dung hoàn toàn bịa đặt và giật gân đã xuất hiện tràn lan trên các nền tảng mạng xã hội. Những video này thường khai thác các chủ đề gây sốc như vụ án rúng động, tai nạn thảm khốc hay các tình huống bạo lực giả tạo nhằm thu hút sự chú ý và lượt xem. Điển hình là video với nội dung “mẹ chồng sát hại con dâu” hay “vụ án rúng động ở xứ Nghệ”, trong đó có cả việc cung cấp tên tuổi, địa điểm cụ thể dù hoàn toàn giả mạo. Nhiều người xem tin tưởng và chia sẻ rộng rãi, gây nhiễu loạn thông tin và làm xáo trộn nhận thức xã hội, đặc biệt ảnh hưởng đến giới trẻ.
Kỹ thuật deepfake và các công nghệ AI khác được tận dụng để tạo ra hình ảnh, video và âm thanh giả mạo với mức độ chân thực cao. Những hình ảnh người bị còng tay hay bản ghi âm giả có thể dễ dàng bị đăng tải nhằm đánh lừa người xem, gây hoang mang hoặc kích động dư luận. Các chuyên gia cảnh báo đây là một xu hướng độc hại, đe dọa nghiêm trọng đến an ninh tư tưởng, an ninh mạng và sự ổn định chính trị – xã hội. Không chỉ dừng lại ở việc tung tin giả, các đối tượng còn sử dụng hệ thống bot AI với hàng ngàn tài khoản ảo để tự động chia sẻ, bình luận và tạo các xu hướng giả mạo, khiến người dùng cảm thấy thông tin sai lệch được nhiều người ủng hộ và dẫn dắt dư luận theo hướng tiêu cực.
Mục đích sâu xa của những hành vi này không chỉ là câu view hay kiếm tiền mà còn nhằm chống phá Đảng, Nhà nước, chia rẽ mối quan hệ giữa lãnh đạo và nhân dân, tạo nên tâm lý bất mãn và rối loạn xã hội. Các thế lực thù địch đã gia tăng sử dụng công nghệ AI trong giai đoạn các sự kiện trọng đại của đất nước để phá hoại, bôi nhọ hệ thống chính trị và hạ uy tín lãnh đạo. Điều này đặt ra yêu cầu cấp bách về việc kiểm soát và phát hiện sớm các tin giả do AI tạo ra để bảo vệ sự thật và ổn định xã hội.
Trước thực trạng này, nhiều kênh truyền thông và chuyên gia công nghệ đã lên tiếng cảnh báo về nguy cơ và cảnh giác cộng đồng. Họ cũng khuyến cáo người dùng mạng xã hội nên xác thực thông tin trước khi chia sẻ, đồng thời thúc đẩy các biện pháp kỹ thuật và pháp lý để ngăn chặn sự lan truyền của các sản phẩm video AI bịa đặt. Việc nâng cao nhận thức và giáo dục công dân về khai thác thông tin cũng được coi là giải pháp trọng yếu để chống lại tình trạng nhiễu loạn thông tin do AI gây ra hiện nay.
