Trong bối cảnh công nghệ AI ngày càng phát triển, việc tạo ra những video truyện audio trở nên dễ dàng và phổ biến hơn. Truyện audio vốn là hình thức thưởng thức sách qua âm thanh, giúp người dùng tiếp cận nội dung một cách tiện lợi, đặc biệt với các thể loại như văn học, ngôn tình, trinh thám hay kinh dị. Tuy nhiên, sự phát triển vượt bậc của AI đang bị một số kênh YouTube lạm dụng để sản xuất những video truyện audio mang nội dung giật gân, bạo lực và phản cảm nhằm câu kéo lượt xem.
Chỉ với những câu lệnh đơn giản, các phần mềm AI có thể tạo ra nội dung, hình ảnh và giọng đọc cho các video này. Nhiều kênh YouTube thường xuyên đăng tải 2-3 video mỗi ngày với những tình tiết gây tò mò, kỳ quái và đầy bạo lực, từ đó thu hút được hàng nghìn đến hàng triệu lượt xem cùng lượng tương tác lớn. Dù nội dung mang tính chất ảo và do AI tạo ra, sức hút của những video này là không thể phủ nhận, tạo nên một hiện tượng lan rộng nhưng cũng tiềm ẩn nhiều mối nguy hại.
Hiện tượng này không chỉ dừng lại ở việc tạo ra những video có nội dung không lành mạnh mà còn gây ra hệ lụy xã hội. Nội dung xấu, rác được tạo ra hàng loạt và phổ biến rộng rãi có thể ảnh hưởng tiêu cực tới nhận thức của người xem, đặc biệt là người trẻ và trẻ em. Các câu chuyện có nội dung bạo lực hoặc phản cảm dễ dàng được lan truyền, khiến việc kiểm soát và định hướng nội dung giải trí trên mạng trở nên khó khăn hơn bao giờ hết.
Bên cạnh các nội dung phản cảm, thực trạng các kênh YouTube tại Việt Nam và toàn cầu cũng cho thấy nhiều chiêu trò sử dụng công nghệ để thu hút view nhanh chóng, chẳng hạn như sử dụng hình ảnh, hiệu ứng gây sốc, hay tái chế các nhân vật quen thuộc với nội dung nhạy cảm. Mô hình kiếm tiền online dựa vào lượt xem khiến nhiều cá nhân, nhóm lợi dụng công nghệ để tạo ra nội dung giật gân nhằm tối đa hóa doanh thu, mặc kệ hậu quả về mặt xã hội và văn hóa.
Trước những nguy cơ này, vấn đề đặt ra là cần có sự quản lý chặt chẽ hơn về mặt nội dung, nâng cao nhận thức cộng đồng về việc chọn lọc và tiêu thụ thông tin số một cách có trách nhiệm. Đồng thời, các nhà phát triển công nghệ và nền tảng như YouTube cần tăng cường kiểm duyệt và phát triển công cụ tự động để nhận diện, ngăn chặn kịp thời những nội dung phản cảm, nhằm bảo vệ người xem và giữ gìn môi trường mạng trong sạch, hữu ích cho cộng đồng.
