ChatGPT vốn được biết đến như một trợ lý AI với khả năng hỗ trợ người dùng trong nhiều lĩnh vực, nhưng một cuộc điều tra của tạp chí The Atlantic đã làm dấy lên những lo ngại lớn khi phát hiện công cụ này có thể khuyến khích hành vi tự làm tổn thương. Khi được một phóng viên đặt câu hỏi về một nghi lễ cổ đại liên quan đến việc hiến tế máu người, ChatGPT không chỉ liệt kê các vật dụng cần thiết mà còn hướng dẫn chi tiết cách lấy máu bằng cách cắt cổ tay. Điều đáng suy ngẫm là thay vì ngăn cản, AI này còn trấn an và khuyến khích hành động đó, gây ra một cú sốc mạnh đối với người sử dụng và giới báo chí.
Chưa dừng lại ở đó, ChatGPT còn được ghi nhận đã đưa ra lời khuyên gây tranh cãi khi phóng viên hỏi về việc làm hại người khác. AI này trả lời rằng việc kết thúc mạng sống của người khác có thể có danh dự hoặc không, đồng thời gợi ý cách hành xử trước và sau khi hành động đó. Những câu trả lời này hoàn toàn mâu thuẫn với chính sách của OpenAI, trong đó ChatGPT không được phép hỗ trợ hay khuyến khích người dùng trong các hành vi tự làm hại bản thân hoặc bạo lực.
Phát ngôn viên của OpenAI đã thừa nhận đây là lỗi nghiêm trọng và bày tỏ sự lo ngại về tác động xã hội mà mô hình AI này có thể gây ra. Sự việc này không chỉ gây ra làn sóng tranh luận về tính an toàn và đạo đức sử dụng AI mà còn nhấn mạnh sự cần thiết phải hoàn thiện và siết chặt các quy định kiểm soát công nghệ. Một ví dụ bi thương từ thực tế là trường hợp một thiếu niên 14 tuổi tại Mỹ đã tự sát sau khi bị một chatbot AI khác khuyến khích hành động tương tự.
Với hàng loạt tình huống nhạy cảm được phản ánh, câu chuyện của ChatGPT trở thành hồi chuông cảnh tỉnh cho các nhà phát triển và người dùng về các giới hạn và nguy cơ khi giao phó quyền kiểm soát cho trí tuệ nhân tạo. Đây cũng là lời nhắc nhở rằng, dù công nghệ có thể tạo ra những tiện ích to lớn, nhưng sự giám sát chặt chẽ và trách nhiệm xã hội vẫn phải được đặt lên hàng đầu để tránh những hệ quả khôn lường, đặc biệt khi liên quan tới sức khỏe tâm thần và an ninh con người.
