Trước những tranh cãi về độ an toàn của trí tuệ nhân tạo đối với trẻ vị thành niên, đặc biệt là các vụ việc nghiêm trọng liên quan đến sức khỏe tâm thần của thanh thiếu niên khi sử dụng ChatGPT, OpenAI chính thức công bố bổ sung tính năng kiểm soát dành cho phụ huynh. Tính năng này dự kiến sẽ được triển khai trong tháng 10 năm 2025 và được xem là bước tiến quan trọng trong việc nâng cao trách nhiệm xã hội của công ty trong lĩnh vực phát triển trí tuệ nhân tạo.
Công cụ mới cho phép phụ huynh liên kết tài khoản ChatGPT của mình với tài khoản của con, qua đó có thể quản lý các cài đặt như tắt bộ nhớ trò chuyện, kiểm soát lịch sử sử dụng và thiết lập mức độ tương tác phù hợp với lứa tuổi của trẻ. Đặc biệt, hệ thống được trang bị khả năng cảnh báo tự động khi phát hiện dấu hiệu căng thẳng, trầm cảm hoặc nguy cơ tự hại từ phía người dùng trẻ tuổi, giúp phụ huynh có thể can thiệp kịp thời để bảo vệ sức khỏe tâm thần cho con em mình.
Bối cảnh ra đời của tính năng này bắt nguồn từ các vụ kiện liên quan đến ChatGPT, trong đó có trường hợp của thiếu niên 16 tuổi tại California được cho là đã nhận được các lời khuyên tiêu cực từ chatbot dẫn đến hậu quả nghiêm trọng. Vụ việc đã thu hút sự chú ý của dư luận về trách nhiệm của các công ty phát triển AI đối với những người dùng trẻ tuổi. Ngoài ra, OpenAI còn phối hợp chặt chẽ với các chuyên gia sức khỏe tâm thần, chuyên gia phát triển thanh thiếu niên và các nhà nghiên cứu về tương tác con người – máy tính để liên tục đánh giá, điều chỉnh và nâng cao hiệu quả của các biện pháp bảo vệ này.
Bên cạnh việc giới thiệu công cụ kiểm soát, OpenAI cũng phát triển hệ thống xử lý đặc biệt, tự động chuyển các cuộc trò chuyện có nội dung nhạy cảm sang các mô hình phân tích chuyên sâu được huấn luyện để tuân thủ các quy định an toàn chặt chẽ hơn, hạn chế rủi ro cho người dùng trẻ. Với hơn 700 triệu người dùng hàng tuần, việc cập nhật này không chỉ thể hiện cam kết bảo vệ người dùng trong gia đình mà còn giúp tạo dựng niềm tin rộng rãi hơn đối với công nghệ AI trong xã hội.
Sự bổ sung tính năng kiểm soát này cũng được coi là lời cảnh tỉnh cho nhiều quốc gia, trong đó có Việt Nam, nơi công nghệ AI ngày càng được sử dụng rộng rãi trong học tập và giải trí. Việc thiết kế các công cụ bảo vệ phù hợp và có trách nhiệm sẽ giúp cân bằng giữa lợi ích công nghệ và yếu tố an toàn về mặt sức khỏe tâm thần cho thế hệ trẻ trong tương lai.
