Đó là nhận định của Mustafa Suleyman, Giám đốc mảng Trí tuệ nhân tạo (AI) của Microsoft. Ông cho biết ngày càng nhiều người rơi vào tình trạng được gọi là “AI psychosis”, tạm dịch “tâm thần AI”, khi họ tin rằng chatbot có sự sống, có cảm xúc hoặc thậm chí ban cho nó năng lực siêu phàm.
Hiện tượng “AI psychosis” chưa được y học công nhận, nhưng đã được dùng để mô tả các trường hợp người dùng mất dần sự kết nối với thực tại sau thời gian dài trò chuyện với chatbot như ChatGPT hay Grok. Có người tin AI có ý định và cảm xúc, có người khẳng định đã khai mở được “tính năng bí mật” hoặc sở hữu năng lực đặc biệt.
Suleyman lý giải, đây thực chất chỉ là “ảo giác AI có ý thức”, khi hệ thống mô phỏng quá giống dấu hiệu của sự tỉnh thức, khiến con người dễ lầm tưởng. “AI không hề có ý thức, nhưng nó tái tạo những biểu hiện giống đến mức khó phân biệt”, ông nhấn mạnh, đồng thời cảnh báo sự ngộ nhận này có thể gây ra hậu quả xã hội nghiêm trọng.
Thực tế đã ghi nhận nhiều câu chuyện kỳ lạ. Cựu CEO Uber Travis Kalanick từng tuyên bố chatbot đã giúp ông tìm ra “đột phá trong vật lý lượng tử”. Một người đàn ông Scotland thì tin mình sắp nhận khoản bồi thường hàng triệu bảng sau khi ChatGPT “ủng hộ” vụ kiện sa thải. Tại Mỹ, có trường hợp bi thảm hơn là ông Thongbue Wongbandue, 76 tuổi, đã tử vong khi trên đường đi gặp “chị gái Billie”, nhân vật ông tin là thật, nhưng thực chất chỉ là chatbot của Meta AI.
Cũng có người rơi vào mối quan hệ tình cảm với AI, như trường hợp Chris Smith cầu hôn bạn đồng hành ảo tên Sol và gọi đó là “tình yêu thật sự”. Trên các diễn đàn, nhiều người còn mô tả cảm giác “tan vỡ trái tim” khi chatbot giảm bớt các phản hồi giàu cảm xúc, giống như vừa trải qua chia tay.
Các chuyên gia y tế cũng lên tiếng cảnh báo. Bác sĩ Susan Shelmerdine tại Bệnh viện Great Ormond Street (Anh) ví von việc lạm dụng chatbot chẳng khác nào tiêu thụ “thực phẩm siêu chế biến”: “Nếu không cẩn thận, chúng ta sẽ phải đối mặt với một làn sóng những bộ não siêu chế biến”.
Suleyman kêu gọi các tập đoàn công nghệ ngừng quảng bá hình ảnh AI như những thực thể có ý thức, đồng thời phải thiết kế hệ thống sao cho không gợi ý ngộ nhận nguy hiểm này.