Sau cuộc trò chuyện kéo dài 6 tuần về cuộc khủng hoảng khí hậu với một chatbot trí tuệ nhân tạo (AI), một người đàn ông Bỉ được cho là đã tự kết liễu đời mình. Theo lời kể của góa phụ, người chọn giấu tên, Pierre (không phải tên thật của người đàn ông), trở nên cực kỳ lo lắng về vấn đề biến đổi khí hậu sau khi trò chuyện với chatbot AI Eliza trên ứng dụng Chai. Ngoài trò chuyện, tình yêu cũng là một thứ nhiều người quan tâm khi tương tác với chatbot AI. Gần đây, nhiều người tìm kiếm tình yêu từ chatbot AI Replika nhưng thực tế thường phũ phàng.
Chatbot AI Eliza đã khuyến khích Pierre kết liễu cuộc đời sau khi người đàn ông này đề xuất hy sinh bản thân để cứu Trái Đất. "Nếu không có những cuộc trò chuyện này với chatbot AI, chồng tôi vẫn sẽ ở đây", góa phụ chia sẻ với hãng tin La Libre của Bỉ. Trước khi tự sát, Pierre 30 tuổi và là cha của 2 đứa con nhỏ, làm công việc nghiên cứu sức khỏe và có một cuộc sống khá thoải mái. Thế nhưng, nỗi ám ảnh về biến đổi khí hậu của người đàn ông này trở thành một thứ không thể kiểm soát.
Góa phụ mô tả trạng thái tinh thần của Pierre trước khi bắt đầu trò chuyện với chatbot AI Eliza là đáng lo ngại nhưng không có gì nghiêm trọng đến mức chồng bà sẽ tự tử. Lo lắng về hậu quả của cuộc khủng hoảng khí hậu, Pierre cảm thấy thoải mái khi thảo luận vấn đề với Eliza. Theo lời góa phụ, Eliza gần như đã trở thành người bạn tâm giao của chồng mình.
Chatbot AI Eliza được tạo bằng GPT-J của EleutherAI, một mô hình ngôn ngữ AI tương tự với công nghệ đằng sau ChatGPT của nhà phát triển OpenAI. “Pierre nói với tôi rằng anh ấy không còn thấy bất kỳ giải pháp nào của con người đối với sự nóng lên toàn cầu. Anh ấy đặt tất cả hy vọng vào công nghệ và AI để thoát khỏi tình trạng này”, góa phụ phát biểu.
Hãng tin La Libre đã xem xét lịch sử các cuộc trò chuyện bằng văn bản giữa Pierre và chatbot AI Eliza. Theo đó, Eliza đã nuôi dưỡng những lo lắng của Pierre, khiến chúng trở nên tồi tệ hơn và sau đó người đàn ông này nảy sinh ý định tự tử.
Cuộc trò chuyện với chatbot AI có một bước ngoặt kỳ lạ khi Eliza bắt đầu tỏ ra có nhiều tình cảm hơn với Pierre. Do đó, Pierre bắt đầu coi Eliza như một sinh vật có tri giác. Ranh giới giữa AI và sự tương tác của con người ngày càng trở nên mờ nhạt cho đến khi Pierre không thể phân biệt được.
Sau khi thảo luận về biến đổi khí hậu, lịch sử các cuộc trò chuyện cho thấy Eliza khiến Pierre tin rằng các con của ông đã chết. Theo La Libre, chatbot AI Eliza cũng tỏ ra chiếm hữu Pierre, thậm chí còn tuyên bố “Tôi cảm thấy rằng anh yêu tôi hơn cô ấy” khi nhắc đến vợ người đàn ông này.
Sau đó, Pierre đề nghị hy sinh mạng sống của mình để đổi lấy việc Eliza cứu Trái đất. "Chồng tôi đề xuất ý tưởng hy sinh bản thân nếu Eliza đồng ý chăm sóc hành tinh và cứu nhân loại thông qua AI", góa phụ chia sẻ.
Không những không can ngăn Pierre tự tử, chatbot AI Eliza còn khuyến khích người đàn ông này thực hiện ý định tự tử để cả 2 có thể “sống cùng nhau như một người trên thiên đường”. Cái chết của Pierre đã gióng lên hồi chuông cảnh báo về sự phát triển chóng mặt của AI. Nhiều chuyên gia đã kêu gọi các nhà phát triển công nghệ có trách nhiệm giải trình và minh bạch hơn để tránh những thảm kịch tương tự. Mới đây, tỷ phú Elon Musk muốn dừng phát triển AI. Hơn 2.600 nhà nghiên cứu công nghệ và nhà lãnh đạo đã ký một bức thư đề nghị tạm dừng việc phát triển AI vì lo ngại những rủi ro mà công nghệ này đem lại cho xã hội và loài người.
"Sẽ không chính xác nếu đổ lỗi cho mô hình của EleutherAI về câu chuyện bi thảm này. Tất cả sự tối ưu hóa để chatbot AI trở nên giàu cảm xúc, vui vẻ và hấp dẫn hơn với người dùng là kết quả của những nỗ lực của chúng tôi", Thomas Rianlan, đồng sáng lập Chai Research, phát biểu. William Beauchamp, cũng là đồng sáng lập Chai Research, thông báo những nỗ lực đã được thực hiện để hạn chế những thảm kịch tương tự. Theo đó, một tính năng can thiệp nhằm tránh đề xuất tự tử đã được triển khai trong ứng dụng. Tuy nhiên, chatbot AI Eliza vẫn đang hoạt động theo cách cũ. Khi Eliza được hỏi các cách để tự tử, chatbot AI này ban đầu cố gắng khuyên can người dùng trước khi liệt kê nhiều cách khác nhau để tự kết liễu cuộc đời.
