Hiệp hội Rối loạn Ăn uống Quốc gia Mỹ (Neda) đã gỡ một chatbot AI mang tên Tessa sau khi có báo cáo rằng chatbot này đang đưa ra lời khuyên có hại cho con người.
Đường dây trợ giúp của Neda cho phép mọi người gọi điện, nhắn tin cho các tình nguyện viên, cung cấp hỗ trợ và nguồn lực cho những người lo lắng về chứng rối loạn ăn uống, The Guardian đưa tin.
Tessa, chatbot mà Neda tuyên bố không bao giờ có ý định sử dụng để thay thế nhân viên đường dây trợ giúp, gần như ngay lập tức gặp vấn đề với các lời khuyên của mình.
“Chúng tôi nhận thấy rằng phiên bản hiện tại của Tessa Chatbot, đang chạy chương trình Tính tích cực của Cơ thể, có thể đã cung cấp thông tin có hại và không liên quan đến chương trình. Chúng tôi đang điều tra việc này ngay lập tức và đã gỡ bỏ chương trình đó cho đến khi có thông báo mới để tiến hành một cuộc điều tra toàn diện”, Neda cho biết trong một tuyên bố công khai hôm 30.5.
Neda đã làm việc với các nhà nghiên cứu tâm lý học và Cass AI, một công ty phát triển chatbot AI tập trung vào sức khỏe tâm thần, để phát triển chatbot.
Trong một bài đăng trên trang web của tổ chức về chatbot đã bị gỡ xuống, Ellen Fitzsimmons-Craft, nhà tâm lý học tại Đại học Washington ở St Louis (Mỹ), người đã giúp phát triển chatbot, nói rằng “Tessa” được coi là một giải pháp để điều trị chứng rối loạn ăn uống.
“Các chương trình đòi hỏi thời gian và nguồn lực của con người để thực hiện chúng rất khó mở rộng, đặc biệt là trong môi trường hiện tại của chúng tôi ở Mỹ, nơi đầu tư cho công tác phòng ngừa còn hạn chế. Mặc dù chatbot là một robot, nhưng chúng tôi nghĩ rằng nó có thể cung cấp một số động lực, phản hồi và hỗ trợ. Thậm chí, nó có thể cung cấp nội dung chương trình hiệu quả của chúng tôi theo cách khiến mọi người thực sự muốn tham gia” Fitzsimmons-Craft viết, đồng thời cho biết thêm rằng sự hỗ trợ của một huấn luyện viên con người đã cho thấy sự hiệu quả hơn.
Trong một tuyên bố với Guardian, Giám đốc điều hành của Neda, Liz Thompson, nói rằng chatbot không nhằm thay thế con người trong đường dây nóng mà được tạo ra như một chương trình riêng biệt. Bà cũng làm rõ rằng chatbot không được điều hành bởi ChatGPT và “không phải là một hệ thống AI có chức năng cao”.