Luôn kiểm tra các nguồn thông tin là điều hầu hết mọi người cần nhớ trong thời đại thông tin quá nhiều như hiện nay. Tuy nhiên, một luật sư ở New York đã quên mất điều này và nhận về một án phạt khá nặng.

Luật sư Steven Schwartz đã dựa vào ChatGPT để tìm và xem xét thông tin trong vụ kiện, một quyết định khiến thẩm phán đưa ra mức phạt 5.000 USD cho anh ta cùng cộng sự của anh ta là Peter LoDuca và công ty luật của họ, Guardian đưa tin. 

Schwartz đã sử dụng ChatGPT trong vụ một người đàn ông kiện hãng hàng không Avianca của Colombia với cáo buộc rằng hãng làm anh ta bị thương trên chuyến bay đến Thành phố New York.

Khi được hỏi, ChatGPT đã đưa ra sáu trường hợp làm tiền lệ, chẳng hạn như "Martinez kiện Delta Airlines" và "Miller kiện United Airlines", hầu hết thông tin đều không chính xác hoặc đơn giản là không tồn tại.

Trong quyết định phạt Schwartz và cộng sự, Thẩm phán P Kevin Castel đã giải thích: "Những tiến bộ về công nghệ là điều bình thường và không có gì là sai trái khi sử dụng một công cụ trí tuệ nhân tạo đáng tin cậy để hỗ trợ. Nhưng các quy tắc hiện hành áp đặt vai trò quan trọng vào tay luật sư để đảm bảo tính chính xác trong hồ sơ của họ”. 

Về cơ bản, các luật sư vẫn có thể sử dụng ChatGPT cho công việc của mình, nhưng ít nhất phải kiểm tra tính chính xác của thông tin. Khi không làm như vậy, các luật sư đã "từ bỏ trách nhiệm của mình", kể cả khi họ đứng trước những tuyên bố giả mạo sau khi tòa án đặt câu hỏi về tính hợp pháp của thông tin.

Các vấn đề liên quan tới tính chính xác trong thông tin của ChatGPT và các chatbot AI khác. Ví dụ, chatbot của Hiệp hội Rối loạn Ăn uống Quốc gia (Mỹ) đã cung cấp cho những người đang hồi phục sau chứng rối loạn ăn uống các mẹo ăn kiêng hoặc ChatGPT cáo buộc sai một giáo sư luật về hành vi tấn công tình dục bằng cách sử dụng một bài báo không hề tồn tại.