OpenAI, công ty khởi nghiệp đằng sau chatbot trí tuệ nhân tạo ChatGPT nổi tiếng, cho biết hôm 25.5 rằng họ sẽ trao 10 khoản tài trợ bằng nhau từ quỹ trị giá 1 triệu USD cho các thử nghiệm trong những quy trình dân chủ nhằm xác định cách quản lý trí tuệ nhân tạo (AI), nhằm giải quyết sự thiên vị và các yếu tố khác.
Khoản tài trợ 100.000 USD sẽ được trao cho những người đưa ra các khuôn khổ hấp dẫn để trả lời các câu hỏi như liệu AI có nên chỉ trích các nhân vật của công chúng hay không và những gì nó nên coi là “cá nhân trung bình” trên thế giới, theo một bài đăng trên blog thông báo về quỹ.
Các nhà phê bình cho rằng các hệ thống AI như ChatGPT có sự thiên vị cố hữu do các yếu tố đầu vào được sử dụng để định hình quan điểm của chúng. Người dùng đã tìm thấy các ví dụ về AI phân biệt chủng tộc hoặc phân biệt giới tính.
Mối lo ngại đang gia tăng rằng AI hoạt động cùng với các công cụ tìm kiếm như Google của và Bing có thể tạo ra thông tin không chính xác theo cách thuyết phục.
OpenAI, được hỗ trợ bởi 10 tỉ USD từ Microsoft, đã dẫn đầu lời kêu gọi điều chỉnh AI. Tuy nhiên, gần đây công ty đã đe dọa rút khỏi Liên minh châu Âu nếu các quy tắc quản lý được đề xuất quá khó để tuân theo.
Các hệ thống AI “sẽ mang lại lợi ích cho toàn nhân loại và được định hình để trở nên toàn diện nhất có thể. Chúng tôi đang triển khai chương trình tài trợ này để thực hiện bước đầu tiên theo hướng này", OpenAI cho biết trong bài đăng trên blog.
Công ty khởi nghiệp ở San Francisco (Mỹ) cho biết kết quả tài trợ có thể định hình quan điểm của riêng họ về quản trị AI, mặc dù họ cho biết không có khuyến nghị nào là "ràng buộc".
Sam Altman là nhân vật hàng đầu đứng ra kêu gọi sự quản lý cho AI, đồng thời tung ra các bản cập nhật mới cho ChatGPT và trình tạo hình ảnh DALL-E. Trong tháng này, ông đã xuất hiện trước một tiểu ban của Thượng viện Mỹ, nói rằng “nếu công nghệ này gặp trục trặc, nó có thể trở nên rất sai lầm".
Microsoft gần đây cũng đã thông qua quy định toàn diện về AI ngay cả khi họ tuyên bố sẽ đưa công nghệ này vào các sản phẩm của mình, nhằm chạy đua với OpenAI, Google và các công ty khởi nghiệp để cung cấp AI cho người tiêu dùng và doanh nghiệp.
Gần như mọi lĩnh vực trong cuộc ôsng đều quan tâm đến tiềm năng của AI nhằm cải thiện hiệu quả và cắt giảm chi phí lao động, cùng với những lo ngại rằng AI có thể truyền bá thông tin sai lệch hoặc thông tin không chính xác, điều mà những người trong ngành gọi là “ảo giác”.
Bất chấp những lời kêu gọi về quy định chặt chẽ hơn, Quốc hội Mỹ đã không thông qua luật mới để hạn chế các công nghệ AI của Big Tech một cách có ý nghĩa.