Báo động về AI đang xuất hiện ngày một nhiều. Nhiều nhân vật của công chúng cho biết họ lo lắng về công nghệ AI siêu thông minh, cho rằng nó có thể dẫn đến sự kết thúc của loài người.

Geoffrey Hinton, đôi khi được gọi là cha đỡ đầu của Ai, gần đây đã tuyên bố từ chức ở Google, nói rằng ông hiện rất hối hận về công việc của mình và sợ hãi trước khả năng của AI, theo Life Wire.

Vào tháng 3 năm nay, Viện Cuộc sống Tương lai đã phát hành một bức thư ngỏ kêu gọi tất cả các phòng thí nghiệm AI ngay lập tức tạm dừng ít nhất sáu tháng việc đào tạo các hệ thống AI mạnh hơn GPT-4. Bức thư này đã thu về nhiều sự hưởng ứng từ các tên tuổi lớn như tỉ phú Elon Musk.

“Các hệ thống AI có trí thông minh cạnh tranh với con người có thể gây ra những rủi ro sâu sắc cho xã hội và nhân loại, điều này đã được thể hiện qua nghiên cứu sâu rộng và được các phòng thí nghiệm AI hàng đầu thừa nhận.

AI tiên tiến có thể đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất và cần được lên kế hoạch cũng như quản lý với sự quan tâm và nguồn lực tương xứng", bức thư viết.

AI tốt hay xấu?

Nhiều chuyên gia AI đang bày tỏ sự nghi ngờ về một số dự đoán mang tính bi quan đối với công nghệ mới. Một trong những tuyên bố đáng ngạc nhiên nhất gần đây về AI là các mô hình ngôn ngữ lớn giống như mô hình cung cấp năng lượng cho GPT-4 có thể học các khả năng mới một cách độc lập.

Ít nhất, những lo ngại về việc AI tự học có thể bị thổi phồng. Một bài báo gần đây của các nhà khoa học tại Đại học Stanford cho thấy rằng các trường hợp khi một mô hình lớn đột nhiên thể hiện khả năng mà nó không được thiết kế để sở hữu thực ra là một "ảo ảnh" do các nhà nghiên cứu tạo ra.

“Giống như bất kỳ tiến bộ công nghệ nào, có khả năng những kẻ xấu sử dụng AI cho mục đích bất chính bằng cách định cấu hình thuật toán AI để giải quyết các mục tiêu độc hại như tạo video, âm thanh giả hoặc tạo các giao dịch gian lận khác.

Cũng có những lo ngại về khả năng ứng dụng quân sự, và những điều này không thể bị bác bỏ hoàn toàn, nhưng luôn có sự đối trọng do lo ngại bị trả đũa và các biện pháp kiểm soát ngoại giao cần được thực thi", John Yawney, Giám đốc Phân tích tại công ty Adastra cho biết, thông qua Life Wire.

Những lo ngại về AI hầu hết là về việc nó dễ dàng bị lợi dụng bởi con người cho những mục tiêu xấu, không phải từ bản thân công nghệ này.

Rõ ràng, với những gì con người tạo ra và kiểm soát như công nghệ nói chung hay AI nói riêng, việc bản thân chúng đem lại mối nguy hại cho con người là rất khó có thể xảy ra.