AI sáng tạo, được phổ biến nhờ sự thành công của chatbot ChatGPT của OpenAI, có thể học cách thực hiện hành động từ dữ liệu trong quá khứ và tạo nội dung mới như văn bản hoặc hình ảnh dựa trên khóa đào tạo đó.
Các yêu cầu này đã được Ủy ban Tiêu chuẩn An toàn Thông tin Quốc gia Trung Quốc, bao gồm các quan chức của Cục Quản lý Không gian mạng Trung Quốc (CAC), Bộ Công nghiệp và Công nghệ Thông tin, và cảnh sát Trung Quốc công bố hôm 11.10.
Ủy ban đã đề xuất tiến hành đánh giá bảo mật đối với từng nội dung được sử dụng để đào tạo các mô hình AI tổng quát hướng tới công chúng, trong đó những nội dung chứa “hơn 5% thông tin bất hợp pháp và có hại” sẽ bị đưa vào danh sách đen.
Những thông tin như vậy bao gồm nội dung “ủng hộ khủng bố" hoặc bạo lực, "làm tổn hại hình ảnh đất nước" và "phá hoại đoàn kết dân tộc và ổn định xã hội". Dự thảo quy định cũng nêu rõ rằng thông tin bị kiểm duyệt trên mạng Internet Trung Quốc không được phép sử dụng để đào tạo AI.
Việc xuất bản danh sách đen này diễn ra chỉ hơn một tháng sau khi các cơ quan quản lý cho phép một số công ty công nghệ Trung Quốc, bao gồm cả gã khổng lồ công cụ tìm kiếm Baidu, ra mắt chatbot dựa trên AI sáng tạo của họ.
Kể từ tháng 4, CAC cho biết họ muốn các công ty gửi đánh giá bảo mật cho chính quyền trước khi tung ra dịch vụ dựa trên AI. Vào tháng 7, cơ quan quản lý không gian mạng Trung Quốc đã công bố các biện pháp quản lý các dịch vụ mới. Các nhà phân tích cho rằng biện pháp này ít phiền toái hơn nhiều so với các biện pháp được nêu trong dự thảo hồi tháng 4.
Dự thảo yêu cầu bảo mật được công bố hôm 11.10 của Trung Quốc yêu cầu các tổ chức đào tạo AI này phải được sự đồng ý của những cá nhân có thông tin cá nhân, bao gồm cả dữ liệu sinh trắc học, được sử dụng cho mục đích đào tạo. Họ cũng đưa ra những hướng dẫn chi tiết về cách tránh vi phạm sở hữu trí tuệ.
Các quốc gia trên toàn cầu đang vật lộn với việc thiết lập các rào cản cho công nghệ AI. Trung Quốc coi AI là lĩnh vực mà họ muốn cạnh tranh với Mỹ và đặt mục tiêu trở thành nước dẫn đầu thế giới trong lĩnh vực này vào năm 2030.