Các công cụ tạo giọng nói do trí tuệ nhân tạo (AI) tạo ra, bắt chước những người nổi tiếng và chính trị gia, đang khiến Ủy ban Truyền thông Liên bang Mỹ (FCC) gặp khó khăn hơn trong việc chống lại thông tin giả, nhất là khi cuộc bầu cử quan trọng năm 2024 đang đến gần.

Theo Engadget, Chủ tịch FCC Jessica Rosenworcel muốn ủy ban công nhận các cuộc gọi sử dụng giọng nói do AI tạo ra là sản phẩm nhân tạo. Do đó, việc sử dụng công nghệ nhân bản giọng nói trong các cuộc gọi tự động là bất hợp pháp ở Mỹ.

Theo Đạo luật bảo vệ người tiêu dùng điện thoại của FCC, ở Mỹ, việc sử dụng các công cụ tạo giọng nói nhân tạo để gọi đến nơi cư trú của người khác là vi phạm pháp luật.

Nếu các cuộc gọi thoại do AI tạo ra được coi là bất hợp pháp theo luật hiện hành, nó sẽ cung cấp cho Mỹ “các công cụ mới” để trấn áp những kẻ lừa đảo lạm dụng AI.

Đề xuất của FCC được đưa ra ngay sau khi các cuộc gọi mạo danh Tổng thống Mỹ Joe Biden xuất hiện, yêu cầu người dân không bỏ phiếu trong cuộc bầu cử sơ bộ tại bang của họ.

Một công ty bảo mật đã thực hiện phân tích kỹ lưỡng cuộc gọi và xác định rằng nó được tạo ra bằng các công cụ AI bởi một công ty khởi nghiệp có tên ElevenLabs. Công ty sau đó đã cấm tài khoản chịu trách nhiệm về tin nhắn này.