Trên thực tế, duy trì ChatGPT đắt đến mức Microsoft có thể đang phát triển chip AI độc quyền của riêng mình để hỗ trợ duy trì hoạt động ChatGPT của OpenAI, theo Windows Central.
Ngoài việc nhanh chóng đạt được 100 triệu người dùng tích cực vào tháng 1.2023, một kỳ tích mà trước đây các thương hiệu công nghệ phải mất nhiều năm mới đạt được, ChatGPT đã phải vật lộn với các vấn đề về lưu lượng truy cập và dung lượng cao làm chậm và sập máy chủ.
Báo cáo mới đến từ Dylan Patel, nhà phân tích chính của công ty nghiên cứu SemiAnalysis, cho biết chi phí duy trì hoạt động của ChatGPT vào khoảng 700.000 USD mỗi ngày.
Công ty đã cố gắng khắc phục điều này bằng cách giới thiệu dịch vụ ChatGPT Plus trả phí, có giá 20 USD mỗi tháng.
Tuy nhiên, không có thông tin nào về số lượng người dùng đăng ký tùy chọn trả phí từ phía OpenAI.
OpenAI hiện đang sử dụng GPU Nvidia để duy trì không chỉ các quy trình ChatGPT của riêng mình mà còn của các thương hiệu mà nó hợp tác.
Các nhà phân tích trong ngành kỳ vọng công ty có thể sẽ cần thêm 30.000 GPU từ Nvidia để duy trì hiệu suất thương mại chỉ trong năm 2023.
Với Microsoft là một trong những cộng tác viên và nhà đầu tư chính, OpenAI có thể đang xem xét thương hiệu công nghệ này để hỗ trợ phát triển phần cứng nhằm giảm chi phí hoạt động cho ChatGPT.
Theo Windows Central, Microsoft đã có sẵn con chip AI này với tên mã là Athena, nó hiện được thử nghiệm nội bộ với các nhóm riêng của thương hiệu. Con chip này dự kiến sẽ được giới thiệu vào năm tới cho các dịch vụ Azure AI của Microsoft.
Không có thông tin nào về cách thức hoặc thời điểm con chip sẽ chuyển sang OpenAI để sử dụng cho ChatGPT, nhưng dự kiến nó sẽ xảy ra sớm.
Chip AI có thể không thay thế hoàn toàn GPU Nvidia, nhưng có thể giúp giảm nhu cầu về phần cứng, do đó giảm chi phí chạy ChatGPT, Windows Central cho biết thêm.