Chatbot AI menggunakan sejumlah besar tenaga elektrik dan kebimbangan kemampanan

Chatbot AI menjadi semakin popular, tetapi di sebalik kemudahan itu adalah penggunaan kuasa yang besar, menimbulkan cabaran besar untuk alam sekitar dan kemampanan.

ChatGPT kini mempunyai hampir 200 juta pengguna dengan lebih 1 bilion permintaan setiap hari.

Setiap sesi soal jawab kelihatan mudah tetapi menggunakan sejumlah besar tenaga elektrik.

Menjelang 2023, pusat data AI akan menyumbang 4.4% daripada tenaga elektrik AS dan 1.5% di seluruh dunia.

Latihan GPT-4 menggunakan 50 gigawatt-jam, cukup untuk menggerakkan San Francisco selama tiga hari.

Latihan dan inferens adalah dua peringkat yang paling haus kuasa, menurut profesor sains komputer Mosharraf Chowdhury di Universiti Michigan.

Satu pelayan Nvidia DGX A100 menggunakan sehingga 6.5 kilowatt, yang didarab dengan beribu-ribu mesin adalah jumlah yang besar.

Malah inferens menggunakan banyak elektrik kerana terdapat 2.5 bilion permintaan setiap hari daripada ChatGPT sahaja.

Pakar menyeru ketelusan dalam data penggunaan tenaga untuk bergerak ke arah AI yang lebih mampan.

Pembaca yang dihormati, sila tonton lebih banyak video : AI Trash Cleaning | Hanoi 18:00

Sumber: https://khoahocdoisong.vn/chatbot-ai-tieu-thu-dien-khong-lo-va-noi-lo-ben-vung-post2149055084.html