Google menarik janjinya untuk tidak menggunakan AI untuk keperluan militer

Dalam pembaruan prinsip-prinsip AI yang baru dirilis, perusahaan induk Google, Alphabet, telah menguraikan rencana mereka untuk menggunakan AI di masa mendatang. Yang paling menonjol, mereka telah menghapus janji untuk tidak menggunakan AI untuk membuat senjata, alat pengawasan, atau "teknologi yang dapat menyebabkan kerusakan luas."

Garis Merah AI Google

Istilah "garis merah" AI Google pertama kali muncul pada tahun 2018, ketika para karyawan memprotes proyek AI Maven yang bekerja sama dengan Departemen Pertahanan AS. Saat itu, lebih dari 4.000 karyawan Google menandatangani petisi untuk mengakhiri proyek tersebut dan menuntut agar perusahaan tidak pernah "membangun teknologi untuk perang".

Google kemudian membatalkan kontraknya untuk membangun perangkat AI bagi Pentagon. Perusahaan tersebut juga menetapkan batas merah, menyatakan bahwa "aplikasi yang tidak sesuai" terkait AI, termasuk senjata dan teknologi yang mengumpulkan atau menggunakan informasi untuk pengawasan yang melanggar norma-norma yang berlaku secara internasional. Teknologi yang menyebabkan atau berpotensi menyebabkan kerugian publik, melanggar prinsip-prinsip hukum internasional dan hak asasi manusia yang berlaku umum, juga tidak akan dilibatkan.

Beberapa aplikasi Google di iPhone

Keputusan untuk menarik garis merah pada AI dengan senjata telah membuat Google keluar dari kesepakatan militer yang ditandatangani oleh raksasa teknologi lainnya, termasuk Amazon dan Microsoft.

Namun, menghadapi perubahan besar dalam persaingan AI, Google memutuskan untuk menarik kembali janjinya. Hal ini menimbulkan banyak kontroversi, tidak hanya di Google, tetapi juga menunjukkan pergeseran penting perusahaan teknologi Silicon Valley ke industri pertahanan.

Google terbagi secara internal

Menurut Business Insider , pembaruan tentang prinsip dan etika AI telah memicu reaksi keras dari karyawan Google. Karyawan mengungkapkan rasa frustrasi mereka di forum internal. Sebuah meme yang menunjukkan CEO Sundar Pichai bertanya kepada mesin pencari Google, "Bagaimana cara menjadi kontraktor senjata?", telah mendapat banyak perhatian.

Karyawan lain membuat meme yang bertanya, "Apakah kami orang jahat karena mencabut larangan AI untuk senjata dan pengawasan?" Perusahaan tersebut kini memiliki lebih dari 180.000 karyawan. Mungkin masih ada suara-suara yang mendukung keputusan Google untuk bekerja sama lebih erat dengan pemerintah AS dan pelanggan militer serta pertahanannya.

Alasan Google

Juru bicara Google tidak segera menanggapi permintaan komentar terkait pencabutan "janji AI". Namun, kepala AI, Demis Hassabis, mengatakan pedoman tersebut terus berkembang seiring dunia yang terus berubah dan bahwa AI akan "melindungi keamanan nasional".

Dalam postingan blog perusahaan, Hassabis dan James Manyika, wakil presiden senior teknologi dan masyarakat Google, mengatakan bahwa seiring meningkatnya persaingan global untuk kepemimpinan dalam AI, Google percaya AI harus dipandu oleh kebebasan, kesetaraan, dan penghormatan terhadap hak asasi manusia.

"Kami percaya bahwa perusahaan, pemerintah, dan organisasi memiliki nilai-nilai yang sama dan harus bekerja sama untuk menciptakan AI yang dapat melindungi masyarakat, mendorong pertumbuhan global, dan mendukung keamanan nasional," tambah mereka.

Dua eksekutif Google mengatakan bahwa miliaran orang menggunakan AI dalam kehidupan sehari-hari. Kecerdasan buatan telah menjadi teknologi serbaguna, sebuah platform yang digunakan oleh banyak organisasi dan individu untuk membangun aplikasi. AI telah bertransformasi dari topik penelitian khusus di laboratorium menjadi teknologi yang tersebar luas seperti ponsel dan internet. Oleh karena itu, "sumpah AI" Google dari tahun 2018 perlu diperbarui.

Alphabet mengatakan pihaknya berencana untuk menghabiskan $75 miliar tahun depan, sebagian besar untuk membangun kemampuan dan infrastruktur AI.

Sumber: https://thanhnien.vn/google-rut-lai-loi-hua-khong-dung-ai-cho-quan-su-185250206161804981.htm