Menemukan standar keamanan untuk kecerdasan buatan

[iklan_1]

SGGP 31 Juli 2023 09.35

Setelah Eropa mulai merancang dan segera meluncurkan undang-undang pertama di dunia tentang kecerdasan buatan (AI), empat raksasa penambangan data internet AS terkemuka baru saja meluncurkan sebuah kelompok yang disebut Frontier Model Forum.

Tujuan utama Forum Model Frontier adalah mempromosikan AI secara bertanggung jawab. Foto: THINKWITHNICHE

Para pihak menjadi lebih dekat satu sama lain

Kelompok tersebut, yang beranggotakan Anthropic, Google, Microsoft, dan OpenAI, pemilik ChatGPT, menyatakan bahwa tujuan utama Frontier Model Forum adalah untuk membantu mengurangi risiko yang ditimbulkan oleh platform AI dan mengembangkan standar industri. Frontier Model Forum akan membentuk forum baru dengan tujuan utama berikut: Mempromosikan riset keselamatan AI untuk mendukung pengembangan, memitigasi risiko, dan menstandardisasi penilaian serta tingkat keselamatan; mengidentifikasi praktik terbaik untuk pengembangan dan penerapan model; membantu publik memahami sifat, kapabilitas, keterbatasan, dan dampak teknologi; serta berkolaborasi dengan para pembuat kebijakan, akademisi, masyarakat sipil, dan perusahaan untuk berbagi pengetahuan tentang risiko dan keselamatan.

Raksasa teknologi secara tradisional menolak peningkatan regulasi, tetapi kali ini, industri teknologi secara umum telah mengubah pendiriannya terhadap kekhawatiran yang semakin meningkat tentang risiko yang ditimbulkan oleh AI. Perusahaan-perusahaan yang terlibat dalam inisiatif Frontier Model Forum telah berjanji untuk berbagi praktik terbaik antar perusahaan, dan untuk menyediakan informasi secara publik bagi pemerintah dan masyarakat sipil.

Secara spesifik, Forum Model Frontier akan berfokus pada platform pembelajaran mesin berskala besar, namun masih baru, yang membawa AI ke tingkat kecanggihan baru – yang juga merupakan faktor risiko potensial. Selain itu, Forum Model Frontier juga akan mendukung pengembangan aplikasi yang menjawab tantangan sosial utama seperti: mitigasi dan adaptasi perubahan iklim, deteksi dan pencegahan kanker dini, serta penanggulangan ancaman siber.

Ruang untuk potensi kehancuran

Pengumuman Forum Model Frontier oleh perusahaan-perusahaan AS muncul beberapa hari setelah para senator AS pada 25 Juli memperingatkan tentang risiko penggunaan AI untuk serangan biologis dalam sidang dengar pendapat di hadapan subkomite Komite Kehakiman Senat AS. Baru-baru ini, tujuh perusahaan teknologi besar, termasuk OpenAI, Alphabet, dan Meta, telah secara sukarela berkomitmen kepada Gedung Putih untuk mengembangkan sistem yang mengidentifikasi semua konten, mulai dari teks, gambar, audio, hingga video yang dibuat oleh AI, guna memastikan transparansi bagi pengguna, sekaligus memastikan teknologi ini lebih aman.

Dario Amodei, CEO AI Anthropic, mencatat bahwa meskipun AI belum mampu menciptakan senjata biologis, hal itu merupakan risiko "jangka menengah" dan menimbulkan ancaman serius bagi keamanan nasional AS dalam dua atau tiga tahun ke depan. Alasannya, pelaku serangan senjata biologis skala besar tidak lagi terbatas pada mereka yang memiliki pengetahuan khusus di bidang ini.

Dunia sedang menghadapi ledakan konten yang diciptakan oleh teknologi AI generatif. Dari AS, Eropa, hingga Asia, kontrolnya semakin ketat. Menurut CNN, mulai September, Senat AS akan mengadakan serangkaian sembilan lokakarya tambahan bagi para anggota untuk mempelajari bagaimana AI dapat memengaruhi lapangan kerja, keamanan nasional, dan kekayaan intelektual. Sebelum AS, jika kesepakatan tercapai, Uni Eropa akan memiliki undang-undang pertama di dunia tentang manajemen AI tahun depan, yang diperkirakan akan berlaku mulai 2026.

Manfaat AI bagi masyarakat memang tak terbantahkan, tetapi peringatan tentang potensi risiko teknologi baru ini semakin meningkat. Pada bulan Juni, Sekretaris Jenderal PBB Antonio Guterres mendukung usulan beberapa eksekutif AI untuk membentuk badan pengawas AI internasional, serupa dengan Badan Tenaga Atom Internasional (IAEA).

Kembali di Forum Model Frontier, Presiden Microsoft Brad Smith mengatakan inisiatif ini merupakan langkah penting dalam menyatukan perusahaan-perusahaan teknologi untuk mendorong penggunaan AI yang bertanggung jawab demi kepentingan seluruh umat manusia. Senada dengan itu, Wakil Presiden Urusan Global OpenAI, Anna Makanju, mengatakan teknologi AI canggih berpotensi memberikan manfaat besar bagi masyarakat, dan hal ini membutuhkan pengawasan dan tata kelola.

[iklan_2]
Sumber