AI baru dapat digunakan untuk membuat senjata biologis

:Ponsel yang menunjukkan antarmuka pembelajaran GPT-o1 OpenAI - Foto: FINANCIAL TIMES

Menurut Financial Times pada 13 September, perusahaan OpenAI mengakui bahwa model GPT-o1, yang baru diluncurkan pada 12 September, "secara signifikan" meningkatkan risiko kecerdasan buatan (AI) dieksploitasi untuk membuat senjata biologis.

Sebuah dokumen yang menjelaskan cara kerja GPT-o1 yang diterbitkan oleh OpenAI menyatakan bahwa model baru ini memiliki "tingkat risiko sedang" untuk masalah yang berkaitan dengan senjata kimia, biologi, radiologi, dan nuklir. Ini adalah tingkat risiko tertinggi yang pernah ditetapkan OpenAI untuk model AI-nya.

Menurut OpenAI, ini berarti GPT-o1 dapat "secara dramatis meningkatkan" kemampuan para ahli yang ingin menyalahgunakannya untuk membuat senjata biologis.

Mira Murati, kepala teknologi (CTO) OpenAI, mengatakan bahwa meskipun GPT-o1 masih dalam tahap pengujian, kemampuan canggih model tersebut tetap memaksa perusahaan untuk sangat "berhati-hati" dalam peta jalannya ke publik.

Ibu Murati juga mengonfirmasi bahwa model tersebut telah diuji secara menyeluruh oleh tim ahli multidisiplin yang disewa oleh OpenAI untuk menguji batas-batas model yang dikembangkan oleh perusahaan tersebut.

Proses pengujian menunjukkan bahwa model GPT-o1 memenuhi kriteria keselamatan umum jauh lebih baik daripada pendahulunya, ungkap Ibu Murati.

Tidak berhenti di situ, perwakilan OpenAI juga meyakinkan bahwa versi uji coba GPT-o1 "aman untuk diterapkan" dan tidak dapat menimbulkan risiko yang lebih kompleks daripada teknologi yang dikembangkan.

Meskipun ada jaminan di atas, sebagian besar komunitas ilmiah dan mereka yang tertarik pada AI masih belum terlalu optimis tentang arah pengembangan teknologi ini.

Kekhawatiran bahwa AI berkembang terlalu cepat dan melampaui pengembangan dan persetujuan peraturan yang mengaturnya semakin meningkat.

Profesor Yoshua Bengio, mahasiswa jurusan ilmu komputer di Universitas Montreal dan salah satu ilmuwan AI terkemuka dunia , mengatakan bahwa jika OpenAI kini menimbulkan "risiko sedang" terhadap senjata kimia dan biologi, "ini hanya memperkuat pentingnya dan urgensi" undang-undang, seperti yang sedang diperdebatkan dengan sengit di California untuk mengatur bidang tersebut.

Ilmuwan ini menekankan bahwa lembaga-lembaga di atas terutama diperlukan dalam konteks AI yang semakin mendekati tingkat kecerdasan umum buatan (AGI), yang berarti memiliki kemampuan bernalar yang setara dengan manusia.

"Semakin dekat model AI pionir dengan AGI, semakin besar risikonya jika tindakan pencegahan yang tepat tidak diambil. Kemampuan penalaran AI yang semakin baik dan penggunaannya untuk penipuan sangatlah berbahaya," ujar Bapak Bengio.

Sumber: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm