AI baru dapat digunakan untuk menciptakan senjata biologis.

Ponsel ini menampilkan antarmuka untuk mempelajari tentang GPT-o1 dari OpenAI - Foto: FINANCIAL TIMES

Menurut Financial Times pada 13 September, OpenAI mengakui bahwa model GPT-o1 miliknya, yang diluncurkan pada 12 September, "secara signifikan" meningkatkan risiko kecerdasan buatan (AI) dieksploitasi untuk menciptakan senjata biologis.

Dokumentasi OpenAI yang menjelaskan cara kerja GPT-o1 menegaskan bahwa model baru ini memiliki "tingkat risiko menengah" terkait isu-isu yang berhubungan dengan senjata kimia, biologi, radiologi, dan nuklir. Ini adalah tingkat risiko tertinggi yang pernah diberikan OpenAI pada model AI-nya.

Menurut OpenAI, ini berarti GPT-o1 dapat "meningkatkan secara signifikan" kemampuan para ahli untuk memproduksi senjata biologis untuk disalahgunakan.

Mira Murati, Chief Technology Officer (CTO) OpenAI, mengatakan bahwa meskipun GPT-o1 masih dalam tahap pengujian, kemampuan canggih model ini mengharuskan perusahaan untuk sangat "berhati-hati" tentang rencana pengembangannya untuk memperkenalkannya kepada publik.

Ibu Murati juga menegaskan bahwa model tersebut telah diuji secara menyeluruh oleh tim ahli multidisiplin. Individu-individu ini dipekerjakan oleh OpenAI untuk memeriksa keterbatasan model yang dikembangkan oleh perusahaan tersebut.

Murati menjelaskan bahwa proses pengujian menunjukkan bahwa model GPT-o1 memenuhi kriteria keselamatan umum jauh lebih baik daripada pendahulunya.

Selain itu, perwakilan OpenAI meyakinkan bahwa versi uji coba GPT-o1 "aman untuk digunakan" dan tidak dapat menimbulkan risiko yang lebih kompleks daripada teknologi yang sudah dikembangkan.

Terlepas dari jaminan-jaminan tersebut, sebagian besar komunitas ilmiah dan penggemar AI tetap sangat pesimis tentang masa depan teknologi ini.

Kekhawatiran tentang perkembangan AI yang terlalu cepat dan melampaui kecepatan pengembangan dan persetujuan regulasi yang mengaturnya semakin meningkat.

Profesor Yoshua Bengio, seorang spesialis ilmu komputer di Universitas Montreal dan salah satu ilmuwan AI terkemuka di dunia , mengatakan bahwa jika OpenAI saat ini menimbulkan "risiko menengah" senjata kimia dan biologi, maka "ini hanya memperkuat pentingnya dan urgensi" regulasi, seperti RUU yang banyak diperdebatkan di California, untuk mengatur bidang ini.

Ilmuwan ini menekankan bahwa lembaga-lembaga ini sangat diperlukan dalam konteks kecerdasan buatan (AI) yang semakin mendekati tingkat kecerdasan buatan universal (AGI), yaitu kemampuan untuk bernalar setara dengan manusia.

"Semakin dekat model AI perintis dengan AGI (Kecerdasan Buatan Umum), semakin besar risikonya jika tindakan pencegahan yang tepat tidak dilakukan. Peningkatan kemampuan penalaran AI dan potensi penggunaannya untuk penipuan sangat berbahaya," demikian penilaian Bengio.

Sumber: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm