AI baharu boleh digunakan untuk mencipta senjata biologi.

Telefon ini menunjukkan antara muka untuk mempelajari tentang GPT-o1 OpenAI - Foto: FINANCIAL TIMES

Menurut Financial Times pada 13 September, OpenAI mengakui bahawa model GPT-o1nya, yang dilancarkan pada 12 September, "dengan ketara" meningkatkan risiko kecerdasan buatan (AI) dieksploitasi untuk mencipta senjata biologi.

Dokumentasi OpenAI yang menerangkan cara GPT-o1 beroperasi mengesahkan bahawa model baharu ini mempunyai "tahap risiko sederhana" berkaitan isu berkaitan senjata kimia, biologi, radiologi dan nuklear. Ini merupakan tahap risiko tertinggi yang pernah diberikan oleh OpenAI kepada model AInya.

Menurut OpenAI, ini bermakna GPT-o1 boleh "meningkatkan dengan ketara" keupayaan pakar untuk mengeluarkan senjata biologi untuk disalahgunakan.

Mira Murati, Ketua Pegawai Teknologi (CTO) OpenAI, berkata walaupun GPT-o1 masih dalam fasa ujian, keupayaan canggih model ini memerlukan syarikat untuk menjadi sangat "berhati-hati" tentang pelan tindakannya untuk membawanya kepada orang ramai.

Cik Murati juga menegaskan bahawa model tersebut telah diuji secara menyeluruh oleh pasukan pakar pelbagai disiplin. Individu-individu ini telah diupah oleh OpenAI untuk memeriksa batasan model yang dibangunkan oleh syarikat.

Proses pengujian menunjukkan bahawa model GPT-o1 memenuhi kriteria keselamatan umum jauh lebih baik daripada model sebelumnya, Murati berkongsi.

Tambahan pula, wakil OpenAI memberi jaminan bahawa versi percubaan GPT-o1 adalah "selamat untuk penggunaan" dan tidak boleh mewujudkan risiko yang lebih kompleks daripada teknologi yang telah dibangunkan.

Walaupun terdapat jaminan ini, sebahagian besar komuniti saintifik dan peminat AI masih pesimis tentang masa depan teknologi ini.

Kebimbangan tentang perkembangan AI yang terlalu cepat dan mengatasi kelajuan pembangunan dan kelulusan peraturan yang mengawalnya semakin meningkat.

Profesor Yoshua Bengio, pakar sains komputer di Universiti Montreal dan salah seorang saintis AI terkemuka dunia , berkata bahawa jika OpenAI kini menimbulkan "risiko sederhana" senjata kimia dan biologi, maka "ini hanya mengukuhkan kepentingan dan kesegeraan" peraturan, seperti rang undang-undang yang hangat dibahaskan di California, untuk mentadbir bidang ini.

Saintis ini menekankan bahawa institusi-institusi ini amat diperlukan dalam konteks AI yang semakin menghampiri tahap kecerdasan buatan sejagat (AGI), iaitu keupayaan untuk menaakul setanding dengan manusia.

"Semakin hampir model AI perintis dengan AGI, semakin besar risiko yang akan timbul jika langkah berjaga-jaga yang sewajarnya tidak diambil. Peningkatan dalam kebolehan penaakulan AI dan potensi penggunaannya untuk penipuan adalah sangat berbahaya," Bengio menilai.

Sumber: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm