Model baru OpenAI meningkatkan risiko terciptanya senjata biologis

Kemampuan model untuk bernalar, memecahkan masalah matematika yang rumit, dan menjawab pertanyaan penelitian ilmiah dipandang sebagai langkah maju yang besar dalam upaya mengembangkan kecerdasan umum buatan (AGI) - mesin dengan kemampuan kognitif seperti manusia.

OpenAI menyatakan pihaknya sangat "berhati-hati" dalam memperkenalkan model o1 kepada publik mengingat kemampuannya yang canggih. Foto: Getty Images

Menurut Financial Times, OpenAI menilai risiko model-model baru ini sebagai "sedang" untuk masalah yang berkaitan dengan senjata kimia, biologi, radiologi, dan nuklir (CBRN), tertinggi yang pernah dinilai perusahaan tersebut. Ini berarti teknologi ini telah "meningkatkan secara signifikan" kemampuan para ahli untuk menciptakan senjata biologis.

Perangkat lunak AI yang mampu melakukan penalaran terperinci, terutama di tangan pelaku kejahatan, dapat meningkatkan risiko penyalahgunaan, kata para ahli.

Profesor Yoshua Bengio, ilmuwan AI terkemuka dunia dari Universitas Montreal, menekankan bahwa tingkat risiko sedang ini meningkatkan urgensi regulasi AI, seperti SB 1047, yang saat ini sedang dibahas di California. RUU ini mewajibkan para pengembang AI untuk mengambil langkah-langkah guna mengurangi risiko penyalahgunaan model mereka untuk mengembangkan senjata biologis.

Menurut The Verge, keamanan dan keselamatan model AI telah menjadi perhatian utama karena perusahaan teknologi seperti Google, Meta, dan Anthropic berlomba untuk membangun dan meningkatkan sistem AI yang canggih.

Sistem ini berpotensi membawa manfaat besar dalam membantu manusia menyelesaikan tugas dan membantu dalam berbagai bidang, tetapi juga menimbulkan tantangan dalam hal keselamatan dan tanggung jawab sosial.

Cao Phong (menurut FT, Reuters, The Verge)

Sumber: https://www.congluan.vn/openai-thua-nhan-moi-hinh-ai-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-post312337.html