'Bapa' GPT Chat berkongsi ketakutan terbesarnya tentang AI.

[iklan_1]

"Kebimbangan terburuk saya ialah kita menyebabkan akibat yang serius – bahawa kita, bidang ini, industri teknologi – menyebabkan kemudaratan yang serius kepada dunia . Saya fikir itu boleh berlaku dalam pelbagai cara. Itulah sebabnya kami membentuk syarikat ini," kata Altman semasa pendengaran di hadapan Jawatankuasa Kecil Kehakiman Senat mengenai Privasi, Teknologi dan Undang-undang pada 16 Mei.

Ketakutan terbesar: AI boleh membuat kesilapan.

"Orang ramai berpendapat bahawa jika teknologi ini rosak, ia boleh menjadi teruk, dan kami ingin bersuara mengenainya. Kami ingin bekerjasama dengan kerajaan untuk mencegahnya daripada berlaku," kata Altman, Ketua Pegawai Eksekutif OpenAI (pembangun ChatGPT).

'Bapa' GPT Chat berkongsi ketakutan terbesarnya tentang AI - 1 — Ketua Pegawai Eksekutif OpenAI, Sam Altman mengangkat sumpah pada satu perbicaraan di hadapan Jawatankuasa Kecil Kehakiman Senat. (Foto: Washington Post)

Dalam pendengaran kongres pertamanya, Sam Altman juga menyeru peraturan yang luas, termasuk agensi kerajaan baharu yang bertanggungjawab untuk melesenkan model AI, bagi menangani kebimbangan yang semakin meningkat bahawa kecerdasan buatan boleh memesongkan realiti dan mewujudkan risiko keselamatan yang belum pernah terjadi sebelumnya.

Encik Altman telah mengakui secara serius cara-cara kecerdasan buatan boleh "menyebabkan kemudaratan yang ketara kepada dunia" dan menyatakan kesediaannya untuk bekerjasama dengan penggubal undang-undang bagi menangani risiko yang ditimbulkan oleh ChatGPT syarikatnya dan alatan AI yang lain.

Altman menggariskan tingkah laku "berisiko" yang ditimbulkan oleh teknologi seperti ChatGPT, termasuk penyebaran "salah maklumat interaktif langsung" dan manipulasi emosi. Beliau mengakui bahawa AI boleh digunakan untuk menyasarkan serangan dron.

"Jika teknologi ini tidak berfungsi dengan baik, ia boleh menjadi sangat teruk," katanya.

Walau bagaimanapun, semasa perbincangan hampir tiga jam tentang akibat yang berpotensi buruk, Altman mengesahkan bahawa syarikatnya akan terus melancarkan teknologi AI.

Beliau berhujah bahawa daripada mengambil risiko, "penggunaan berulang" model AI OpenAI memberi organisasi masa untuk memahami potensi ancaman. Ini merupakan langkah strategik, membawa teknologi yang agak lemah dan "tidak sempurna" ke dunia untuk membantu mendedahkan risiko keselamatan yang berkaitan.

'Bapa' GPT Chat berkongsi ketakutan terbesarnya tentang AI - 2 — Imej ini menggambarkan aplikasi ChatGPT, yang membolehkan komputer bersembang dengan pengguna seperti manusia.

Sejak beberapa minggu lalu, Altman telah menjalankan jelajah muhibah global, bertemu secara tertutup dengan pembuat dasar termasuk Presiden A.S. Biden dan ahli Kongres untuk menangani kebimbangan mengenai penggunaan pantas ChatGPT dan teknologi lain.

Perbicaraan pada 16 Mei menandakan peluang pertama bagi orang ramai untuk mendengar mesejnya, pada masa Washington semakin bergelut untuk mengawal selia teknologi yang telah mengganggu pekerjaan, memudahkan penipuan dan menyebarkan maklumat salah.

Berbeza sekali dengan pendengaran dengan CEO teknologi lain, seperti Shou Zi Chew dari TikTok dan Mark Zuckerberg dari Meta, penggubal undang-undang AS memberikan Altman sambutan yang agak mesra.

Mereka kelihatan seperti sedang mendengar, menyatakan keterbukaan untuk mempertimbangkan cadangan daripada Altman dan dua saksi lain di pendengaran itu: Ketua Pegawai Eksekutif IBM, Christina Montgomery dan profesor emeritus Universiti New York, Gary Marcus.

Semasa pendengaran Jawatankuasa Kecil Kehakiman Senat mengenai Privasi, Teknologi dan Undang-undang, para senator menyuarakan kebimbangan yang mendalam tentang perkembangan pesat kecerdasan buatan, dengan alasan bahawa kemajuan baru-baru ini boleh menyebabkan transformasi yang jauh lebih besar daripada internet, atau sama berbahayanya dengan bom atom.

Senator John Neely Kennedy memberitahu para saksi, "Inilah peluang anda untuk menunjukkan kepada kami cara menangani isu ini dengan betul. Gunakannya."

Penggubal undang-undang dari kedua-dua parti telah menyatakan keterbukaan terhadap idea penubuhan agensi kerajaan yang ditugaskan untuk mengurus dan mengawal selia pembangunan kecerdasan buatan, walaupun percubaan sebelum ini untuk mewujudkan agensi khusus sedemikian dengan pengawasan Silicon Valley telah gagal di Kongres disebabkan oleh perpecahan partisan mengenai cara membentuk badan yang begitu besar.

Tidak jelas sama ada cadangan sedemikian akan mendapat sokongan meluas daripada Republikan, yang secara amnya berwaspada terhadap perluasan kuasa kerajaan. Senator Josh Hawley dari Missouri memberi amaran bahawa agensi sedemikian boleh "terperangkap oleh kepentingan yang perlu didamaikan."

Senator Richard Blumenthal, pengerusi jawatankuasa kecil itu, memuji keterangan Altman di pendengaran itu: "Sam Altman sangat berbeza daripada CEO lain... Bukan sahaja dalam kata-kata dan retoriknya, tetapi juga dalam tindakan praktikalnya dan kesediaannya untuk terlibat dan komited terhadap tindakan konkrit."

Perbicaraan bersama Ketua Pegawai Eksekutif Altman berlangsung dengan latar belakang kebimbangan yang semakin meningkat dalam kalangan pembuat dasar Washington tentang ancaman yang ditimbulkan oleh kecerdasan buatan, seperti ChatGPT dan alatan AI inovatif yang lain, terutamanya berkaitan dengan maklumat salah, privasi data, pelanggaran hak cipta dan keselamatan siber.

Para penggubal undang-undang telah melahirkan rasa kesal atas pendekatan mereka yang agak longgar terhadap industri AI sebelum pilihan raya 2016. Perbicaraan pertama mereka dengan Ketua Pegawai Eksekutif Meta, Zuckerberg, berlangsung pada tahun 2018, ketika Facebook sudah menjadi sebuah syarikat gergasi dan baru sahaja terlibat dalam skandal Cambridge Analytica, yang melibatkan data 87 juta pengguna Facebook.

Pada masa itu, meskipun terdapat konsensus dwipartisan yang luas bahawa AI merupakan satu ancaman, penggubal undang-undang berbelah bahagi mengenai peraturan untuk mengawal selia penggunaan atau pembangunannya.

Komen (0)