'Bapa' Chat GPT berkongsi ketakutan terbesarnya tentang AI

"Ketakutan saya yang paling teruk ialah kita menyebabkan kemudaratan yang serius - kita, bidang ini, industri teknologi - kepada dunia . Saya fikir itu boleh berlaku dalam beberapa cara yang berbeza. Itulah sebabnya kami memulakan syarikat ini," kata Encik Altman semasa perbicaraan di hadapan Jawatankuasa Kecil Kehakiman Senat mengenai Privasi, Teknologi dan Undang-undang pada 16 Mei.

Ketakutan terbesar: AI boleh menjadi salah

"Orang ramai berfikir bahawa jika teknologi ini salah, ia boleh menjadi buruk, dan kami mahu lantang mengenainya. Kami mahu bekerjasama dengan kerajaan untuk mengelakkan perkara itu daripada berlaku," kata Altman, Ketua Pegawai Eksekutif OpenAI (pembangun ChatGPT).

Ketua Pegawai Eksekutif OpenAI Sam Altman mengangkat sumpah semasa perbicaraan di hadapan Jawatankuasa Kecil Kehakiman Senat. (Foto: Washington Post)

Dalam keterangan pertamanya di hadapan Kongres AS, Encik Sam Altman turut menggesa peraturan yang meluas, termasuk agensi kerajaan baharu yang bertanggungjawab untuk melesenkan model AI, untuk menangani kebimbangan yang semakin meningkat bahawa kecerdasan buatan boleh memesongkan realiti dan mewujudkan risiko keselamatan yang belum pernah terjadi sebelumnya.

Encik Altman telah mengambil sikap serius tentang cara kecerdasan buatan boleh "menyebabkan bahaya besar kepada dunia," dan menyatakan kesediaan untuk bekerjasama dengan penggubal undang-undang untuk menangani risiko yang ditimbulkan oleh ChatGPT syarikatnya dan alat AI lain.

En. Altman menggariskan tingkah laku "berisiko" yang boleh ditimbulkan oleh teknologi seperti ChatGPT, termasuk menyebarkan "maklumat salah interaktif secara langsung" dan manipulasi emosi. Dia mengakui bahawa AI boleh digunakan untuk menyasarkan serangan dron.

"Jika teknologi ini salah, ia boleh menjadi buruk," katanya.

Namun, selama hampir tiga jam perbincangan tentang kemungkinan akibat yang mengerikan, Encik Altman menegaskan bahawa syarikatnya akan terus melancarkan teknologi AI.

Daripada mengambil risiko, beliau berpendapat, "pengerahan berulang" model AI OpenAI memberi masa kepada organisasi untuk memahami potensi ancaman, langkah strategik yang meletakkan teknologi "agak lemah" dan "tidak sempurna" ke dalam dunia untuk membantu mendedahkan risiko keselamatan yang berkaitan.

Ilustrasi aplikasi ChatGPT, yang membolehkan komputer berbual dengan pengguna seperti manusia.

Sejak beberapa minggu lalu, Encik Altman telah mengadakan lawatan muhibah global, bertemu secara peribadi dengan penggubal dasar termasuk Presiden Biden dan ahli Kongres untuk menangani kebimbangan mengenai penggunaan pantas ChatGPT dan teknologi lain.

Perbicaraan pada 16 Mei menandakan peluang pertama untuk orang ramai mendengar mesejnya, pada masa Washington semakin bergelut untuk mengawal selia teknologi yang telah mengganggu pekerjaan, memudahkan penipuan dan menyebarkan maklumat salah.

Berbeza dengan perbicaraan dengan CEO teknologi lain, seperti Shou Zi Chew dari TikTok dan Mark Zuckerberg dari Meta, penggubal undang-undang AS memberikan sambutan yang agak hangat kepada Encik Altman.

Mereka kelihatan dalam mod mendengar, menyatakan keterbukaan untuk mempertimbangkan cadangan daripada Altman dan dua saksi lain pada pendengaran: eksekutif IBM Christina Montgomery dan profesor emeritus Universiti New York, Gary Marcus.

Semasa perbicaraan Jawatankuasa Kecil Badan Kehakiman Senat mengenai privasi, teknologi dan undang-undang, penggubal undang-undang menyatakan kebimbangan mendalam tentang perkembangan pesat kecerdasan buatan, dengan alasan bahawa kemajuan baru-baru ini boleh menjadi lebih transformatif daripada internet, atau berbahaya seperti bom atom.

"Ini adalah peluang anda untuk memberitahu kami cara melakukan ini dengan betul," Senator John Neely Kennedy memberitahu saksi. “Gunakan.”

Penggubal undang-undang dari kedua-dua pihak telah menyatakan keterbukaan terhadap idea untuk mewujudkan sebuah agensi kerajaan yang ditugaskan untuk mengawal selia pembangunan kecerdasan buatan, walaupun usaha sebelum ini untuk mewujudkan agensi tertentu dengan pengawasan Silicon Valley telah gagal di Kongres kerana perpecahan parti mengenai cara membentuk agensi besar itu.

Tidak jelas sama ada cadangan sedemikian akan mendapat sokongan meluas di kalangan Republikan, yang pada umumnya berhati-hati untuk memperluaskan kuasa kerajaan. Senator Josh Hawley, R-Missouri, memberi amaran bahawa agensi sedemikian boleh "terperangkap oleh kepentingan yang sepatutnya mereka kawal."

Senator Richard Blumenthal, pengerusi jawatankuasa kecil, memuji keterangan En. Altman pada perbicaraan itu: "Sam Altman adalah dunia yang berbeza daripada CEO lain... Bukan hanya dalam kata-kata dan retoriknya, tetapi dalam tindakan sebenar dan kesediaannya untuk terlibat, untuk komited kepada tindakan konkrit."

Perbicaraan dengan Ketua Pegawai Eksekutif Altman diadakan apabila penggubal dasar Washington semakin bimbang tentang ancaman yang ditimbulkan oleh kecerdasan buatan, seperti ChatGPT dan alat AI inovatif lain, terutamanya berkaitan dengan maklumat yang salah, privasi data, pelanggaran hak cipta dan keselamatan siber.

Penggubal undang-undang telah menyatakan kekesalan terhadap pendekatan mereka yang agak longgar terhadap industri AI sejak sebelum pilihan raya 2016. Pendengaran pertama mereka dengan Ketua Pegawai Eksekutif Meta Zuckerberg berlaku pada 2018, apabila Facebook sudah menjadi gergasi dan baru daripada skandal Cambridge Analytica, yang menyaksikan data daripada 87 juta pengguna Facebook diakses.

Pada masa itu, walaupun konsensus bipartisan luas bahawa AI menimbulkan ancaman, penggubal undang-undang gagal bersetuju dengan peraturan untuk mengawal penggunaan atau pembangunannya.

(Sumber: Akhbar Tin Tuc/Berita Fox; Washington Post)

Berguna
emosi
Kreatif
Unik
Kemarahan

Sumber: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html