Sejauh manakah anda memahami AI? Berikut adalah 7 istilah yang perlu anda ketahui.

Công Luận•12/08/2023

[iklan_1]

Perkembangan pesat kecerdasan buatan (AI) telah menimbulkan kebimbangan bahawa ia berkembang lebih pantas daripada yang dapat difahami oleh manusia.

Sejauh manakah anda memahami setiap istilah? Berikut adalah 7 istilah yang perlu anda ketahui (Rajah 1). — Foto: ST

Penggunaan AI secara amnya telah meningkat dengan ketara sejak kemunculan alat seperti ChatGPT. Walaupun alat ini menawarkan banyak manfaat, ia juga boleh disalahgunakan dengan cara yang berbahaya.

Bagi menguruskan risiko ini, AS dan banyak negara lain telah memperoleh perjanjian daripada tujuh syarikat, termasuk Amazon, Anthropic, Google, Inflection, Meta, Microsoft dan OpenAI, untuk komited terhadap amalan selamat dalam pembangunan teknologi AI.

Pengumuman Rumah Putih itu merangkumi istilahnya sendiri yang mungkin tidak biasa bagi orang biasa, dengan perkataan seperti "red teaming" dan "watermarking." Berikut adalah tujuh istilah penting yang berkaitan dengan AI.

Pembelajaran mesin

Cabang AI ini bertujuan untuk melatih mesin bagi melaksanakan tugas tertentu dengan tepat dengan mengenal pasti corak. Mesin kemudiannya boleh membuat ramalan berdasarkan data tersebut.

Pembelajaran mendalam

Tugasan AI kreatif sering bergantung pada pembelajaran mendalam, satu kaedah yang melibatkan latihan komputer untuk menggunakan rangkaian saraf—satu set algoritma yang direka untuk meniru neuron dalam otak manusia—untuk mewujudkan hubungan kompleks antara corak bagi menghasilkan teks, imej atau kandungan lain.

Oleh kerana model pembelajaran mendalam mempunyai pelbagai lapisan neuron, ia boleh mempelajari corak yang lebih kompleks daripada pembelajaran mesin tradisional.

Model bahasa yang besar

Model bahasa besar, atau LLM, dilatih menggunakan sejumlah besar data dan bertujuan untuk memodelkan bahasa atau meramalkan perkataan seterusnya dalam satu jujukan. Model bahasa besar, seperti ChatGPT dan Google Bard, boleh digunakan untuk tugasan termasuk ringkasan, terjemahan dan perbualan.

Algoritma

Satu set arahan atau peraturan yang membolehkan mesin membuat ramalan, menyelesaikan masalah atau menyelesaikan tugas. Algoritma boleh memberikan cadangan membeli-belah dan membantu mengesan penipuan, serta fungsi sembang khidmat pelanggan.

Bias

Oleh kerana AI dilatih menggunakan set data yang besar, ia boleh memasukkan maklumat berbahaya ke dalam data, seperti ucapan kebencian. Rasisme dan seksisme juga boleh muncul dalam set data yang digunakan untuk melatih AI, yang membawa kepada kandungan yang mengelirukan.

Syarikat-syarikat AI telah bersetuju untuk menjalankan penyelidikan lanjut tentang cara mengelakkan bias dan diskriminasi yang berbahaya dalam sistem AI.

Pasukan Merah

Salah satu komitmen yang telah dibuat oleh syarikat-syarikat kepada Rumah Putih adalah untuk melaksanakan "red teaming" di dalam dan di luar model dan sistem AI.

"Pasukan Merah" merujuk kepada pengujian model untuk mengesan potensi bahaya. Istilah ini berasal daripada amalan ketenteraan di mana sesebuah pasukan akan mensimulasikan tindakan penyerang untuk membangunkan strategi.

Kaedah ini digunakan secara meluas untuk menguji kelemahan keselamatan dalam sistem seperti platform pengkomputeran awan syarikat seperti Microsoft dan Google.

Penanda Air

Tanda air ialah cara untuk menentukan sama ada objek audio atau visual dicipta oleh AI. Fakta yang digunakan untuk pengesahan mungkin termasuk maklumat tentang penciptanya, serta bagaimana dan bila ia dicipta atau diedit.

Contohnya, Microsoft telah komited untuk menanda air imej yang dihasilkan oleh alatan AInya. Syarikat-syarikat juga telah komited kepada Rumah Putih untuk menambah "tanda air" pada imej atau merekodkan asal usulnya... untuk mengenal pastinya sebagai imej yang dijana AI.

Tanda air juga biasa digunakan untuk menjejaki pelanggaran harta intelek. Tanda air untuk imej yang dijana AI boleh muncul sebagai hingar yang tidak dapat dilihat, seperti sedikit perubahan pada setiap piksel ketujuh.

Walau bagaimanapun, mencipta tanda air untuk teks yang dijana AI boleh menjadi lebih kompleks dan mungkin melibatkan pelarasan corak perkataan supaya ia boleh dikenal pasti sebagai kandungan yang dijana AI.

Hoang Ton (menurut Poynter)

[iklan_2]
Sumber