Sejauh manakah Anda Mengetahui AI? Ini 7 Terma Yang Anda Perlu Tahu

Perkembangan pesat kecerdasan buatan (AI) telah menimbulkan kebimbangan bahawa ia berkembang lebih pantas daripada manusia dapat memahami kesannya.

Sejauh manakah anda memahami seseorang? Berikut adalah 7 istilah yang perlu anda ketahui, gambar 1. — Foto: ST

Penggunaan AI am telah meningkat dengan ketara selepas kemunculan alatan seperti ChatGPT. Walaupun alat ini mempunyai banyak faedah, ia juga boleh disalahgunakan dengan cara yang berbahaya.

Untuk menguruskan risiko ini, AS dan beberapa negara lain telah memperoleh perjanjian daripada tujuh syarikat, termasuk Amazon, Anthropic, Google, Inflection, Meta, Microsoft dan OpenAI, untuk komited terhadap amalan selamat dalam membangunkan teknologi AI.

Pengumuman White House datang dengan istilahnya sendiri yang mungkin tidak biasa bagi orang biasa, dengan istilah seperti "berpasukan merah" dan "penanda air." Berikut ialah tujuh istilah berkaitan AI yang perlu diberi perhatian.

Pembelajaran mesin

Cabang AI ini bertujuan untuk melatih mesin untuk melaksanakan tugas tertentu dengan tepat dengan mengenal pasti corak. Mesin kemudiannya boleh membuat ramalan berdasarkan data tersebut.

Pembelajaran yang mendalam

Tugas AI kreatif sering bergantung pada pembelajaran mendalam, kaedah yang melibatkan latihan komputer menggunakan rangkaian saraf, satu set algoritma yang direka bentuk untuk meniru neuron dalam otak manusia, untuk membuat hubungan yang kompleks antara corak untuk menghasilkan teks, imej atau kandungan lain.

Oleh kerana model pembelajaran mendalam mempunyai berbilang lapisan neuron, mereka boleh mempelajari corak yang lebih kompleks daripada pembelajaran mesin tradisional.

Model bahasa yang besar

Model bahasa yang besar, atau LLM, dilatih mengenai jumlah data yang besar dan bertujuan untuk memodelkan bahasa atau meramalkan perkataan seterusnya dalam urutan. Model bahasa yang besar, seperti ChatGPT dan Google Bard, boleh digunakan untuk tugasan termasuk ringkasan, terjemahan dan perbualan.

Algoritma

Satu set arahan atau peraturan yang membolehkan mesin membuat ramalan, menyelesaikan masalah atau menyelesaikan tugas. Algoritma boleh memberikan cadangan membeli-belah dan membantu dengan pengesanan penipuan dan fungsi sembang perkhidmatan pelanggan.

berat sebelah

Oleh kerana AI dilatih menggunakan set data yang besar, ia boleh memasukkan maklumat berbahaya ke dalam data, seperti ucapan benci. Perkauman dan seksisme juga boleh muncul dalam set data yang digunakan untuk melatih AI, yang membawa kepada kandungan yang mengelirukan.

Syarikat AI telah bersetuju untuk menyelidiki lebih mendalam tentang cara mengelakkan berat sebelah dan diskriminasi yang berbahaya dalam sistem AI.

Berpasukan merah

Salah satu komitmen yang telah dibuat oleh syarikat kepada Rumah Putih adalah untuk menjalankan "penggabungan merah" secara dalaman dan luaran pada model dan sistem AI.

"Penggabungan merah" melibatkan ujian model untuk mendedahkan potensi kelemahan. Istilah ini berasal daripada amalan ketenteraan di mana pasukan mensimulasikan tindakan penyerang untuk menghasilkan strategi.

Kaedah ini digunakan secara meluas untuk menguji kelemahan keselamatan dalam sistem seperti platform pengkomputeran awan daripada syarikat seperti Microsoft dan Google.

Penanda air

Tera air ialah cara untuk mengetahui sama ada bunyi atau imej dicipta oleh AI. Fakta yang disemak untuk pengesahan boleh termasuk maklumat tentang siapa yang menciptanya, serta cara dan bila ia dibuat atau diedit.

Sebagai contoh, Microsoft telah berjanji untuk menanda air imej yang dicipta oleh alat AInya. Syarikat-syarikat juga telah berjanji kepada White House untuk menandai imej atau merekodkan asal-usul mereka untuk mengenal pasti mereka sebagai dijana AI.

Tera air juga biasanya digunakan untuk menjejaki pelanggaran harta intelek. Tera air untuk imej yang dijana AI boleh muncul sebagai bunyi yang tidak dapat dilihat, seperti perubahan sedikit setiap piksel ketujuh.

Walau bagaimanapun, penanda air teks yang dijana AI boleh menjadi lebih kompleks dan mungkin melibatkan pengubahsuaian templat perkataan supaya ia boleh dikenal pasti sebagai kandungan yang dijana AI.

Hoang Ton (menurut Poynter)

Sumber