Seberapa Baik Anda Memahami AI? Berikut 7 Istilah yang Perlu Anda Ketahui

[iklan_1]

Perkembangan pesat kecerdasan buatan (AI) telah menimbulkan kekhawatiran bahwa kecerdasan buatan berkembang lebih cepat daripada kemampuan manusia untuk memahami dampaknya.

Seberapa baik Anda memahami seseorang? Berikut 7 istilah yang perlu Anda ketahui, gambar 1. — Foto: ST

Penggunaan AI umum telah meningkat secara signifikan setelah munculnya alat-alat seperti ChatGPT. Meskipun alat-alat ini memiliki banyak manfaat, alat-alat ini juga dapat disalahgunakan dengan cara yang merugikan.

Untuk mengelola risiko ini, Amerika Serikat dan beberapa negara lain telah mendapatkan perjanjian dari tujuh perusahaan, termasuk Amazon, Anthropic, Google, Inflection, Meta, Microsoft, dan OpenAI, untuk berkomitmen pada praktik yang aman dalam mengembangkan teknologi AI.

Pengumuman Gedung Putih ini hadir dengan jargonnya sendiri yang mungkin asing bagi kebanyakan orang, dengan kata-kata seperti "red teaming" dan "watermarking". Berikut tujuh istilah terkait AI yang perlu diwaspadai.

Pembelajaran mesin

Cabang AI ini bertujuan melatih mesin untuk melakukan tugas tertentu secara akurat dengan mengidentifikasi pola. Mesin kemudian dapat membuat prediksi berdasarkan data tersebut.

Pembelajaran mendalam

Tugas AI kreatif sering kali mengandalkan pembelajaran mendalam, suatu metode yang melibatkan pelatihan komputer menggunakan jaringan saraf, serangkaian algoritma yang dirancang untuk meniru neuron di otak manusia, untuk membuat hubungan kompleks antara pola guna menghasilkan teks, gambar, atau konten lainnya.

Karena model pembelajaran mendalam memiliki beberapa lapisan neuron, mereka dapat mempelajari pola yang lebih kompleks daripada pembelajaran mesin tradisional.

Model bahasa besar

Model bahasa besar, atau LLM, dilatih pada data dalam jumlah besar dan ditujukan untuk memodelkan bahasa atau memprediksi kata berikutnya dalam suatu urutan. Model bahasa besar, seperti ChatGPT dan Google Bard, dapat digunakan untuk tugas-tugas seperti peringkasan, penerjemahan, dan percakapan.

Algoritma

Serangkaian instruksi atau aturan yang memungkinkan mesin membuat prediksi, memecahkan masalah, atau menyelesaikan tugas. Algoritma dapat memberikan rekomendasi belanja dan membantu deteksi penipuan serta fungsi obrolan layanan pelanggan.

Bias

Karena AI dilatih pada kumpulan data yang besar, AI dapat memasukkan informasi berbahaya ke dalam data tersebut, seperti ujaran kebencian. Rasisme dan seksisme juga dapat muncul dalam kumpulan data yang digunakan untuk melatih AI, yang menyebabkan konten yang menyesatkan.

Perusahaan AI telah sepakat untuk menyelidiki lebih dalam cara menghindari bias dan diskriminasi yang merugikan dalam sistem AI.

Tim merah

Salah satu komitmen yang dibuat perusahaan kepada Gedung Putih adalah melakukan “red teaming” di dalam dan di luar model dan sistem AI.

"Tim merah" melibatkan pengujian model untuk mengungkap potensi kerentanan. Istilah ini berasal dari praktik militer di mana sebuah tim mensimulasikan tindakan penyerang untuk menyusun strategi.

Metode ini banyak digunakan untuk menguji kerentanan keamanan dalam sistem seperti platform komputasi awan dari perusahaan seperti Microsoft dan Google.

Tanda air

Tanda air adalah cara untuk mengetahui apakah audio atau video dibuat oleh AI. Fakta yang diperiksa untuk verifikasi dapat mencakup informasi tentang siapa pembuatnya, serta bagaimana dan kapan audio atau video tersebut dibuat atau diedit.

Microsoft, misalnya, telah berjanji untuk memberi tanda air pada gambar yang dibuat oleh perangkat AI-nya. Perusahaan-perusahaan juga telah berjanji kepada Gedung Putih untuk "memberi tanda air" pada gambar atau mencatat asal-usulnya... untuk mengidentifikasi gambar tersebut sebagai hasil AI.

Tanda air juga umum digunakan untuk melacak pelanggaran hak kekayaan intelektual. Tanda air untuk gambar yang dihasilkan AI dapat muncul sebagai noise yang tidak terlihat, seperti perubahan kecil setiap piksel ketujuh.

Namun, pemberian tanda air pada teks yang dihasilkan AI bisa lebih rumit dan mungkin melibatkan penyesuaian templat kata, sehingga dapat diidentifikasi sebagai konten yang dihasilkan AI.

Hoang Ton (menurut Poynter)

[iklan_2]
Sumber