Ketika AI tahu cara memverifikasi kebenaran: Kemajuan baru dari Viettel AI di NAACL 2025

Keterangan foto

VeGraph meningkatkan akurasi sebesar 2 - 5% dibandingkan metode yang ada.

NAACL 2025 (Konferensi Tahunan Bangsa-Bangsa Cabang Amerika dari Asosiasi Linguistik Komputasi) adalah forum ilmiah terkemuka di dunia yang bergengsi dalam bidang pemrosesan bahasa alami dan linguistik komputasional.

Menurut informasi dari Viettel pada sore hari tanggal 16 Mei, ledakan internet dan jejaring sosial telah membuat konten buatan pengguna semakin populer; di saat yang sama, hal ini telah menyebabkan gelombang berita palsu dan berita tidak resmi yang menyebar luas. Informasi palsu ini tidak hanya menyebabkan kebingungan bagi orang-orang di bidang sensitif seperti kesehatan, bencana alam, kebijakan publik... tetapi juga mengakibatkan konsekuensi serius seperti: kerugian ekonomi, penurunan reputasi organisasi, dan ancaman terhadap keamanan nasional.

"Dulu, informasi ini hanya berdampak pada waktu dan cakupan tertentu, tetapi kini menjadi semakin berbahaya ketika menjadi bagian dari data input sistem kecerdasan buatan (AI). Dalam proses pencarian dan pengumpulan informasi untuk merespons pengguna, sistem seperti chatbot dan asisten virtual sepenuhnya mampu menggunakan, membuat, atau menyebarkan informasi palsu jika tidak memiliki kemampuan untuk memverifikasi diri sendiri," ujar seorang perwakilan Viettel.

Pengecekan fakta adalah proses memverifikasi kebenaran atau kepalsuan suatu informasi. Misalnya, tujuan pengecekan fakta untuk pernyataan "NASA telah menemukan kehidupan di Mars" adalah untuk memeriksa apakah informasi tersebut berdasarkan fakta yang dipublikasikan melalui sumber tepercaya seperti surat kabar, data ilmiah, atau basis pengetahuan. Untuk memverifikasi informasi secara mandiri, sistem AI harus mampu memahami kalimat tersebut, menemukan informasi yang relevan, dan menarik kesimpulan logis berdasarkan data objektif.

VeGraph (Verify-in-the-Graph) adalah metode verifikasi informasi yang diteliti, dikembangkan, dan dipresentasikan oleh tim insinyur di Viettel AI Data Services and Artificial Intelligence Center (Viettel AI) di NAACL 2025, salah satu dari tiga konferensi internasional paling bergengsi tentang pemrosesan bahasa alami. Hasil eksperimen pada dua set data verifikasi populer, HoVer dan FEVEROUS, menunjukkan bahwa VeGraph meningkatkan akurasi sebesar 2-5% dibandingkan metode yang ada.

Menurut para ahli AI Viettel, sebagian besar metode verifikasi informasi saat ini masih kesulitan menangani pernyataan ambigu, metaforis, atau berlapis-lapis, yang sering digunakan untuk "menutupi" informasi palsu; di saat yang sama, metode tersebut tidak dapat menjelaskan secara jelas mengapa suatu konten dianggap palsu, sehingga menyulitkan pengguna untuk memercayai hasilnya. Banyak metode juga mengandalkan model bahasa besar (LLM) tanpa kemampuan untuk melakukan pemeriksaan silang dengan sumber pengetahuan resmi, yang berisiko menghasilkan kesimpulan yang salah atau yang disebut fenomena "halusinasi".

Berbeda dengan alat yang hanya melakukan inferensi internal dalam model, VeGraph secara proaktif memisahkan permintaan verifikasi informasi ke dalam klausa-klausa kecil, lalu membandingkannya dengan referensi tepercaya seperti dokumen hukum, basis data pemerintah , dokumen khusus, dll. Seluruh proses verifikasi disistematisasi menjadi langkah-langkah yang jelas, sehingga memudahkan pengguna untuk memantau dan memeriksa, meningkatkan akurasi dan transparansi—faktor yang semakin penting dalam aplikasi AI. Fitur ini juga memungkinkan organisasi untuk menyesuaikan dan meningkatkan sistem dengan cepat bila diperlukan.

Dengan tujuan menciptakan lingkungan digital yang transparan dan aman, VeGraph sangat dihargai atas penerapannya yang praktis. Selain kemampuannya untuk terintegrasi dengan sistem AI guna meningkatkan akurasi dan keandalan, teknologi ini dapat dikembangkan menjadi sistem verifikasi informasi di berbagai bidang seperti kesehatan, jurnalisme, hukum, atau manajemen negara. Berkat hal tersebut, orang-orang dapat memverifikasi sendiri informasi penting yang membutuhkan autentisitas tinggi seperti berita terkini, informasi tentang obat-obatan, vaksin, produk farmasi, atau peraturan perundang-undangan.

Di masa mendatang, VeGraph akan diperluas untuk menangani beragam format data seperti gambar, video, audio, dll., mengenali bentuk bahasa yang kompleks seperti metafora, implikasi, dan menggabungkan grafik pengetahuan tambahan untuk meningkatkan kemampuan penalaran.

Tahun ini, NAACL 2025 berhasil menarik jumlah makalah yang memecahkan rekor, mencapai lebih dari 3.000, dengan tingkat penerimaan yang sangat kompetitif untuk makalah utama (sekitar 22%), yang menggabungkan penelitian paling inovatif. NAACL 2025 secara khusus berfokus pada terobosan dalam pengembangan model bahasa berskala besar, pemrosesan bahasa alami lintas budaya dan multibahasa, kemampuan inferensi yang sedang berkembang, dan AI yang bertanggung jawab.

Menurut Berita dan Surat Kabar Rakyat

Source: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067