Sekelompok peneliti di Jerman baru-baru ini mengeluarkan peringatan tentang potensi bias dalam penggunaan chatbot AI untuk mempersingkat konten penelitian. Setelah menganalisis 4.900 abstrak ilmiah yang ditulis manusia, kelompok tersebut menggunakan berbagai model AI untuk membandingkan bagaimana sistem-sistem ini memproses informasi. Hasilnya menunjukkan bahwa sebagian besar chatbot melakukan kesalahan generalisasi berlebihan, bahkan ketika diminta untuk meringkas secara akurat.
ChatGPT dan DeepSeek mendistorsi data ilmiah.
Model AI seperti ChatGPT dan DeepSeek telah terbukti mampu mendistorsi konten ilmiah saat meringkasnya, terutama di bidang kedokteran.
Báo Khoa học và Đời sống•08/07/2025
AI dapat dengan mudah mendistorsi isi ketika meringkas penelitian ilmiah.
Dalam eksperimen tersebut, model AI membuat kesalahan lima kali lebih banyak daripada peneliti manusia ketika dibiarkan tanpa bimbingan. Bahkan dengan persyaratan akurasi yang jelas, tingkat kesalahan masih dua kali lebih tinggi daripada ringkasan standar. Salah satu anggota tim peneliti berkomentar, “Generalisasi mungkin tampak tidak berbahaya pada saat-saat tertentu, tetapi sebenarnya mengubah sifat penelitian asli. Ini adalah bias sistemik.”
Yang perlu diperhatikan, versi chatbot yang lebih baru tidak hanya gagal mengatasi masalah tersebut tetapi justru memperburuknya. Dengan penyampaian yang lancar dan menarik, ringkasan yang dihasilkan AI dengan mudah memberikan kesan dapat dipercaya, sementara konten sebenarnya terdistorsi. Dalam satu contoh, DeepSeek mengubah frasa "aman dan berhasil diimplementasikan" menjadi "perawatan yang aman dan efektif"—sebuah interpretasi yang menyimpang dari kesimpulan asli studi tersebut.
Mungkin Anda juga suka
Tunjukkan individualitas unik Anda dengan penuh percaya diri.Di Kota Ho Chi Minh, OPPO telah meluncurkan Seri Reno16 5G, yang mencakup tiga versi: Reno16 Pro 5G, Reno16 5G, dan Reno16 F 5G.
Implementasi Resolusi 57: Menciptakan terobosan dalam pengembangan dan pemanfaatan bakat ilmiah.Setelah 18 bulan implementasi Resolusi No. 57-NQ/TW, banyak hasil penting telah meletakkan dasar bagi pengembangan ilmu pengetahuan, teknologi, dan inovasi. Namun, untuk menciptakan terobosan dalam pertumbuhan, kebutuhan mendesak saat ini adalah membangun tenaga kerja berkualitas tinggi yang mampu menguasai teknologi strategis.
Dien Bien: Implementasi percontohan empat prosedur administratif di bawah mekanisme "jalur hijau" di tingkat komune.Untuk mendorong implementasi desentralisasi dan pendelegasian wewenang yang efektif dalam menangani prosedur administrasi, Komite Rakyat Provinsi Dien Bien telah memutuskan untuk mengizinkan komune untuk melakukan uji coba implementasi empat prosedur administrasi di bawah mekanisme "jalur hijau".
Dalam contoh lain, model Llama menerapkan rekomendasi pengobatan diabetes kepada subjek muda tanpa menentukan dosis, frekuensi, atau efek samping. Jika pembaca, seorang dokter atau profesional kesehatan , tidak memverifikasinya dengan studi asli, ringkasan semacam ini dapat menimbulkan bahaya langsung bagi pasien.
Para ahli percaya bahwa fenomena ini berasal dari cara model AI dilatih. Banyak chatbot saat ini dilatih menggunakan data sekunder – seperti berita ilmiah yang diproduksi secara massal – yang telah disederhanakan. Saat AI terus meringkas konten yang disederhanakan ini, risiko distorsi meningkat.
Para ahli AI di bidang kesehatan mental berpendapat bahwa hambatan teknis terhadap pengembangan dan penggunaan AI perlu segera ditetapkan.
Pengguna harus berhati-hati karena chatbot dapat dengan mudah memutarbalikkan konten.
Seiring meningkatnya ketergantungan pengguna pada chatbot AI untuk mempelajari informasi ilmiah, ketidakakuratan kecil dalam interpretasi dapat dengan cepat menumpuk dan menyebar, menyebabkan kesalahpahaman yang meluas. Di saat kepercayaan terhadap sains menurun, risiko ini sangat mengkhawatirkan dan membutuhkan perhatian yang sewajarnya.
Memperkuat persahabatan antara Vietnam dan Amerika Serikat.Pada tanggal 3 Juli, sebagai bagian dari program Pacific Partnership - Friends of the Pacific 2026, delegasi Angkatan Darat AS Pasifik, yang dipimpin oleh Letnan Jenderal Joel Vowell, Wakil Komandan Angkatan Darat AS Pasifik, melakukan kunjungan kehormatan ke Komando Militer Provinsi Quang Tri.
Delegasi Angkatan Darat AS Pasifik mengunjungi Komando Militer Provinsi Quang Tri.Tahun 2026 menandai pertama kalinya program Pacific Partnership-Friends of the Pacific diselenggarakan bersama di Quang Tri, menciptakan kerangka kerja sama berskala besar dengan 25 kegiatan.
Kementerian Luar Negeri menerima salinan Surat Kepercayaan untuk Duta Besar AS untuk Vietnam.Pada sore hari tanggal 2 Juli, di markas Kementerian Luar Negeri, Bapak Le Cong Dung, Direktur Departemen Protokol Negara dan Penerjemahan Asing, menerima salinan Surat Kepercayaan dari Ibu Jennifer Wicks, Duta Besar Amerika Serikat untuk Vietnam.
Mengintegrasikan AI ke dalam penelitian dan penyebaran pengetahuan adalah tren yang tak terhindarkan. Namun, para ahli menegaskan bahwa teknologi tidak dapat menggantikan peran manusia dalam memahami dan memverifikasi konten ilmiah. Saat menggunakan chatbot di bidang berisiko tinggi seperti perawatan kesehatan, akurasi harus diprioritaskan, daripada hanya berfokus pada pengalaman bahasa yang lancar atau kecepatan respons.
Sumber: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html
Matahari Terbenam di Atas Dua Danau
Kota Dong Nai mengalami transformasi.
