ChatGPT та DeepSeek спотворюють наукові дані.

Було виявлено, що моделі штучного інтелекту, такі як ChatGPT та DeepSeek, здатні спотворювати науковий контент під час його узагальнення, особливо в медичній галузі.

Báo Khoa học và Đời sống•08/07/2025

Група дослідників у Німеччині нещодавно опублікувала попередження про потенційну упередженість у використанні чат-ботів на основі штучного інтелекту для скорочення дослідницького контенту. Проаналізувавши 4900 наукових рефератів, написаних людьми, група використала різні моделі штучного інтелекту для порівняння того, як ці системи обробляють інформацію. Результати показали, що більшість чат-ботів помиляються, надмірно узагальнюючи, навіть коли їх просять точно підсумувати.

що-таке-чатбот-AI.jpg

Штучний інтелект може легко спотворити зміст під час узагальнення наукових досліджень.

В експериментах моделі штучного інтелекту припускалися вп'ятеро більше помилок, ніж дослідники-люди, коли їх не контролювали. Навіть за чітких вимог до точності рівень помилок все одно був вдвічі вищим, ніж за стандартного резюме. Один член дослідницької групи зауважив: «Узагальнення може часом здаватися нешкідливим, але насправді воно змінює характер початкового дослідження. Це системна упередженість».

Примітно, що новіші версії чат-ботів не лише не вирішують проблему, а й фактично посилюють її. Завдяки плавному та захопливому поданню, згенеровані штучним інтелектом резюме легко створюють враження достовірності, тоді як фактичний зміст спотворюється. В одному випадку DeepSeek змінив фразу «безпечний та успішно впроваджуваний» на «безпечне та ефективне лікування» — тлумачення, яке відхилялося від початкових висновків дослідження.

Вам також може сподобатися

Уживані автомобілі вартістю 200 мільйонів донгів: це кращий вибір, ніж KIA Morning та Hyundai Grand i10.З бюджетом близько 200 мільйонів донгів, вживані автомобілі є популярним вибором для багатьох сімей, які шукають транспортний засіб для задоволення своїх основних щоденних транспортних потреб.

В іншому прикладі модель Лами застосовувала рекомендації щодо ліків від діабету до молодих суб'єктів без зазначення дозування, частоти чи побічних ефектів. Якщо читач, лікар або медичний працівник, не перевірить оригінальне дослідження, такі типи резюме можуть становити пряму небезпеку для пацієнтів.

Експерти вважають, що це явище пов'язане зі способом навчання моделей штучного інтелекту. Багато сучасних чат-ботів навчаються з використанням вторинних даних, таких як масово вироблені наукові новини, які вже були спрощені. Оскільки штучний інтелект продовжує узагальнювати цей спрощений контент, ризик спотворення зростає.

Експерти зі штучного інтелекту в галузі психічного здоров'я стверджують, що технічні бар'єри для розробки та використання штучного інтелекту необхідно встановити найближчим часом.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Користувачам слід бути обережними, оскільки чат-боти можуть легко спотворювати контент.

Оскільки користувачі дедалі більше покладаються на чат-ботів зі штучним інтелектом для вивчення наукової інформації, невеликі неточності в інтерпретації можуть швидко накопичуватися та поширюватися, що призводить до поширених помилкових уявлень. У час, коли довіра до науки знижується, цей ризик викликає особливе занепокоєння та вимагає належної уваги.

Сполучені Штати - Вʼєтнам: Не пропустіть

Міністерство закордонних справ отримало копію вірчої грамоти для посла США у В'єтнамі.2 липня вдень у штаб-квартирі Міністерства закордонних справ пан Ле Конг Зунг, директор Департаменту державного протоколу та перекладу за кордон, отримав копію вірчої грамоти від пані Дженніфер Вікс, посла Сполучених Штатів Америки у В'єтнамі.

Посол Нгуєн Куок Зунг відвідує та працює в Міннесоті, США.З 28 по 30 червня посол В'єтнаму в Сполучених Штатах Нгуєн Куок Зунг відвідав Міннесоту та працював у ній.

В'єтнам заохочує американський бізнес розширювати інвестиції у високі технології.Вранці 26 червня в урядовій будівлі віце-прем'єр-міністр Хо Куок Зунг прийняв пана Джеффа Плейса, директора з ланцюгів поставок Coherent Group (США). Під час зустрічі віце-прем'єр-міністр підтвердив, що В'єтнам заохочує американський бізнес розширювати інвестиції, особливо у високотехнологічну, інноваційну та напівпровідникову промисловість.

Інтеграція штучного інтелекту в дослідження та поширення знань – це незворотна тенденція. Однак експерти стверджують, що технології не можуть замінити роль людини в розумінні та перевірці наукового контенту. Під час використання чат-ботів у сферах високого ризику, таких як охорона здоров'я, пріоритетом має бути точність, а не зосередження виключно на плавному мовному досвіді чи швидкості реагування.

Джерело: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html