ChatGPT a DeepSeek zkreslují vědecká data.

U modelů umělé inteligence, jako jsou ChatGPT a DeepSeek, se ukázalo, že dokáží zkreslit vědecký obsah při jeho shrnutí, zejména v lékařské oblasti.

Báo Khoa học và Đời sống•08/07/2025

Skupina německých výzkumníků nedávno vydala varování před potenciálním zkreslením při používání chatbotů s umělou inteligencí ke zkracování výzkumného obsahu. Po analýze 4 900 vědeckých abstraktů napsaných lidmi skupina použila různé modely umělé inteligence k porovnání toho, jak tyto systémy zpracovávaly informace. Výsledky ukázaly, že většina chatbotů se dopustila chyby, že přehnaně zobecňovala, a to i když byla vyzvána k přesnému shrnutí.

Umělá inteligence může snadno zkreslit obsah při shrnutí vědeckého výzkumu.

V experimentech modely umělé inteligence udělaly pětkrát více chyb než lidští výzkumníci, pokud nebyly řízeny. I s jasnými požadavky na přesnost byla míra chyb stále dvakrát vyšší než u standardního shrnutí. Jeden člen výzkumného týmu poznamenal: „Generalizace se může občas zdát neškodná, ale ve skutečnosti mění povahu původního výzkumu. Je to systémové zkreslení.“

Je pozoruhodné, že novější verze chatbotů problém nejenže neřeší, ale ve skutečnosti ho zhoršují. Díky svému plynulému a poutavému podání snadno vytvářejí shrnutí generovaná umělou inteligencí dojem důvěryhodnosti, zatímco skutečný obsah je zkreslený. V jednom případě DeepSeek změnil frázi „bezpečná a úspěšně implementovatelná“ na „bezpečná a účinná léčba“ – což se odchylovalo od původních závěrů studie.

Mohlo by vás zajímat

Viettel zpřístupňuje reálná data konkurenčním týmům vyvíjejícím řešení s umělou inteligencí.Vietnamská vojenská telekomunikační skupina (Viettel) zahájila 2. července soutěž Viettel AI Race 2026. Vrcholem letošní soutěže je, že vynikající týmy budou mít přístup k reálným datům, budou moci přímo spolupracovat s odborníky a řešit problémy, kterým čelí výroba a obchodní operace společnosti Viettel.

Viettel otevírá data z reálného světa a spouští celostátní závod v oblasti umělé inteligence.Společnost Viettel na závodě Viettel AI Race 2026 poprvé otevírá svá data a obchodní problémy technologické komunitě s cílem vyvinout praktická řešení v oblasti umělé inteligence.

NASA úspěšně otestovala satelit s umělou inteligencí, který nemusí posílat snímky zpět na Zemi.Vědci poprvé úspěšně otestovali satelit schopný samostatně identifikovat a popsat svá pozorování z oběžné dráhy, aniž by musel posílat všechny snímky zpět na Zemi.

V jiném příkladu model Llama aplikoval doporučení pro léčbu cukrovky na mladé subjekty bez specifikace dávkování, frekvence nebo vedlejších účinků. Pokud si čtenář, lékař nebo zdravotnický pracovník, neověří výsledky oproti původní studii, mohly by tyto typy shrnutí představovat pro pacienty přímé nebezpečí.

Odborníci se domnívají, že tento jev pramení ze způsobu, jakým jsou modely umělé inteligence trénovány. Mnoho současných chatbotů je trénováno pomocí sekundárních dat – například masově produkovaných vědeckých zpráv – která již byla zjednodušena. S tím, jak umělá inteligence tento zjednodušený obsah dále shrnuje, se zvyšuje riziko zkreslení.

Odborníci na umělou inteligenci v oblasti duševního zdraví tvrdí, že je třeba brzy vytvořit technické bariéry bránící vývoji a používání umělé inteligence.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Uživatelé by měli být opatrní, protože chatboti mohou snadno zkreslovat obsah.

Vzhledem k tomu, že se uživatelé stále více spoléhají na chatboty s umělou inteligencí pro získávání vědeckých informací, mohou se malé nepřesnosti v interpretaci rychle hromadit a šířit, což vede k rozsáhlým mylným představám. V době, kdy důvěra ve vědu klesá, je toto riziko obzvláště znepokojivé a vyžaduje si náležitou pozornost.

Spojené státy - Vietnam: Nepropásněte

Ministerstvo zahraničních věcí obdrželo kopii pověřovací listiny pro velvyslance USA ve Vietnamu.Odpoledne 2. července převzal v sídle Ministerstva zahraničních věcí pan Le Cong Dung, ředitel Oddělení státního protokolu a zahraničního tlumočení, kopii pověřovací listiny od paní Jennifer Wicksové, velvyslankyně Spojených států amerických ve Vietnamu.

Velvyslanec Nguyen Quoc Dung navštěvuje a pracuje v Minnesotě v USA.Ve dnech 28. až 30. června navštívil a pracoval v Minnesotě vietnamský velvyslanec ve Spojených státech Nguyen Quoc Dung.

Vietnam povzbuzuje americké firmy k rozšíření investic do vyspělých technologií.Ráno 26. června v sídle vlády přijal místopředseda vlády Ho Quoc Dung pana Jeffa Place, ředitele dodavatelského řetězce společnosti Coherent Group (USA). Během setkání místopředseda vlády potvrdil, že Vietnam povzbuzuje americké podniky k rozšíření investic, zejména v oblasti high-tech, inovací a polovodičového průmyslu.

Integrace umělé inteligence do výzkumu a šíření znalostí je nezvratný trend. Odborníci však tvrdí, že technologie nemůže nahradit roli lidí v porozumění a ověřování vědeckého obsahu. Při používání chatbotů ve vysoce rizikových oblastech, jako je zdravotnictví, je třeba upřednostnit přesnost, spíše než se zaměřovat pouze na plynulý jazykový zážitek nebo rychlost odezvy.

Zdroj: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html