ChatGPT en DeepSeek vertekenen wetenschappelijke gegevens.

Het is gebleken dat AI-modellen zoals ChatGPT en DeepSeek wetenschappelijke inhoud kunnen verdraaien bij het samenvatten ervan, met name op medisch gebied.

Báo Khoa học và Đời sống•08/07/2025

Een groep onderzoekers in Duitsland heeft onlangs gewaarschuwd voor mogelijke vertekening bij het gebruik van AI-chatbots om onderzoeksresultaten in te korten. Na analyse van 4900 door mensen geschreven wetenschappelijke samenvattingen, gebruikte de groep verschillende AI-modellen om te vergelijken hoe deze systemen informatie verwerkten. De resultaten toonden aan dat de meeste chatbots de fout maakten van overgeneralisatie, zelfs wanneer ze werden gevraagd om nauwkeurig samen te vatten.

Bij het samenvatten van wetenschappelijk onderzoek kan AI de inhoud gemakkelijk verdraaien.

In de experimenten maakten AI-modellen vijf keer zoveel fouten als menselijke onderzoekers wanneer ze geen begeleiding kregen. Zelfs met duidelijke eisen aan nauwkeurigheid was het foutenpercentage nog steeds twee keer zo hoog als bij een standaard samenvatting. Een lid van het onderzoeksteam merkte op: "Generalisatie lijkt soms onschadelijk, maar het verandert in feite de aard van het oorspronkelijke onderzoek. Het is een systematische vertekening."

Opvallend is dat nieuwere versies van chatbots het probleem niet alleen niet aanpakken, maar het zelfs verergeren. Door hun vlotte en aantrekkelijke presentatie wekken door AI gegenereerde samenvattingen gemakkelijk de indruk van betrouwbaarheid, terwijl de werkelijke inhoud wordt verdraaid. In één geval veranderde DeepSeek de zin 'veilig en succesvol implementeerbaar' in 'veilige en effectieve behandeling' – een interpretatie die afweek van de oorspronkelijke conclusies van het onderzoek.

Dit vind je misschien ook leuk

Het publiceren van een lijst met risicovolle producten en goederen in de wetenschaps- en technologiesector.De lijst met risicovolle producten en goederen die onder de beheerverantwoordelijkheid van het Ministerie van Wetenschap en Technologie vallen, is vastgelegd in Circulaire 36/2026/TT-BKHCN.

De wetenschap waarschuwt: een uur achter elkaar zitten vergroot het risico om te overlijden aan kanker.(Dan Tri Newspaper) - Langdurig zitten vergroot het risico op het ontwikkelen van kanker en overlijden daaraan. Regelmatig opstaan en lichte lichaamsbeweging daarentegen kan de kans op het ontwikkelen van gevaarlijke ziekten aanzienlijk verkleinen.

Sony stopt vanaf 2028 met het uitbrengen van PlayStation-games op schijf.Sony stopt vanaf januari 2028 met de productie van nieuwe PlayStation-spelschijven, wat een belangrijke verschuiving naar digitale distributie betekent.

In een ander voorbeeld paste het Llama-model aanbevelingen voor diabetesmedicatie toe op jonge proefpersonen zonder de dosering, frequentie of bijwerkingen te specificeren. Als de lezer, een arts of zorgverlener , de informatie niet controleert aan de hand van het oorspronkelijke onderzoek, kunnen dit soort samenvattingen een direct gevaar voor patiënten opleveren.

Experts denken dat dit fenomeen voortkomt uit de manier waarop AI-modellen worden getraind. Veel huidige chatbots worden getraind met behulp van secundaire data – zoals massaal geproduceerd wetenschappelijk nieuws – die al vereenvoudigd is. Naarmate de AI deze vereenvoudigde inhoud verder samenvat, neemt het risico op vertekening toe.

AI-experts op het gebied van geestelijke gezondheid stellen dat er snel technische belemmeringen moeten worden weggenomen voor de ontwikkeling en het gebruik van AI.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Gebruikers moeten op hun hoede zijn, want chatbots kunnen de inhoud gemakkelijk verdraaien.

Naarmate gebruikers steeds meer vertrouwen op AI-chatbots om wetenschappelijke informatie te leren, kunnen kleine onnauwkeurigheden in de interpretatie zich snel ophopen en verspreiden, wat leidt tot wijdverspreide misvattingen. In een tijd waarin het vertrouwen in de wetenschap afneemt, is dit risico bijzonder zorgwekkend en verdient het de nodige aandacht.

Verenigde Staten - Vietnam: Mis het niet

Het versterken van de vriendschap tussen Vietnam en de Verenigde Staten.Op 3 juli bracht de delegatie van het Amerikaanse leger in de Stille Oceaan, onder leiding van luitenant-generaal Joel Vowell, plaatsvervangend commandant van het Amerikaanse leger in de Stille Oceaan, in het kader van het Pacific Partnership - Friends of the Pacific 2026-programma een beleefdheidsbezoek aan het militair commando van de provincie Quang Tri.

De delegatie van het Amerikaanse leger in de Stille Oceaan brengt een bezoek aan het militaire commando van de provincie Quang Tri.In 2026 zal het Pacific Partnership-Friends of the Pacific-programma voor het eerst gezamenlijk in Quang Tri worden georganiseerd, waarmee een grootschalig samenwerkingskader met 25 activiteiten wordt gecreëerd.

Het ministerie van Buitenlandse Zaken heeft een kopie ontvangen van de geloofsbrieven van de Amerikaanse ambassadeur in Vietnam.Op de middag van 2 juli ontving de heer Le Cong Dung, directeur van de afdeling Staatsprotocol en Buitenlandse Tolken, op het hoofdkantoor van het Ministerie van Buitenlandse Zaken een exemplaar van de geloofsbrieven van mevrouw Jennifer Wicks, ambassadeur van de Verenigde Staten van Amerika in Vietnam.

De integratie van AI in onderzoek en kennisverspreiding is een onomkeerbare trend. Experts stellen echter dat technologie de rol van mensen bij het begrijpen en verifiëren van wetenschappelijke inhoud niet kan vervangen. Bij het gebruik van chatbots in risicovolle sectoren zoals de gezondheidszorg moet nauwkeurigheid prioriteit krijgen, in plaats van uitsluitend te focussen op een vloeiende taalbeleving of reactiesnelheid.

Bron: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html