Een groep onderzoekers in Duitsland heeft onlangs gewaarschuwd voor mogelijke vertekening bij het gebruik van AI-chatbots om onderzoeksresultaten in te korten. Na analyse van 4900 door mensen geschreven wetenschappelijke samenvattingen, gebruikte de groep verschillende AI-modellen om te vergelijken hoe deze systemen informatie verwerkten. De resultaten toonden aan dat de meeste chatbots de fout maakten van overgeneralisatie, zelfs wanneer ze werden gevraagd om nauwkeurig samen te vatten.
ChatGPT en DeepSeek vertekenen wetenschappelijke gegevens.
Het is gebleken dat AI-modellen zoals ChatGPT en DeepSeek wetenschappelijke inhoud kunnen verdraaien bij het samenvatten ervan, met name op medisch gebied.
Báo Khoa học và Đời sống•08/07/2025
Bij het samenvatten van wetenschappelijk onderzoek kan AI de inhoud gemakkelijk verdraaien.
In de experimenten maakten AI-modellen vijf keer zoveel fouten als menselijke onderzoekers wanneer ze geen begeleiding kregen. Zelfs met duidelijke eisen aan nauwkeurigheid was het foutenpercentage nog steeds twee keer zo hoog als bij een standaard samenvatting. Een lid van het onderzoeksteam merkte op: "Generalisatie lijkt soms onschadelijk, maar het verandert in feite de aard van het oorspronkelijke onderzoek. Het is een systematische vertekening."
Opvallend is dat nieuwere versies van chatbots het probleem niet alleen niet aanpakken, maar het zelfs verergeren. Door hun vlotte en aantrekkelijke presentatie wekken door AI gegenereerde samenvattingen gemakkelijk de indruk van betrouwbaarheid, terwijl de werkelijke inhoud wordt verdraaid. In één geval veranderde DeepSeek de zin 'veilig en succesvol implementeerbaar' in 'veilige en effectieve behandeling' – een interpretatie die afweek van de oorspronkelijke conclusies van het onderzoek.
Dit vind je misschien ook leuk
Laat vol zelfvertrouwen je unieke persoonlijkheid zien.In Ho Chi Minh-stad heeft OPPO de Reno16-serie 5G gelanceerd, die drie versies omvat: de Reno16 Pro 5G, de Reno16 5G en de Reno16 F 5G.
Zuid-Korea zet zijn positie als grootmacht in de halfgeleiderindustrie in op zijn tieners.Zuid-Korea heeft een gedurfde strategie gekozen om zijn positie als toonaangevende halfgeleiderfabrikant te behouden door een beleid te starten waarbij hooggekwalificeerd technisch personeel al op jonge leeftijd wordt opgeleid.
Nieuwe hoop voor de behandeling van Parkinson met behulp van genetisch gemodificeerde stamceltherapie.Nieuw onderzoek naar genetisch gemodificeerde stamcellen zou de behandeling van de ziekte van Parkinson kunnen verbeteren, de afhankelijkheid van medicijnen kunnen verminderen en neurologisch herstel kunnen bevorderen.
In een ander voorbeeld paste het Llama-model aanbevelingen voor diabetesmedicatie toe op jonge proefpersonen zonder de dosering, frequentie of bijwerkingen te specificeren. Als de lezer, een arts of zorgverlener , de informatie niet controleert aan de hand van het oorspronkelijke onderzoek, kunnen dit soort samenvattingen een direct gevaar voor patiënten opleveren.
Experts denken dat dit fenomeen voortkomt uit de manier waarop AI-modellen worden getraind. Veel huidige chatbots worden getraind met behulp van secundaire data – zoals massaal geproduceerd wetenschappelijk nieuws – die al vereenvoudigd is. Naarmate de AI deze vereenvoudigde inhoud verder samenvat, neemt het risico op vertekening toe.
AI-experts op het gebied van geestelijke gezondheid stellen dat er snel technische belemmeringen moeten worden weggenomen voor de ontwikkeling en het gebruik van AI.
Gebruikers moeten op hun hoede zijn, want chatbots kunnen de inhoud gemakkelijk verdraaien.
Naarmate gebruikers steeds meer vertrouwen op AI-chatbots om wetenschappelijke informatie te leren, kunnen kleine onnauwkeurigheden in de interpretatie zich snel ophopen en verspreiden, wat leidt tot wijdverspreide misvattingen. In een tijd waarin het vertrouwen in de wetenschap afneemt, is dit risico bijzonder zorgwekkend en verdient het de nodige aandacht.
Het versterken van de vriendschap tussen Vietnam en de Verenigde Staten.Op 3 juli bracht de delegatie van het Amerikaanse leger in de Stille Oceaan, onder leiding van luitenant-generaal Joel Vowell, plaatsvervangend commandant van het Amerikaanse leger in de Stille Oceaan, in het kader van het Pacific Partnership - Friends of the Pacific 2026-programma een beleefdheidsbezoek aan het militair commando van de provincie Quang Tri.
De delegatie van het Amerikaanse leger in de Stille Oceaan brengt een bezoek aan het militaire commando van de provincie Quang Tri.In 2026 zal het Pacific Partnership-Friends of the Pacific-programma voor het eerst gezamenlijk in Quang Tri worden georganiseerd, waarmee een grootschalig samenwerkingskader met 25 activiteiten wordt gecreëerd.
Het ministerie van Buitenlandse Zaken heeft een kopie ontvangen van de geloofsbrieven van de Amerikaanse ambassadeur in Vietnam.Op de middag van 2 juli ontving de heer Le Cong Dung, directeur van de afdeling Staatsprotocol en Buitenlandse Tolken, op het hoofdkantoor van het Ministerie van Buitenlandse Zaken een exemplaar van de geloofsbrieven van mevrouw Jennifer Wicks, ambassadeur van de Verenigde Staten van Amerika in Vietnam.
De integratie van AI in onderzoek en kennisverspreiding is een onomkeerbare trend. Experts stellen echter dat technologie de rol van mensen bij het begrijpen en verifiëren van wetenschappelijke inhoud niet kan vervangen. Bij het gebruik van chatbots in risicovolle sectoren zoals de gezondheidszorg moet nauwkeurigheid prioriteit krijgen, in plaats van uitsluitend te focussen op een vloeiende taalbeleving of reactiesnelheid.
Bron: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html
