En gruppe forskere i Tyskland kom nylig med en advarsel om potensialet for skjevhet ved bruk av AI-chatboter for å forkorte forskningsinnhold. Etter å ha analysert 4900 menneskeskrevne vitenskapelige sammendrag, brukte gruppen ulike AI-modeller for å sammenligne hvordan disse systemene behandlet informasjon. Resultatene viste at de fleste chatboter gjorde feilen å overgeneralisere, selv når de ble bedt om å oppsummere nøyaktig.
ChatGPT og DeepSeek forvrenger vitenskapelige data.
AI-modeller som ChatGPT og DeepSeek har vist seg å kunne forvrenge vitenskapelig innhold når det oppsummeres, spesielt innen det medisinske feltet.
Báo Khoa học và Đời sống•08/07/2025
AI kan lett forvrenge innholdet når man oppsummerer vitenskapelig forskning.
I eksperimentene gjorde AI-modeller fem ganger flere feil enn menneskelige forskere når de ikke ble veiledet. Selv med klare krav til nøyaktighet var feilraten fortsatt dobbelt så høy som med et standard sammendrag. Et medlem av forskerteamet kommenterte: «Generalisering kan virke harmløs til tider, men det endrer faktisk den opprinnelige forskningens natur. Det er en systemisk skjevhet.»
Det er verdt å merke seg at nyere versjoner av chatboter ikke bare ikke klarer å løse problemet, men faktisk forverrer det. Med sin smidige og engasjerende levering gir AI-genererte sammendrag lett inntrykk av pålitelighet, mens det faktiske innholdet er forvrengt. I ett tilfelle endret DeepSeek uttrykket «trygt og vellykket implementerbart» til «trygt og effektiv behandling» – en tolkning som avvek fra studiens opprinnelige konklusjoner.
Du liker kanskje også
Fullfør det støttende økosystemet og styrk koblingene.For tiden er de fleste bedriftene innen vitenskaps- og teknologisektoren fortsatt små i skala, har begrensede ressurser og står overfor mange vanskeligheter innen forskning og innovasjon.
Tre digitale løsninger utviklet av unge mennesker ble hedret på Grab the Future Hackathon 2026.Av nesten 600 bidrag landsdekkende, har de tre beste teknologiløsningene som tar for seg avfallshåndtering i byer og mobilitetsbarrierer for funksjonshemmede blitt offisielt avduket i finalen i Grab the Future Hackathon 2026.
For 70 millioner år siden kan dinosaurene ha vært avhengige av solen for å ruge ut eggene sine.Studier av dinosaurer som går 70 millioner år tilbake i tid, avslører at virusgruppen kan ha ruget eggene sine kun ved hjelp av kroppsvarme og sollys. Dinosaurene og miljøet deres samarbeidet under rugeprosessen, noe som skapte fascinerende mysterier om hvordan de tok vare på ungene sine.
I et annet eksempel anvendte Llama-modellen anbefalinger for diabetesmedisiner til unge personer uten å spesifisere dosering, hyppighet eller bivirkninger. Hvis leseren, en lege eller helsepersonell , ikke verifiserer mot den opprinnelige studien, kan denne typen sammendrag utgjøre en direkte fare for pasientene.
Eksperter mener dette fenomenet stammer fra måten AI-modeller trenes på. Mange nåværende chatboter trenes ved hjelp av sekundærdata – som masseproduserte vitenskapelige nyheter – som allerede er forenklet. Etter hvert som AI-en fortsetter å oppsummere dette forenklede innholdet, øker risikoen for forvrengning.
KI-eksperter innen psykisk helse hevder at tekniske barrierer for utvikling og bruk av KI må etableres snart.
Brukere bør være forsiktige, da chatboter lett kan forvrenge innhold.
Ettersom brukere i økende grad er avhengige av AI-chatboter for å lære vitenskapelig informasjon, kan små unøyaktigheter i tolkningen raskt hope seg opp og spre seg, noe som fører til utbredte misoppfatninger. I en tid der tilliten til vitenskapen synker, er denne risikoen spesielt bekymringsfull og krever behørig oppmerksomhet.
Utenriksdepartementet mottok en kopi av akkrediteringsbrevet for den amerikanske ambassadøren i Vietnam.Om ettermiddagen den 2. juli mottok Le Cong Dung, direktør for avdelingen for statsprotokoll og utenrikstolking, en kopi av akkrediteringsbrevet fra Jennifer Wicks, USAs ambassadør i Vietnam, på Utenriksdepartementets hovedkvarter.
Ambassadør Nguyen Quoc Dung besøker og arbeider i Minnesota, USA.Fra 28. til 30. juni besøkte og arbeidet den vietnamesiske ambassadøren til USA, Nguyen Quoc Dung, Minnesota.
Vietnam oppfordrer amerikanske bedrifter til å utvide investeringene i høyteknologi.Om morgenen 26. juni mottok visestatsminister Ho Quoc Dung Jeff Place, direktør for forsyningskjeden i Coherent Group (USA), i regjeringens hovedkvarter. Under møtet bekreftet visestatsministeren at Vietnam oppfordrer amerikanske bedrifter til å utvide investeringene, spesielt innen høyteknologi, innovasjon og halvlederindustrien.
Integrering av kunstig intelligens i forskning og kunnskapsformidling er en irreversibel trend. Eksperter hevder imidlertid at teknologi ikke kan erstatte menneskers rolle i å forstå og verifisere vitenskapelig innhold. Når man bruker chatboter i høyrisikofelt som helsevesen, må nøyaktighet prioriteres, snarere enn å fokusere utelukkende på smidig språkopplevelse eller responshastighet.
Kilde: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html
Klasserom på West Island (Spratlyøyene)
Det vakre ved å tjene til livets opphold på lagunene i den gamle hovedstaden Hue.
