AI kämpar fortfarande för att ersätta människor i att verifiera information.

VTV.vn - AI kan hjälpa till med informationsinhämtning, men den är fortfarande ofta felaktig och kan ännu inte ersätta människor i faktakontroll.

(Illustrativ bild)

AI används av många människor för informationsinhämtning och idégenerering, men inom faktakontroll uppvisar dessa verktyg fortfarande många oroande begränsningar.

Enligt en artikel på WIRED säger nästan hälften av amerikanerna att de använder AI för att hitta information och generera idéer. Detta är förståeligt med tanke på den ökande mängden innehåll av låg kvalitet på sociala medier, samtidigt som sökmotorer också gör det svårt för många att hitta pålitliga källor. Men när det gäller sanningsfrågor är riskerna med felinformation betydligt större.

Artikelförfattaren, en faktagranskare på WIRED, menar att AI ännu inte kan ersätta mänskliga faktagranskningsprocesser. Detta arbete innebär mer än att bara söka på internet; det inkluderar även korsreferenser, prioritering av källor, kontroll av antaganden, identifiering av motstridig information, kontakt av källor och utvärdering av etiska och juridiska frågor.

AI används nu mer i faktakontroll efter att information har publicerats. I Storbritannien har organisationen Full Fact utvecklat AI-verktyg för att bearbeta stora datamängder, från inlägg på sociala medier till poddinspelningar, och därigenom identifiera påståenden som kräver ytterligare mänsklig utredning. Mark Frankel, chef för offentlig policy på Full Fact, betonar dock att denna process fortfarande kräver mänsklig intervention.

Den främsta anledningen är att AI fortfarande ofta ger felaktiga svar. En studie från mars 2025 av Tow Centre for Digital Journalism fann att över 60 % av svaren från AI-integrerade sökmotorer är felaktiga. En BBC-studie föreslog också att felfrekvensen för chatbotar är cirka 45 %.

Anthropics webbplats och logotyp visas på en datorskärm i New York, USA, den 26 februari 2026. (Foto: AP)

Specialiserade tester gav också försiktiga resultat. I RealFactBench, ett faktakontrolltest utvecklat av datavetare i Kina och Storbritannien, uppnådde Claude 73 % noggrannhet för alla indikatorer. Samtidigt visade OpenAI:s SimpleQA att ingen av OpenAI:s eller Anthropics modeller översteg 50 % noggrannhet på över 4 000 frågor med ett enda svar.

Författaren försökte också tillämpa ett verifieringstest på ChatGPT, Claude, Gemini och Grok. Modellerna kunde skissera arbetsplaner, identifiera juridiska risker eller föreslå verifieringsmetoder, men alla lyckades inte verifiera fakta.

Artikeln argumenterar för att mänskliga styrkor ligger i förmågan att bearbeta information som inte är lättillgänglig på internet, känna igen nyanser i kommunikation, bedöma sambanden mellan källor och ställa frågor i känsliga situationer. Därför kan AI vara ett användbart verktyg, men faktakontroll kräver fortfarande mänsklig försiktighet, erfarenhet och ansvar.

Källa: https://vtv.vn/ai-van-kho-thay-con-nguoi-trong-kiem-chung-thong-tin-10026052717475078.htm