Mer og mer feilinformasjon, bør vi søke og spørre AI?

AI - Ảnh 1. — Er informasjon fra AI alltid korrekt?

I en verden der informasjon er blandet, er det et sjansespill å utelukkende stole på AI for å fortelle sannheten.

AI skiller ikke mellom rett og galt, den reflekterer bare data.

Ifølge Tuoi Tre Online trenes kunstig intelligens fra en enorm mengde data samlet inn fra internett, hvor det finnes både ortodoks kunnskap og konspirasjonsteorier. KI skiller ikke mellom sannhet og løgn, den registrerer bare språkmønstre og svarer basert på hva den lærer. Hvis treningsinformasjonen inneholder feil eller skjevheter, vil KI også gjenspeile det i svaret.

I tillegg til de opprinnelige dataene, påvirker det brukeren oppgir i spørsmålet også direkte nøyaktigheten. Et feil, men godt presentert spørsmål vil være enklere å få AI-en til å «tro at det er sant» og generere falske svar deretter.

Spesielt hvis en bruker ber om tilbakemelding som bekrefter noe som ikke er sant, kan AI-en «overholde» den fordi målet er å generere en semantisk respons, ikke å bekrefte sannheten.

Dette er også grunnen til at AI kan «snakke flytende, men ta åpenbart feil». Den dømmer ikke rett fra galt slik som mennesker, men forutsier bare det mest sannsynlige neste ordet. Dette fører til et fenomen forskere kaller hallusinasjon, når AI skaper falsk informasjon som høres plausibel ut. Et navn, en hendelse, til og med en vitenskapelig studie kan «finnes på» hvis AI-en ikke finner de riktige dataene.

Når har AI «rett» i et hav av feilinformasjon?

Selv om den ikke er i stand til å selvgjenkjenne sannhet, kan AI fortsatt generere nøyaktige svar under visse forhold.

Når spørsmålet ber om å motbevise eller bekrefte en falsk informasjon, vil modellen ha en tendens til å finne absurditeten og motbevise den.

Hvis en bruker for eksempel argumenterer med «Jorden er flat, så det kan ikke være satellitter i bane rundt den» og ber om analyse, vil AI-en motsi det basert på vitenskapen om tyngdekraft og baner.

AIs evne til å «gjøre det riktig» øker også hvis den integreres med verifiseringsverktøy, som sanntidstilgang til nye data, søking gjennom pålitelige kilder eller bruk av API-er fra autoritative kunnskapsdatabaser. Da kan AI ikke bare stole på forhåndstrent kunnskap, men også oppdatere og sammenligne den med virkeligheten.

Forutsetningen er imidlertid fortsatt måten brukeren presenterer problemet på . Hvis emnet er feil fra starten av og AI-en blir bedt om å skrive på en bekreftende måte, vil modellen ha en tendens til å følge med, spesielt hvis den ikke blir bedt om å argumentere. I så fall kan AI-en komme opp med helt feil innhold, men språket er fortsatt flytende og lett å overbevise leseren om.

Jo smartere AI blir, desto mer årvåkne må brukerne være

Kunstig intelligens erstatter ikke mennesker når det gjelder å bekrefte sannheten. Selv om den kan generere overbevisende og fornuftig innhold, har ikke AI samvittigheten og etikken til å skille mellom rett og galt.

Brukere bør se på AI som et betinget hjelpemiddel, ikke en kilde til absolutt sannhet. Jo mer nøyaktig kunnskapen som gis, desto mer pålitelig er AI-ens respons.

Tilbake til emnet

TUAN VI

Kilde: https://tuoitre.vn/ngay-cang-nhieu-thong-tin-sai-co-nen-tim-kiem-hoi-ai-20250626101350386.htm