Google prøver å rette opp feilen sin.

Googles AI-oversikt har en nøyaktighet på 90 %, men det betyr fortsatt at den tar feil millioner av ganger. Foto: Mashable .

Google har nettopp lansert en ny oppdatering til sin AI-drevne søkemotor, som gjør det enklere for brukere å finne informasjon fra kilder de kjenner og stoler på. En bemerkelsesverdig endring er «perspektivforhåndsvisningen» som henter inspirasjon fra diskusjoner fra den virkelige verden på sosiale medier, Reddit og andre nettfora.

AI-oversiktsfunksjonen avdekket tidligere flere svakheter, spesielt når det gjelder informasjonskvalitet og nøyaktighet. En undersøkelse publisert i april av NYT viste at søkeverktøyet bare ga nøyaktige resultater i omtrent 90 % av tilfellene.

I mellomtiden mottok plattformen hundrevis av millioner spørsmål på kort tid. Ifølge Ars Technica betyr dette at Google genererer millioner av feil svar hver time.

Videre viser flere tilfeller det alvorlige omfanget av informasjonsfabrikasjon fra AI-søk. Den kanadiske sangeren Ashley MacIsaac saksøkte Google forrige uke for å ha blitt anklaget for seksuell trakassering. The Guardian rapporterte også at verktøyet gir mye farlig informasjon om helse, spesielt psykisk helse og spiseforstyrrelser.

Google sier at denne oppdateringen har som mål å ta tak i det faktum at brukere «i økende grad søker råd fra andre» når de søker etter informasjon på nettet. Vanligvis har virkelige erfaringer mer troverdighet enn SEO-optimaliserte nettresultater.

AI Overview bruker svar fra fellesskapet. Foto: Google.

Ved å integrere disse funksjonene prøver Google å oppmuntre flere brukere til å prøve dem ut i stedet for å søke gjennom tradisjonelle nettresultater. Selskapet sier at det også vil legge til kontekst til disse nye AI-responsive lenkene, for eksempel navnet på innholdsskaperen, kontoen eller fellesskapet.

Disse direkte opplevelsene vil bli filtrert av AI og vises med titler som «Ekspertråd» og andre etiketter i søkeresultatene. Dette gir brukerne tilgang til spesialiserte forum eller spesifikke Reddit-seksjoner de ønsker å utforske videre.

Denne oppdateringen vil imidlertid forverre fenomenet med «svarbobler» noe. En studie ved University of Illinois fant at når AI syntetiserer informasjon og produserer et enkelt resultat, kan det hende at den ikke siterer kildene riktig, men likevel bruker en selvsikker tone.

Derfor vil AI få internett til å høres mer pålitelig ut enn virkeligheten. Brukere som ikke gjør grundig research eller kritisk vurderer informasjon, har større sannsynlighet for å akseptere falsk informasjon.

På den annen side endres informasjonens natur subtilt. Brukere mottar meninger som er generelt aksepterte, men ikke nødvendigvis helt nøyaktige. Google har heller ikke opplyst hvordan de verifiserer ekspertråd eller hvilke kriterier de bruker for å filtrere kommentarer.

I 2024 førte Googles avhengighet av Reddit til en rekke meningsløse reaksjoner, som ideen om at man kan spise steiner eller lage pizza av lim. Data fra SERanking det året viste at selskapet måtte redusere sin avhengighet av Reddit fordi AI-en deres fortsatt ikke kunne skille mellom faktainformasjon og vitser eller sarkasme.

Ifølge The Verge kompliserer dette Googles grep rollen til AI Overview ytterligere. Verktøyets formål ligger nå et sted mellom å svare direkte på spørsmål eller å gi brukerne en rekke informasjonskilder. Dette er ikke annerledes enn noen annen konvensjonell søkeplattform.

Plattformen vil imidlertid også legge til kontekst i svarene sine, inkludert lenker og informasjon om forfatteren. Brukere må nøye sjekke og verifisere informasjonen før de bruker den.