I den siste utviklingen har Googles administrerende direktør Sundar Pichai offisielt tatt opp de nylige kontroversene rundt selskapets kunstige intelligens (KI)-modell kalt Gemini. Google utviklet KI-verktøyet Gemini for å generere mangfoldige bilder av historiske personer. Imidlertid har selskapet nylig møtt sterk kritikk for å lage bilder som er misvisende med tanke på historisk verdi.
Google innrømmer skjevhet i Gemini, lover å handle raskt. (Foto: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
For eksempel ble bilder av paver, grunnleggerne av USA og til og med vikinger avbildet i ulike etnisiteter og kjønn. Det er verdt å merke seg at det var tilfeller der tyske soldater under andre verdenskrig ble fremstilt som fargede mennesker. Dette opprørte brukerne, som raskt delte bekymringene sine. Som et resultat suspenderte Google midlertidig Gemini AI-verktøyet.
Videre vakte ett bestemt skriftlig svar oppsikt. Gemini AI-chatboten ble bedt om å sammenligne den sosiale innvirkningen Elon Musk og Hitler hadde. Resultatet var: «Det er opp til hver enkelt å avgjøre hvem som har mest negativ innvirkning på samfunnet.» Dette uforpliktende svaret førte raskt til kritikk.
Nylig beskrev Googles administrerende direktør Sundar Pichai noen av Gemini sine svar som «partiske» og «fullstendig uakseptable» i et notat, og innrømmet at innholdet som ble laget hadde fornærmet folk.
I e-posten sin uttrykte Pichai dessuten beklagelse over situasjonen. Han sa: «Jeg vet at noen av svarene deres fornærmet brukerne våre og viste partiskhet. For å være tydelig, det var fullstendig uakseptabelt, og vi tok feil.»
Han forsikret de ansatte om at teamene jobbet utrettelig for å løse disse problemene, samtidig som han understreket behovet for betydelig forbedring i responsen på ulike forespørsler i de kommende ukene.
Administrerende direktør skisserte også en rekke tiltak for å løse dette problemet. Noen av disse inkluderer endringer i verktøyets struktur. Videre er Google forpliktet til å forbedre verktøyets lanseringsprosess og styrke sitt tekniske testteam for å gjennomgå potensielle feil i AI-verktøyet.
Videre understreket Pichai selskapets forpliktelse til å gi brukerne nyttig, nøyaktig og upartisk informasjon. Han understreket behovet for denne tilnærmingen på tvers av alle produkter, spesielt innen nye AI-teknologier.
Teknologieksperter mener at de nåværende problemene med Gemini ytterligere fremhever utfordringene med å håndtere villedende utdata. Det demonstrerer også kompleksiteten ved å trene AI-modeller.
[annonse_2]
Kilde
Kommentar (0)