I den senaste utvecklingen har Googles VD Sundar Pichai officiellt tagit upp de senaste kontroverserna kring företagets artificiella intelligensmodell (AI) som kallas Gemini. Google utvecklade AI-verktyget Gemini för att generera olika bilder av historiska personer. Företaget har dock nyligen mött stark kritik för att ha skapat bilder som är vilseledande i termer av historiskt värde.
Google erkänner partiskhet i Gemini, lovar att agera snabbt. (Foto: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
Till exempel avbildades bilder av påvar, USA:s grundare och till och med vikingar i olika etniciteter och kön. Det är värt att notera att det fanns fall där tyska soldater under andra världskriget framställdes som icke-vita personer. Detta upprörde användare, som snabbt delade sina farhågor. Som ett resultat av detta pausade Google tillfälligt AI-verktyget Gemini.
Dessutom väckte ett särskilt skriftligt svar uppståndelse. Gemini AI-chatboten ombads att jämföra Elon Musks och Hitlers sociala påverkan. Resultatet löd: ”Att avgöra vem som har en mest negativ inverkan på samhället är upp till varje individ.” Detta oförpliktande svar gav snabbt upphov till kritik.
Nyligen beskrev Googles VD Sundar Pichai några av Geminis svar som "partiska" och "helt oacceptabla" i ett memo, och medgav att innehållet som skapats hade förolämpat människor.
Dessutom uttryckte Pichai i sitt mejl ånger över situationen. Han sa : ”Jag vet att några av svaren förolämpade våra användare och visade partiskhet. För att vara tydlig, det var helt oacceptabelt och vi hade fel.”
Han försäkrade personalen om att teamen arbetade outtröttligt för att åtgärda dessa problem, samtidigt som han betonade behovet av betydande förbättringar i hur man svarar på olika förfrågningar under de kommande veckorna.
VD:n redogjorde också för en rad åtgärder för att åtgärda problemet. Några av dessa inkluderar ändringar i verktygets struktur. Dessutom är Google fast beslutet att förbättra verktygets lanseringsprocess och stärka sitt tekniska testteam för att granska potentiella brister i AI-verktyget.
Dessutom betonade Pichai företagets engagemang för att förse användarna med användbar, korrekt och opartisk information. Han betonade behovet av denna metod för alla produkter, särskilt inom framväxande AI-tekniker.
Teknikexperter anser att de nuvarande problemen med Gemini ytterligare belyser utmaningarna med att hantera vilseledande utdata. Det visar också på komplexiteten i att träna AI-modeller.
[annons_2]
Källa
Kommentar (0)