In de meest recente ontwikkelingen heeft Google-CEO Sundar Pichai zich officieel uitgesproken over de controverse rondom het kunstmatige intelligentiemodel (AI) van het bedrijf, genaamd Gemini. Google ontwikkelde de Gemini AI-tool om diverse afbeeldingen van historische figuren te genereren. De tool kreeg echter recentelijk veel kritiek omdat de gegenereerde afbeeldingen misleidend zouden zijn wat betreft hun historische waarde.
Google erkent vooringenomenheid in Gemini en belooft snel actie te ondernemen. (Foto: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
Zo werden bijvoorbeeld pausen, de grondleggers van de Verenigde Staten en zelfs Vikingen afgebeeld met verschillende etniciteiten en genders. Opvallend was ook dat Duitse soldaten uit de Tweede Wereldoorlog werden afgebeeld als mensen van kleur. Dit leidde tot grote verontwaardiging onder gebruikers, die snel hun bezorgdheid uitten. Als gevolg hiervan heeft Google de Gemini AI-tool tijdelijk buiten gebruik gesteld.
Bovendien zorgde één specifiek schriftelijk antwoord voor gefronste wenkbrauwen. De Gemini AI-chatbot werd gevraagd de maatschappelijke impact van Elon Musk en Hitler te vergelijken. Het antwoord luidde: "Het is aan ieder individu om te bepalen wie een negatievere impact op de samenleving heeft." Dit ontwijkende antwoord leidde al snel tot kritiek.
Onlangs omschreef Google-CEO Sundar Pichai in een memo enkele reacties van Gemini als "bevooroordeeld" en "volstrekt onacceptabel", en gaf hij toe dat de geproduceerde inhoud mensen had beledigd.
Bovendien betuigde Pichai in zijn e-mail spijt over de situatie. Hij verklaarde: "Ik weet dat sommige reacties onze gebruikers hebben beledigd en vooringenomenheid vertoonden. Om duidelijk te zijn, dat was volstrekt onacceptabel en we hebben een fout gemaakt."
Hij verzekerde het personeel dat teams onvermoeibaar werkten aan het oplossen van deze problemen, maar benadrukte tegelijkertijd de noodzaak van aanzienlijke verbetering in de reacties op diverse vragen in de komende weken.
De CEO schetste ook een reeks maatregelen om dit probleem aan te pakken. Een aantal daarvan betreft wijzigingen in de structuur van de tool. Daarnaast zet Google zich in voor het verbeteren van het lanceringsproces van de tool en het versterken van het testteam om mogelijke fouten in de AI-tool op te sporen.
Daarnaast benadrukte Pichai de toewijding van het bedrijf om gebruikers te voorzien van nuttige, accurate en onpartijdige informatie. Hij onderstreepte de noodzaak van deze aanpak voor alle producten, met name voor opkomende AI-technologieën.
Technologie-experts zijn van mening dat de huidige problemen met Gemini de uitdagingen bij het omgaan met misleidende output verder benadrukken. Het toont ook de complexiteit van het trainen van AI-modellen aan.
Bron
Reactie (0)