Google schort de AI-beeldcreatiefunctie van Gemini tijdelijk op.

Gemini, de nieuwe naam voor de Bard-chatbot, genereert afbeeldingen op basis van gebruikersbeschrijvingen, vergelijkbaar met OpenAI's ChatGPT. Net als andere modellen is Gemini getraind om niet te reageren op gevaarlijke of haatdragende commando's en integreert het diversiteit in zijn output.

Sommige gebruikers hebben deze diversiteit echter bekritiseerd, omdat die volgens hen te ver gaat en onnauwkeurige beelden van mensen en historische figuren creëert. Zo portretteert Gemini bijvoorbeeld de eerste Amerikaanse president, George Washington, als een persoon van kleur.

Andere voorbeelden zijn een AI-afbeelding van een Zuidoost-Aziatische vrouw gekleed in pauselijke kleding, terwijl in werkelijkheid alle 266 pausen in de geschiedenis blanke mannen waren.

Google schort de AI-beeldcreatiefunctie van Gemini tijdelijk op.

Gemini creëerde zelfs "diverse" afbeeldingen van Duitse soldaten tijdens het nazitijdperk, waaronder een Aziatische vrouw en een zwarte man in militair uniform in 1943.

Omdat Google de parameters die het gedrag van de Gemini-chatbot bepalen niet openbaar heeft gemaakt, is het lastig om een ​​duidelijke verklaring te krijgen waarom deze software zoveel uiteenlopende versies van historische figuren en gebeurtenissen verzint.

Het probleem van Gemini deed zich voor enkele dagen nadat OpenAI, het bedrijf achter het populaire ChatGPT, een nieuwe AI-tool genaamd Sora introduceerde, waarmee video's kunnen worden gemaakt op basis van tekstuele beschrijvingen van gebruikers.

Google heeft eerder al erkend dat het onvoorspelbare gedrag van de chatbot moet worden aangepakt. Gemini heeft mogelijk prioriteit gegeven aan de geforceerde diversiteit in de beeldgeneratie, wat heeft geleid tot historisch onjuiste beschrijvingen.

Google is in februari begonnen met het aanbieden van een functie voor het genereren van afbeeldingen met behulp van zijn Gemini (voorheen Bard) AI-model, met als doel te concurreren met OpenAI en Microsofts Copilot. Net als zijn concurrenten creëert de tool een verzameling afbeeldingen op basis van de beschrijvende tekst van de gebruiker.

Bron: https://khoahocdoisong.vn/google-tam-dung-tinh-nang-tao-hinh-anh-ai-cua-gemini-post231681.html