V nejnovějším vývoji se generální ředitel společnosti Google Sundar Pichai oficiálně vyjádřil k nedávným kontroverzím kolem modelu umělé inteligence (AI) společnosti s názvem Gemini. Google vyvinul nástroj Gemini s umělou inteligencí pro generování rozmanitých obrázků historických postav. Nedávno však čelil silné kritice za vytváření obrázků, které jsou zavádějící z hlediska historické hodnoty.
Google přiznává zaujatost v Gemini a slibuje rychlé jednání. (Foto: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
Například obrazy papežů, otců zakladatelů Spojených států a dokonce i Vikingů byly zobrazovány v různých etnických skupinách a pohlavích. Za zmínku stojí i případy, kdy byli němečtí vojáci z druhé světové války zobrazováni jako lidé jiné barvy pleti. To pobouřilo uživatele, kteří se rychle podělili o své obavy. V důsledku toho Google dočasně pozastavil nástroj Gemini s umělou inteligencí.
Jedna konkrétní písemná odpověď navíc vyvolala pochybnosti. Chatbot Gemini s umělou inteligencí byl požádán, aby porovnal společenský dopad Elona Muska a Hitlera. Výsledek zněl: „Rozhodnutí o tom, kdo má na společnost negativnější dopad, je na každém jednotlivci.“ Tato nezávazná odpověď rychle vyvolala kritiku.
Generální ředitel společnosti Google Sundar Pichai nedávno v memorandu označil některé z reakcí Gemini za „zaujaté“ a „zcela nepřijatelné“ a připustil, že vytvořený obsah lidi urazil.
Pichai dále ve svém e-mailu vyjádřil lítost nad situací. Uvedl: „Vím, že některé z jeho reakcí urazily naše uživatele a projevily zaujatost. Aby bylo jasno, to bylo naprosto nepřijatelné a mýlili jsme se.“
Ujistil zaměstnance, že týmy neúnavně pracují na řešení těchto problémů, a zároveň zdůraznil potřebu výrazného zlepšení v odpovídání na různé dotazy v nadcházejících týdnech.
Generální ředitel také nastínil řadu opatření k řešení tohoto problému. Mezi ně patří změny ve struktuře nástroje. Google se dále zavázal ke zlepšení procesu spouštění nástroje a posílení svého týmu pro testování inženýrů, aby mohl prověřovat potenciální nedostatky v nástroji umělé inteligence.
Pichai dále zdůraznil závazek společnosti poskytovat uživatelům užitečné, přesné a nezaujaté informace. Zdůraznil potřebu tohoto přístupu u všech produktů, zejména u nově vznikajících technologií umělé inteligence.
Technologičtí experti se domnívají, že současné problémy s Gemini dále zdůrazňují výzvy spojené s řešením zavádějících výstupů. Ukazují také složitost trénování modelů umělé inteligence.
Zdroj
Komentář (0)