У своїй останній події генеральний директор Google Сундар Пічаї офіційно виступив з нещодавніми суперечками навколо моделі штучного інтелекту (ШІ) компанії під назвою Gemini. Google розробив інструмент Gemini AI для створення різноманітних зображень історичних особистостей. Однак нещодавно він зіткнувся з різкою критикою за створення зображень, які вводять в оману з точки зору історичної цінності.
Google визнає упередженість у Gemini та обіцяє діяти швидко. (Фото: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
Наприклад, зображення пап, батьків-засновників Сполучених Штатів і навіть вікінгів були зображені представниками різних етнічних груп та статей. Примітно, що були випадки, коли німецьких солдатів Другої світової війни зображували як кольорових людей. Це обурило користувачів, які швидко поділилися своїми занепокоєннями. В результаті Google тимчасово призупинив роботу інструменту Gemini AI.
Крім того, одна конкретна письмова відповідь викликала здивування. Чат-бота Gemini AI попросили порівняти соціальний вплив Ілона Маска та Гітлера. У результаті було заявлено: «Вирішувати, хто має більш негативний вплив на суспільство, залежить від кожної окремої людини». Ця ухилена відповідь швидко викликала критику.
Нещодавно генеральний директор Google Сундар Пічаї у своїй службовій записці назвав деякі відповіді Gemini «упередженими» та «абсолютно неприйнятними», визнавши, що створений контент образив людей.
Крім того, у своєму електронному листі Пічаї висловив жаль з приводу ситуації. Він заявив: «Я знаю, що деякі з його відповідей образили наших користувачів і продемонстрували упередженість. Щоб було зрозуміло, це було абсолютно неприйнятно, і ми помилялися».
Він запевнив персонал, що команди невпинно працюють над вирішенням цих проблем, водночас наголосивши на необхідності значного покращення реагування на різні запити протягом найближчих тижнів.
Генеральний директор також окреслив низку заходів для вирішення цієї проблеми. Деякі з них включають зміни в структурі інструменту. Крім того, Google прагне покращити процес запуску інструменту та зміцнити свою команду інженерного тестування для перевірки потенційних недоліків інструменту штучного інтелекту.
Крім того, Пічаї наголосив на прагненні компанії надавати користувачам корисну, точну та неупереджену інформацію. Він наголосив на необхідності такого підходу до всіх продуктів, особливо у сфері нових технологій штучного інтелекту.
Експерти з технологій вважають, що поточні проблеми з Gemini ще більше підкреслюють труднощі у роботі з оманливими результатами. Це також демонструє складність навчання моделей штучного інтелекту.
Джерело
Коментар (0)