По данным Reuters, в своем объявлении от 25 мая OpenAI сообщила, что выделит 10 грантов на сумму по 100 000 долларов США десяти идеям, которые помогут найти способы управления программным обеспечением ИИ для устранения предвзятости и других факторов.
Гранты будут предоставлены убедительным исследованиям, которые ответят на сложные вопросы, например, должен ли ИИ критиковать публичных деятелей и кого он должен считать нейтральным.
«Системы ИИ должны приносить пользу всему человечеству и быть максимально инклюзивными. Мы запускаем эту программу грантов как первый шаг в этом направлении», — заявила OpenAI.
Проблемы ИИ привлекают внимание общественности.
Компания из Сан-Франциско заявила, что финансирование может повлиять на взгляды OpenAI на управление ИИ, но отметила, что ни одно из предложений не является обязательным.
Гранты OpenAI считаются не слишком большими для исследований в области искусственного интеллекта. По данным Reuters, инженеры ИИ и специалисты на некоторых других должностях в этой бурно развивающейся отрасли могут легко зарабатывать от 100 000 долларов в год, а иногда и более 300 000 долларов.
Критики утверждают, что системы искусственного интеллекта, такие как ChatGPT, предвзяты и зависят от получаемой информации. Во время взаимодействия пользователи обнаруживали расистские или сексистские ответы со стороны программ искусственного интеллекта.
Это вызывает растущие опасения, что при использовании ИИ вместо поисковых систем, таких как Alphabet Google или Microsoft Bing, он может выдавать неточную, но убедительную информацию.
Практически все отрасли заинтересованы в потенциале ИИ для повышения производительности и снижения затрат на рабочую силу. Однако существуют опасения, что ИИ может распространять дезинформацию и ложные сведения, в которые люди верят. В качестве доказательства этому приводятся многочисленные примеры. В частности, недавно в социальных сетях распространилось изображение взрыва возле Пентагона. Инцидент оказал временное влияние на фондовый рынок, но позже было установлено, что изображение было сгенерировано ИИ.
По данным Reuters, OpenAI лидирует в регулировании ИИ. Компания также выпускает обновления для ChatGPT и своего инструмента генерации изображений DALL-E. На слушаниях в Конгрессе в этом месяце генеральный директор OpenAI Сэм Альтман заявил, что если технологии ИИ пойдут не так, это может иметь «весьма серьёзные последствия».
Компания Microsoft, инвестировавшая 10 миллиардов долларов в OpenAI, также недавно выступила за комплексное управление ИИ, хотя компания и пообещала внедрить эту технологию в продукты для потребителей и предприятий, конкурируя с OpenAI, Google и другими стартапами.
Ссылка на источник
Комментарий (0)