Илон Маск заявил, что его цель — быстро сократить дефицит бюджета США как минимум на 1 триллион долларов.

По сообщениям СМИ со ссылкой на анонимные источники, Министерство обороны использует ИИ для ускорения принятия решений о сокращении расходов.

Дэвид Эван Харрис, эксперт по ИИ, работавший в отделе ответственного ИИ компании Meta, называет это «ужасной идеей».

Эксперты говорят, что такой подход отражает подход «сначала сократи, потом исправь», который Маск применил в Twitter два года назад, что привело к тысячам потерь рабочих мест, техническим сбоям, судебным искам и спорам, которые подорвали социальную сеть.

Однако последствия демонтажа государственных учреждений, систем и служб будут гораздо серьезнее, чем у технологической компании.

Использование ИИ для принятия решений по сокращению расходов

По данным Washington Post, в начале февраля члены DOGE передали конфиденциальные данные Министерства образования в программное обеспечение на основе искусственного интеллекта для анализа программ и расходов министерства.

Wired сообщает, что сотрудники DOGE разработали ИИ-чат-бота для Управления общих служб (GSA) под названием GSAi, который помогает анализировать большие объемы данных по контрактам и закупкам.

В другом сообщении NBC News говорится, что DOGE рассматривает возможность использования искусственного интеллекта для анализа отзывов о вакансиях федеральных служащих, чтобы определить, какие должности больше не нужны.

Илон Маск Блумберг
Илон Маск (стоит) и его сын в Белом доме. Фото: Блумберг

В феврале издание Wired сообщило, что DOGE модифицировало программное обеспечение AutoRIF Министерства обороны для автоматического ранжирования личного состава при увольнении.

На прошлой неделе 21 сотрудник Агентства цифровых услуг США (USDS) подал в отставку в знак протеста. Они обвинили персонал DOGE в ненадлежащем обращении с конфиденциальными данными и нарушении работы критически важных систем.

Однако пресс-секретарь Белого дома Кэролайн Ливитт заявила, что любой, кто думает, что протесты, судебные иски или правовые действия могут остановить президента Трампа, «должно быть, был невежественен в течение последних нескольких лет», сообщает AP.

В интервью X Маск также назвал этих людей «консерваторами», которые отказываются возвращаться в офис.

По словам Аманды Рентерии, генерального директора Code for America, некоммерческой организации, которая разрабатывает цифровые инструменты и наращивает технический потенциал правительств, часть проблемы заключается в том, что создание эффективных инструментов ИИ требует глубокого понимания данных, используемых для обучения, чего нет у команды DOGE.

Результаты, получаемые с помощью инструментов ИИ, могут оказаться бесполезными, или же технологиям может не хватать информации и контекста для принятия правильного решения. У него может быть проблема «галлюцинаций».

По данным многих информационных агентств, персонал DOGE — это группа молодых людей в возрасте 20 лет, пришедших из других компаний Маска.

Опасения по поводу использования ИИ компанией DOGE

Эксперты опасаются, что ИИ может воспроизводить предубеждения, которые часто встречаются у людей. Например, некоторые инструменты подбора персонала на основе искусственного интеллекта отдают предпочтение белым кандидатам-мужчинам по сравнению с другими кандидатами.

Если ИИ будет использоваться для определения того, какие должности или проекты следует ликвидировать, это будет означать, что некоторые важные люди или должности будут сокращены просто из-за их внешнего вида или того, кому они служат.

Харрис проанализировал пример использования ИИ для оценки отзывов федеральных служащих: талантливые сотрудники, для которых английский не является родным языком, могут оцениваться ИИ как менее компетентные, чем носители английского языка.

Хотя эти опасения не новы, они могут иметь более серьезные последствия, если правительство пойдет не так. Сам Маск признает, что DOGE может совершать ошибки, и отказался от некоторых важных усилий, таких как профилактика Эболы.

Неясно, участвовал ли ИИ в принятии этого решения.

Неоспоримым является тот факт, что ИИ помогает повысить эффективность работы, синтезировать и анализировать большие объемы информации. Однако при неосторожном использовании он может подвергнуть риску конфиденциальные правительственные данные или личную информацию людей.

Без надлежащей защиты и ограничений на доступ к системе данные, введенные в программу ИИ, могут неожиданно появиться в ответах на другие запросы и попасть в руки людей, которые не должны об этом знать.

Харрис был особенно обеспокоен тем, как DOGE обращается с кадровыми документами, которые он охарактеризовал как «одни из самых конфиденциальных документов в любой организации».

Однако, по мнению экспертов, наиболее серьезной проблемой является отсутствие прозрачности в отношении использования ИИ компанией DOGE. Какие инструменты использует министерство, как осуществляется мониторинг, есть ли люди, проверяющие и оценивающие результаты... все это пока еще открытые вопросы.

Джулия Стоянович, доцент кафедры компьютерных наук и директор Центра ответственного ИИ при Нью-Йоркском университете, утверждает, что для того, чтобы ИИ был эффективным, пользователи должны четко понимать свои цели в отношении технологии и полностью проверять, соответствует ли система ИИ этим потребностям.

«Мне очень, очень любопытно услышать, как команда DOGE расскажет о том, как они оценивают производительность и правильность результатов», — поделилась она.

(По данным CNN)