[갤러리] 아마존, 2천억 달러 규모 AI 사기 사건에 충격…직원들, 봇 개발에 박차

아마존은 직원들이 무의미한 작업을 만들고 봇을 이용해 핵심성과지표(KPI)를 달성하는 바람에 운영 비용이 급증하는 것을 발견한 후 AI 순위 시스템을 폐지했습니다.

아마존은 인공지능 애플리케이션 홍보 과정에서 값비싼 교훈을 얻고 있습니다. 많은 직원들이 회사에 실질적인 가치를 창출하는 대신 AI 도구를 악용하여 '포인트 쌓기'에 급급한 것으로 드러났기 때문입니다.

모든 것은 키로 프로그래밍 플랫폼에서 직원들의 AI 사용 현황을 추적하기 위해 구축된 내부 순위 시스템인 키로랭크(Kirorank)에서 시작되었습니다. 키로랭크의 목표는 엔지니어링 팀이 새로운 기술을 빠르게 익히고 일상 업무에 적용하도록 장려하는 것이었습니다.

하지만 일부 직원들은 생산성 향상에 집중하기보다는 AI 에이전트에게 일련의 불필요한 작업을 수행하게 하여 토큰 소모량을 늘리고 순위표에서 자신의 성과를 높이기 위해 가짜 상호 작용을 만들어내는 방식으로 승진을 시도했습니다.

내부 소식통에 따르면, 이러한 상황으로 인해 AI 시스템 운영 비용이 급격히 증가했고, 아마존은 본래 긍정적인 의도로 개발된 키로랭크(Kirorank)가 의도치 않게 KPI 중심의 행동과 자원 낭비를 조장하는 도구가 되었다는 사실을 깨닫고 키로랭크 서비스를 중단하기로 결정했다고 합니다.

아마존의 수석 부사장인 데이브 트레드웰은 직원들에게 단순히 과시하기 위해 AI를 사용하는 것을 경고하며, 진정한 가치는 업무 효율성과 생산된 제품의 품질에서 나와야 한다고 강조했습니다.

아마존에서 AI 사용에 대한 압력은 경영진의 요구에서 비롯된 것으로 여겨지며, 프로그래머의 80% 이상이 매주 AI를 적용해야 하므로 경쟁이 치열해지고, 이로 인해 많은 프로그래머들이 성과 평가 목표를 달성하기 위해 "규칙을 어기는" 방법을 찾게 된다는 분석이 나오고 있습니다.

이러한 움직임은 아마존이 데이터 센터 인프라 및 AI 프로젝트를 중심으로 약 2천억 달러 규모의 자본 투자를 준비하는 가운데, 많은 공급업체가 사용량 기반 가격 책정 방식으로 전환함에 따라 대규모 언어 모델링 사용 비용이 증가하는 상황에서 나온 것입니다.

이 문제를 해결하기 위해 아마존은 AI를 사용하여 생성된 코드 조각과 제품의 실제 효과를 측정하는 데 중점을 둔 "정규화된 배포"라는 새로운 평가 시스템을 도입했습니다. 이는 "가상 포인트 파밍"을 억제하고 인공지능에 대한 대규모 투자가 지속 가능한 비즈니스 가치를 창출하도록 보장합니다.

출처: https://khoahocdoisong.vn/gallery-amazon-soc-vi-cu-lua-ai-200-ty-usd-nhan-vien-dua-nhau-cay-bot-post2149102532.html