(사진: 링크드인)
세계 4대 회계법인 중 하나인 딜로이트가 인공지능(AI)을 이용해 허위 정보를 담은 보고서를 작성했다는 의혹에 휩싸였습니다. 이 사건은 회사의 명성에 큰 타격을 입혔을 뿐만 아니라, 정직, 정확성, 신뢰를 기반으로 하는 회계 분야에서 AI를 책임감 있게 사용하는 것에 대한 전 세계적인 논쟁을 불러일으켰습니다.
지도자의 "몰락"
AP 통신(2025년 10월)에 따르면, 딜로이트 호주 지사는 노동고용관계부(DEWR)에 제출한 보고서에 존재하지 않는 법률 조항과 위조된 학술 문서가 포함된 사실을 발견한 후, 호주 정부 에 44만 호주 달러(약 29만 미국 달러) 상당의 계약금 일부를 환불하기로 합의했습니다. 딜로이트의 후속 내부 검토 결과, 해당 보고서의 일부 내용이 마이크로소프트의 "Azure OpenAI" AI 도구를 통해 생성된 것으로 확인되었습니다.
이 사건은 즉각적인 연쇄 반응을 일으켰고, 전문가와 규제 당국은 기술 발전 속도가 법적 틀과 인간의 감독 능력보다 훨씬 빠르다는 경고를 발표했습니다. CFODive는 이 사건이 "기업 금융 부문 전체에 경종을 울리는 사건"이라며, 절대적인 정확성이 요구되는 프로세스에 기계를 투입하는 데 따른 잠재적 위험성을 강조했습니다.
실제로 딜로이트는 감사 프로세스에 AI 기술을 적용하는 데 있어 선구적인 기업 중 하나입니다. 이 회사는 디지털 전환에 10억 달러 이상을 투자했으며, 빅데이터와 머신러닝의 힘을 활용하여 효율성과 분석 심도를 높이는 데 전념하고 있습니다. 파이낸셜 뉴스 런던에 따르면, 영국에서 딜로이트 감사 직원의 75% 이상이 "PairD"라는 내부 챗봇을 사용했는데, 이는 전년 대비 3배 증가한 수치입니다.
인공지능(AI)은 감사 담당자들이 방대한 양의 데이터를 처리하고, 수천 페이지에 달하는 계약서에서 정보를 추출하고, 이상 징후를 감지하고, 수백 시간의 업무 시간을 절약하는 데 도움을 줍니다. 그러나 딜로이트 호주 지사에서 발생한 사건은 이러한 방식의 단점을 보여줍니다. 기술이 제대로 관리되지 않을 경우, AI는 그럴듯해 보이지만 실제로는 완전히 거짓인 "허구의" 콘텐츠를 만들어낼 수 있습니다.
(사진: 게티 이미지)
조사 보고서에 따르면, 딜로이트의 237페이지 분량의 보고서는 실제로 발생하지 않은 호주 연방 법원의 판결을 인용한 것으로 드러났습니다. 부록에 있는 여러 참고 자료 또한 존재하지 않았습니다. 정부 기관의 철저한 검토와 심문 후에야 딜로이트는 보고서 작성 과정에 인공지능(AI)이 사용되었음을 인정했습니다. 회사는 "AI는 보조적인 역할만 했다"고 주장했지만, 이 사건은 브랜드 평판에 심각한 손상을 입혔고 업무 프로세스의 투명성에 대한 의문을 제기했습니다.
이 문제는 단순한 기술적 오류에 그치지 않습니다. 회계법인의 근간, 즉 사회적 신뢰를 기반으로 하는 회계법인의 존폐 여부와 직결되는 문제입니다. 세계 4대 회계법인 중 하나가 인공지능 관련 실수를 저지르면 회계법인 전체의 독립성과 직업윤리에 대한 대중의 신뢰가 흔들립니다.
인공지능(AI)이 PwC, EY, KPMG와 같은 다른 회계법인에서도 일반적인 도구로 자리 잡고 있다는 점을 고려할 때, 이러한 영향은 더욱 심각합니다. 감사 품질 센터(CAQ)의 조사에 따르면, 전 세계 감사 파트너의 3분의 1 이상이 감사 과정에서 AI를 사용했거나 사용할 계획이라고 답했습니다. 이는 시스템적 오류의 위험이 제대로 관리되지 않을 경우 전 세계적으로 확산될 수 있음을 의미합니다.
AI 시간 관리: 기회와 경고
해당 사건 이후 회계 감사 업계는 기회와 위험이 공존하는 AI 시대에 대한 접근 방식을 재평가해야 했습니다. 사건 직후 딜로이트는 공정성, 투명성, 설명 가능성, 책임성, 기밀성이라는 다섯 가지 원칙에 중점을 둔 책임 있는 AI 활용 지침 시스템인 "신뢰할 수 있는 AI 프레임워크"를 신속하게 발표했습니다. 또한, 분석 및 보고 프로세스를 지원하기 위해 "GenAI" 기능을 통합하여 글로벌 옴니아 감사 플랫폼을 확장했습니다. 딜로이트는 AI가 생성한 모든 결과는 공개 전에 반드시 인간 전문가의 검토 및 검증을 거쳐야 한다고 강조했습니다.
하지만 전문가들은 딜로이트의 노력이 필요하기는 하지만, 회계 감사 업계에서 인간과 기술의 관계를 재정립하는 긴 여정의 첫걸음에 불과하다고 보고 있습니다. 파이낸셜 타임스의 전문가들은 많은 기업들이 인공지능의 영향을 통제하고 평가할 명확한 메커니즘을 마련하지 않은 채 "인공지능과의 경쟁"에 뛰어들고 있다고 경고합니다. 인공지능은 시간을 절약해 주지만, 특히 판단력과 전문적인 회의적 태도가 요구되는 회계 감사 업무에서 인간과 기계의 경계를 모호하게 만듭니다.
빅4 회계법인 중 하나인 PwC는 신입사원 교육 프로그램을 공개적으로 개편했습니다. 기본적인 감사 업무 대신, 신입사원들은 "인공지능(AI) 모니터링", 결과 분석, 기술적 위험 평가 방법을 배우게 됩니다. 비즈니스 인사이더에 따르면, PwC는 "미래의 감사인은 단순히 숫자를 읽는 법만 아는 것이 아니라 기계가 어떻게 생각하는지 이해해야 한다"고 믿고 있습니다.
(사진: 라훌)
한편, 규제 기관과 전문 단체들은 '인공지능 기반 감사'에 대한 새로운 기준 제정을 검토하기 시작했습니다. 국제회계기준위원회(IAASB)는 증거 수집 및 보고에 인공지능 도구를 활용하는 것과 관련된 지침 추가를 연구하고 있습니다. 일부 전문가들은 전 세계적인 일관성을 확보하기 위해 별도의 감사 기준을 제정해야 한다고 주장합니다.
이러한 발전은 회계 감사 업계가 심오한 변화의 시기에 접어들고 있음을 시사합니다. 기술은 없앨 수 없지만, 그 적용에는 신중함과 엄격한 통제가 필요합니다. 그렇지 않으면 통제력을 잃어버릴 위험이 있으며, 단 몇 번의 클릭만으로 수 세기 동안 유지되어 온 금융 시스템에 대한 신뢰가 무너질 수 있습니다.
기회 측면에서 볼 때, AI는 전례 없는 혁신을 약속합니다. 단기간에 수백만 건의 거래를 처리하고, 사람이 탐지하기 어려운 정교한 사기를 적발하며, 실시간으로 위험을 모니터링하는 "지속적인 감사"라는 개념을 실현할 수 있게 해줍니다. 딜로이트, PwC, KPMG, EY는 모두 자체 AI 시스템 개발에 매년 수억 달러를 투자하고 있습니다.
하지만 기회는 책임감이 수반될 때 비로소 진정한 가치로 전환될 수 있습니다. 딜로이트 오스트레일리아의 사례는 기술이 업무 방식을 바꿀 수는 있지만 인간의 윤리와 검증을 대체할 수는 없다는 것을 보여줍니다. AI 기반 감사 시대에도 신뢰는 여전히 가장 중요한 자산입니다.
전문가들은 딜로이트 사례에서 몇 가지 중요한 교훈을 얻었다.
- AI 사용에 있어 절대적인 투명성: AI 도구를 사용하여 생성되거나 지원되는 모든 콘텐츠는 고객과 규제 당국에 명확하게 공개되어야 합니다.
- 강화된 교육 및 감독 능력: 감사관은 AI의 작동 방식을 이해하고, 기술의 한계를 파악하며, 결과의 타당성을 평가할 수 있어야 합니다.
- AI에 대한 감사 메커니즘 구축: 재무 데이터뿐만 아니라 AI 프로세스와 모델 또한 객관성과 투명성을 보장하기 위해 "감사"를 받아야 합니다.
- 전문가 윤리 준수: 기술이 아무리 발전하더라도 감사의 핵심 원칙은 "독립성, 성실성, 객관성"으로 남아 있습니다.
출처: https://vtv.vn/nganh-kiem-toan-chan-dong-vi-ai-100251103192302453.htm
댓글 (0)