AI를 책임감 있게 활용하는 기업은 상업적 이점을 얻을 수 있습니다.

VinFuture 2025 과학기술주간의 일환으로 열리는 패널 토론회 "인류를 위한 AI: 새로운 시대의 AI 윤리와 안전"에서는 과학자, 정치인 , 발명가들이 모여 인간적 가치를 향한 책임 있는 AI 개발에 대해 논의합니다.

토론의 틈바구니에서 미국 컴퓨터 협회 회원이자 뉴 사우스 웨일즈 대학(호주)의 토비 월시 교수가 AI의 윤리적이고 책임감 있는 사용에 대해 공유했습니다.

AI의 책임 있는 사용은 필수입니다

- 교수님 말씀에 따르면, AI의 책임 있는 사용은 자발적이어야 할까요, 아니면 의무적이어야 할까요? 그리고 우리는 실제로 AI에 대해 어떻게 행동해야 할까요?

토비 월시 교수: 저는 AI의 책임감 있는 사용이 의무화되어야 한다고 굳게 믿습니다. 현재 AI로 막대한 자금이 창출되고 있는 상황에서, AI의 올바른 사용을 보장하는 유일한 방법은 엄격한 규제를 마련하여 공익과 상업적 이익이 항상 균형을 이루도록 하는 것입니다.

- 책임감 있고 윤리적인 AI 적용에 대한 다양한 국가의 구체적인 사례를 들어주시겠습니까?

토비 월시 교수: 대표적인 예로는 미국에서 선고 및 형량 선고와 같은 중대한 결정이 있습니다. AI 시스템을 사용하여 개인의 징역형과 재범 가능성에 대한 권고를 내리는 것입니다.

안타깝게도 이 시스템은 과거 데이터를 기반으로 학습되었고, 의도치 않게 흑인 차별로 이어지는 과거의 인종적 편견을 반영하고 있습니다. 우리는 이런 시스템이 누구를 수감할지 결정하도록 내버려 두어서는 안 됩니다.

- AI가 실수를 하면 누가 책임을 져야 할까요? 특히 AI 에이전트의 경우, 우리는 그들의 작동 메커니즘을 고칠 수 있을까요?

토비 월시 교수: AI가 실수를 할 때 가장 큰 문제는 우리가 AI에게 책임을 물을 수 없다는 것입니다. AI는 인간이 아니며, 이는 전 세계 모든 법률 시스템의 결함입니다. 오직 인간만이 자신의 결정과 행동에 대한 책임을 져야 합니다.

갑자기 우리는 AI라는 새로운 "대리인"을 갖게 되었는데, 우리가 허용한다면 이 AI는 우리 세상에서 결정을 내리고 행동을 취할 수 있습니다. 이는 누구에게 책임을 물을 것인가라는 과제를 제기합니다.

답은 AI 시스템을 구축하고 운영하는 회사가 이러한 "기계"가 초래하는 결과에 대해 책임을 지도록 하는 것입니다.

vnp-토비-월시-4.jpg

토비 월시 뉴사우스웨일스 대학교 교수는 VinFuture 2025 과학기술 주간 행사에서 열린 "인류를 위한 AI: 새로운 시대의 AI 윤리와 안전" 세미나에서 강연을 진행했습니다. (사진: 민선/베트남+)

- 많은 기업들이 책임 있는 AI에 대해 이야기합니다. 어떻게 그들을 신뢰할 수 있을까요? 그들이 진지하고 포괄적이며, 단순히 "책임 있는 AI"를 마케팅 전략으로만 활용하는 것이 아니라는 것을 어떻게 알 수 있을까요?

토비 월시 교수: 투명성을 높여야 합니다. AI 시스템의 역량과 한계를 이해하는 것이 중요합니다. 또한 "행동을 통한 투표", 즉 책임감 있는 서비스 사용을 선택해야 합니다.

저는 기업이 AI를 책임감 있게 활용하는 방식이 시장에서 차별화 요소가 되어 상업적 우위를 점할 것이라고 확신합니다. 기업이 고객 데이터를 존중한다면, 고객에게 도움이 되고 고객을 유치할 수 있을 것입니다.

기업들은 옳은 일을 하는 것이 윤리적일 뿐만 아니라 더 큰 성공을 가져다준다는 것을 깨닫게 될 것입니다. 저는 이것이 기업을 구분하는 방식이라고 생각하며, 책임감 있는 기업은 우리가 안심하고 함께 사업을 할 수 있는 기업입니다.

'우리가 조심하지 않으면 디지털 식민지화 기간을 경험할 수도 있습니다.'

- 베트남은 인공지능법 제정을 고려하는 몇 안 되는 국가 중 하나입니다. 이에 대한 평가는 어떠신가요? 베트남과 같은 개발도상국이 AI 개발 과정에서 윤리 및 보안 측면에서 어떤 어려움을 겪고 있다고 생각하십니까? 베트남이 AI 전략 목표, 즉 AI 연구 및 역량 강화 분야에서 아시아 및 세계 최고 수준을 달성하기 위해 교수님은 어떤 권고를 하십니까?

토비 월시 교수: 베트남이 인공지능에 관한 전담 법률을 제정하는 선구적인 국가 중 하나라는 사실이 매우 기쁩니다. 각 국가는 고유한 가치와 문화를 가지고 있으며, 이러한 가치를 보호하기 위한 법률이 필요하기 때문에 이는 매우 중요합니다.

베트남의 가치관과 문화는 호주, 중국, 미국과 다릅니다. 중국이나 미국의 기술 기업들이 베트남 문화와 언어를 자동적으로 보호해 줄 것이라고 기대할 수는 없습니다. 베트남은 이러한 것들을 보호하기 위해 적극적으로 나서야 합니다.

vnp-토비-월시-2.jpg

토비 월시 교수는 우리가 조심하지 않으면 디지털 식민지 시대를 경험할 수 있다고 경고합니다. (사진: 민선/베트남+)

과거에 많은 개발도상국들이 물리적 식민지화를 겪었다는 점을 잘 알고 있습니다. 우리가 조심하지 않으면 "디지털 식민지화"의 시대를 겪을 수도 있습니다. 여러분의 데이터는 착취당하고 여러분은 값싼 자원이 될 것입니다.

개발도상국이 자국의 이익을 통제하거나 보호하지 않고 데이터만 활용하는 방식으로 AI 산업을 발전시킨다면 이는 위험에 처하게 됩니다.

- 그러면 이런 상황을 어떻게 극복할 수 있을까요, 교수님?

토비 월시 교수: 간단합니다. 사람에게 투자하세요. 사람들의 역량을 강화하고, AI를 이해하도록 하세요. AI 기업가, 기업, 대학을 지원하세요. 적극적으로 나서세요. 다른 나라가 기술을 이전하거나 우리에게 지침을 주기를 기다리는 대신, 우리는 적극적으로 나서서 기술을 소유해야 합니다.

더욱 중요한 것은, 베트남의 민주주의에 영향을 미치지 않으면서 베트남 사용자에게 안전한 환경을 조성하기 위해 소셜 미디어 플랫폼을 강력히 옹호해야 한다는 것입니다.

실제로 소셜 미디어 콘텐츠가 선거 결과에 영향을 미치고, 국가를 분열시키고, 심지어 테러를 조장하는 사례는 수없이 많습니다.

- 베트남은 AI가 매우 발달되어 있습니다. 최근 베트남은 AI를 장려하기 위한 여러 정책을 시행하고 있지만, AI로 인한 사기라는 문제에도 직면해 있습니다. 그렇다면 교수님께서는 베트남이 이 상황을 어떻게 해결해야 한다고 생각하십니까?

토비 월시 교수: 개인의 경우, 가장 간단한 방법은 정보를 확인하는 것이라고 생각합니다. 예를 들어 은행에서 전화나 이메일을 받으면 다시 확인해야 합니다. 해당 전화번호로 다시 전화를 걸거나 은행에 직접 연락하여 정보를 확인할 수 있습니다. 요즘에는 가짜 이메일, 가짜 전화번호, 심지어 줌 통화까지 위조될 수 있는 사기가 많습니다. 이러한 사기는 매우 간단하고 저렴하며 시간도 많이 걸리지 않습니다.

저희 가족은 자체적인 보안 장치도 가지고 있습니다. 바로 가족 구성원만 아는 "비밀 질문"인데, 예를 들어 애완 토끼의 이름 같은 것을요. 이를 통해 중요한 정보가 가족 내에서만 유출되지 않고 안전하게 보호됩니다.

- 매우 감사합니다./.

토비 월시 교수는 뉴사우스웨일즈대학교 시드니 캠퍼스(UNSW)의 인공지능(AI) 분야 ARC 명예 학자이자 사이언티아 교수입니다. 그는 AI가 사람들의 삶을 개선하는 데 활용될 수 있도록 한계를 설정해야 한다고 강력히 주장합니다.

그는 또한 호주 과학 아카데미의 회원이며, "AI 분야의 영향력 있는 인물"의 국제 목록에 이름을 올렸습니다.

(베트남+)

출처: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp