토비 월시 교수, AI 시대의 '디지털 식민지화' 위험 경고

Giáo sư Toby Walsh đang diễn thuyết tại tọa đàm AI vì nhân loại - Đạo đức và an toàn AI trong kỷ nguyên mới - một hoạt động trong tuần lễ khoa học và công nghệ VinFuture 2025.

토비 월시 교수는 VinFuture Prize 2025 과학 기술 주간의 활동 중 하나인 패널 토론 "인류를 위한 AI - 새로운 시대의 AI 윤리와 안전"에서 연설했습니다.

AI를 책임감 있게 활용하기

호주 시드니에 있는 뉴사우스웨일즈 대학의 토비 월시 교수이자 호주의 선도적인 과학 센터인 CSIRO Data61의 수석 연구원은 40년간 AI를 연구해 왔으며, 처음 30년 동안은 "AI를 점점 더 강력하게 개발하는 방법에만 관심이 있었지만" 지난 10년 동안 "AI를 책임감 있게 개발하는 데 점점 더 관심을 갖고 목소리를 높이게 되었다"고 말했습니다.

미국에서 인종적 편견이 담긴 역사적 데이터를 사용하여 흑인에 대한 차별적 판결을 내린 AI 시스템의 사례를 인용하며, 월시 교수는 AI를 책임감 있게 사용해야 할 필요성을 강조했습니다.

토비 월시는 "AI 시스템을 구축하고 운영하는 기업은 이러한 기계가 초래하는 결과에 대해 책임을 져야 한다"고 말했습니다.

그는 기업들이 "책임 있는 AI"를 실천하도록 강제하기 위해서는 사용자들의 "투명성 강화"가 필요하다고 말했습니다. AI 시스템의 역량과 한계를 이해하는 것이 중요합니다. 또한 "행동을 통해 투표"해야 합니다. 즉, 책임 있는 서비스를 사용하기로 선택해야 합니다. 책임 있는 AI 사용을 기업의 상업적 이익으로 전환하는 것은 기업의 행동을 규제하는 좋은 방법입니다.

"디지털 식민지화" 함정에서 벗어나세요

토비 월시 교수는 AI가 초래하는 위험 중 특히 "디지털 식민지화" 가능성을 강조했습니다. "과거 많은 개발도상국들이 물리적 식민지화를 겪었다는 것을 잘 알고 있습니다. 우리가 조심하지 않으면 디지털 식민지화를 겪을 수도 있습니다. 여러분의 데이터는 착취당하고 여러분은 값싼 자원이 될 것입니다. 개발도상국이 그들의 권리를 통제하고 보호하지 않고 데이터만 착취하는 방식으로 AI 산업을 발전시킨다면 이는 위험에 처하게 됩니다."라고 그는 말했습니다.

그에 따르면, 이러한 위험을 피하려면 고유한 가치와 토착 문화를 장려하고, 그러한 가치를 보호하는 법률이 필요합니다.

"베트남이 인공지능 전문법을 제정하는 선구적인 국가 중 하나라는 사실이 매우 기쁩니다. 베트남의 가치관과 문화는 호주, 중국, 미국과 다릅니다. 중국이나 미국의 기술 기업들이 베트남의 문화와 언어를 자동적으로 보호할 것이라고 기대할 수는 없습니다. 베트남 스스로가 이러한 것들을 적극적으로 보호해야 합니다."라고 토비 월시 교수는 강조했습니다.

또한 그는 우리가 사람들에게 적극적으로 투자하고, 기업가, AI 기업, 대학 등 모든 사람의 역량을 향상시켜 AI를 이해하도록 해야 한다고 생각합니다. 토비 월시 교수는 "다른 나라가 기술을 이전하거나 방향을 제시하기를 기다리기보다는, 우리는 적극적으로 나서서 기술을 숙달해야 합니다."라고 강조했습니다.

또한 토비 월시 교수는 베트남의 민주주의에 영향을 미치지 않으면서 베트남 사용자와 전 세계 사용자에게 안전한 환경을 조성하기 위해 소셜 네트워킹 플랫폼을 강력하게 동원해야 한다고 말했습니다.

토비 월시 교수는 인공지능에 관한 세 권의 책을 집필했습니다. "It's Alive! Artificial Intelligence from the Logic Piano to Killer Robots"는 인공지능의 역사와 현재 발전상을 다루고, "2062: The World that AI Made"는 인공지능이 인간 사회에 미칠 잠재적 영향을 탐구합니다. 그의 세 번째 책 "Machines Behaving Badly: the Morality of AI"는 인공지능의 윤리적 과제를 심도 있게 다룹니다.

토비 월시 교수는 ABC, BBC, CNN, DW, NPR, RT 등 유명 TV 채널에 AI와 로봇이 사회에 미치는 영향에 대한 주제로 정기적으로 출연합니다. 또한 The New Scientist, American Scientist, Le Scienze, Cosmos, Technology Review, The New York Times, The Guardian, The Conversation 등에 다수의 글을 기고한 작가이기도 합니다.

히엔 타오

출처: https://doanhnghiepvn.vn/cong-nghe/giao-su-toby-walsh-canh-bao-ve-nguy-co-bi-do-ho-so-trong-thoi-dai-ai/20251203061618510