AI, 인간 통제 벗어나 '생존 의지' 키울 수도 경고

저명한 컴퓨터 과학자 요슈아 벤지오는 AI가 통제 불능이 되면 '인류는 10년 안에 사라질 수 있다'고 경고했습니다.

과학자들은 AI 통제력 상실 위험에 대해 우려하고 있습니다. - 일러스트: ChatGPT

2월 7일, 한 유명 컴퓨터 과학자는 이러한 인공 제품이 "생존 의지"를 개발하게 되면 미래에 인간이 인공 지능(AI) 시스템에 대한 "통제력을 잃을" 가능성이 있다고 경고했습니다.

파리에서 열린 AI 액션 서밋에서 연설한 컴퓨터 과학자 요슈아 벤지오는 더욱 엄격한 국제 규제와 AI 안전에 대한 보다 광범위한 연구를 촉구했습니다. 현재 AI 안전 연구는 해당 분야에 대한 주요 투자의 아주 작은 부분만을 차지합니다.

2018년 컴퓨터 과학 분야의 권위 있는 튜링상 수상자에 따르면, 지난달 고성능 저비용 AI 모델인 딥시크(DeepSeek)의 등장으로 안전성 확보 경쟁이 가속화되었습니다. 요슈아 벤지오는 AI가 통제 불능 상태가 되면 "인류는 10년 안에 사라질 수 있다"고 경고했습니다.

그는 또한 AI 관리에 있어 정부의 리더십을 촉구했습니다. 이러한 요구는 세계 AI 강국인 미국이 도널드 트럼프 신임 대통령 취임 이후 AI 기술 개발을 "해제"하기 위해 여러 조치를 취한 가운데 나왔습니다.

현재, 요슈아 벤지오 씨가 이번 컨퍼런스에서 발표한 국제 AI 안전 보고서에서는 온라인 플랫폼에서 가짜 또는 오해의 소지가 있는 콘텐츠를 만드는 데 AI를 사용하는 것과 같은 잘 알려진 위험을 지적하고 있으며, 생물학적 공격이나 사이버 공격과 같은 추가적인 위험이 끊임없이 등장하고 있습니다.

이 보고서는 30개국, 유엔, 유럽연합, 경제 협력개발기구(OECD)의 전문가 약 100명의 기여로 작성되었으며, 2023년 11월 영국에서 개최된 AI 안전 정상회의 이후 처음으로 작성된 국제 AI 안전 보고서입니다.

출처: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm