AI가 인간의 마음을 읽고 인간의 결정을 조작할 수 있다는 우려

(CLO) 케임브리지 대학의 최신 연구에 따르면 놀라운 진실이 밝혀졌습니다. AI는 단순한 지원 도구가 아니라 우리의 생각을 조작하여 우리를 기술 연극의 꼭두각시로 만들 수 있는 능력을 가지고 있다는 것입니다.

연구자들은 "의도 경제 "라는 새로운 개념을 만들어냈습니다. 이 경제에서 기업들은 우리의 행동, 선호도, 습관에 대한 방대한 양의 데이터를 수집하고 분석하여 우리가 다음에 무엇을 할지 예측할 수 있습니다.

그러면 그들은 이 정보를 우리에게 더욱 정확하게 광고를 타겟팅하고자 하는 다른 회사에 판매할 수 있습니다.

AI는 우리의 생각과 행동을 형성할 수 있는 능력을 가지고 있습니다. 그림: AI

예를 들어, 새 휴대폰을 찾고 있다고 가정해 보겠습니다. AI는 사용자의 온라인 행동, 검색 키워드, 심지어 대화 내용까지 추적하여 사용자의 니즈를 더욱 잘 파악합니다. 통신사들은 이 정보를 활용하여 사용자에게 가장 적합한 휴대폰 광고를 보여줄 수 있습니다.

케임브리지 대학교 기술사학자 조니 펜 박사는 이렇게 경고했습니다. "의도 경제가 제대로 통제되지 않으면 우리의 결정을 조종하는 도구가 될 수 있습니다. 기업들은 AI를 이용하여 우리에게 필요 없는 제품을 구매하게 하거나 심지어 우리의 투표 결정에 영향을 미칠 수도 있습니다."

저자들은 또한 AI 모델이 광고주, 기업 및 기타 제3자에게 서비스를 제공하기 위해 대화를 탐색할 것이라고 밝혔습니다. 광고주는 생성된 AI 도구를 사용하여 맞춤형 온라인 광고를 제작할 수 있습니다.

보고서는 메타가 만든 AI 모델인 시세로(Cicero)의 사례를 인용했는데, 이 모델은 보드 게임 외교(Diplomacy)를 플레이할 수 있는 "인간 수준"의 능력을 달성했습니다. 저자는 이 게임이 상대방의 의도를 추론하고 예측하는 데 의존한다고 말합니다.

기술 분야의 주요 전문가들은 AI가 인간의 행동을 예측하고 영향을 미칠 수 있는 능력에 대해 경고했습니다.

특히, 엔비디아 CEO 젠슨 황은 작년 연설에서 주목할 만한 견해를 밝혔습니다. 그는 고급 AI 모델이 "사용자의 의도, 바람, 목표를 파악하고 최적의 방식으로 정보를 제공할 수 있을 것"이라고 주장했습니다.

Hoang Anh (CUN, Nvidia, Guardian에 따르면)

출처: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html