새로운 기술은 AI가 사용자 데이터를 '보는 것'이 아니라 '학습하는 것'을 돕습니다.

AI - Ảnh 1. — 사용자 데이터를 공유하지 않고도 AI를 훈련하는 방법이 여전히 있습니다.

디지털 시대에 개인 데이터는 AI 개발의 "연료"입니다. 하지만 여기서 역설이 나타납니다. AI가 인간을 더 많이 이해할수록 우리는 "감시"에 더 취약해집니다.

정보 유출, 지나치게 개인화된 광고, 투명하지 않은 데이터 수집 관행으로 인해 사용자는 플랫폼에 자신의 데이터를 "제공"하는 것에 대해 점점 더 경계심을 갖게 되었습니다.

이러한 맥락에서 기술 커뮤니티는 AI가 개인 데이터를 수집하지 않고도 학습할 수 있는 방법을 찾기 시작했는데, 그것이 바로 연합 학습입니다.

AI가 데이터를 보지 않고도 학습하는 방법

기존 학습 모델과 달리, AI가 학습하려면 메시지, 이미지, 사용 습관 등 모든 데이터를 서버로 전송해야 합니다. 이로 인해 개인정보가 수집되거나 유출될 수 있다는 우려가 커지고 있습니다.

연합 학습을 사용하면 과정이 반대로 진행됩니다. 학습은 휴대폰처럼 사용자의 기기에서 바로 이루어집니다. AI는 실제 데이터를 서버에 전송하지 않고 사용자가 입력하거나 앱을 사용하는 방식을 "관찰"하여 학습 경험을 직접 그려냅니다.

그러면 휴대폰은 학습된 결과의 요약(숫자나 수학 공식 형태)만을 중앙 시스템으로 전송하여 합성을 진행합니다.

상상해 보세요. 수백만 대의 휴대폰이 "업무 할당" 대신 "학습 경험"을 공유합니다. AI는 점점 더 똑똑해지지만, 개인 정보는 휴대폰에서 절대 유출되지 않습니다.

2017년에 Google은 기본 Android 키보드인 Gboard에 Federated Learning을 도입하여 앱이 사용자의 입력 방식을 학습하고, 다음 단어를 예측하고, 서버로 메시지를 전송하지 않고도 철자 오류를 수정할 수 있도록 했습니다.

여기서 멈추지 않고, 연합 학습은 의료 분야에도 큰 잠재력을 열어줍니다. HIPAA(미국)나 GDPR(유럽)과 같은 엄격한 규정으로 인해 제약받는 환자 데이터 수집 대신, 병원들은 실제 기록을 공유하지 않고도 진단 모델을 함께 학습시킬 수 있습니다.

NVIDIA가 시작한 EXAM(2020) 프로젝트가 대표적인 사례입니다. 20개 이상의 글로벌 병원이 개인 데이터를 교환하지 않고도 COVID-19 환자 상태를 예측하는 시스템을 공동으로 훈련했습니다.

Google뿐만 아니라 Apple(Siri 및 QuickType 키보드에 적용), Meta(FLUTE 테스트 플랫폼 포함), WeBank나 Ant Group과 같은 금융 기관, 그리고 Stanford, MIT 등 여러 유수 대학에서도 Federated Learning을 연구하거나 도입하고 있습니다. 이 기술은 사용자의 개인정보를 존중하는 AI 시스템의 새로운 표준이 될 것으로 기대됩니다.

공정하고 투명한 AI의 핵심

다양한 구성, 불안정한 연결, 제한된 배터리 용량을 가진 수백만 대의 기기를 대상으로 학습하는 것은 학습 속도와 정확도 측면에서 많은 어려움을 야기합니다. 또한, 역모델 공격의 위험으로 인해 개발자는 연합 학습을 동형 암호화나 차등 개인정보 보호와 같은 다른 보안 기술과 결합해야 합니다.

AI는 점점 더 당신을 알아가고 있지만, 연합 학습(Federated Learning)은 우리가 기술과 상호작용하는 방식을 바꿀 수 있는 희망을 제시합니다. AI가 수동적으로 데이터를 수집하는 대신, 이제 AI는 실제 개인 데이터에 접근할 필요 없이 사용자 기기에서 직접 학습합니다.

이는 개인 정보를 보호할 뿐만 아니라, AI가 개인 정보를 침해하는 것이 아니라 사용자와 함께하며 학습하는 새로운 파트너십을 인간과 AI 사이에 만들어냅니다.

전 세계적 으로 많은 기업과 연구자들이 이 목표를 추구하고 있습니다. 연합 학습은 AI가 사용자에 대해 "너무 많이 아는 것"이 아니라, 사용자와 함께 학습하는 투명하고 공정하며 사용자를 존중하는 AI 미래의 핵심이 될 것으로 예상됩니다.

주제로 돌아가기

단일 지능

출처: https://tuoitre.vn/cong-nghe-moi-giup-ai-hoc-cung-chu-khong-soi-du-lieu-nguoi-dung-20251008164916799.htm