Riscuri legate de asistentul AI „omniștitor” al lui Moltbot

Moltbot se remarcă prin capacitatea sa de a executa automat sarcinile atribuite de utilizator. Foto: Moltbot .

Moltbot, cunoscut anterior ca Clawdbot, este un agent de inteligență artificială care rulează local pe mai multe dispozitive. Utilizatorii pot instrui Moltbot să efectueze sarcini în numele lor prin intermediul unor platforme de mesagerie populare precum WhatsApp, Telegram, Signal, Discord sau iMessage. Pe rețelele de socializare, mulți oameni împărtășesc modul în care folosesc Moltbot pentru a gestiona mementouri, a înregistra date despre sănătate sau chiar a comunica cu clienții.

Federico Viticci, editorul revistei MacStories , a declarat că a instalat Moltbot pe un Mac Mini M4 și l-a transformat într-un instrument pentru crearea de rezumate audio zilnice pe baza datelor din aplicațiile Calendar, Notion și Todoist. Într-un alt caz, un utilizator a spus că Moltbot poate genera automat expresii faciale animate și poate adăuga un efect de „somn” fără intervenție manuală.

În ceea ce privește funcționarea, Moltbot redirecționează solicitările utilizatorilor către furnizorul de inteligență artificială ales, inclusiv OpenAI, Anthropic sau Google. Ca mulți alți asistenți, poate completa formulare direct în browser, poate trimite e-mailuri și poate gestiona calendare. Cu toate acestea, conform feedback-ului primit de la unii utilizatori, Moltbot îndeplinește aceste sarcini mai eficient și mai flexibil.

Totuși, necesită și acordarea de acces foarte profund la sistemul informatic, inclusiv citirea, scrierea fișierelor și executarea comenzilor. Combinarea privilegiilor de administrator al dispozitivului cu acreditările de conectare la aplicație poate crea riscuri grave de securitate dacă nu este controlată strict.

Rachel Tobac, CEO al SocialProof Security, avertizează că, dacă un agent IA precum Moltbot obține privilegii administrative pe un computer, atacatorii ar putea încerca să preia controlul sistemului printr-un singur mesaj. Potrivit acesteia, agenții IA automatizați pot fi exploatați prin atacuri de tip prompt injection, o vulnerabilitate identificată, dar care nu are o soluție definitivă. Atacurile prompt injection apar atunci când un atacator manipulează IA cu instrucțiuni rău intenționate, trimise direct sau ascunse în fișiere, e-mailuri sau site-uri web pe care IA le procesează.

Moltbot poate reprezenta un risc de securitate. Foto: Moltbot .

Aceste îngrijorări au fost amplificate și mai mult când Jamieson O'Reilly, expert în securitate și fondator al companiei de securitate cibernetică Dvuln, a descoperit că unele mesaje private, informații de conectare la cont și chei API legate de Moltbot fuseseră scurse online.

Prin urmare, aceste date ar putea fi exploatate de hackeri pentru a fura informații sau a efectua alte atacuri. El a spus că a raportat problema echipei de dezvoltare Moltbot și că a fost lansat un patch, potrivit The Register .

Sursă: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html