Risikoer fra Moltbots «allvitende» AI-assistent

Moltbot skiller seg ut ved sin evne til automatisk å utføre oppgaver tildelt av brukeren. Foto: Moltbot .

Moltbot, tidligere kjent som Clawdbot, er en lokalt kjørende AI-agent på tvers av flere enheter. Brukere kan instruere Moltbot til å utføre oppgaver på deres vegne gjennom populære meldingsplattformer som WhatsApp, Telegram, Signal, Discord eller iMessage. På sosiale medier deler mange hvordan de bruker Moltbot til å administrere påminnelser, logge helsedata eller til og med kommunisere med kunder.

Federico Viticci, redaktør for MacStories , sa at han installerte Moltbot på en Mac Mini M4 og gjorde den om til et verktøy for å lage daglige lydsammendrag basert på data fra Kalender-, Notion- og Todoist-programmene. I et annet tilfelle delte en bruker at Moltbot automatisk kunne generere animerte ansiktsuttrykk og legge til en "søvn"-effekt uten manuell inngripen.

Når det gjelder drift, videresender Moltbot brukerforespørsler til den valgte AI-leverandøren, inkludert OpenAI, Anthropic eller Google. Som mange andre assistenter kan den fylle ut skjemaer direkte i nettleseren, sende e-poster og administrere kalendere. Imidlertid, ifølge tilbakemeldinger fra noen brukere, utfører Moltbot disse oppgavene mer effektivt og fleksibelt.

Det krever imidlertid også at brukerne gir svært dyp tilgang til datasystemet, inkludert lesing, skriving av filer og kjøring av kommandoer. Å kombinere enhetsadministratorrettigheter med påloggingsinformasjon for applikasjoner kan skape alvorlige sikkerhetsrisikoer hvis det ikke kontrolleres nøye.

Rachel Tobac, administrerende direktør i SocialProof Security, advarer om at hvis en AI-agent som Moltbot får administratorrettigheter på en datamaskin, kan angripere forsøke å ta kontroll over systemet gjennom en enkelt melding. Ifølge henne kan automatiserte AI-agenter utnyttes gjennom «prompt injection»-angrep, en sårbarhet som er identifisert, men som mangler en definitiv løsning. «Prompt injection»-angrep oppstår når en angriper manipulerer AI-en med ondsinnede instruksjoner, sendt direkte eller skjult i filer, e-poster eller nettsteder som AI-en behandler.

Moltbot kan utgjøre en sikkerhetsrisiko. Foto: Moltbot .

Disse bekymringene ble ytterligere forsterket da Jamieson O'Reilly, en sikkerhetsekspert og grunnlegger av cybersikkerhetsselskapet Dvuln, oppdaget at noen private meldinger, kontoinnloggingsinformasjon og API-nøkler relatert til Moltbot hadde blitt lekket på nettet.

Følgelig kan disse dataene utnyttes av hackere til å stjele informasjon eller utføre andre angrep. Han sa at han rapporterte problemet til Moltbot-utviklingsteamet, og at en oppdatering er utgitt, ifølge The Register .