Ausländische Hacker nutzen erstmals KI zur Automatisierung von Cyberangriffen.

Das Unternehmen Anthropic, das sich mit künstlicher Intelligenz (KI) beschäftigt, gab bekannt, dass es eine von ausländischen Hackern durchgeführte Cyberangriffskampagne entdeckt und gestoppt hat. Dabei wurde erstmals KI eingesetzt, um Angriffsaktivitäten nahezu automatisiert zu koordinieren.

Laut einem diese Woche von Anthropic veröffentlichten Bericht nutzen Hacker KI-Systeme, um Angriffe zu planen, zu steuern und auszuführen. Diese Entwicklung sei „besorgniserregend“ und drohe, das Ausmaß und die Geschwindigkeit von Cyberangriffskampagnen erheblich zu vergrößern.

Anthropic, der Hersteller des generativen KI-Chatbots Claude, gab an, die Aktivitäten im September entdeckt, sie daraufhin gestoppt und rund 30 potenzielle Opfer benachrichtigt zu haben, darunter Mitarbeiter von Technologieunternehmen, Finanzinstituten, Chemieunternehmen und mehreren Regierungsbehörden . „Nur in wenigen Fällen konnte ein Angriff erfolgreich durchgeführt werden“, heißt es im Bericht.

Bedenken hinsichtlich des Einsatzes von KI zur Unterstützung von Cyberoperationen sind zwar nicht neu, besorgniserregend ist jedoch das Ausmaß, in dem KI bestimmte Aufgaben automatisieren kann.

„Wir gehen zwar davon aus, dass sich diese Fähigkeiten weiterentwickeln werden, aber was uns besonders beeindruckt, ist die Geschwindigkeit, mit der sie sich in großem Umfang weiterentwickeln“, heißt es im Bericht von Anthropic.

Forscher warnen davor, dass KI-Technologie als Waffe eingesetzt werden könnte. KI-Agenten – Werkzeuge, die automatisch Aktionen auf Computern ausführen können – könnten die Wahrscheinlichkeit großangelegter Cyberangriffe erhöhen, wenn sie in die Hände von Hackern gelangen.

Anfang dieses Jahres warnte Microsoft außerdem davor, dass US-Gegner zusammen mit Cyberkriminellen und Hackerdiensten KI nutzen, um die Effektivität von Angriffen zu steigern, ausgeklügelte Phishing-E-Mails zu erstellen oder Stimmen und Bilder hochrangiger Beamter zu simulieren, um Störaktivitäten durchzuführen und in sensible Systeme einzudringen.

(TTXVN/Vietnam+)

Quelle: https://www.vietnamplus.vn/lan-dau-tien-phat-hien-tin-tac-nuoc-ngoai-su-dung-ai-tu-dong-hoa-tan-cong-mang-post1077119.vnp