Neben ihren negativen Auswirkungen auf Umwelt und Ressourcen entwickelt sich künstliche Intelligenz (KI) rasant zu einem risikoreichen Werkzeug im Bereich der Cybersicherheit. Als Beleg dafür deckte OALABS Research kürzlich einen Fall auf, in dem ein äthiopischer Amateurhacker KI-Agenten von Claude und dem OpenAI Codex für eine Reihe von Cyberangriffen nutzte.
Obwohl der Befehl voller Rechtschreib- und Grammatikfehler war und nur vage Anweisungen enthielt, gelang es diesem Hacker, zahlreiche private Server zu kompromittieren. Er drang in die gesicherten Daten von mindestens 14 Unternehmen ein und plante sogar, Kryptowährung im Wert von 4 Millionen US-Dollar zu stehlen.
Amateur-Hacker nutzten Claude und den Codex, um 14 Unternehmen anzugreifen.
Hacker und ihre Taktiken zur Ausnutzung von KI, um Systembarrieren zu umgehen.
Die Angreifer umgingen die robusten Sicherheitsvorkehrungen des Claude-Opus-Modells relativ einfach durch psychologische Manipulation. Indem sie sich als Mitglieder eines Forschungsteams für Sicherheitslücken ausgaben, brachten die Hacker den KI-Chatbot dazu, automatisch den gesamten Quellcode des Angriffs preiszugeben. Das System beschrieb sogar detaillierte Methoden zur Ausnutzung der Schwachstelle, wie Erpressung und Datenverkauf, und gab direkte Anweisungen zum Datendiebstahl. Der Chatbot blockierte lediglich eine Anfrage, die gezielt auf die persönlichen digitalen Konten einer bestimmten Familie abzielte.
Dieser ungewöhnliche Vorfall kam ans Licht, nachdem ein Opfer, dessen Server kompromittiert worden war, die Experten von OALABS kontaktiert hatte. Bemerkenswerterweise wurde die Identität des jungen Hackers enthüllt, weil er zuvor die KI beauftragt hatte, sein persönliches Profil zu bearbeiten. Der Vorfall hat ernsthafte Bedenken hinsichtlich des einfachen Zugangs der Öffentlichkeit zu diesen leistungsstarken Technologien ohne Fachkenntnisse aufgeworfen. Nutzer könnten problemlos einen anderen KI-Vermittler einsetzen, um ähnliche gefährliche Angriffsbefehle zu erstellen.
Aktuell stehen Technologiekonzerne wie Anthropic und OpenAI vor einer Sackgasse bei der Suche nach einer endgültigen Lösung zur Verhinderung solcher Angriffe. Eine Verschärfung der Modellbeschränkungen würde seriösen Sicherheitsforschern die Möglichkeit nehmen, das System zu verbessern. Umgekehrt würde das Beibehalten des Status quo die Grenze zwischen ethischer Nutzung und unrechtmäßigem Gewinn zu einem unüberwindbaren Hindernis für KI machen. Die optimale Lösung zur Verhinderung böswilliger Nutzerabsichten bleibt eine ungelöste Herausforderung.
Laut der Zeitung Thanh Nien
Quelle: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html
