Sicherheitsexperte bringt ChatGPT durch Tricks dazu, Schadcode zu schreiben

Künstliche Intelligenz (KI) wie ChatGPT sorgt seit Anfang 2023 weltweit für Furore, doch wird diese KI nicht immer für positive Zwecke eingesetzt. Kürzlich entdeckte ein Sicherheitsexperte eine Methode, ChatGPT während Tests zur Erstellung von Schadcode anzuregen.

Aaron Mulgrew, Sicherheitsexperte bei Forcepoint, wies auf die Risiken hin, die die Entwicklung von Schadsoftware mithilfe des Sprach-Chatbots ChatGPT von OpenAI birgt. Obwohl ChatGPT eigentlich verhindern sollte, dass Nutzer KI mit der Entwicklung von Schadsoftware beauftragen, entdeckte Aaron dennoch eine Sicherheitslücke, indem er die KI anwies, Programmcode Zeile für Zeile zu schreiben. In Kombination mit ChatGPT erkannte Aaron, dass er ein unentdeckbares Werkzeug zum Datendiebstahl in seinen Händen hielt, das so ausgefeilt war, dass es mit den modernsten Schadprogrammen von heute vergleichbar ist.

Jede einzelne von ChatGPT generierte Befehlszeile kann in Kombination mit anderen zu komplexer Schadsoftware führen.

Mulgrews Entdeckung ist ein Weckruf hinsichtlich des Potenzials von KI, zur Erstellung gefährlicher Malware eingesetzt zu werden, ohne dass eine Hackergruppe oder gar der Schöpfer des Tools eine einzige Zeile Code schreiben muss.

Mulgrews Software ist als Bildschirmschoner getarnt, kann sich aber auf Windows-Geräten automatisch aktivieren. Sobald sie im Betriebssystem ist, dringt die Schadsoftware in alle Dateien ein, darunter Word-Texteditoren, Bilddateien und PDFs, um Daten zu stehlen.

Sobald das Programm alle benötigten Informationen gesammelt hat, zerlegt es diese und fügt sie Bilddateien auf dem Rechner hinzu. Um einer Entdeckung zu entgehen, werden die Bilder in einen Ordner auf Google Drive hochgeladen. Die Malware ist so mächtig, weil Mulgrew ihre Funktionen durch einfache Befehle in ChatGPT anpassen und erweitern kann, um einer Erkennung zu entgehen.

Obwohl es sich um einen internen Test von Sicherheitsexperten handelte und keine Angriffe außerhalb des Testbereichs durchgeführt wurden, erkennt die Cybersicherheits-Community dennoch die Gefahr von Aktivitäten mit ChatGPT an. Mulgrew gibt an, wenig Programmiererfahrung zu haben, doch die künstliche Intelligenz von OpenAI ist noch nicht stark und intelligent genug, um seinen Test zu verhindern.

Quellenlink: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm