Unternehmen müssen Sicherheitsrisiken bei der Integration von KI-Chatbot-Tools bewerten

[Anzeige_1]

Die britische Cybersicherheitsbehörde hat Organisationen gewarnt, die Chatbots mit künstlicher Intelligenz (KI) in ihre Produkte und Dienstleistungen integrieren. Untersuchungen zeigten, dass KI-Tools leicht manipuliert werden könnten, um böswillige Aufgaben auszuführen.

In einem Blogbeitrag vom 30. August erklärte das britische Cyber Security Centre (NCSC), dass Experten die potenziellen Cybersicherheitsprobleme im Zusammenhang mit Algorithmen, die „wie Menschen“ interagieren können – nämlich großen Sprachmodellen (LLMs) – noch nicht begriffen hätten.

Dies birgt laut NCSC Risiken, wenn solche Modelle in die Geschäftsprozesse eines Unternehmens eingeführt werden. Wissenschaftler und Forscher haben in jüngster Zeit Wege gefunden, KI auszutricksen, indem sie Chatbots anweisen, Betrug zu begehen oder eingebaute Schutzbarrieren zu durchbrechen.

Generative KI-Tools werden als Chatbots eingesetzt, die nicht nur Internetsuchen, sondern auch Kundendienst- und Verkaufsgespräche ersetzen sollen.

Beispielsweise könnte ein KI-Chatbot, der bei einer Bank eingesetzt wird, dazu verleitet werden, eine nicht autorisierte Transaktion durchzuführen, wenn der Hacker die richtigen „Anweisungen“ gibt.

„Organisationen, die Dienste rund um LLMs aufbauen, müssen in dem Sinne vorsichtig sein, dass sie ein neues Produkt in der Betaphase verwenden“, sagte das NCSC mit Bezug auf aktuelle KI-Versionen.

Eine aktuelle Umfrage von Reuters/Ipsos ergab, dass viele Unternehmensmitarbeiter Tools wie ChatGPT verwenden, um grundlegende Aufgaben wie das Verfassen von E-Mails, das Zusammenfassen von Dokumenten und das Sammeln erster Forschungsdaten auszuführen.

Von diesen gaben nur 10 % der Mitarbeiter an, dass ihre Vorgesetzten die Verwendung externer KI-Tools ausdrücklich verboten hätten, und 25 % wussten nicht, ob ihr Unternehmen die Verwendung dieser Technologie erlaubte.

Der Wettlauf um die Integration von KI in Geschäftsmodelle werde „katastrophale Folgen“ haben, wenn es den Unternehmensleitern nicht gelinge, die notwendigen Kontrollen durchzuführen, sagte Oseloka Obiora, Technologiechefin des Sicherheitsunternehmens RiverSafe. „Anstatt auf den KI-Zug aufzuspringen, sollten Führungskräfte sorgfältig nachdenken und eine Nutzen-Risiko-Bewertung sowie die zum Schutz des Unternehmens erforderlichen Sicherheitsmaßnahmen durchführen.“

Fake News und Hacker

Weltweit versuchen Regierungen außerdem, den Aufstieg von LLMs wie ChatGPT von OpenAI zu regulieren. Bedenken hinsichtlich der Sicherheit neuer Technologien stehen ebenfalls im Fokus der Politik. So erklärten die USA und Kanada kürzlich, sie hätten einen zunehmenden Missbrauch generativer KI durch Hacker festgestellt.

Ein Hacker sagte sogar, er habe einen LLM gefunden, der mit schädlichen Dokumenten „trainiert“ worden sei, und habe versucht, ihn zu bitten, einen Geldtransferbetrug durchzuführen. Als Antwort generierte die KI eine drei Absätze umfassende E-Mail mit der Aufforderung an den Empfänger, eine dringende Rechnung zu bezahlen.

Im Juli 2023 stellte das Canadian Cyber Security Centre einen Anstieg des Einsatzes von KI bei „E-Mail-Betrug, Malware, Fehlinformationen und Desinformation“ fest. Sami Khoury, Direktor des Zentrums, legte zwar keine detaillierten Beweise vor, bestätigte jedoch, dass Cyberkriminelle diese neue Technologie aktiv ausnutzen.

Der Leiter sagte außerdem, dass sich der Einsatz von KI zur Erstellung von Schadsoftware zwar noch in der Anfangsphase befinde, sich KI-Modelle jedoch so schnell entwickelten, dass man leicht die Kontrolle über die damit verbundenen Schadrisiken verlieren könne.

Zuvor hatte die Europäische Polizeiorganisation Europol im März 2023 einen Bericht veröffentlicht, in dem es hieß, ChatGPT könne „sich auf sehr realistische Weise als Organisationen und Einzelpersonen ausgeben, selbst wenn nur einfaches Englisch verwendet wird“. Im selben Monat erklärte das britische National Cyber Security Centre, dass „LLM zur Unterstützung von Cyberangriffen eingesetzt werden könnte“.

(Laut Reuters)

[Anzeige_2]
Quelle