KI - ein Glücksspiel ohne entsprechende Cybersicherheitsmaßnahmen

DNVN – Mit dem Trend, KI (künstliche Intelligenz) in die Lage zu versetzen, Aufgaben selbstständig zu erledigen, wird das Risiko von Cyberangriffen exponentiell zunehmen. Beunruhigend ist, dass einige angeblich leistungsstarke KI-Systeme in Wirklichkeit sehr „fragil“ sind.

Laut Patrice Caine, CEO der Thales Group, werden die Debatten über die Auswirkungen der KI immer heftiger und gehen mit einer großen Skepsis gegenüber dieser Technologie einher. KI ist jedoch ein unbestreitbarer Technologietrend.

Während einige die Technologiegiganten für KI-gesteuerte soziale Medien oder fragwürdige Verbrauchertools kritisieren, wird die KI selbst zu einer unverzichtbaren Technologie. Seine Wirksamkeit ist beispiellos und verspricht Vorteile, die kein Unternehmen und keine Regierung ignorieren kann.

Schon bald wird KI ein ebenso integraler Bestandteil unseres Lebens sein wie Elektrizität – sie wird dazu beitragen, Autos anzutreiben, Gesundheitsdienste zu gestalten, Banken zu schützen und öffentliche Beleuchtungssysteme zu verwalten. Die große Frage ist: Sind wir bereit für das, was als Nächstes kommt?

Bei den Kontroversen rund um KI geht es vor allem um ethische Fragen, Informationsverzerrungen und die Zukunft der Arbeit. Doch ein großes Problem bleibt unbemerkt: die KI-Sicherheit. In der Gartner-Umfrage 2024 unter leitenden Führungskräften im Bereich Enterprise Risk Management wurden KI-gestützte böswillige Angriffe und KI-gestützte Desinformation als die beiden größten Risiken identifiziert.

Herr Patrice Caine, CEO der Thales Group.

Wir haben viele Gründe zur Sorge. Die Länder im asiatisch- pazifischen Raum setzen KI auf vielfältige Weise ein – einer Finastra-Umfrage aus dem Jahr 2023 zufolge sind vietnamesische Finanzinstitute bei der weltweiten Einführung generativer KI (GenAI) führend. 40 % der vietnamesischen Befragten gaben an, dass ihre Organisationen Funktionen zur Verarbeitung natürlicher Sprache, einschließlich generativer KI, eingesetzt oder verbessert haben. Allerdings können wir nicht vorankommen, ohne unsere gemeinsame Stärke zu nutzen – Regierungen und Unternehmen müssen zusammenarbeiten, um ein sicheres und widerstandsfähiges KI-Ökosystem aufzubauen.

Mit dem Trend, KI in die Lage zu versetzen, Aufgaben selbstständig zu erledigen, wird das Risiko von Cyberangriffen exponentiell steigen. Beunruhigend ist, dass einige angeblich leistungsstarke KI-Systeme in Wirklichkeit sehr „fragil“ sind.

Es gibt zwei Hauptwege, ein KI-System anzugreifen. Die erste Möglichkeit besteht darin, sich in das System zu hacken und alles zu stehlen, von persönlichen Gesundheitsakten bis hin zu Geschäftsgeheimnissen von Unternehmen. Hacker können KI-Modelle durch das Auswerten medizinischer Datenbanken dazu verleiten, vertrauliche Informationen preiszugeben, oder Chatbots dazu bringen, ihre eigenen Datenschutzvorkehrungen zu umgehen.

Die zweite Möglichkeit besteht darin, die Modelle zu sabotieren und die Ergebnisse gefährlich zu verfälschen. Beispielsweise könnte ein Auto mithilfe von KI-Technologie dazu gebracht werden, ein Stoppschild als Geschwindigkeitsschild für 100 km/h zu interpretieren. Dies sind die offensichtlichen Risiken beim Einsatz von KI. Und mit der zunehmenden Verbreitung von KI-Anwendungen wird das Risiko von Systemangriffen deutlich zunehmen.

Um diese Risiken zu vermeiden, wäre es jedoch ein großer Fehler, auf KI zu verzichten. Wenn Unternehmen ihre Wettbewerbsfähigkeit zugunsten der Sicherheit opfern, werden sie von Drittparteien abhängig und haben weder Erfahrung noch Kontrolle über eine Technologie, die schnell unverzichtbar wird.

KI verzeichnet ein starkes Wachstum und wird von vielen Organisationen und Unternehmen eingesetzt.

Wie können wir also die Vorteile der KI nutzen, ohne das damit verbundene Risiko einzugehen? Hier sind drei wichtige Schritte:

Wählen Sie KI mit Bedacht. Nicht alle KI-Systeme sind anfällig. Beispielsweise sind große Sprachmodelle anfällig, da sie auf großen Datensätzen und statistischen Methoden beruhen. Andere Arten der KI, etwa symbolische oder hybride Modelle, verfügen jedoch über einen eingeschränkteren Datennutzungsumfang und arbeiten nach klaren Regeln, was es schwieriger macht, sie zu hacken.

Hybride KI-Modelle kombinieren symbolisches Denken mit maschinellem Lernen und liefern logische und genaue Erklärungen. Hybride KI kann Fehlalarme bei der Betrugserkennung deutlich reduzieren und gleichzeitig die Transparenz bei der Entscheidungsfindung erhöhen. Dies ist besonders wertvoll für Finanzdienstleistungs- und FinTech-Unternehmen in der Region.

Implementieren Sie bewährte Sicherheitsmaßnahmen. Tools wie digitale Wasserzeichen, Kryptografie und benutzerdefiniertes Training können KI-Modelle gegen potenzielle Bedrohungen wappnen. Im asiatisch-pazifischen Raum sind diese Tools für Sektoren wie das Bankwesen, die kritische Infrastruktur und das Gesundheitswesen, in denen die digitale Transformation beschleunigt wird, von entscheidender Bedeutung. Bei Thales verfügen wir über eine „Battle Box“, mit der Cybersicherheitsteams KI-Modelle gründlich testen können, um Schwachstellen zu finden und zu beheben, bevor Hacker sie ausnutzen können. Diese Testlösungen helfen Unternehmen dabei, die Systemstabilität angesichts zunehmender Cybersicherheitsbedrohungen zu bewerten und zu verbessern.

Verbessern Sie die Cybersicherheit Ihres Unternehmens. KI arbeitet nicht isoliert – sie ist Teil des Informationsökosystems einer Organisation. Traditionelle Cybersicherheitsmaßnahmen müssen verbessert und an das KI-Zeitalter angepasst werden. Dies beginnt bei der Schulung der Mitarbeiter – schließlich sind menschliche Fehler noch immer die Achillesferse jedes Cybersicherheitssystems.

Der Mangel an Fachkräften im Bereich Cybersicherheit im gesamten asiatisch-pazifischen Raum stellt eine wachsende Herausforderung dar. Unternehmen müssen in die Weiterbildung ihrer Mitarbeiter investieren, um ihre KI-Systeme zu sichern. Beispielsweise bietet Singapurs Cybersecurity Talent Development Programme ein Modell zur Überbrückung der regionalen Qualifikationslücke.

Manche argumentieren, dass der Krieg gegen die KI nur ein Teil eines andauernden Konflikts zwischen Bösewichten und ahnungslosen Opfern sei. Aber dieses Mal wird der Preis zu hoch sein. Wenn Unternehmen und Regierungen im asiatisch-pazifischen Raum der KI-Sicherheit keine Priorität einräumen, riskieren sie nicht nur Datenschutzverletzungen, sondern behindern auch Wirtschaftswachstum und Innovation.

Die beste Reaktion besteht darin, der KI-Sicherheit strategische Priorität einzuräumen und zusammenzuarbeiten. Nur dann können wir sicherstellen, dass KI ihr volles Potenzial ausschöpft, indem sie neue Formen von Wachstum und Innovation vorantreibt und gleichzeitig die Sicherheit der Gesellschaft gewährleistet.

Hoang Phuong

Quelle: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/ai-canh-bac-may-rui-neu-thieu-cac-bien-phap-an-ninh-mang-phu-hop/20250115013404507