Unternehmen, die KI verantwortungsvoll einsetzen, werden sich einen Wettbewerbsvorteil verschaffen.

Professor Toby Walsh von der University of New South Wales in Australien sprach am Rande der Talkshow „KI für die Menschheit: KI-Ethik und Sicherheit im neuen Zeitalter“ über den verantwortungsvollen und ethischen Einsatz von KI.

Die Podiumsdiskussion „KI für die Menschheit: KI-Ethik und Sicherheit im neuen Zeitalter“ im Rahmen der VinFuture 2025 Wissenschafts- und Technologiewoche bringt Wissenschaftler, Politiker und Erfinder zusammen, um über eine verantwortungsvolle KI-Entwicklung im Sinne humanistischer Werte zu diskutieren.

Am Rande der Diskussion sprach Professor Toby Walsh von der University of New South Wales (Australien), Mitglied der American Association for Computing Machinery, über den ethischen und verantwortungsvollen Umgang mit KI.

Der verantwortungsvolle Umgang mit KI sollte verpflichtend sein.

- Sollte der verantwortungsvolle Umgang mit KI laut dem Professor freiwillig oder verpflichtend sein? Und wie sollten wir uns KI gegenüber verhalten?

Professor Toby Walsh: Ich bin der festen Überzeugung, dass der verantwortungsvolle Einsatz von KI verpflichtend sein sollte. Angesichts der enormen Summen, die mit KI verdient werden, gibt es derzeit Fehlanreize, und die einzige Möglichkeit, ein verantwortungsvolles Verhalten zu gewährleisten, besteht in strengen Regulierungen, die das öffentliche Interesse stets mit den kommerziellen Interessen in Einklang bringen.

Können Sie konkrete Beispiele aus verschiedenen Ländern für verantwortungsvolle und ethische KI-Anwendungen nennen?

Professor Toby Walsh: Ein klassisches Beispiel sind weitreichende Entscheidungen, wie etwa die Strafzumessung in den Vereinigten Staaten, wo ein KI-System eingesetzt wird, um Empfehlungen über die Haftstrafe einer Person und die Wahrscheinlichkeit eines Rückfalls abzugeben.

Leider wurde dieses System mit historischen Daten trainiert und spiegelt ungewollt rassistische Vorurteile der Vergangenheit wider, die zu Diskriminierung von Schwarzen geführt haben. Wir dürfen nicht zulassen, dass solche Systeme darüber entscheiden, wer inhaftiert wird.

- Wer trägt die Verantwortung, wenn KI einen Fehler macht? Insbesondere bei KI-Agenten: Sind wir in der Lage, deren Funktionsweise zu korrigieren?

Professor Toby Walsh: Das Kernproblem bei KI-Fehlern ist, dass wir die KI nicht zur Rechenschaft ziehen können. KI ist kein Mensch, und das ist ein Mangel in jedem Rechtssystem der Welt . Nur Menschen tragen die Verantwortung für ihre Entscheidungen und Handlungen.

Plötzlich haben wir einen neuen „Agenten“ namens KI, der – wenn wir es zulassen – Entscheidungen treffen und in unserer Welt handeln kann, was uns vor eine Herausforderung stellt: Wen werden wir zur Rechenschaft ziehen?

Die Lösung besteht darin, die Unternehmen, die KI-Systeme einsetzen und betreiben, für die Folgen dieser „Maschinen“ zur Rechenschaft zu ziehen.

Professor Toby Walsh von der University of New South Wales referierte im Rahmen der VinFuture 2025 Science and Technology Week auf dem Seminar „KI für die Menschheit: KI-Ethik und -Sicherheit im neuen Zeitalter“. (Foto: Minh Son/Vietnam+)

Viele Unternehmen sprechen auch von verantwortungsvoller KI. Wie können wir ihnen vertrauen? Woher wissen wir, dass sie es ernst meinen und das Thema umfassend angehen, oder dass sie „verantwortungsvolle KI“ nicht nur als Marketinginstrument einsetzen?

Professor Toby Walsh: Wir müssen die Transparenz erhöhen. Es ist wichtig, die Fähigkeiten und Grenzen von KI-Systemen zu verstehen. Wir sollten auch durch unser Handeln Verantwortung übernehmen und die Dienste bewusst nutzen.

Ich bin fest davon überzeugt, dass der verantwortungsvolle Umgang von Unternehmen mit KI im Markt ein entscheidendes Unterscheidungsmerkmal und damit ein Wettbewerbsvorteil sein wird. Unternehmen, die Kundendaten respektieren, profitieren davon und gewinnen neue Kunden.

Unternehmen werden erkennen, dass verantwortungsvolles Handeln nicht nur ethisch vertretbar ist, sondern sie auch erfolgreicher macht. Ich sehe darin eine Möglichkeit, Unternehmen zu differenzieren, und mit verantwortungsvollen Unternehmen können wir bedenkenlos Geschäfte machen.

„Wenn wir nicht aufpassen, könnten wir eine Phase der digitalen Kolonialisierung erleben.“

Vietnam ist eines der wenigen Länder, die die Verabschiedung eines Gesetzes zur Künstlichen Intelligenz erwägen. Wie beurteilen Sie dies? Welche ethischen und sicherheitstechnischen Herausforderungen ergeben sich Ihrer Meinung nach für Entwicklungsländer wie Vietnam bei der KI-Entwicklung? Welche Empfehlungen hat der Professor für Vietnam, um seine Ziele in der KI-Strategie zu erreichen – nämlich eine führende Rolle in der KI-Forschung und -Anwendung in der Region und weltweit einzunehmen?

Professor Toby Walsh: Ich freue mich sehr, dass Vietnam zu den Vorreiterländern gehört, die ein eigenes Gesetz zur künstlichen Intelligenz verabschieden werden. Dies ist wichtig, da jedes Land seine eigenen Werte und seine eigene Kultur hat und Gesetze zum Schutz dieser Werte benötigt.

Vietnamesische Werte und Kultur unterscheiden sich von denen Australiens, Chinas und der USA. Wir können nicht erwarten, dass Technologieunternehmen aus China oder den USA die vietnamesische Kultur und Sprache automatisch schützen. Vietnam muss selbst die Initiative ergreifen, um diese zu bewahren.

Professor Toby Walsh warnt davor, dass wir, wenn wir nicht aufpassen, eine Phase der digitalen Kolonisierung erleben könnten. (Foto: Minh Son/Vietnam+)

Mir ist bewusst, dass viele Entwicklungsländer in der Vergangenheit eine Phase physischer Kolonialisierung durchgemacht haben. Wenn wir nicht aufpassen, könnten wir in eine Phase der „digitalen Kolonialisierung“ geraten. Ihre Daten werden ausgebeutet und Sie werden zu einer billigen Ressource degradiert.

Dies ist gefährdet, wenn Entwicklungsländer die KI-Industrie so entwickeln, dass sie Daten nur ausbeutet, ohne ihre eigenen Interessen zu kontrollieren oder zu schützen.

- Wie lässt sich diese Situation überwinden, Professor?

Professor Toby Walsh: Ganz einfach: Investieren Sie in Menschen. Bilden Sie sie weiter und sorgen Sie dafür, dass sie KI verstehen. Unterstützen Sie KI-Unternehmer, Unternehmen und Universitäten. Seien Sie proaktiv. Anstatt darauf zu warten, dass andere Länder Technologie transferieren oder uns anleiten, müssen wir selbst aktiv werden und die Technologie selbst entwickeln.

Noch wichtiger ist jedoch, dass wir uns nachdrücklich dafür einsetzen müssen, dass Social-Media-Plattformen ein sicheres Umfeld für ihre Nutzer in Vietnam schaffen, ohne dabei die Demokratie des Landes zu beeinträchtigen.

Tatsächlich gibt es zahlreiche Beispiele dafür, wie Inhalte in sozialen Medien Wahlergebnisse beeinflusst, Länder gespalten und sogar Terrorismus angestiftet haben.

Künstliche Intelligenz (KI) ist in Vietnam sehr weit entwickelt. In letzter Zeit hat Vietnam viele Maßnahmen zur Förderung von KI ergriffen, steht aber auch vor einem Problem: Betrug durch KI. Wie sollte Vietnam laut Aussage des Professors mit dieser Situation umgehen?

Professor Toby Walsh: Für Privatpersonen ist es meiner Meinung nach am einfachsten, Informationen zu überprüfen. Wenn wir beispielsweise einen Anruf oder eine E-Mail, etwa von einer Bank, erhalten, sollten wir dies noch einmal überprüfen: Wir können die angegebene Telefonnummer zurückrufen oder die Bank direkt kontaktieren, um die Angaben zu bestätigen. Heutzutage gibt es viele gefälschte E-Mails, gefälschte Telefonnummern, sogar Zoom-Anrufe können gefälscht sein. Diese Betrugsmaschen sind sehr einfach, kostengünstig und zeitsparend.

Auch in meiner Familie gibt es eine Sicherheitsmaßnahme: eine „Geheimfrage“, die nur Familienmitglieder kennen, zum Beispiel den Namen unseres Kaninchens. So stellen wir sicher, dass wichtige Informationen in der Familie bleiben und nicht nach außen dringen.

- Vielen Dank./.

Professor Toby Walsh ist ARC-Ehrenstipendiat und Scientia-Professor für Künstliche Intelligenz (KI) an der University of New South Wales Sydney (UNSW). Er setzt sich stark dafür ein, Grenzen zu setzen, um sicherzustellen, dass KI zum Wohle der Menschen eingesetzt wird.

Er ist außerdem Mitglied der Australian Academy of Science und wurde in die internationale Liste der „einflussreichen Persönlichkeiten im Bereich KI“ aufgenommen.

(Vietnam+)

Quelle: https://www.vietnamplus.vn/doanh-nghiep-su-dung-ai-co-trach-nhiem-se-mang-lai-loi-the-thuong-mai-post1080681.vnp