Künstliche Intelligenz: Wir müssen die Sicherheit erhöhen, anstatt uns nur auf die Entwicklung stärkerer Systeme zu konzentrieren.

Anstatt sich nur auf die Entwicklung einer stärkeren KI zu konzentrieren, warnen einflussreiche KI-Experten davor, dass die Menschheit dringend darüber nachdenken muss, wie sie mit einer KI – einer intelligenteren Entität als ihr selbst – leben kann, und wie sie verhindern kann, dass diese die Kontrolle über die Menschheit übernimmt.

Die Podiumsdiskussion „KI für die Menschheit: KI-Ethik und Sicherheit im neuen Zeitalter“ im Rahmen der VinFuture 2025 Wissenschafts- und Technologiewoche bringt Wissenschaftler , Politiker und Erfinder zusammen, um über eine verantwortungsvolle KI-Entwicklung im Sinne humanistischer Werte zu diskutieren.

Machen Sie sich dringend Gedanken darüber, wie Sie mit KI – einer Entität, die intelligenter ist als Sie selbst – leben können.

Professor Toby Walsh von der University of New South Wales, Australien, und Mitglied der American Computer Association, bekräftigte im Rahmen des Seminars: „Ich bin der festen Überzeugung, dass der verantwortungsvolle Einsatz von KI verpflichtend sein sollte. Es gibt heutzutage viele Fehlanreize, da dank KI enorme Summen verdient werden, und der einzige Weg, ein ordnungsgemäßes Verhalten zu gewährleisten, besteht darin, strenge Vorschriften anzuwenden, damit öffentliche Interessen stets mit kommerziellen Interessen in Einklang gebracht werden.“

Er nannte ein typisches Beispiel für wichtige Entscheidungen, etwa die Verurteilung und Strafzumessung in den Vereinigten Staaten, wo ein KI-System eingesetzt wurde, um Empfehlungen zur Haftstrafe und zur Rückfallwahrscheinlichkeit einer Person abzugeben. Leider wurde dieses System mit historischen Daten trainiert und spiegelte unbeabsichtigt rassistische Vorurteile der Vergangenheit wider, was zu Diskriminierung von Schwarzen führte.

Professor Toby Walsh, University of New South Wales, Australien, Mitglied der American Computer Society.

Deshalb müssen Unternehmen, die KI-Systeme einsetzen und betreiben, für die Folgen, die diese „Maschinen“ verursachen, zur Verantwortung gezogen werden.

Professor Geoffrey Hinton, Gewinner des VF-Hauptpreises 2024, befürchtet, dass KI zunehmend besser darin wird, gefährliche Viren und Cyberangriffe zu entwickeln sowie gefälschte Videos zur Beeinflussung von Wahlen zu erstellen. In den nächsten 20 Jahren wird KI intelligenter sein als wir, und wir werden nicht mehr wissen, wie wir verhindern können, dass sie die Kontrolle über uns übernimmt.

Deshalb betonte dieser Professor: „Wir müssen dringend darüber nachdenken, wie wir mit Wesen zusammenleben können, die intelligenter sind als wir. Dies ist eine Situation, mit der die Menschheit noch nie zuvor konfrontiert war; sie ist neu, und wir müssen noch viel Forschungsarbeit leisten, bevor es so weit kommt.“

Eine verstärkte internationale Zusammenarbeit ist notwendig, um die Risiken der KI zu begrenzen.

Professor Yoshua Bengio, Gewinner des VinFuture 2024-Hauptpreises, teilt diese Bedenken und erklärte, dass sich KI-Modelle, ihre Fähigkeiten und ihr Autonomiegrad weiterhin rasant und stetig weiterentwickeln. Sollte sich dieser Trend fortsetzen, könnten autonome KI-Systeme den Menschen in den meisten kognitiven Aufgaben innerhalb von nur 5 bis 10 Jahren übertreffen.

Dies wäre ein historischer Wendepunkt, der unsere Lebensqualität dramatisch verbessern könnte. Wird er jedoch nicht mit Bedacht angegangen, birgt er auch enorme Risiken für die Demokratie, die geopolitische Stabilität und sogar die Zukunft der Menschheit.

„Wir müssen die Sicherheit fortschrittlicher KI erhöhen, anstatt uns nur auf deren Leistungsfähigkeit zu konzentrieren. Sicherheit und Vertrauen sind keine zweitrangigen Faktoren, sondern unerlässlich für die Entwicklung zum Wohle der Menschheit. Wir müssen sowohl auf politischer als auch auf wissenschaftlicher Ebene gemeinsam handeln“, sagte er.

Professor Yoshua Bengio - Gewinner des VinFuture 2024 Hauptpreises.

Dieser Wissenschaftler empfiehlt, dass die Welt im politischen Bereich internationale Zusammenarbeit benötigt. Im wissenschaftlichen Bereich ist es notwendig, besser zu verstehen, wie man KI entwickelt, die sowohl leistungsfähig als auch für den Menschen ungefährlich ist. Zudem gilt es, die Kontrolle über die KI zu gewährleisten, sodass sie sich auch dann sicher verhält, wenn Menschen sie zu Fehlverhalten auffordern. Darüber hinaus müssen technische und soziale Barrieren errichtet werden, um sicherzustellen, dass die KI mit menschlichen Normen, Absichten, Werten und Interessen übereinstimmt.

Dr. Vinton Grey Cert (Vizepräsident und Leiter der Internet-Evangelisation bei Google – Gewinner des VF-Hauptpreises 2022) stimmt dem zu: Wir müssen KI zur Rechenschaft ziehen und eine lückenlose Nachvollziehbarkeit ihrer Aktionen gewährleisten, um zu wissen, was sie wann tut, insbesondere wenn etwas schiefgeht. Viele der Prinzipien, die für Menschen gelten, gelten auch für KI-Systeme im Online-Umfeld.

„Wir müssen gleichzeitig neue Normen etablieren, in denen die Verwendung sicherer Identifikationsverfahren, Kryptografie zur Informationssicherung, Mechanismen zur Gewährleistung von Verantwortlichkeit und der Schutz von Identitäten vor Missbrauch durch Dritte zur Selbstverständlichkeit werden. Wir sollten Technologie nutzen, um Risiken von vornherein zu minimieren und klarstellen, dass jeder, der der Gemeinschaft und der Gesellschaft schadet, die Konsequenzen seines Verhaltens tragen muss. Dies erfordert internationale Zusammenarbeit“, sagte er.

Vietnam muss beim Aufbau von KI-Daten seinen eigenen Weg finden.

Laut Luu Anh Tuan, außerordentlicher Professor an der Nanyang Technological University (Singapur) und der VinUni University (Vietnam), verfügen andere Länder über Datensätze von etwa zehn Jahren, Vietnam hingegen beginnt bei null. Daher können wir von Anfang an nachhaltige Daten aufbauen und von Beginn an saubere, ethisch einwandfreie und kulturell angemessene Daten bereitstellen.

Die größte Herausforderung für Vietnam liegt jedoch in der Spezifik der vietnamesischen Sprache. Wir haben ein vielfältiges Dialektsystem, eine reiche regionale Kultur und äußerst komplexe Anredeformen. Große Plattformen wie ChatGPT oder Gemini unterstützen zwar Vietnamesisch, die Qualität ist aber nicht umfassend, da sie weder den vietnamesischen Dialekt noch die vietnamesischen Bräuche oder die Geschichte verstehen.

Vietnam muss ein eigenes vietnamesisches Modell entwickeln. Darüber hinaus sollten wir ein Open-Source-Modell entwickeln, damit auch kleine Unternehmen es nutzen und dazu beitragen können. „Wenn wir uns nur auf ausländische Modelle in Form von ‚Black Boxes‘ verlassen, bleiben wir lediglich KI-Nutzer und keine KI-Entwickler“, sagte er.

Derzeit erstellen Associate Professor Luu Anh Tuan und seine Kollegen vietnamesische KI-Daten. Dabei müssen Faktoren wie Dialekt, Geschichte und Kultur berücksichtigt werden.

Er sagte außerdem, dass Schüler im Ausland sehr früh mit KI vertraut gemacht würden. Vietnam stehe diesbezüglich noch am Anfang, könne die Entwicklung aber durch Lernen und entsprechende Anpassungen beschleunigen.

„Junge Vietnamesen sind sehr dynamisch; sie müssen lediglich umfassend über digitale Verantwortung aufgeklärt werden. Wir sollten eine zentrale Stelle einrichten, die Datenqualität und ethische Standards sicherstellt und standardisiert. VinUni beteiligt sich ebenfalls an der Entwicklung eines Systems ethischer Standards und wird diesen Prozess weiterhin unterstützen“, sagte er.

Außerordentlicher Professor Luu Anh Tuan, Nanyang Technological University (Singapur), VinUni University (Vietnam).

Als Reaktion auf die Strategie für ausländische Direktinvestitionen, die Vietnam bis 2030 zum regionalen Vorreiter im Bereich KI machen soll, ist Professor Tuan überzeugt, dass Vietnam über hochqualifizierte Fachkräfte verfügt – was sich in internationalen Erfolgen in Mathematik, Physik und Chemie widerspiegelt. Wenn wir unsere Kräfte bündeln und eine wirksame Politik verfolgen, kann das Ziel für 2030 vollständig erreicht werden.

Professor Toby Walsh empfiehlt Vietnam, in die Bevölkerung zu investieren und deren Fähigkeiten proaktiv zu verbessern, sicherzustellen, dass sie KI versteht, und KI-Unternehmer, Unternehmen und Universitäten zu unterstützen. Anstatt darauf zu warten, dass andere Länder Technologie transferieren oder uns anleiten, müssen wir proaktiv handeln und die Technologie beherrschen.

Darüber hinaus muss Vietnam die Plattformen sozialer Netzwerke stark mobilisieren, um ein sicheres Umfeld für inländische Nutzer zu schaffen, ohne die Demokratie des Landes zu beeinträchtigen.

THAO LE-THIEN LAM

Quelle: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html