Lasst nicht zu, dass KI das Überleben der Menschheit bedroht.

Die „Väter der KI“, Gewinner des VinFuture 2024-Preises, sind der Ansicht, dass Wissenschaftler sicherstellen müssen, dass KI-Szenarien das Überleben der Menschheit nicht gefährden.

Am 7. Dezember tauschten sich die Gewinner des VinFuture-Preises 2024 mit Studierenden und Nachwuchswissenschaftlern der VinUni-Universität über ihre Forschung und die Zukunftsperspektiven ihrer Fachgebiete aus. Die Preisträger des Hauptpreises, herausragende Wissenschaftler, deren bahnbrechende Arbeiten die Grundlage für die heutige KI-Revolution gelegt haben, berichteten über die beeindruckenden Fortschritte der KI.

Professor Yann LeCun (Mitte) und Professor Yoshua Bengio (links im Bild) bei der Austauschsitzung

„Es ist, als wären wir zehn Jahre in die Zukunft gesprungen.“

Professor Geoffrey Hinton von der Universität Toronto, Kanada, der nicht persönlich nach Vietnam reisen konnte, um den Preis entgegenzunehmen, nahm per Videokonferenz teil. Er, Professor Yann LeCun und Professor Yoshua Bengio erhielten 2018 den Turing Award (eine Auszeichnung, die als Nobelpreis der Informatik gilt) und wurden von den internationalen Medien als „Pioniere der KI“ bezeichnet. Nun werden alle drei von VinFuture 2024 im Hauptpreis neben zwei weiteren Wissenschaftlern geehrt: Professor Fei Fei Li (USA) und Jensen Huang (CEO von NVIDIA).

Laut Professor Hinton ist der jüngste Boom im Bereich der künstlichen Intelligenz auf drei Faktoren zurückzuführen. Erstens auf die Forschung zur Entwicklung effizienterer Lernmethoden für neuronale Netze, an der er, Professor Yoshua, Professor Yann und viele andere mitgewirkt haben. Zweitens auf die extrem hohe Rechenleistung von Grafikprozessoren (GPUs) und die enorme Menge an Daten, die wir sammeln können.

Professor Geoffrey Hinton teilt seine Erfahrungen per Video mit

„Ein herausragender Aspekt dieser Auszeichnung (VinFuture 2024) ist die Würdigung der Pionierarbeit von Herrn Jensen Huang bei der Entwicklung von GPU-Boards für KI-Anwendungen. Die Kombination aus Jensen Huangs GPU-Board und den Datensätzen von Professorin Fei Fei Li spielte eine wichtige Rolle in der modernen Entwicklung der KI. Es ist großartig, dass ihre Arbeit neben derjenigen derjenigen gewürdigt wird, die an neuronalen Netzwerkalgorithmen arbeiten“, sagte Professor Hinton.

„Wir stellten fest, dass neuronale Netze beim Training mit GPUs 30-mal schneller waren. Das war ein Quantensprung. Die Rechengeschwindigkeit war ihrer Zeit um zehn Jahre voraus. Plötzlich waren wir in Sachen Rechengeschwindigkeit zehn Jahre voraus. Das war ein absoluter Wendepunkt für die KI, es war einfach unglaublich!“, erklärte Professor Hinton.

Wissenschaftler arbeiten weiterhin daran, die Verbindungen in neuronalen Netzen besser zu verstehen. Dies wird ihnen helfen, eine künstliche Intelligenz zu entwickeln, die der menschlichen Intelligenz ähnlicher ist und sogar Intuition erklären kann. Traditionelle logische Ansätze werden dazu niemals in der Lage sein.

"Ich bekomme langsam Angst vor KI."

Professor Hinton erklärte, dass die heutigen großen neuronalen Netze über eine ähnliche Intuition wie der Mensch verfügen. Seit dem letzten Jahr mache er sich Sorgen, dass KI in nur 5 bis 20 Jahren so intelligent wie der Mensch sein könnte. „Da fing ich an, mir Sorgen um KI zu machen. Die Entwicklung zu stoppen ist keine Option. Daher bleibt uns nur die Möglichkeit, herauszufinden, wie wir die Sicherheit gewährleisten können, wenn sie intelligenter wird als wir“, so Professor Hinton.

„Ich glaube aber nicht, dass das Ende der Welt unausweichlich ist“, sagt Professor Hinton. „Die Möglichkeiten dürfen jedoch nicht ignoriert werden, und wir müssen alles daransetzen, es zu verhindern. Hoffentlich entscheiden sich die talentiertesten Studierenden für ein Studium der KI-Sicherheit, um ein breites Spektrum an Bedrohungen zu untersuchen – von langfristigen Gefahren wie der Übernahme von Systemen durch KI bis hin zu kurzfristigen Bedrohungen wie Cyberkriminalität.“

Professor Yoshua Bengio und Professor Yann LeCun

Professor Yann Lecun äußerte seine Besorgnis über das Risiko, dass KI die Menschheit dominieren könnte, sobald sie deren Intelligenz erreicht. Eine eindeutige Antwort darauf gebe es jedoch noch nicht. „Wir können selbst beim Schach mit einem 30 Euro teuren Spielzeug verlieren. Ist das gefährlich? Nein. KI wird erst dann gefährlich, wenn wir ihr einen Anreiz geben, die Menschheit zu kontrollieren. Doch aktuell verfügt KI lediglich über Wissen, nicht über Motivation“, so Professor Lecun.

Laut Professor Yann ist die Entwicklung einer KI, die den Menschen aktiv dient, lediglich ein technisches Problem. Die Annahme, KI werde den Menschen dominieren, nur weil sie intelligent ist, ist ein Vorurteil. Denn die Realität zeigt, dass es in der Gesellschaft viele intelligente Menschen gab, die aber nicht die Welt beherrschten! KI ist nach wie vor ein Werkzeug; das Problem liegt beim Menschen, nicht bei der KI.

Laut Professor Yoshua Bengio dürfen wir nicht subjektiv sein; schon ein kleines Problem kann das Überleben der Menschheit gefährden. Menschen können Maschinen Motivationen einimpfen. Jemand könnte beispielsweise versuchen, eine Maschine in einen Menschen zu verwandeln, ihr den Anschein zu geben, sie müsse „überleben“. Wir wollen die Maschine dann abschalten, aber sie weigert sich. „Natürlich müssen wir dafür sorgen, dass dieses Szenario nicht eintritt“, so Professor Bengio.

Quelle: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm