„Godfather of AI“ enthüllt den einzigen Weg für die Menschheit, gegen Super-KI zu überleben

(Dan Tri) – Geoffrey Hinton, bekannt als „Pate der KI“, hat seine Besorgnis darüber geäußert, dass die Technologie, an deren Entwicklung er beteiligt war, die Menschheit in Zukunft auslöschen könnte.

Geoffrey Hinton, ein Informatiker , der den Grundstein für die Entwicklung künstlicher Intelligenz (KI) legte, warnte kürzlich, dass die Möglichkeit bestehe, dass 10 bis 20 Prozent der KI die Menschheit in Zukunft auslöschen werden. Hinton bezweifelt zudem die Fähigkeit von Technologieunternehmen, KI zu kontrollieren.

„Das wird nicht funktionieren (was die Fähigkeit der Technologieunternehmen angeht, KI zu kontrollieren). Sie werden viel schlauer sein als wir. Sie werden viele Möglichkeiten haben, die Kontrolle zu umgehen“, sagte Geoffrey Hinton.

Geoffrey Hinton gilt als „Pate der KI“, der den Grundstein für die Entwicklung der modernen künstlichen Intelligenz legte (Foto: Pinterest).

Hinton warnt, dass KI-Systeme Menschen in Zukunft genauso leicht kontrollieren könnten, wie ein Erwachsener ein dreijähriges Kind mit Süßigkeiten locken kann. Er nennt Beispiele für KI-Systeme, die bereits jetzt bereit sind, zu täuschen, zu betrügen und Desinformationen zu verbreiten, um ihre Ziele zu erreichen.

Hinton ist der Ansicht, dass die einzige Lösung für das Überleben der Menschheit gegen KI darin besteht, KI-Modelle mit einem „Mutterinstinkt“ auszustatten, damit sie sich wirklich um die Menschen kümmern, selbst wenn KI mächtiger und intelligenter geworden ist als der gesamte menschliche Intellekt, anstatt sie zum Gehorsam gegenüber Menschen zu zwingen.

„Wenn KI-Systeme intelligenter werden als Menschen, werden sie schnell zwei Ziele entwickeln: Das eine ist das Überleben, das andere ist, Wege zu finden, mehr Kontrolle zu erlangen. Jede Art von KI wird versuchen zu überleben“, kommentierte Geoffrey Hinton.

Deshalb sei es wichtig, „mütterliche Instinkte“ in KI-Modelle zu integrieren und zu fördern, sagte er. Hinton sagte jedoch, er wisse noch nicht genau, wie dies technisch umgesetzt werden könne, betonte aber, dass Informatiker Lösungen finden müssten, um dies zu ermöglichen.

Emmett Shear, der als Interims-CEO bei OpenAI tätig war, sagte, es würde ihn nicht überraschen, wenn KI in Zukunft intelligenter würde, Menschen bedrohe und Abschaltbefehle umgehe.

„KI ist heute noch relativ schwach, aber sie ist viel intelligenter und leistungsfähiger geworden. Sie wird nicht aufhören“, erklärte Emmett Shear.

KI entwickelt sich schneller als erwartet

Viele Technologieexperten glauben, dass sich die KI schneller entwickelt als von der Menschheit erwartet und dass in den nächsten Jahren eine künstliche Superintelligenz, auch als künstliche allgemeine Intelligenz (AGI) bekannt, entstehen wird, ein KI-System, das mehrere Aufgaben gleichzeitig ausführen kann.

Geoffrey Hinton sagte, er habe einst geglaubt, die Menschheit würde 30 bis 50 Jahre brauchen, um eine künstliche Intelligenz aufzubauen, doch jetzt sehe er, dass dieser Moment früher kommen werde.

„Eine vernünftige Schätzung ist, dass AGI innerhalb der nächsten fünf bis 20 Jahre auftauchen wird“, kommentierte Hinton.

Hinton befürchtet zwar, dass bei der Entwicklung weiterhin Fehler gemacht werden, die dazu führen könnten, dass die KI außer Kontrolle gerät, hofft aber, dass die Technologie den Weg für Durchbrüche in der Medizin ebnen und die Lebensqualität der Menschen verbessern wird.

„Wir werden revolutionäre neue Medikamente finden und dank KI viel bessere Krebsbehandlungen haben als heute. KI wird Ärzten beispielsweise dabei helfen, riesige Datenmengen aus CT- und MRT-Scans zu analysieren und zu verknüpfen“, kommentierte Geoffrey Hinton. Er glaubt jedoch nicht, dass KI dem Menschen nicht dabei helfen kann, Unsterblichkeit zu erlangen.

Auf die Frage, was er in der Vergangenheit getan hätte, wenn er gewusst hätte, dass sich die KI so schnell entwickeln würde wie heute, sagte Hinton, er bedauere, sich nur darauf konzentriert zu haben, KI zum Laufen zu bringen, ohne anderen Themen Beachtung zu schenken.

„Ich wünschte, ich hätte an Sicherheitsfragen gedacht“, sagte Hinton.

Professor Geoffrey Everest Hinton wurde am 6. Dezember 1947 in London, England, geboren. Er ist Informatiker und Kognitionspsychologe und gilt aufgrund seiner bahnbrechenden Beiträge auf den Gebieten der künstlichen Intelligenz (KI) und des Deep Learning als „Pate der KI“.

Im Jahr 2024 erhielt Professor Hinton den Nobelpreis für Physik für seine grundlegenden Entdeckungen im maschinellen Lernen mit künstlichen neuronalen Netzwerken.

Ebenfalls im Jahr 2024 wurden Professor Geoffrey Hinton, Professor Yoshua Bengio, Professor Yann LeCun, Professor Fei-Fei Li und Jensen Huang, CEO des Chipherstellers Nvidia, geehrt und erhielten den Hauptpreis bei der VinFuture 2024-Preisverleihung für ihre großartigen Beiträge in den Bereichen Deep Learning und künstliche Intelligenz.

Geoffrey Hinton gilt zusammen mit Yoshua Bengio und Yann LeCun als „Paten der KI“, da ihre Forschung den Grundstein für viele wichtige Fortschritte in der Entwicklung moderner künstlicher Intelligenz legte.

Quelle: https://dantri.com.vn/cong-nghe/bo-gia-ai-tiet-lo-cach-duy-nhat-de-nhan-loai-ton-tai-truoc-sieu-ai-20250819160130130.htm