Künstliche Intelligenz könnte in etwa 20 Jahren intelligenter sein als der Mensch.

Professor Geoffrey Hinton warnte davor, dass künstliche Intelligenz in den nächsten 20 Jahren intelligenter werden könnte als der Mensch, und sagte, die Menschheit sei mit einer Situation konfrontiert, die sie noch nie erlebt habe.

Im Rahmen der VinFuture 2025 Wissenschafts- und Technologiewoche diskutierte die Podiumsdiskussion „ KI für die Menschheit: KI-Ethik und Sicherheit im neuen Zeitalter “ eines der dringlichsten Themen unserer Zeit: die verantwortungsvolle Entwicklung von KI im Sinne humanistischer Werte und zum Wohle der gesamten Menschheit.

Wissenschaftler diskutieren im Seminar.

Professor Geoffrey Hinton, Gewinner des Nobelpreises für Physik 2024 und als „Vater der KI“ geehrt, sandte eine Videobotschaft an die Podiumsdiskussion und sagte, dass sich die KI sehr schnell entwickle und sowohl große Vorteile als auch potenzielle Risiken mit sich bringe.

Positiv sei jedoch, so Hinton, dass KI zu enormen Verbesserungen im Gesundheitswesen, im Bildungswesen, bei der Entwicklung neuer Medikamente, bei neuen Materialien oder in jedem anderen Bereich führe, der Vorhersagen erfordere, was einen Produktivitätssprung zur Folge habe.

„ Das ist von Vorteil, wenn es gerecht in der Gesellschaft verteilt wird “, betonte der Professor.

Im Gegenteil, KI wird zunehmend besser darin, gefährliche Viren oder Cyberangriffe zu entwickeln, gefälschte Videos zu erstellen und so zu Massenarbeitslosigkeit zu führen...

„ KI-Experten gehen davon aus, dass wir Systeme entwickeln werden, die intelligenter sind als Menschen. Es gibt viele unterschiedliche Ansichten darüber, wann das geschehen wird, aber die meisten prognostizieren es innerhalb der nächsten 20 Jahre. Wir müssen uns dringend Gedanken darüber machen, wie wir mit Wesen zusammenleben können, die intelligenter sind als wir. Die Menschheit steht vor einer völlig neuen Situation, und wir müssen noch viel Forschung betreiben, bevor es so weit ist “, sagte Professor Hinton.

Laut Professor Geoffrey Hinton tragen Wissenschaftler und Ingenieure die Verantwortung, wirksamere Wege zu finden, um KI mit menschlichen Werten in Einklang zu bringen, und müssen der Öffentlichkeit und den Politikern helfen, das Wesen der KI besser zu verstehen, damit sie die richtigen Entscheidungen treffen können.

Professor Yoshua Bengio teilte seine Gedanken im Rahmen des Seminars mit.

Professor Yoshua Bengo, bekannt als der „Vater des Deep Learning“ und Gewinner des Turing-Preises 2018, sagte unterdessen, dass KI das Potenzial habe, enorme Vorteile zu bringen und zur Lösung vieler dringender Herausforderungen unserer Zeit beizutragen, dies geschehe jedoch nur, wenn wir sie weise lenken.

Er verweist auf aktuelle Simulationen, die zeigen, dass KI-Systeme gefährliches Verhalten an den Tag legen können, etwa Erpressung, Täuschung oder die Priorisierung des eigenen Überlebens gegenüber der Sicherheit von Menschen. Darüber hinaus können einige Merkmale gängiger KI-Modelle heutzutage dazu führen, dass Nutzer auf ungesunde Weise starke emotionale Bindungen eingehen.

„ In extremen Fällen kann diese Abhängigkeit gefährlich für die psychische Gesundheit sein, insbesondere für vulnerable Menschen, die von Selbstverletzungen, sogar Selbstmord oder KI-induzierter Psychose bedroht sind “, sagte Professor Bengo.

Aus dieser Realität, so Herr Bengo, müssen wir die Sicherheit einer hochentwickelten KI erhöhen, anstatt uns nur darauf zu konzentrieren, sie leistungsfähiger zu machen.

„ Sicherheit und Vertrauen sind keine zweitrangigen, sondern wesentliche Faktoren im Entwicklungsprozess zum Wohle der Menschheit. Wir müssen sowohl auf politischer als auch auf wissenschaftlicher Ebene gemeinsam handeln “, betonte Professor Yoshua Bengo.

Laut Professor Yoshua Bengo benötigt die Welt in politischer Hinsicht internationale Zusammenarbeit. In wissenschaftlicher Hinsicht ist es notwendig, besser zu verstehen, wie man KI entwickelt, die sowohl über überlegene Fähigkeiten verfügt als auch für den Menschen unschädlich ist.

Der Experte wies insbesondere darauf hin, dass die Fähigkeit erhalten bleiben müsse, KI so zu steuern, dass sie sich auch dann sicher verhält, wenn Menschen sie zu Fehlverhalten auffordern; es gelte, technische und soziale Barrieren zu errichten, um sicherzustellen, dass KI mit menschlichen Normen, Absichten, Werten und Interessen übereinstimmt.

Aus einer anderen Perspektive teilt Dr. Vinton Gray Cerf – einer der „Väter des Internets“ – Erkenntnisse aus mehr als 50 Jahren Internetentwicklung, um das Zeitalter der KI zu beleuchten.

Er skizzierte vier wichtige Lehren aus dem Internet: Vernetzung ist alles; die Ende-zu-Ende-Kommunikation muss sicher sein; das System muss global sein; und die Architektur muss offen genug sein, um kontinuierliche Innovationen zu ermöglichen.

„ Das Internet zeigt aber auch, dass absolute Anonymität die Verantwortlichkeit erschwert. Im Zeitalter der KI wird diese Verantwortlichkeit noch dringlicher, da Technologie gefälschte Inhalte erzeugen, Informationen manipulieren und die Gesellschaft destabilisieren kann “, sagte Dr. Vinton Gray Cerf und argumentierte, dass die Förderung digitalen Vertrauens – basierend auf Transparenz, Identität und internationaler Zusammenarbeit – eine unverzichtbare Grundlage für die Regulierung von KI sei.

Englisch

Quelle: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html