Warnung: KI könnte einen „Überlebenswillen“ entwickeln, der sich menschlicher Kontrolle entzieht

Der führende Computerwissenschaftler Yoshua Bengio warnt, dass die Menschheit innerhalb von zehn Jahren verschwunden sein könnte, wenn die KI außer Kontrolle gerät.

Wissenschaftler befürchten, die Kontrolle über KI zu verlieren – Illustration: ChatGPT

Am 7. Februar warnte ein führender Informatiker vor der Möglichkeit, dass der Mensch in Zukunft die „Kontrolle“ über Systeme der künstlichen Intelligenz (KI) verlieren könnte, wenn diese künstlichen Produkte einen „Überlebenswillen“ entwickeln.

In seiner Rede auf dem AI Action Summit in Paris forderte der Informatiker Yoshua Bengio strengere internationale Regulierungen und eine intensivere Forschung zur Sicherheit von KI, die derzeit nur einen kleinen Teil der großen Investitionen in diesem Bereich ausmacht.

Das Aufkommen des leistungsstarken und kostengünstigen KI-Modells DeepSeek im letzten Monat hat den Wettlauf um Sicherheit beschleunigt, so der Gewinner des renommierten Turing-Preises für Informatik 2018. Yoshua Bengio warnte, wenn die KI außer Kontrolle gerate, „könnte die Menschheit innerhalb von zehn Jahren verschwinden“.

Er forderte zudem staatliche Führung im KI-Management. Dieser Aufruf erfolgte, nachdem die USA, die weltweit führende KI-Nation, unter dem neuen Präsidenten Donald Trump zahlreiche Schritte unternommen haben, um die Entwicklung dieser Technologie zu „entfesseln“.

Der von Yoshua Bengio auf der Konferenz vorgestellte International AI Safety Report weist aktuell auch auf bekannte Risiken hin, wie etwa den Einsatz von KI zur Erstellung gefälschter oder irreführender Inhalte auf Online-Plattformen, während ständig weitere Risiken auftauchen, wie etwa biologische Angriffe oder Cyberangriffe.

Mit Beiträgen von rund 100 Experten aus 30 Ländern, den Vereinten Nationen, der Europäischen Union und der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) ist dies der erste Bericht zur internationalen KI-Sicherheit, der seit dem KI-Sicherheitsgipfel im November 2023 in Großbritannien erstellt wurde.

Quelle: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm