Neue KI könnte zur Entwicklung biologischer Waffen eingesetzt werden.

Das Smartphone zeigt die Benutzeroberfläche zum Lernen über OpenAIs GPT-o-1 – Foto: FINANCIAL TIMES

Laut einem Bericht der Financial Times vom 13. September räumte OpenAI ein, dass sein am 12. September vorgestelltes GPT-o-1-Modell das Risiko, dass künstliche Intelligenz (KI) zur Herstellung biologischer Waffen missbraucht wird, „erheblich“ erhöht.

Die Dokumentation von OpenAI zur Funktionsweise von GPT-o1 bestätigt, dass das neue Modell in Bezug auf chemische, biologische, radiologische und nukleare Waffen ein „mittleres Risikoniveau“ aufweist. Dies ist das höchste Risikoniveau, das OpenAI jemals seinen KI-Modellen zugewiesen hat.

Laut OpenAI bedeutet dies, dass GPT-o1 die Fähigkeit von Experten, biologische Waffen zum Missbrauch herzustellen, "erheblich verbessern" könnte.

Mira Murati, Chief Technology Officer (CTO) von OpenAI, sagte, dass GPT-o1 sich zwar noch in der Testphase befinde, die fortgeschrittenen Fähigkeiten dieses Modells das Unternehmen jedoch dazu zwingen, bei der Planung seiner Veröffentlichung äußerst vorsichtig vorzugehen.

Frau Murati betonte außerdem, dass das Modell von einem multidisziplinären Expertenteam gründlich getestet worden sei. Diese Experten wurden von OpenAI beauftragt, die Grenzen des vom Unternehmen entwickelten Modells zu untersuchen.

Murati teilte mit, dass der Testprozess gezeigt habe, dass das Modell GPT-o1 die allgemeinen Sicherheitskriterien wesentlich besser erfülle als seine Vorgänger.

Darüber hinaus versicherten Vertreter von OpenAI, dass die Testversion von GPT-o1 „sicher für den Einsatz“ sei und keine komplexeren Risiken berge als bereits entwickelte Technologien.

Trotz dieser Zusicherungen bleibt ein großer Teil der wissenschaftlichen Gemeinschaft und der KI-Enthusiasten hinsichtlich der Zukunft dieser Technologie überwiegend pessimistisch.

Die Befürchtungen, dass sich KI zu schnell entwickelt und das Tempo der Entwicklung und Verabschiedung von Regulierungsmaßnahmen übersteigt, nehmen zu.

Professor Yoshua Bengio, Informatiker an der Universität Montreal und einer der weltweit führenden KI-Wissenschaftler, sagte, dass, wenn OpenAI derzeit ein "mittleres Risiko" chemischer und biologischer Waffen darstelle, dies "nur die Bedeutung und Dringlichkeit" von Regulierungen, wie dem heftig diskutierten Gesetzentwurf in Kalifornien, zur Regelung dieses Bereichs unterstreiche.

Dieser Wissenschaftler betonte, dass diese Institutionen insbesondere im Kontext der Tatsache notwendig seien, dass sich die KI zunehmend dem Niveau der universellen künstlichen Intelligenz (AGI) annähere, also der Fähigkeit, auf dem Niveau des Menschen zu denken.

„Je näher sich wegweisende KI-Modelle der allgemeinen allgemeinen Intelligenz (AGI) annähern, desto größer werden die Risiken, wenn keine angemessenen Vorkehrungen getroffen werden. Die Verbesserung der Denkfähigkeit von KI und ihr potenzieller Missbrauch für Betrug sind extrem gefährlich“, urteilte Bengio.

Quelle: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm