Neue KI könnte zur Herstellung biologischer Waffen eingesetzt werden

:Telefon mit OpenAIs GPT-o1-Lernschnittstelle – Foto: FINANCIAL TIMES

Laut Financial Times vom 13. September gab das Unternehmen OpenAI zu, dass das erst am 12. September eingeführte Modell GPT-o1 das Risiko, dass künstliche Intelligenz (KI) zur Herstellung biologischer Waffen missbraucht wird, „erheblich“ erhöhe.

In einem von OpenAI veröffentlichten Dokument zur Funktionsweise von GPT-o1 heißt es, dass das neue Modell ein „mittleres Risikoniveau“ für Probleme im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen Waffen aufweist. Dies ist die höchste Risikostufe, die OpenAI seinen KI-Modellen jemals zugewiesen hat.

Laut OpenAI bedeutet dies, dass GPT-o1 die Fähigkeiten von Experten, die es zur Herstellung von Biowaffen missbrauchen wollen, „dramatisch verbessern“ könnte.

Mira Murati, Chief Technology Officer (CTO) von OpenAI, sagte, dass sich GPT-o1 zwar noch in der Testphase befinde, die fortgeschrittenen Fähigkeiten des Modells das Unternehmen jedoch dennoch dazu zwingen, bei der Veröffentlichung seines Fahrplans für die Öffentlichkeit äußerst „vorsichtig“ zu sein.

Frau Murati bestätigte außerdem, dass das Modell von einem multidisziplinären Expertenteam, das von OpenAI beauftragt worden war, gründlich getestet wurde, um die Grenzen des von dem Unternehmen entwickelten Modells zu testen.

Der Testprozess habe gezeigt, dass das Modell GPT-o1 die allgemeinen Sicherheitskriterien viel besser erfülle als seine Vorgänger, teilte Frau Murati mit.

Doch damit nicht genug: Die Vertreter von OpenAI versicherten auch, dass die Testversion von GPT-o1 „sicher für den Einsatz“ sei und keine komplexeren Risiken als die entwickelten Technologien mit sich bringen könne.

Trotz der oben genannten Zusicherungen ist ein großer Teil der wissenschaftlichen Gemeinschaft und der an KI Interessierten hinsichtlich der Entwicklungsrichtung dieser Technologie noch immer nicht sehr optimistisch.

Es gibt zunehmende Bedenken, dass sich die KI zu schnell entwickelt und die Entwicklung und Verabschiedung der entsprechenden Vorschriften hinter sich lässt.

Professor Yoshua Bengio, Informatikstudent an der Universität Montreal und einer der weltweit führenden KI-Wissenschaftler, sagte, wenn OpenAI nun ein „mittleres Risiko“ hinsichtlich chemischer und biologischer Waffen darstelle, „verstärke dies nur die Bedeutung und Dringlichkeit“ von Gesetzen wie dem derzeit in Kalifornien heiß diskutierten Gesetz zur Regulierung dieses Bereichs.

Dieser Wissenschaftler betonte, dass die oben genannten Institutionen insbesondere im Kontext der zunehmenden Annäherung der KI an das Niveau der künstlichen allgemeinen Intelligenz (AGI) notwendig seien, was bedeute, dass die KI über die Fähigkeit verfüge, auf Augenhöhe mit dem Menschen zu denken.

„Je näher bahnbrechende KI-Modelle der AGI kommen, desto größer werden die Risiken, wenn nicht die richtigen Vorkehrungen getroffen werden. Die verbesserte Denkfähigkeit der KI und ihre Verwendung für Betrug sind äußerst gefährlich“, so die Einschätzung von Herr Bengio.

Quelle: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm