Neue KI könnte zur Entwicklung biologischer Waffen eingesetzt werden

Smartphone mit der GPT-o1-Lernschnittstelle von OpenAI – Foto: FINANCIAL TIMES

Laut einem Bericht der Financial Times vom 13. September räumte das Unternehmen OpenAI ein, dass das erst am 12. September vorgestellte GPT-o-1-Modell das Risiko, dass künstliche Intelligenz (KI) zur Herstellung biologischer Waffen missbraucht wird, „erheblich“ erhöht.

Ein von OpenAI veröffentlichtes Dokument, das die Funktionsweise von GPT-o1 erläutert, gibt an, dass das neue Modell in Bezug auf chemische, biologische, radiologische und nukleare Waffen ein „mittleres Risikoniveau“ aufweist. Dies ist das höchste Risikoniveau, das OpenAI jemals seinen KI-Modellen zugewiesen hat.

Laut OpenAI bedeutet dies, dass GPT-o1 die Fähigkeiten von Experten, die sie missbrauchen wollen, um Biowaffen zu entwickeln, "dramatisch verbessern" könnte.

Mira Murati, Chief Technology Officer (CTO) von OpenAI, sagte, dass GPT-o1 sich zwar noch in der Testphase befinde, die fortgeschrittenen Fähigkeiten des Modells das Unternehmen aber dennoch dazu zwingen, hinsichtlich seiner Roadmap für die Öffentlichkeit äußerst vorsichtig zu sein.

Frau Murati bestätigte außerdem, dass das Modell von einem multidisziplinären Expertenteam, das von OpenAI beauftragt wurde, gründlich getestet wurde, um die Grenzen des vom Unternehmen entwickelten Modells auszuloten.

Die Tests hätten gezeigt, dass das Modell GPT-o1 die allgemeinen Sicherheitskriterien wesentlich besser erfülle als seine Vorgänger, teilte Frau Murati mit.

Doch damit nicht genug: Vertreter von OpenAI versicherten auch, dass die Testversion von GPT-o1 "sicher für den Einsatz" sei und keine komplexeren Risiken als die entwickelten Technologien berge.

Trotz der oben genannten Zusicherungen ist ein großer Teil der wissenschaftlichen Gemeinschaft und derjenigen, die sich für KI interessieren, hinsichtlich der Entwicklungsrichtung dieser Technologie noch immer nicht sehr optimistisch.

Die Befürchtungen, dass sich die KI zu schnell entwickelt und die Entwicklung und Verabschiedung der sie regelnden Vorschriften überholt, nehmen zu.

Professor Yoshua Bengio, Informatiker an der Universität Montreal und einer der weltweit führenden KI-Wissenschaftler, sagte, dass, wenn OpenAI nun ein „mittleres Risiko“ chemischer und biologischer Waffen darstelle, „dies die Bedeutung und Dringlichkeit“ von Gesetzen, wie dem in Kalifornien heftig diskutierten Gesetz zur Regulierung dieses Bereichs, nur noch verstärkt.

Dieser Wissenschaftler betonte, dass die oben genannten Institutionen insbesondere im Kontext der Tatsache notwendig seien, dass sich die KI zunehmend dem Niveau der künstlichen allgemeinen Intelligenz (AGI) annähere, was bedeutet, dass sie die Fähigkeit besitze, auf dem Niveau des Menschen zu denken.

„Je näher sich wegweisende KI-Modelle der allgemeinen allgemeinen Intelligenz (AGI) annähern, desto größer werden die Risiken, wenn keine angemessenen Vorkehrungen getroffen werden. Die verbesserte Denkfähigkeit der KI und ihr Missbrauch für Betrug sind extrem gefährlich“, urteilte Herr Bengio.

Quelle: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm