Neues Modell von OpenAI erhöht das Risiko der Herstellung von Biowaffen

Das Modell ist in der Lage, logisches Denken zu entwickeln, komplexe mathematische Probleme zu lösen und wissenschaftliche Forschungsfragen zu beantworten. Dies gilt als wichtiger Fortschritt bei der Entwicklung künstlicher allgemeiner Intelligenz (AGI) – Maschinen mit kognitiven Fähigkeiten wie Menschen.

OpenAI sagte, dass man angesichts der fortschrittlichen Fähigkeiten des O1-Modells bei der Veröffentlichung besonders „vorsichtig“ vorgegangen sei. Foto: Getty Images

Laut Financial Times stufte OpenAI das Risiko dieser neuen Modelle im Hinblick auf Probleme im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen (CBRN-Waffen) als „mittel“ ein. Dies ist die höchste Bewertung, die das Unternehmen jemals abgegeben hat. Dies bedeutet, dass die Technologie die Fähigkeit von Experten zur Herstellung biologischer Waffen „erheblich verbessert“ hat.

Experten zufolge kann KI-Software, die zu detailliertem Denken fähig ist, insbesondere in den Händen böswilliger Akteure das Missbrauchsrisiko erhöhen.

Professor Yoshua Bengio, ein weltweit führender KI-Wissenschaftler von der Universität Montreal, hat betont, dass dieses mittlere Risikoniveau die Dringlichkeit der Verabschiedung von KI-Vorschriften erhöht, wie beispielsweise dem Gesetzentwurf SB 1047, der derzeit in Kalifornien debattiert wird. Der Gesetzentwurf würde von den KI-Herstellern verlangen, Maßnahmen zu ergreifen, um das Risiko zu verringern, dass ihre Modelle für die Entwicklung biologischer Waffen missbraucht werden.

Laut The Verge ist die Sicherheit von KI-Modellen zu einem großen Problem geworden, da Technologieunternehmen wie Google, Meta und Anthropic um die Wette laufen, um fortschrittliche KI-Systeme zu entwickeln und zu verbessern.

Diese Systeme bieten möglicherweise große Vorteile, da sie Menschen bei der Erledigung von Aufgaben unterstützen und in zahlreichen Bereichen Hilfe leisten, bringen aber auch Herausforderungen hinsichtlich der Sicherheit und der sozialen Verantwortung mit sich.

Cao Phong (laut FT, Reuters, The Verge)

Quelle: https://www.congluan.vn/openai-thua-nhan-mo-hinh-ai-moi-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-hoc-post312337.html