OpenAI und Anthropic stellen der US-Regierung ihre neuesten KI-Modelle vor

Die beiden Unternehmen werden mit dem US AI Safety Institute, einer Abteilung des National Institute of Standards and Technology (NIST), einer US-Bundesbehörde, zusammenarbeiten. Dies gilt als wichtiger Schritt im Management und der Überwachung von KI-Technologien, die seit der Einführung von OpenAIs ChatGPT ein zentrales Anliegen darstellen.

„Dies ist erst der Anfang, aber ein wichtiger Meilenstein auf dem Weg zu einem verantwortungsvollen Umgang mit der Zukunft der KI“, sagte Elizabeth Kelly, Direktorin des US AI Safety Institute.

Gemäß der Vereinbarung wird das US AI Safety Institute beiden Unternehmen sowohl vor als auch nach der Veröffentlichung ihrer Modelle Feedback zu möglichen Sicherheitsverbesserungen geben. Das Institut wird dabei eng mit dem UK AI Safety Institute zusammenarbeiten.

„Die Partnerschaft mit dem American AI Safety Institute nutzt dessen umfassende Expertise, um unsere Modelle vor dem breiten Einsatz rigoros zu testen. Dies verbessert unsere Fähigkeit, Risiken zu erkennen und zu minimieren und fördert so eine verantwortungsvolle KI-Entwicklung“, sagte Jack Clark, Mitbegründer und Leiter der Abteilung für politische Angelegenheiten bei Anthropic.

Dieser Schritt ist Teil der Bemühungen, die Exekutivverordnung des Weißen Hauses zum Thema KI umzusetzen, die im Jahr 2023 veröffentlicht werden soll und darauf abzielt, einen rechtlichen Rahmen für den schnellen Einsatz von KI-Modellen in den USA zu schaffen.

Während die Bundesregierung einen freiwilligen Ansatz verfolgt, verabschiedeten die Abgeordneten in Kalifornien, dem US-amerikanischen Technologiezentrum, am 28. August ein Gesetz zur KI-Sicherheit auf Landesebene. Sollte das Gesetz vom Gouverneur unterzeichnet werden, würde es strengere Vorschriften für die KI-Branche einführen.

Sam Altman, CEO von OpenAI, sprach sich für eine Regulierung von KI auf nationaler Ebene anstatt auf Ebene der einzelnen Bundesstaaten aus und argumentierte, dies würde dazu beitragen, das Risiko zu vermeiden, Forschung und Innovation im Bereich der KI zu behindern.

Die Annäherung führender Technologieunternehmen an die US-Regierung verdeutlicht den Trend hin zu einem ausgewogenen Verhältnis zwischen Innovation und Sicherheit im sich rasant entwickelnden Bereich der KI.

Quelle: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html