OpenAI und Anthropic geben neueste KI-Modelle an die US-Regierung weiter

Die beiden Unternehmen werden mit dem US AI Safety Institute zusammenarbeiten, einer Abteilung des National Institute of Standards and Technology (NIST), einer US-Bundesbehörde. Dies wird als wichtiger Fortschritt bei der Verwaltung und Überwachung der KI-Technologie angesehen, die seit der Einführung von ChatGPT von OpenAI ein großes Anliegen ist.

„Dies ist erst der Anfang, aber ein wichtiger Meilenstein in den Bemühungen, die Zukunft der KI verantwortungsvoll zu gestalten“, sagte Elizabeth Kelly, Direktorin des US AI Safety Institute.

Im Rahmen der Vereinbarung wird das US AI Safety Institute beiden Unternehmen Feedback zu möglichen Sicherheitsverbesserungen ihrer Modelle geben, sowohl vor als auch nach der Veröffentlichung. Das Institut wird während dieses Prozesses auch eng mit dem britischen AI Safety Institute zusammenarbeiten.

„Die Partnerschaft mit dem US AI Safety Institute nutzt dessen umfassende Expertise, um unsere Modelle vor dem breiten Einsatz gründlich zu testen. Dies verbessert unsere Fähigkeit, Risiken zu erkennen und zu minimieren und fördert eine verantwortungsvolle KI-Entwicklung“, sagte Jack Clark, Mitgründer und Leiter der Politikabteilung von Anthropic.

Dieser Schritt ist Teil der Bemühungen, eine im Jahr 2023 fällige Durchführungsverordnung des Weißen Hauses zum Thema KI umzusetzen, die einen rechtlichen Rahmen für die schnelle Einführung von KI-Modellen in den USA schaffen soll.

Während die Bundesregierung jedoch einen freiwilligen Ansatz verfolgt, haben die Gesetzgeber in Kalifornien – dem Technologiezentrum der USA – am 28. August gerade ein KI-Sicherheitsgesetz auf Bundesstaatsebene verabschiedet. Das Gesetz würde, sofern es vom Gouverneur unterzeichnet wird, der KI-Industrie strengere Vorschriften auferlegen.

Sam Altman, CEO von OpenAI, hat sich für eine Regulierung der KI auf nationaler statt auf bundesstaatlicher Ebene ausgesprochen und argumentiert, dass dies dazu beitragen würde, das Risiko einer Behinderung von Forschung und Innovation im Bereich der KI zu vermeiden.

Der Schritt führender Technologieunternehmen und der US-Regierung zeigt einen Trend hin zu einem Gleichgewicht zwischen Innovation und Sicherheit im sich schnell entwickelnden Bereich der KI.

Quelle: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html