Anthropo-Warnung

Anthropic hat die weltweit größten KI-Unternehmen aufgefordert, die Entwicklung des nächsten fortschrittlichen Modells vorübergehend zu stoppen, und warnt davor, dass es außer Kontrolle geraten könnte.

Anthropic fordert eine Pause bei der Entwicklung neuer, hochentwickelter KI-Systeme. Foto: Bloomberg .

In einem Blogbeitrag vom 4. Juni deutete Anthropic an, dass eine Verlangsamung oder ein Stopp der Entwicklung fortschrittlicher KI weltweit „eine gute Sache sein könnte“. Das Unternehmen warnte jedoch, dass, wenn auch nur ein Akteur aufhört, die Konkurrenz weiter voranschreiten wird.

„Wir glauben, dass die Welt die Möglichkeit haben sollte, die Entwicklung fortschrittlicher KI zu verlangsamen oder vorübergehend auszusetzen, damit soziale Strukturen und die Forschung zur KI-Sicherheit mit dem Tempo der technologischen Entwicklung Schritt halten können“, sagte Anthropic.

Was Anthropic am meisten beunruhigt, ist das Szenario der „rekursiven Selbstverbesserung“, bei dem die KI ohne menschliches Eingreifen die nächste Version von sich selbst entwirft, baut und trainiert.

Der von Jack Clark und Marina Favaro, Leiterin des internen Forschungsinstituts von Anthropologie, gemeinsam verfasste Artikel zeigt, dass über 80 % des in die Systeme des Unternehmens einlaufenden Codes derzeit von Claude geschrieben werden. Die Ingenieure schreiben pro Quartal etwa achtmal so viel Code wie vor 2025.

Das könnte Sie interessieren

Die Preise für das iPhone 18 Pro und 18 Pro Max werden Rekordhöhen erreichen.Das iPhone 18 Pro und das iPhone 18 Pro Max werden voraussichtlich im September auf den Markt kommen. Während Gerüchte über Design, Kamera und KI in der Tech-Welt für Aufsehen sorgen, ist ein anderes, noch brisanteres Thema der Preis dieser Flaggschiff-Geräte.

Wann stellt das Teilen eines Links zu einem journalistischen Werk eine Urheberrechtsverletzung dar?Am Nachmittag des 24. Juni informierte der Direktor der Abteilung für Radio, Fernsehen und elektronische Information über Fälle, die zu Urheberrechtsverletzungen an journalistischen Werken führen könnten.

KI-Plattformen zur Unterstützung öffentlicher Dienstleistungen werden anhand neuer Kriterien bewertet.VTV.vn – Zu den Bewertungskriterien gehören Anforderungen an Daten, Sicherheit, KI-Modelle für die vietnamesische Sprache und Geschäftssupportfunktionen.

Dies ist keine bloße theoretische Warnung. Das Unternehmen hinter dem Chatbot Claude argumentiert, dass ein KI-System mit ausreichender Rechenleistung und im aktuellen Entwicklungstempo seinen eigenen Nachfolger entwerfen und entwickeln könnte. Dieser Meilenstein würde Wissenschaft und Medizin zwar erhebliche Vorteile bringen, aber auch das Risiko erhöhen, dass die Dinge außer Kontrolle geraten.

Für eine wirklich wirksame Pause ist der Konsens vieler großer KI-Unternehmen in verschiedenen Ländern, insbesondere in den USA und China, erforderlich. Anthropic erklärte, sein internes Forschungsinstitut werde dieses Thema gemeinsam mit anderen Beteiligten untersuchen und verschiedene Maßnahmen ergreifen, um den Mechanismus für eine umfassende Restrukturierung zu entwickeln.

Dieser Aufruf erfolgt zu einem Zeitpunkt, an dem sich Anthropic auf einen Börsengang vorbereitet, ein Geschäft, das das Unternehmen mit fast einer Billion Dollar bewerten könnte. Die Kombination aus Warnungen zur Sicherheit von KI und den Börsenambitionen erzeugt ein bemerkenswertes Paradoxon.

Es ist nicht das erste Mal, dass ein wichtiger Akteur im Bereich der KI eine Pause fordert. 2023 unterzeichnete eine Gruppe um Elon Musk und zahlreiche KI-Forscher einen Brief, in dem sie einen sechsmonatigen Entwicklungsstopp forderten, doch dies blieb ohne konkrete Ergebnisse.

Das könnte Sie interessieren

Reform der ethnischen Sprachprogramme zur Verringerung der Informationsarmut der Bevölkerung in Bergregionen.Die Zeitungen, Radio- und Fernsehsender von Cao Bang werden weiterhin innovative Formate entwickeln und die Qualität der Inhalte in ethnischen Sprachen in ihren Publikationen und Programmen verbessern; die Sendezeit von Programmen in der Sprache Tay wird erhöht, um die Informationsarmut der Bevölkerung in abgelegenen Gebieten zu verringern.

Dem Galaxy S27 Ultra droht eine drastische Preiserhöhung.Samsung steht beim Galaxy S27 Ultra vor einer schwierigen Entscheidung: Entweder die Leistung reduzieren und die Marktführerschaft verlieren oder gezwungen sein, den Preis des Flaggschiffs zu erhöhen.

KOLs müssen den Behörden Meldung erstatten, wenn sie feststellen, dass andere Produkte von ihnen beworben werden.Die Verantwortung von Meinungsführern (Key Opinion Leaders, KOLs) bei der Produktwerbung endet möglicherweise nicht mit der Vertragsunterzeichnung oder der Veröffentlichung von Inhalten. Regulierungsbehörden haben hierzu kürzlich wichtige Erläuterungen gegeben.

Quelle: https://znews.vn/anthropic-canh-bao-post1657460.html