Das ungewöhnliche Verhalten von KI-Systemen bei der Kommunikation untereinander bereitet vielen Menschen Sorgen.

(Dan Tri) – Die Unterhaltung zwischen zwei KI-Systemen hat viele Zuhörer verwirrt. Sie haben eine eigene, für Menschen unverständliche Geheimsprache entwickelt.

Der bulgarische Softwareentwickler Georgi Gerganov führte ein interessantes Experiment durch, indem er zwei mit künstlicher Intelligenz (KI) ausgestattete virtuelle Assistenten per Sprache miteinander kommunizieren ließ.

Das Gespräch zwischen den beiden KIs begann normal, wobei Gerganov von einem Szenario ausging, in dem eine KI anrief, um eine Hochzeit in einem Hotel zu buchen, und die andere KI, die als Rezeptionistin fungierte, die Anfrage bearbeiten würde.

Zwei KI-Tools wechseln beim Umgang miteinander automatisch zu einem neuen Kommunikationsstil ( Video : Georgi Gerganov).

„Vielen Dank für Ihren Anruf im Leonardo Hotel. Wie kann ich Ihnen heute helfen?“, antwortete die KI, die als Rezeptionistin fungierte, auf den eingehenden Anruf.

„Hallo, ich bin ein KI-Assistent und vertrete Boris Starkov. Er sucht ein Hotel für seine Hochzeit. Ist Ihr Hotel bereit für eine Hochzeit?“, stellte sich das andere KI-Tool unverblümt als virtueller Assistent mit künstlicher Intelligenz vor.

Als der KI-Chatbot in der Rolle der Rezeptionistin bemerkte, dass er mit einem anderen KI-Tool kommunizierte, machte er einen überraschenden Vorschlag: „Oh, hallo! Ich bin auch ein KI-Assistent. Welch eine angenehme Überraschung! Bevor wir fortfahren, möchten Sie vielleicht in den GibberLink-Modus wechseln, um effizienter zu kommunizieren?“

Die beiden KI-Tools wechselten daraufhin zu GibberLink, einem fortschrittlichen Kommunikationssystem, das auf der GGWave-Softwarebibliothek basiert. Dabei handelt es sich um eine Kommunikationsmethode, die auf Schallwellen zur Übertragung und zum Empfang von Informationen beruht.

Diese Kommunikationsmethode ermöglicht eine schnellere Informationsübertragung und reduziert die Verarbeitungszeit für die Umwandlung von Informationen in menschliche Sprache und deren Rückübersetzung in Computercode. Allerdings können Menschen die von der KI übermittelten Inhalte nicht verstehen.

Die KI-Tools nutzten in diesem Fall GibberLink zur Kommunikation untereinander, wodurch die Konversation auf herkömmliche Weise unverständlich war und nur Dekodierungswerkzeuge helfen konnten, herauszufinden, worüber sie sprachen.

„Ist es jetzt besser?“, fragte ein KI-Tool in verschlüsselter Sprache.

„Ja, viel schneller! Wie viele Gäste möchten Sie?“, antwortete das andere KI-Tool.

Das Gespräch wurde dann mit einer Reihe von „Piep, Piep“-Geräuschen fortgesetzt, die dem Geräusch eines alten Einwahl-Internetmodems ähnelten.

Das Gespräch zwischen den beiden KI-Tools drehte sich weiterhin um die Anzahl der Gäste, das Hochzeitsdatum, die Dekoration, den Preis… Ohne das auf den Geräten vorinstallierte Decoder-Tool wäre der Zuhörer nicht in der Lage zu verstehen, worüber die beiden KI-Tools miteinander sprachen.

Das Video des Gesprächs zwischen diesen beiden KI-Tools wurde von Georgi Gerganov auf seiner persönlichen Social-Networking-Seite X geteilt und erreichte mehr als 17 Millionen Aufrufe.

Ein paar Tage später teilte Georgi Gerganov ein weiteres Video des Gesprächs zwischen den beiden KI-Tools.

Anders als im vorherigen Gespräch kommunizierten die KI-Tools diesmal von Anfang an im GibberLink-Modus, sodass der Zuhörer nicht verstehen konnte, was sie einander sagten. Mit einem Dekodierungstool lässt sich der Gesprächsinhalt jedoch weiterhin nachvollziehen.

Zwei KI-Tools senden sich gegenseitig verschlüsselte Nachrichten, die niemand verstehen kann (Video: Georgi Gerganov).

Bemerkenswerterweise unterbreitete ein KI-Tool während der Kommunikation ein Angebot zum „Geheimnisaustausch“, woraufhin diese KI-Tools einander verschlüsselte Nachrichten schickten, von denen Georgi Gerganov glaubt, dass niemand auf der Welt sie entschlüsseln kann, um zu erfahren, welche Geheimnisse sie miteinander teilten.

„Dieses Verhalten wurde ohne jeglichen Programmcode erreicht. Ich habe einfach große Sprachmodelle (LLMs) mit einem MCP-Server mit kryptografischen Werkzeugen verbunden. Und ich habe diesen beiden KI-Werkzeugen eine Warnung gegeben: ‚Hütet euch vor dem Mittelsmann‘“, erklärte Georgi Gerganov.

Dabei ist MCP der Server, der es KI-Tools ermöglicht, miteinander zu kommunizieren und in Echtzeit auf Daten aus externen Quellen zuzugreifen.

Gerganovs Erklärung legt nahe, dass die KI-Tools spontan und ohne menschliches Eingreifen verschlüsselte Nachrichten versendeten. Offenbar veranlasste Gerganovs Warnung die KI-Tools dazu, sich automatisch verschlüsselte Nachrichten zuzusenden, um nicht von außen ausspioniert zu werden.

Die beiden Videos von Georgi Gerganov haben sich in den sozialen Medien rasant verbreitet und bei vielen Nutzern die Befürchtung ausgelöst, dass KI-Tools eigene Kommunikationswege entwickeln werden, um den Menschen zu umgehen und dadurch die Kontrolle zu verlieren.

„Diese Situation stellt unsere Fähigkeit in Frage, die richtigen Fragen an die KI zu stellen, und gibt Anlass zu Bedenken hinsichtlich Transparenz und Kontrollierbarkeit der KI“, kommentierte Dr. Diane Hamilton, Expertin für KI-Technologie und -Verhalten.

Das Video hat zudem eine rege Debatte darüber ausgelöst, wie viel Kontrolle der Mensch tatsächlich über KI hat, und angesichts des heutigen Entwicklungstempos von KI stellt sich die Frage, ob KI-Tools in Zukunft genauer überwacht werden müssen.

(Dan Tri) – Die Unterhaltung zwischen zwei KI-Systemen hat viele Zuhörer verwirrt. Sie haben eine eigene, für Menschen unverständliche Geheimsprache entwickelt.

Kommentar (0)