Das Risiko, dass KI außer Kontrolle gerät

[Anzeige_1]

Die Entwicklung der KI bringt sowohl positive als auch negative Aspekte mit sich. Und mit dem Aufkommen von Sora wird die Technologie aktueller denn je.

Sora – OpenAIs „neuer Himmel“

Sora ist ein großer Fortschritt für OpenAI, da es eine Text-zu-Bild-Konvertierung mit unglaublicher Qualität ermöglicht.

„Sora“ bedeutet auf Japanisch Himmel. Das Team hinter der Technologie wählte den Namen Sora, weil er die Vorstellung grenzenlosen kreativen Potenzials weckt.

Sora kann Animationen mit mehreren Charakteren erstellen, die sich vor detaillierten Hintergründen bewegen. Das Tool versteht nicht nur die Befehlsvorschläge, sondern auch deren Umsetzung in der Realität. Laut Testberichten beschleunigt Sora die Arbeit von Filmemachern und ersetzt gleichzeitig weniger erfahrene Grafikingenieure.

Sora ist nicht das einzige KI-Programm, das erfolgreich Text in Bilder umgewandelt hat. Im vergangenen Jahr sind viele weitere Programme mit derselben Funktion erschienen. Die durch KI-Technologie geschaffenen Produkte werden immer perfekter und lebensechter.

Die Spitzentechnologie hinter Sora

Um realistische Videos zu produzieren, muss Sora die Sprache, Anfragen und Befehle des Benutzers verstehen. Doch damit nicht genug: Sora muss auch die Regeln der Physik verstehen, wie sich Dinge bewegen und wie sich Licht und Schatten verändern, wenn sich die Figur bewegt.

Die Aufgabe bestand beispielsweise darin, ein Mädchen zu erstellen, das nachts durch eine Straße in Tokio geht. Und das Ergebnis, das Sora erstellte, war ziemlich gut. Ohne ein scharfes Auge hätte man die kleinen Fehler im Video nicht erkennen können.

Das Video ist zu 99 % realistisch, mit der Lebendigkeit der Straßenlaternen, die sich in Regenwasserpfützen auf dem Boden spiegeln. Dies sind Dinge, die nicht im Befehl liegen, aber die KI versteht die physikalischen Regeln der realen Welt und zeichnet sie selbstständig.

Laut AI News basiert die Technologie hinter Sora teilweise auf GPT-4, einem großen multimodalen Modell, das Text- und Bildeingaben verarbeiten kann. GPT-4 aktualisiert das große Sprachmodell von OpenAI, das anhand großer Online-Datenmengen trainiert wird, um komplexe Antworten auf Benutzeranfragen zu generieren.

Der Rest von Sora ist ein Diffusionsmodell, das statisches Rauschen durch schrittweise Reduzierung in ein zusammenhängendes Video umwandelt. Sora verwendet die gleiche Technologie wie Dalle-3: Es verwandelt Text in Bilder, hier mit unglaublich realistischen Videos.

Welche Auswirkungen wird KI auf die Kreativbranche haben?

In den Bereichen Fotografie, Film und Grafikdesign ist die Entwicklung künstlicher Intelligenz sehr interessant. In Hollywood, der Welthauptstadt des Films, messen Experten bereits die Auswirkungen künstlicher Intelligenz.

Dem Bericht zufolge werden bis 2026 voraussichtlich 21,4 % der Film-, Fernseh- und Animationsmitarbeiter in Hollywood durch KI ersetzt.

Im vergangenen Sommer begann Netflix mit der Rekrutierung für eine Stelle als KI-Produktmanager mit einem atemberaubenden Gehalt von 300.000 bis 900.000 US-Dollar, Dutzende Male höher als das Gehalt eines durchschnittlichen, unbekannten Schauspielers.

Bedenken hinsichtlich der unkontrollierten Entwicklung der KI

Der KI-Trend ist wie eine große Welle. Wenn Sie lernen, auf ihr zu surfen und am Ball zu bleiben, stehen die Chancen gut, dass Sie, Ihr Job und Ihre Position sicher sind und sogar Erfolg haben.

Doch mit den Chancen gehen auch Risiken einher. Diese hochintelligenten KI-Programme bergen auch Risiken. Und angesichts der unvorstellbaren Entwicklung der KI sind diese Risiken noch besorgniserregender.

Laut Dr. Tran Van Canh, einem Datenwissenschaftler an der Fakultät für Informationstechnologie der Universität Heidelberg, Deutschland, weist das aktuelle Sora-Modell zwar noch viele Mängel auf, beispielsweise die Verwechslung von links und rechts oder die fehlende Aufrechterhaltung eines kontinuierlichen Bildes während der gesamten Videodauer. Es besteht jedoch durchaus das Risiko, dass Sora falsche Informationen erstellt, was es noch schwieriger macht, festzustellen, was im Internet wahr ist.

„Mit der Sora-Anwendung ist es sehr schwierig, zwischen echten und gefälschten Nachrichten zu unterscheiden, da die von Sora erstellten Videos sehr realistisch sind. OpenAI selbst findet begrenzte Lösungen, wir müssen jedoch akzeptieren, dass es keine radikale Lösung gibt. In naher Zukunft wird die Anwendung es Benutzern ermöglichen, Bilder und Texte bereitzustellen, um neue Videos zu erstellen. So können die Aussagen einflussreicher Persönlichkeiten in der Welt sehr leicht gefälscht werden, was schwerwiegende Folgen für die Öffentlichkeit haben wird“, kommentierte Dr. Tran Van Canh.

Vor Sora veröffentlichte OpenAI zwei Produkte: ChatGPT, das menschenähnlichen Text generieren kann, und die DALL-E-Technologie, die „Deepfake“ ermöglicht – eine Technik, die mithilfe künstlicher Intelligenz gefälschte Audiodaten, Bilder und Videos erstellt. Viele Menschen sind bereits Opfer von Deepfake geworden, vom Papst über den ehemaligen US-Präsidenten Donald Trump bis hin zum jüngsten Vorfall mit dem Popstar Taylor Swift, deren Gesicht zur Erstellung gefälschter pornografischer Bilder transplantiert wurde.

„OpenAI ist tatsächlich ein Pionier der GenAI-Technologie. Sie verfügen über ein hervorragendes Wissenschaftlerteam . Das Budget, das sie in KI-Modelle, Humanressourcen und maschinelles Lernen investieren, ist sehr hoch, sodass die von OpenAI erstellten Produkte ein sehr hohes Maß an Authentizität aufweisen“, sagte Dr. Tran Van Canh.

Dies zeigt, dass die Entwicklung von KI sowohl positive als auch negative Aspekte für den ständigen Datenverkehr im Internet mit sich bringt. Und mit dem Aufkommen von Sora dürfte der Technologiewettlauf heißer denn je werden. Große Technologieunternehmen wie Meta, Google und Runway AI erforschen und entwickeln derzeit ebenfalls KI-Technologie zur Erstellung von Videos aus Text und haben eine Reihe ähnlicher Modelle angekündigt.

Kommentar (0)