Die dunkle Seite der künstlichen Intelligenz kontrollieren

F: Was ist ein Modell der künstlichen Intelligenz (KI) und welche Modelltypen sind heute beliebt?

Antwort: Um zu funktionieren, benötigt KI ein „Gehirn“, ein sogenanntes KI-Modell – ein System mathematischer Modelle und Algorithmen, das anhand riesiger Datenmengen trainiert wurde. Dieses Modell ermöglicht es der Maschine, Regeln zu lernen, Informationen zu analysieren, Vorhersagen zu treffen oder neue Inhalte zu erstellen.

Aktuelle KI-Modelle lassen sich anhand ihrer Eingabe- und Ausgabedaten in verschiedene Gruppen unterteilen. Die derzeit gängigste Gruppe ist die Text-zu-Text-Methode. Dabei geben Benutzer Text ein, und die KI generiert einen passenden Antworttext (Chatbots wie ChatGPT, Gemini, Claude usw.). Bei der Text-zu-Bild-Methode erfolgt die Eingabe als Textbeschreibung und die Ausgabe als KI-generiertes Bild (Midjourney, DALL·E usw.).

Als nächstes folgt die Text-zu-Audio-Gruppe, die Text in Sprache oder Soundeffekte umwandelt; die Bild-zu-Text-Gruppe, die Bilder als Eingabe für KI verwendet, um Beschreibungen oder Analysen zu generieren; die Bild-zu-Bild-Gruppe wandelt Bilder in andere Bilder um, was oft für Aufgaben wie Restaurierung und Stilkonvertierung verwendet wird; die Bild-zu- Video- Gruppe, bei der KI simulierte Bewegtvideos auf der Grundlage von Standbildern erstellt; die Video-zu-Text-Gruppe ermöglicht die Analyse oder Zusammenfassung von Inhalten aus Videos und wird in Informationsextraktionssystemen, Videoannotationen oder der Analyse von Überwachungsdaten angewendet.

Eine besonders leistungsstarke Gruppe ist heute Text-to-Video, das Text in Video umwandelt. Bei diesem Modelltyp geben Benutzer einfach eine kurze Beschreibung ein, und das KI-System generiert ein Video, das dem Kontext, der Aktion, der Beleuchtung und sogar dem Kamerawinkel entspricht.

Bekannte Tools wie Pika Labs, Sora (OpenAI) und in jüngster Zeit auch die globale Technologie-Community, darunter Vietnam, haben Veo 3, einem von Google DeepMind entwickelten Tool, besondere Aufmerksamkeit geschenkt. Die mit Veo 3 erstellten Clips sind nahezu absolut realistisch und erreichen das Niveau professioneller Filmemacher, was viele Menschen begeistert.

Das Erstellen von Videos ist mittlerweile so einfach wie das Schreiben eines Absatzes. Dies hat zur Entstehung einer Menge „Junk“-Inhalte geführt, die nur dazu dienen, Aufmerksamkeit zu erregen, darunter Videos, die sensationslüstern sind, vulgäre Sprache verwenden oder falsche Informationen enthalten. Noch gefährlicher ist, dass Tools wie Veo 3, obwohl kein spezialisiertes Deepfake-Tool, dennoch missbraucht werden können, um raffinierte gefälschte Bilder oder Stimmen von echten Menschen zu erstellen. So können Zuschauer leicht getäuscht werden, was dem persönlichen Ruf, der Informationssicherheit und der sozialen Ordnung schadet und das Betrugsrisiko im Cyberspace erhöht (Deepfake – eine Technologie, die KI nutzt, um gefälschte Bilder, Videos und Töne zu erstellen, die so echt aussehen, dass Benutzer sie kaum noch unterscheiden können...).

Noch beunruhigender ist, dass viele verzerrte und falsche Inhalte erstellt und mit schwindelerregender Geschwindigkeit verbreitet werden und sich ungeprüft und kontrolliert in allen sozialen Netzwerken verbreiten. Besonders anfällig und gefährdet sind Kinder und Jugendliche, denen oft die Fähigkeit fehlt, zwischen Wahrheit und Lüge zu unterscheiden. Daher sind sie sehr empfänglich für toxische Inhalte, die langfristige Folgen für Wahrnehmung und Verhalten haben.

F: Angesichts der rasanten Entwicklung von Tools wie Veo 3: Welche Lösung gibt es, um den Einsatz von KI für unangemessene Zwecke wirksam einzuschränken?

Antwort: Es zeigt sich, dass das derzeitige Management- und Rechtssystem der Entwicklung der KI-Technologie noch immer hinterherhinkt. Dies führt zu zahlreichen Rechtslücken und unvorhersehbaren Risiken. Dies erfordert die frühzeitige Schaffung eines proaktiven, flexiblen und synchronen Managementrahmens und gleichzeitig die Sensibilisierung der Öffentlichkeit für den verantwortungsvollen Einsatz von KI.

Die verantwortungsvolle Entwicklung von KI hängt in erster Linie von uns ab – von denen, die sie entwickeln, verwalten und nutzen. Innovation und Management sollten nicht als zwei gegensätzliche Pole, sondern als zwei Seiten eines vielfach diskutierten Prozesses betrachtet werden. Deshalb müssen wir einerseits offen für die Förderung technologischer Entwicklungen sein und andererseits proaktiv ethische Grundsätze und rechtliche Rahmenbedingungen schaffen, die dem neuen Kontext angemessen sind.

In Vietnam wurden neben der kontinuierlichen Verbesserung der Institutionen in letzter Zeit eine Reihe von Lösungsansätzen genannt, wie etwa der Vorschlag des KI-Ethikkomitees der Vietnam Software and Information Technology Services Association (VINASA) zur Erstellung eines KI-Ethik-Verhaltenskodex, um Verhaltensgrenzen sowohl für Entwickler als auch für Benutzer festzulegen.

Damit einher geht die Idee, einen nationalen Standardsatz offener Datensprachen zu entwickeln, mit dem Ziel, in- und ausländischen KI-Entwicklern eine Grundlage zu bieten, um denpolitischen Faktoren sowie dem kulturellen, rechtlichen und historischen Kontext Vietnams gerecht zu werden.

Auch die Klassifizierung und Kennzeichnung von KI-Produkten ist eine sinnvolle Idee. KI-Kennzeichnungen sollten verpflichtend sein und könnten nach verschiedenen Interventionsstufen kategorisiert werden: von der partiellen Bearbeitung bis zur vollständigen Produktion oder nach Inhalt, wie es bereits bei Spielen und Filmen der Fall ist.

Damit einher geht die Einrichtung eines klaren Nachprüfungsmechanismus, der die Verantwortlichkeiten am Ende festlegt. Aus sozialer Sicht ist die digitale Kompetenzbildung der gesamten Bevölkerung, insbesondere von Kindern und Jugendlichen, unerlässlich. Die Fähigkeit, schädliche Inhalte zu erkennen und Regeln zur Informationsüberprüfung anzuwenden, sind grundlegende Lösungen in einer Gesellschaft, die zunehmend durch virtuelle Inhalte gestört wird.

QUANG HUY

Quelle: https://nhandan.vn/kiem-soat-mat-trai-cua-tri-tue-nhan-tao-post886971.html