Transparenz von Produkten der künstlichen Intelligenz

Viele Produkte künstlicher Intelligenz (KI) legen heutzutage den Grad des technologischen Eingriffs nicht offen, was es Nutzern erschwert, zwischen echten und gefälschten Produkten zu unterscheiden. Angesichts dieser Situation ist die klare Definition der Transparenzpflicht und die Kennzeichnung von KI-Produkten dringend erforderlich.

Der Messestand vonFPT zum Thema KI-Anwendungen in verschiedenen Bereichen.

Heutzutage werden viele KI-Produkte – von der Erstellung visueller, auditiver und textlicher Inhalte bis hin zur automatisierten Entscheidungsunterstützung – ohne Kennzeichnung als reguläre Inhalte verbreitet. Die Folge: Nutzer wissen nicht, ob sie mit von Menschen oder KI generierten Inhalten interagieren und laufen Gefahr, Fehlinformationen oder Manipulationen zu glauben.

Ein Schönheitssalon schaltet beispielsweise eine KI-generierte Anzeige mit dem Bild eines Models. Kunden glauben fälschlicherweise, es handle sich um ein echtes Produkt. Bei der Inanspruchnahme der Dienstleistung stellen sie jedoch fest, dass die Qualität nicht den Versprechungen entspricht. Noch gefährlicher ist es, wenn KI gefälschte Fotos von Prominenten, Videos mit simulierten Aussagen von Politikern oder Artikel unter den Namen realer Personen erstellt. Dies schädigt die persönliche Ehre sowie den Ruf von Institutionen und Organisationen.

Zudem mindert das Fehlen eines Kennzeichnungsmechanismus das Vertrauen der Nutzer in digitale Plattformen und KI-Produkte. Eine digitale Umgebung, die hinsichtlich der Herkunft von Inhalten nicht transparent ist, führt zu Misstrauen und Distanz bei den Nutzern. Gleichzeitig sind die meisten vietnamesischen Nutzer nicht daran gewöhnt, die Herkunft von Inhalten zu ermitteln und zu überprüfen, und die technischen Möglichkeiten zur Erkennung von KI-Produkten sind begrenzt.

Die klare Definition von Transparenz- und Kennzeichnungspflichten ist nicht nur eine technologische ethische Anforderung, sondern auch eine rechtliche Grundlage zum Schutz von Nutzern und Entwicklern von KI-Produkten. Um dieser Anforderung gerecht zu werden, erarbeitet das Ministerium für Wissenschaft und Technologie das Gesetz über Künstliche Intelligenz, dessen Artikel 12 „Transparenz, Kennzeichnung und Rechenschaftspflicht“ festlegt.

Demnach bezeichnet Kennzeichnung die Anwendung technischer Maßnahmen, um klar, leicht erkennbar und maschinenlesbar darauf hinzuweisen, dass Inhalte (Text, Bild, Audio, Video) von KI-Systemen erstellt oder wesentlich verändert wurden. Dieser Hinweis muss erfolgen, wenn die Inhalte weit verbreitet werden.

Diese Verordnung führt eine Kennzeichnungspflicht für Produkte ein, die mithilfe von KI erstellt oder bearbeitet wurden. Ziel ist es, den digitalen Raum transparenter zu gestalten, die Verbraucher zu schützen und Lieferanten und Anwender gemeinsam zur Verantwortung zu ziehen, falls die fehlende Kennzeichnung zu Verwirrung oder Schäden führt.

Für Inhalte, die reale Personen, Objekte, Orte oder Ereignisse simulieren, sieht der Gesetzentwurf vor, dass Anbieter Maßnahmen ergreifen müssen, um klar zu kennzeichnen, dass die Inhalte von KI erstellt wurden, und um die Authentifizierung und Rückverfolgbarkeit ihrer Herkunft zu gewährleisten. Dies gilt als wichtiger Schritt im Umgang mit KI-Technologien und entspricht internationalen Trends, da die Europäische Union (EU), die Vereinigten Staaten, Japan und Südkorea ähnliche Regelungen erlassen haben.

Obwohl die Notwendigkeit anerkannt wird, sind viele Experten und Unternehmen der Ansicht, dass die Kennzeichnungsvorschriften im Gesetzentwurf präzisiert werden müssen. Rechtsanwalt Hoang Le Quan von der vietnamesischen Anwaltskanzlei Lexcomm Vietnam LLC hält es für notwendig zu klären, ob KI-Anbieter die Form der Kennzeichnung selbst bestimmen können oder den Vorgaben der Regierung folgen müssen.

Falls es Richtlinien gibt, müssen diese klar sein und die Übereinstimmung mit internationalen Standards gewährleisten, um zu vermeiden, dass die Anforderungen Vietnams völlig anders ausfallen oder neue Verpflichtungen entstehen, insbesondere für multinationale Lieferanten, die die Wettbewerbsfähigkeit Vietnams bei der Anwendung und Entwicklung von KI im Vergleich zu anderen Märkten wie der Europäischen Union (EU), Südkorea oder den Vereinigten Staaten beeinträchtigen.

Manche Meinungen betonen die Notwendigkeit, den Anwendungsbereich und die Anwendungsebene klar zu definieren: Müssen alle Inhalte mit KI-Elementen gekennzeichnet werden oder nur solche, die vollständig von KI erstellt oder maßgeblich von ihr bearbeitet wurden? Herr Tran Van Tri, Direktor der Vietnam Law Media Joint Stock Company (LuatVietnam.vn), fragte, ob eine Kennzeichnung notwendig sei, wenn Inhalte nur zu einem geringen Teil KI verwenden. Es müsse klar angegeben werden, ob die Erstellung durch KI unterstützt oder vollständig von KI durchgeführt wurde.

In der Unterhaltungsbranche wünschen sich einige Unternehmen einen flexiblen Mechanismus, um KI-Produkte von strengen Kennzeichnungspflichten zu befreien und stattdessen je nach Nutzungsumfang Warnhinweise oder transparente Selbstauskünfte zu erteilen. KI wird bereits häufig zur Verbesserung von Ton, Bild und Effekten eingesetzt. Würde eine Kennzeichnung aller Produkte vorgeschrieben, stiegen Kosten und Aufwand, was die Kreativität einschränkte.

Der Leiter des Ministeriums für Wissenschaft und Technologie erklärte, der Gesetzentwurf zur Künstlichen Intelligenz ziele darauf ab, ein ausgewogenes Verhältnis zwischen Regulierung und Entwicklungsförderung zu finden, Transparenz und Machbarkeit zu gewährleisten und sich internationalen Standards anzunähern. Die Kennzeichnung soll die Grenze zwischen von Menschen und Maschinen erstellten Inhalten verdeutlichen und sowohl zu lasche als auch zu strenge Regulierungen vermeiden, damit die Technologie in einem transparenten und verantwortungsvollen Rahmen entwickelt werden kann.

HA LINH

Quelle: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html