KI-Chatbots stellen eine Gefahr für Kinder dar – Drängen auf Regulierung der Entwickler

[Anzeige_1]

Der japanische Premierminister Fumio Kishida sagte, er werde der G7-Gruppe einen Plan zur Regulierung von Entwicklern künstlicher Intelligenz (KI) vorschlagen.

Ziel der Vorschriften ist es, die Verbreitung von Fehlinformationen zu verhindern, indem die Öffentlichkeit dafür sensibilisiert wird, zwischen Bildern und Informationen zu unterscheiden, die von KI erstellt wurden, und solchen, die nicht von Algorithmen generiert wurden.

Die Leitlinien sollen voraussichtlich bereits im Herbst dieses Jahres bei einem virtuellen Treffen der sieben größten Volkswirtschaften der Welt (G7) vorgeschlagen werden.

Snap Inc. wurde vorgeworfen, bei der Einführung eines KI-Chatbots die Risiken für den Datenschutz von Kindern nicht ausreichend und genau bewertet zu haben.

Dem Bericht zufolge ist Japan besorgt über die komplexen Bilder und Informationen, die durch KI generiert werden, da diese die Öffentlichkeit verwirren und die wirtschaftliche Stabilität gefährden könnten.

Unterdessen erklärte die britische Datenschutzbehörde, dass KI-Chatbots eine Gefahr für die Privatsphäre von Kindern darstellen könnten. In diesem Fall handelt es sich um den Chatbot „My AI“, der vom US-Technologieunternehmen Snapchat entwickelt wurde.

Die Behörden gehen davon aus, dass Snapchat die Datenschutzrisiken für Kinder, die von dem KI-Chatbot ausgehen, den das Unternehmen im April auf den Markt gebracht hat, möglicherweise nicht richtig eingeschätzt hat. Das Information Commissioner’s Office (ICO) hat erklärt, dass das US-Unternehmen ein landesweites Verbot der KI-Anwendung in Erwägung ziehen werde, wenn es den Bedenken der Regulierungsbehörden nicht ausreichend Rechnung trage.

„Die ersten Ergebnisse der Untersuchung deuten darauf hin, dass Snap es vor der Einführung der KI-Anwendung versäumt hat, die Datenschutzrisiken für Kinder und andere Benutzer angemessen und genau zu bewerten“, sagte das ICO.

Die Aussage der Regulierungsbehörde bedeutet jedoch nicht, dass Snapchat, eine von jungen Leuten in Großbritannien weit verbreitete Messaging-App, gegen Datenschutzgesetze verstoßen hat.

Snap erklärte, dass das Unternehmen die ICO-Ankündigung prüft und sich dem Schutz der Privatsphäre der Benutzer verpflichtet fühlt. „Unsere KI durchläuft einen strengen Datenschutz- und Rechtsprüfungsprozess, bevor sie öffentlich zugänglich gemacht wird“, sagte das US-Technologieunternehmen. „Wir werden weiterhin konstruktiv mit dem ICO zusammenarbeiten, um Bedenken hinsichtlich unserer Risikobewertungsprozesse auszuräumen.“

Das ICO untersucht, wie „My AI“ die persönlichen Daten von rund 21 Millionen Snapchat-Nutzern in Großbritannien verarbeitet hat, darunter auch Kinder im Alter von 13 bis 17 Jahren.

Die von Snapchat entwickelte App basiert auf ChatGPT von OpenAI – dem bekanntesten Beispiel generativer KI, die politische Entscheidungsträger weltweit aufgrund von Datenschutz- und Sicherheitsbedenken regulieren möchten.

Soziale Netzwerke wie Snapchat setzen voraus, dass ihre Benutzer mindestens 13 Jahre alt sind. Es ist ihnen jedoch nicht immer gelungen, Minderjährige von der Nutzung ihrer Plattformen abzuhalten.

Zuvor hatte Reuters im August 2023 berichtet, dass die Aufsichtsbehörden Informationen sammelten, um festzustellen, ob die Messaging-App minderjährige Nutzer tatsächlich von ihrer Plattform entfernte.

(Laut Bloomberg, Reuters)

Meta nutzt Facebook- und Instagram-Benutzerdaten, um KI-Chatbots zu trainieren

Meta sagte, dass es die öffentlichen Facebook- und Instagram-Posts der Benutzer nutzt, um seinen neuen virtuellen Assistenten mit künstlicher Intelligenz (KI) zu trainieren, schließt jedoch Inhalte aus, die nur mit Familie und Freunden geteilt werden.

Microsoft bringt den KI-Chatbot-Virtual-Assistant Copilot auf den Markt

Der virtuelle Assistent Microsoft Copilot wird für Windows 11, Microsoft 365, den Edge-Browser und die Bing-Suchmaschine verfügbar sein.

Drei neue Funktionen für Googles KI-Chatbot Bard

Zu den neuen Funktionen von Google Bard gehören die Überprüfung der Antwortgenauigkeit, der Import von Benutzerdaten zwischen Apps und das Einladen anderer zum Chatten mit Chatbots.

[Anzeige_2]
Quelle