Los chatbots de IA representan un riesgo para los niños y exigen regulación para sus desarrolladores

El primer ministro japonés, Fumio Kishida, dijo que propondrá al grupo G7 un plan para regular a los desarrolladores de inteligencia artificial (IA).

El objetivo de las normas es evitar la propagación de información errónea, concienciando al público para que distinga entre las imágenes y la información producidas por IA y aquellas que no son generadas por algoritmos.

Se espera que las directrices se propongan este mismo otoño, en una reunión virtual de las siete economías más grandes del mundo (G7).

Snap Inc. ha sido acusada de no evaluar de manera adecuada y precisa los riesgos a la privacidad de los datos de los niños cuando lanzó un chatbot de inteligencia artificial.

El informe señala que Japón está preocupado por las imágenes e información complejas generadas por la IA, que podrían confundir al público y amenazar la estabilidad económica.

Mientras tanto, el organismo de control de datos del Reino Unido dijo que los chatbots de inteligencia artificial podrían representar riesgos para la privacidad de los niños, en este caso el chatbot “My AI” desarrollado por la empresa de tecnología estadounidense Snapchat.

Las autoridades afirman que Snapchat podría no haber evaluado adecuadamente los riesgos para la privacidad de los niños que representa el chatbot de IA que lanzó en abril. La Oficina del Comisionado de Información (ICO) ha declarado que si la compañía estadounidense no aborda adecuadamente las preocupaciones del regulador, considerará prohibir la aplicación de IA en todo el país.

“Los hallazgos iniciales de la investigación sugieren que Snap no evaluó de manera adecuada y precisa los riesgos para la privacidad de los niños y otros usuarios antes de lanzar la aplicación de inteligencia artificial”, afirmó la ICO.

Sin embargo, la declaración del regulador no significa que Snapchat, una aplicación de mensajería ampliamente utilizada por los jóvenes en el Reino Unido, haya violado las leyes de protección de datos.

Snap afirmó estar revisando el aviso de la ICO y comprometerse a proteger la privacidad de los usuarios. «Nuestra IA se sometió a un riguroso proceso de revisión legal y de privacidad antes de hacerse pública», declaró la empresa tecnológica estadounidense. «Seguiremos trabajando de forma constructiva con la ICO para abordar las inquietudes sobre nuestros procesos de evaluación de riesgos».

La ICO está investigando cómo “My AI” procesó los datos personales de alrededor de 21 millones de usuarios de Snapchat en el Reino Unido, incluidos niños de entre 13 y 17 años.

La aplicación, desarrollada por Snapchat, funciona con ChatGPT de OpenAI, el ejemplo más famoso de IA generativa que los responsables políticos de todo el mundo buscan regular en medio de preocupaciones sobre privacidad y seguridad.

Las redes sociales, incluido Snapchat, exigen que los usuarios tengan 13 años o más, pero no siempre han tenido éxito en impedir que los menores de edad utilicen sus plataformas.

Anteriormente, en agosto de 2023, Reuters informó que los reguladores estaban recopilando información para determinar si la aplicación de mensajería estaba eliminando efectivamente a los usuarios menores de edad de su plataforma.

(Según Bloomberg, Reuters)

Meta utiliza datos de usuarios de Facebook e Instagram para entrenar chatbots de IA

Meta dijo que utiliza las publicaciones públicas de los usuarios en Facebook e Instagram para entrenar a su nuevo asistente virtual de inteligencia artificial (IA), pero excluye el contenido compartido solo con familiares y amigos.

Microsoft lanza Copilot, el asistente virtual con chatbot de IA

El asistente virtual Microsoft Copilot estará disponible en Windows 11, Microsoft 365, el navegador Edge y el motor de búsqueda Bing.

Tres nuevas funciones que llegarán al chatbot de inteligencia artificial Bard de Google

Verificar la precisión de las respuestas, importar datos de usuarios entre aplicaciones e invitar a otros a chatear con chatbots son nuevas funciones que llegarán a Google Bard.

Fuente: https://vietnamnet.vn/chatbot-ai-gay-rui-ro-voi-tre-em-thuc-day-quy-tac-quan-ly-cac-nha-phat-trien-2199667.html