¿La prohibición de ChatGPT en Italia allana el camino para regulaciones de IA más estrictas en todo el mundo?

(Baonghean.vn) - Italia se convirtió recientemente en el primer país occidental en prohibir ChatGPT cuando la autoridad de protección de datos italiana (GPDP) ordenó a OpenAI que dejara de procesar temporalmente los datos de los usuarios italianos en medio de una investigación sobre presuntas violaciones de las estrictas regulaciones europeas de privacidad.

En respuesta a la medida de Italia, muchos países alrededor del mundo están considerando emitir regulaciones relacionadas con la inteligencia artificial (IA), y algunos gobiernos incluso están considerando unirse a Italia y prohibir la tecnología.

Foto ilustrativa.

El 31 de marzo, el GPDP emitió una orden temporal de emergencia que exige a OpenAI, creador de ChatGPT, que deje de utilizar la información personal de millones de italianos en sus datos de entrenamiento. Esta prohibición del gobierno italiano podría ser el inicio de los problemas legales que ChatGPT podría enfrentar próximamente.

Según el RGPD, OpenAI no tiene derecho legal a utilizar la información personal de los usuarios en ChatGPT. En un comunicado publicado en línea para usuarios con direcciones IP italianas, OpenAI lamenta informar que ha deshabilitado el acceso para usuarios en Italia a petición de la autoridad de protección de datos.

GPDP ha acusado a OpenAI de no verificar la edad de los usuarios de ChatGPT y de no tener base legal para justificar la recopilación y el almacenamiento de una cantidad tan grande de datos personales.

La agencia añadió que no pretende obstaculizar el desarrollo de la IA, pero que las empresas que desarrollan productos de IA deben respetar las normas destinadas a proteger los datos personales de los ciudadanos italianos y europeos.

Esto significa que OpenAI tendrá que responder ante los funcionarios que investigan posibles infracciones del Reglamento General de Protección de Datos (RGPD) de la Unión Europea. Según el RGPD, OpenAI, respaldada por Microsoft, se arriesga a una multa de 20 millones de euros (21,8 millones de dólares), o el 4 % de sus ingresos globales anuales, si no soluciona la situación en un plazo de 20 días.

OpenAI anunció que también reembolsará el importe a todos los usuarios en Italia que adquirieron una suscripción a ChatGPT Plus el mes pasado, y señaló que está pausando las renovaciones de suscripción en ese país para que no se les cobre a los usuarios mientras el servicio esté suspendido. "Nos comprometemos a proteger la privacidad de las personas y creemos que ofrecemos ChatGPT de conformidad con el RGPD y otras leyes de privacidad", declaró OpenAI.

Open AI afirmó que colaborará con el regulador de datos italiano para restablecer pronto el acceso a ChatGPT. «Muchos usuarios en Italia nos han comentado que ChatGPT les resulta útil para sus tareas diarias, y esperamos reintroducir la función pronto», declaró OpenAI a los usuarios tras la prohibición de ChatGPT en Italia.

Tras la prohibición de ChatGPT en Italia, ¿habrá más prohibiciones?

Si bien la acción de Italia podría ser la primera contra ChatGPT por parte de un regulador occidental, otros países europeos han expresado inquietudes similares en los días posteriores a la prohibición temporal de ChatGPT. Según informes, Francia, Alemania e Irlanda se han puesto en contacto con la autoridad italiana de protección de datos para obtener más información sobre sus hallazgos.

En términos más generales, la reacción negativa contra ChatGPT en Europa pone de manifiesto la preocupación por la privacidad en torno a la creación de modelos de IA innovadores como ChatGPT, que suelen entrenarse con grandes cantidades de datos de internet. Un artículo de Wired cita a Tobias Judin, director de asuntos internacionales de la autoridad de protección de datos de Noruega, quien afirmó: «Si el modelo de negocio se limita a buscar cualquier cosa que se encuentre en internet, podría haber un problema grave».

Jubin añadió que si un modelo se basa en datos que podrían haber sido recopilados ilegalmente, se plantea la cuestión de si cualquiera puede usar estas herramientas legalmente. Judin también señaló que la decisión italiana pone de manifiesto preocupaciones más inmediatas. Fundamentalmente, el desarrollo de la IA hasta la fecha podría presentar una deficiencia importante.

Antes de la prohibición italiana, se pedían regulaciones más estrictas para el desarrollo de IA. De hecho, el 22 de marzo, una carta abierta firmada por cientos de destacados expertos en IA, líderes tecnológicos y científicos exigió la suspensión del desarrollo y las pruebas de tecnologías de IA más potentes que el modelo de lenguaje GPT-4 de OpenAI debido a los riesgos que podría suponer.

Incluso los gobiernos tienen dificultades para adaptarse al ritmo de la tecnología de IA. El Reino Unido, por ejemplo, ha anunciado planes para regular la IA. En lugar de crear nuevas regulaciones, el gobierno ha pedido a los reguladores de diferentes sectores que adopten las normas existentes para la IA. Si bien la propuesta del Reino Unido no menciona ChatGPT por su nombre, describe algunos principios básicos que las empresas deben seguir al utilizar la IA en sus productos, como la seguridad, la transparencia, la equidad, la rendición de cuentas y la competitividad.

Mientras tanto, el presidente estadounidense Joe Biden también afirmó que aún está por verse si la IA es peligrosa o no, pero enfatizó que las empresas tecnológicas tienen la responsabilidad de garantizar la seguridad de sus productos antes de lanzarlos al mercado. En un informe de Reuters, el presidente Biden explicó a sus asesores científicos y tecnológicos que la IA podría ayudar a combatir las enfermedades y el cambio climático, pero que era importante abordar los posibles riesgos para la sociedad, la seguridad nacional y la economía.

Esta no es la primera vez que las autoridades italianas toman medidas contra un chatbot de IA. El Reglamento General de Protección de Datos (GPDP) prohibió previamente a Replika AI por usar datos personales de sus usuarios. Replika es una startup fundada en 2017 que ofrece avatares personalizables para chatear con cada persona. Aunque se publicitó como un "amigo virtual" que mejora las emociones, los reguladores italianos afirmaron que interfería con el estado de ánimo de los usuarios, "lo que podría aumentar los riesgos para las personas en etapa de desarrollo o con un estado psicológico frágil".

La prohibición de Italia ha atraído la atención de otros reguladores de privacidad en Europa, que están examinando si se necesitan medidas más severas para los chatbots de IA.

¿Qué está haciendo OpenAI en respuesta a la prohibición italiana?

Poco después de anunciarse la prohibición de ChatGPT en Italia, OpenAI, su creador, planeó presentar medidas para abordar las preocupaciones que llevaron a la prohibición. OpenAI se comprometió a ser más transparente en el manejo de los datos de los usuarios y la verificación de su edad.

En una publicación de blog titulada “Nuestro enfoque sobre la seguridad de la IA”, el creador de ChatGPT dijo que está trabajando para desarrollar políticas para combatir el comportamiento que representa un riesgo real para las personas.

No utilizamos datos para vender servicios, hacer publicidad ni crear perfiles de personas. Usamos datos para que nuestros modelos sean más útiles para los usuarios. Si bien algunos de nuestros datos de entrenamiento incluyen información personal disponible en internet, queremos que nuestros modelos aprendan sobre el mundo, no sobre individuos particulares, añadió OpenAI.

Desde su lanzamiento a finales de 2022, ChatGPT ha generado un gran revuelo a nivel mundial, impulsando a la competencia a introducir servicios similares. ChatGPT alcanzó los 100 millones de usuarios a finales de enero de 2023, tan solo dos meses después de su lanzamiento, convirtiéndose en la aplicación para consumidores de mayor crecimiento de la historia.

Enlace de origen: https://baonghean.vn/lenh-cam-chatgpt-cua-y-co-mo-duong-cho-viec-ban-hanh-cac-quy-dinh-nghiem-ngat-doi-voi-ai-tren-toan-the-gioi-post267812.html