Cambios para proteger mejor a los niños.

SGGP 29/11/2023 06:52

El gobierno australiano acaba de presentar varias propuestas para un plan que refuerce las obligaciones de las empresas en línea en la protección de los niños y los usuarios de internet frente a contenidos perjudiciales.

Australia espera que los cambios propuestos en la normativa ayuden a mantener a los niños más seguros en internet.

Según la ministra de Comunicaciones australiana, Michelle Rowland, los cambios propuestos surgieron tras las preocupaciones expresadas sobre el hecho de que el gobierno no había hecho lo suficiente para garantizar la seguridad de los niños mientras participaban en actividades en línea.

La Sra. Rowland afirmó que los cambios propuestos permitirían un ámbito de regulación más amplio que abarcaría los algoritmos y la inteligencia artificial sintética (IA), garantizando que el interés superior de los niños sea la máxima prioridad al diseñar cualquier servicio.

«Sabemos que los niños son vulnerables al contenido dañino en internet y es fundamental que sus intereses sean prioritarios durante todo el ciclo de vida del diseño e implementación de los servicios», explicó la Sra. Rowland, destacando la importancia de priorizar a los niños en el diseño del contenido al que pueden acceder. Las consultas sobre las enmiendas propuestas a los proveedores de servicios en línea, incluidos los proveedores de redes sociales, concluirán en febrero de 2024. Anteriormente, en agosto, el organismo australiano de control de la seguridad en línea eSafety solicitó una supervisión regulatoria de la industria de la tecnología y los medios de comunicación.

Según eSafety, la agencia ha recibido quejas sobre niños que utilizan ordenadores para crear imágenes pornográficas de sus compañeros con fines de acoso. eSafety afirma que los proveedores de servicios deben tomar medidas razonables para minimizar de forma proactiva la posibilidad de que la IA genere material o condiciones para actividades ilegales o perjudiciales, incluidos los vídeos falsos generados por IA.

eSafety ya había advertido sobre la necesidad de procesos de verificación de edad más estrictos en los sitios web utilizados por menores para evitar que sean coaccionados a crear material o contenido sexualmente abusivo. Tras analizar más de 1300 denuncias de abuso sexual infantil, eSafety descubrió que uno de cada ocho menores "creó" dicho contenido, a menudo a manos de depredadores que los obligaron a filmar o fotografiar actos sexualmente explícitos. En realidad, los menores pueden eludir fácilmente la verificación de edad al acceder a sitios web.

El 26 de noviembre, Estados Unidos, el Reino Unido y más de diez países anunciaron un acuerdo internacional sobre la seguridad de la IA. Según funcionarios estadounidenses, este es el primer acuerdo detallado sobre cómo garantizar el uso seguro de la tecnología de IA, e insta a las empresas tecnológicas a crear sistemas de IA seguros desde la fase de diseño. El documento indica que dieciocho países acordaron que las empresas que diseñan y utilizan IA deben desarrollar e implementar esta tecnología avanzada. El acuerdo no es vinculante y proporciona principalmente recomendaciones generales, como la supervisión del uso indebido de la IA y la protección de datos.

Fuente