En un discurso reciente en Washington (EE. UU.), el Sr. Smith afirmó que su mayor preocupación con respecto a la IA es el deepfake, una tecnología que crea imágenes y vídeos de apariencia realista. Pidió medidas para ayudar a las personas a distinguir entre fotos y vídeos reales y falsos.
“Tenemos que abordar los problemas relacionados con los deepfakes”, declaró el presidente de Microsoft. “Debemos tomar medidas para combatir el uso de la IA para alterar contenido legítimo con el fin de engañar o engañar a la gente”.
También pidió que se otorguen licencias a las formas más importantes de IA con "obligaciones de proteger la seguridad, la protección física, la ciberseguridad y la seguridad nacional". Necesitamos nuevos controles de exportación, al menos superiores a los existentes, para garantizar que los modelos de IA no sean robados ni utilizados de forma que violen los controles de exportación, afirmó.
La regulación de la IA ha sido un tema candente desde el lanzamiento público del chatbot ChatGPT de OpenAI. Los legisladores de Washington están lidiando con la introducción de la regulación de la IA, a medida que empresas grandes y pequeñas se apresuran a comercializarla.
La semana pasada, Sam Altman, director ejecutivo de OpenAI, declaró ante el Senado estadounidense que el uso de la IA para interferir con la integridad electoral era una "gran preocupación". También argumentó que la IA debe regularse y pidió cooperación global en este ámbito.
Smith argumentó que las personas deben rendir cuentas por cualquier problema causado por la IA. Instó a los legisladores a implementar "frenos de seguridad" en las tecnologías de IA utilizadas para gestionar las redes eléctricas, el suministro de agua y otras infraestructuras críticas para que los humanos puedan tomar el control. También mencionó un sistema similar a "Conoce a tu Cliente" (KYC) para que los desarrolladores de potentes modelos de IA sepan cómo se utiliza su tecnología e informen al público sobre el contenido generado por IA que se utiliza para identificar videos falsos.
A principios de esta semana, una imagen de una explosión cerca del Pentágono, tomada con inteligencia artificial, se viralizó en redes sociales y fue compartida por numerosas cuentas con marca azul. La fuente de la imagen no está clara, y aunque el Departamento de Defensa de EE. UU. confirmó que era falsa, provocó una caída significativa del mercado de valores en cuestión de minutos.
OSINTdefender , una cuenta de Twitter con más de 336.000 seguidores, fue uno de los sitios que compartió la foto. El dueño de la cuenta se disculpó posteriormente por difundir información falsa, afirmando que era un ejemplo de cómo "imágenes como esta pueden usarse para manipular información fácilmente".
También es una de varias imágenes de IA populares en las últimas semanas, incluida la del Papa con una elegante bata blanca, la foto en blanco y negro que ganó el Sony World Photography Award y el expresidente Donald Trump siendo arrestado por la policía.
(Según CNN, The Guardian)
[anuncio_2]
Fuente
Kommentar (0)