El director ejecutivo de Truepic, Jeffrey McGregor, afirmó que el incidente fue solo la punta del iceberg. «Habrá más contenido generado por IA en redes sociales, y no estamos preparados para ello», afirmó McGregor.
Según CNN, Truepic busca resolver este problema ofreciendo tecnología que, según afirman, autentica los contenidos multimedia en el momento de su creación a través de Truepic Lens. La aplicación de recopilación de datos indicará a los usuarios la fecha, la hora, la ubicación y el dispositivo utilizado para crear la imagen, y aplicará una firma digital para verificar si la imagen es natural o generada por IA.
Una foto falsa de la explosión del Pentágono se vuelve viral en Twitter.
Truepic, una empresa respaldada por Microsoft y fundada en 2015, dijo que está viendo interés por parte de ONG y empresas de medios, e incluso aseguradoras que buscan confirmar que las reclamaciones son legítimas.
McGregor dijo que cuando todo se pueda falsificar, cuando la inteligencia artificial haya alcanzado su pico de calidad y accesibilidad, ya no sabremos cuál es la realidad en línea.
Empresas tecnológicas como Truepic llevan años trabajando para combatir la desinformación en línea. Pero el auge de una nueva generación de herramientas de IA capaces de generar imágenes y texto a partir de comandos del usuario ha aumentado la urgencia. A principios de este año, se difundieron ampliamente imágenes falsas del papa Francisco con una chaqueta de plumas de Balenciaga y del expresidente estadounidense Donald Trump siendo arrestado. Ambos incidentes han alarmado a millones de personas por los posibles peligros de la IA.
Algunos legisladores ahora instan a las empresas tecnológicas a abordar el problema etiquetando el contenido generado por IA. La vicepresidenta de la Comisión Europea, Vera Jourova, afirmó que empresas como Google, Meta, Microsoft y TikTok se han adherido al código de prácticas voluntario de la Unión Europea para combatir la desinformación.
Un número cada vez mayor de empresas emergentes y gigantes tecnológicos, incluidos algunos que están implementando IA generativa en sus productos, están tratando de implementar estándares y soluciones para ayudar a las personas a determinar si una imagen o un video fue creado con IA.
Pero a medida que la tecnología de IA avanza más rápido de lo que los humanos pueden seguir, no está claro si estas soluciones podrán resolver el problema por completo. Incluso OpenAI, la empresa detrás de Dall-E y ChatGPT, ha admitido que sus propios esfuerzos para detectar la escritura generada por IA son imperfectos.
Las empresas que desarrollan soluciones adoptan dos enfoques para resolver el problema. El primero se basa en el desarrollo de programas para identificar imágenes generadas por IA una vez producidas y compartidas en línea. El otro se centra en marcar una imagen como real o generada por IA con algún tipo de firma digital.
Reality Defender y Hive Moderation están trabajando en el primero. Con su plataforma, los usuarios pueden subir imágenes para escanearlas y recibir un análisis que muestra un porcentaje de si la foto es real o generada por IA.
Reality Defender afirma utilizar tecnología patentada de deepfake y de identificación de contenido generativo para detectar vídeos, audios e imágenes generados por IA. En un ejemplo proporcionado por la empresa, Reality Defender mostró una imagen deepfake de Tom Cruise que era 53% "sospechosa" porque la persona en la imagen tenía el rostro distorsionado, algo común en las fotos manipuladas.
Imágenes etiquetadas generadas por IA
Estos servicios ofrecen versiones gratuitas y de pago. Hive Moderation afirma que cobra $1.50 por cada 1,000 imágenes. Realty Defender afirma que sus precios pueden variar según diversos factores, en casos en que los clientes requieran la experiencia y el apoyo de la empresa. El director ejecutivo de Reality Defender, Ben Colman, afirma que el riesgo se duplica cada mes porque cualquiera puede crear fotos falsas con herramientas de IA.
Varias otras empresas están trabajando para añadir una especie de etiqueta a las imágenes para certificar si son reales o generadas por IA. Hasta ahora, la iniciativa ha sido impulsada principalmente por la Content Authenticity and Origination Alliance (C2PA).
C2PA se fundó en 2021 para crear un estándar técnico que certificara el origen y la historia de los medios digitales. Esta iniciativa combina la Iniciativa de Autenticación de Contenido (CAI) de Adobe y el Proyecto Origin, liderado por Microsoft y la BBC, con el objetivo de combatir la desinformación en las noticias digitales. Otras empresas que participan en C2PA son Truepic, Intel y Sony.
Basándose en los principios de C2PA, CAI lanzará herramientas de código abierto para que las empresas creen credenciales de contenido o metadatos que contengan información sobre las imágenes. Según el sitio web de CAI, esto permitirá a los creadores compartir de forma transparente detalles sobre cómo crearon una imagen. De esta forma, los usuarios finales podrán acceder al contexto sobre quién, qué y cómo se alteró una imagen, y luego juzgar por sí mismos su autenticidad.
Muchas empresas ya han integrado el estándar C2PA y las herramientas CAI en sus aplicaciones. Firefly de Adobe, una nueva herramienta de imágenes con IA incorporada a Photoshop, cumple con el estándar C2PA a través de su función de Credenciales de Contenido. Microsoft también anunció que las imágenes y los vídeos creados con Bing Image Creator y Microsoft Designer incorporarán firmas criptográficas en los próximos meses.
En mayo, Google anunció la función "Acerca de esta imagen", que permite a los usuarios ver cuándo apareció una imagen por primera vez en Google y dónde se puede ver. El gigante de las búsquedas también anunció que cada imagen generada por la IA de Google incluirá un marcado en el archivo original para añadir contexto si la imagen se encuentra en otro sitio web o plataforma.
Mientras las empresas tecnológicas intentan abordar las preocupaciones sobre las imágenes generadas por IA y la integridad de los medios digitales, los expertos en el campo enfatizan que las empresas deberán colaborar y colaborar con los gobiernos para abordar el problema. Sin embargo, las empresas tecnológicas se apresuran a desarrollar la IA a pesar de los riesgos.
[anuncio_2]
Enlace de origen
Kommentar (0)