La IA mejorada ayuda a detectar anomalías

En el reciente evento Google I/O, Google lanzó Gemini 1.5, un modelo de inteligencia artificial (IA) con muchas características nuevas, incluida la capacidad de analizar código, texto, grabaciones de audio y videos con duraciones más largas que la versión anterior.

Detectar palabras sospechosas

En particular, se espera que Gemini 1.5 Pro se incluya próximamente en Gmail, Google Docs y otras plataformas, convirtiéndose en una herramienta multipropósito en Workspace que ayudará a los usuarios a recopilar información de Drive. Otro modelo de IA es Gemini Live, que permite a los usuarios interactuar con smartphones con voces naturales. En este evento, Google destacó al incorporar Gemini Nano, un modelo de IA para smartphones con sistema operativo Android, con la función de detectar palabras sospechosas en conversaciones para alertar a los usuarios sobre llamadas fraudulentas. Gemini Nano ya está integrado en los Pixel 8 Pro y la serie Galaxy S24.

En redes sociales, los usuarios esperan que Gemini Nano gane popularidad gradualmente en las versiones Android del mercado. Sin embargo, algunos expresaron su preocupación por la exposición de datos de llamadas si se otorgan permisos a Google. Al respecto, Google afirmó que los datos de llamadas están protegidos y solo se almacenan en el teléfono del usuario. Los usuarios pueden personalizar la función para activar o desactivar la alerta de llamadas fraudulentas. Gemini Nano funciona de forma independiente, no se conecta a internet y ni Google ni terceros pueden acceder a él.

Anteriormente, OpenAI también anunció un nuevo modelo de IA llamado GPT-4o, que aumenta la potencia de ChatGPT en 5 veces. En consecuencia, al optimizar algoritmos y métodos de entrenamiento, GPT-4o proporcionará respuestas más precisas y mantendrá una alta consistencia en conversaciones largas. Minimiza errores comunes y mejora la capacidad de comprender el contexto, lo que ayuda al modelo a responder con mayor precisión a preguntas complejas... Open AI dijo que la interfaz GPT-4o garantiza que las interacciones y la información personal entre los usuarios y la IA se procesen de forma segura. Meta, la empresa matriz de Facebook e Instagram, anunció que dejará de desarrollar la plataforma empresarial Workplace para centrarse en el desarrollo de productos de IA y el universo virtual Metaverse. Según el mundo de la tecnología, los próximos proyectos de IA de Meta ayudarán a los usuarios a tener una mejor experiencia con una plataforma de publicidad personalizada, recomendaciones de contenido adecuadas, traducción en vivo en muchos idiomas... Al mismo tiempo, crear políticas de privacidad para proteger la información del usuario.

En un evento reciente, Microsoft presentó una nueva función llamada "Recall", a la que la compañía denomina AI Explorer. Esta herramienta de IA se integrará en el ordenador Copilot Plus, lo que ayudará a los usuarios a realizar un seguimiento de todo lo que hacen en el ordenador, desde la navegación web hasta el chat de voz, creando un historial que los usuarios pueden consultar cuando necesiten recordar lo que hicieron anteriormente. Además, Recall también proporciona datos en una línea de tiempo visual, lo que permite a los usuarios desplazarse yexplorar fácilmente todas las actividades en el ordenador. La función Live Captions, que la acompaña, ayuda a los usuarios a buscar reuniones y vídeos en línea, transcribir y traducir el habla cómodamente. Microsoft promete que Recall funcionará de forma privada en el dispositivo para que los datos del usuario estén seguros. Los usuarios pueden pausar, detener o eliminar el contenido capturado, o excluir aplicaciones o sitios web específicos.

Gemini 1.5pro responde a las preguntas de los usuarios en forma de diagramas en cuestión de segundos. Foto AI: Le Tinh

Recordar, advertir a los usuarios

Según el experto en seguridad Pham Dinh Thang, el proceso de interacción con los usuarios ha aumentado el nivel de inteligencia de la IA. Por lo tanto, el modelo de IA cambiará continuamente y se volverá más eficiente, pero esto también aumenta el riesgo para los usuarios, como la falsificación facial (deepfake), y la voz será más difícil de detectar debido a su alta autenticidad.

Por lo tanto, empresas tecnológicas como Google o ChatGPT deben centrarse en proteger la seguridad de los datos de sus usuarios. "No se puede confiar plenamente en los compromisos de seguridad de datos de las empresas tecnológicas. Los usuarios deben protegerse primero. No visiten sitios web de IA de origen desconocido, ya que la tasa de malware es muy alta. No accedan a información que no les concierna. Al mismo tiempo, actualicen periódicamente las noticias sobre fraudes de IA", recomienda el Sr. Thang. Por su parte, el Sr. Huynh Trong Thua, experto en seguridad de la información, afirmó que, al usar productos de IA, los usuarios no deben preocuparse demasiado por sus datos, ya que la recopilación de datos personales de las empresas se realiza para analizarlos y generar advertencias y palabras clave adecuadas para personalizar la experiencia. "La tasa de fraude disminuirá considerablemente después de que Google y OpenAI apliquen nuevos modelos. La advertencia de fraude es un fuerte recordatorio que hará que los usuarios se detengan ante la tentación del estafador", concluyó el Sr. Thua.

Según expertos en tecnología, las empresas tecnológicas tienden a utilizar un cifrado más moderno para proteger los datos de los usuarios. Al mismo tiempo, con las versiones mejoradas, los usuarios tienen mayor control sobre sus datos personales, incluyendo la posibilidad de gestionarlos, editarlos y eliminarlos al aceptar o rechazar su uso por parte de la plataforma.

Según los expertos, ante la preocupación por el uso de herramientas de IA para cometer fraudes, los reguladores deben considerar cuidadosamente el desarrollo de políticas y mecanismos flexibles de control y gestión para el funcionamiento de dichas herramientas. Esto creará las condiciones para que las aplicaciones de IA se desarrollen de forma sostenible y responsable.

Fuente: https://nld.com.vn/ai-nang-cap-giup-phat-hien-bat-thuong-196240521203710228.htm