ChatGPT podría revelar secretos comerciales

[anuncio_1]

● Los riesgos se pueden controlar si las empresas implementan medidas de seguridad adecuadas.

● Team8, una empresa de ciberseguridad de Israel, ha elaborado un informe sobre este tema con comentarios de los directores de seguridad de la información de muchas empresas.

Mundo - ChatGPT puede revelar secretos comerciales — Foto: Gabby Jones/Bloomberg.

Team8, una empresa israelí de ciberseguridad, dijo en un informe que las empresas que actualmente utilizan algunas aplicaciones de inteligencia artificial como ChatGPT probablemente enfrentarán el riesgo de exponer información confidencial de sus clientes y sus secretos comerciales.

El informe, proporcionado a Bloomberg News antes de su publicación, señalaba que el creciente uso de IA en chatbots y editores de texto podría exponer a muchas empresas a filtraciones de datos y demandas. El informe planteó la preocupación de que los chatbots pudieran ser utilizados por hackers para extraer información corporativa confidencial o realizar otras actividades perjudiciales contra la empresa. También existe la preocupación de que la información confidencial que actualmente se proporciona a los chatbots pueda ser utilizada por empresas de IA en el futuro.

Muchas grandes empresas tecnológicas, como Microsoft Corp. y Alphabet Inc., se apresuran a integrar inteligencia artificial para mejorar sus chatbots y motores de búsqueda. Entrenan sus modelos de inteligencia artificial con conjuntos de datos extraídos de internet para ofrecer a los usuarios una herramienta multifuncional que pueda responder a cualquier pregunta. Según el informe, si estas aplicaciones reciben datos confidenciales o privados, será extremadamente difícil eliminar la información proporcionada.

“La aplicación de la inteligencia artificial en el entorno empresarial puede conllevar el riesgo de que información sensible, propiedad intelectual, código fuente, secretos comerciales y otros datos sean explotados y procesados a través de datos recibidos directamente de los usuarios o mediante API, incluyendo la privacidad del usuario y la información confidencial”, señala el informe. El informe calificó estos riesgos como “altos” y afirmó que son “manejables” si se implementan las medidas de ciberseguridad adecuadas.

El informe de Team8 enfatiza que la información del chatbot no se proporciona a las empresas para entrenar la inteligencia artificial, contrariamente a informes recientes de que otros pueden leer la información.

Al momento de escribir este artículo, los modelos de IA entrenados con datos lingüísticos a gran escala no son capaces de actualizarse en tiempo real y, por lo tanto, no pueden usar la información de una persona para responder a otra, por lo que no hay motivos para preocuparse por esta posibilidad. Sin embargo, las futuras versiones de estos modelos no necesariamente tendrán características similares.

El informe también calificó otros tres problemas con la integración de IA como de "alto riesgo" y destacó la creciente amenaza del intercambio de información con aplicaciones de terceros. Microsoft ha integrado varias funciones de chatbot en su motor de búsqueda Bing y en el paquete de software Microsoft 365.

“Por ejemplo, del lado del usuario, las aplicaciones de terceros que aprovechan las API de modelos de inteligencia artificial pueden verse comprometidas y obtener acceso al correo electrónico y al navegador web del usuario, lo que permite al intruso realizar actividades en nombre de ese usuario”.

El informe también evaluó un “riesgo medio” de que el uso de inteligencia artificial pudiera aumentar la discriminación, dañar la reputación de una empresa o exponerla a acciones legales por cuestiones de derechos de autor.

Ann Johnson, vicepresidenta corporativa de Microsoft, contribuyó al informe. Microsoft ha invertido miles de millones de dólares en OpenAI, la empresa que desarrolló la aplicación ChatGPT.

“Microsoft fomenta el debate transparente sobre la evolución de los riesgos cibernéticos dentro de las comunidades de ciberseguridad e inteligencia artificial”, afirmó un portavoz de Microsoft.

Varios directores de seguridad informática de diversas empresas estadounidenses también contribuyeron al informe. El informe de Team8 también contó con el respaldo de Michael Rogers, expresidente de la Agencia de Seguridad Nacional de EE. UU. y del Comando Cibernético de EE. UU.

Nguyen Quang Minh (según Bloomberg)

[anuncio_2]
Fuente