Aplicar Inteligência Artificial (IA) ao trabalho se tornou uma tendência inevitável, ajudando a melhorar a eficiência e economizar tempo.
No entanto, por trás dessa conveniência existem riscos potenciais à segurança de dados, especialmente o fenômeno da "IA Sombra" - quando os funcionários usam ferramentas de IA de forma descuidada, sem controle, colocando acidentalmente dados confidenciais da empresa em plataformas públicas.
Dependência e preocupações iniciais
Thanh Huyen (21 anos), funcionária de marketing de conteúdo de uma empresa de cosméticos e alimentos funcionais, compartilhou que confia 90% na IA em seu trabalho, desde o planejamento e a criação de conteúdo até a criação de imagens e vídeos .
No entanto, quando ela acidentalmente se deparou com um artigo semelhante à ideia que havia perguntado ao ChatGPT, Huyen começou a se preocupar com a capacidade da IA de lembrar e compartilhar informações de entrada.
Aplicar IA ao trabalho quase se tornou um padrão para muitos setores atualmente (Foto: Bao Ngoc).
Embora a história de Huyen possa ser uma coincidência, o fato inegável é que fornecer informações à IA significa permitir que essas ferramentas coletem e armazenem dados para treinar o modelo.
O problema se torna sério se a plataforma de IA for hackeada ou mal protegida, levando a vazamentos de informações e consequências negativas.
"IA Sombra" - Um Perigo Potencial
HM (20 anos), especialista em atendimento ao cliente, fornece regularmente uma lista de informações do cliente (nome completo, data de nascimento, número de telefone, histórico de compras) para a IA analisar, economizando tempo e melhorando o desempenho.
M. acredita que este não é um risco potencial, pois a empresa é pequena e os dados não serão divulgados. No entanto, o caso de M. é típico de "IA Sombra" – o uso de IA por funcionários sem a aprovação ou supervisão do departamento de tecnologia da informação ou segurança cibernética.
O fenômeno da “IA Sombra” refere-se ao uso de IA por funcionários em empresas sem qualquer controle ou gestão (Ilustração: CV).
Um relatório da Cisco constatou que 62% das organizações no Vietnã não têm confiança na detecção do uso não regulamentado de IA por funcionários. Uma pesquisa no Reino Unido também constatou que 75% dos gestores de segurança cibernética estão preocupados com ameaças internas, como a IA oculta.
Isso mostra que a IA oculta está se tornando uma ameaça comum, especialmente quando muitas empresas não têm políticas claras sobre o uso da IA e os funcionários não têm consciência da segurança de dados.
Aceite compensações para evitar ficar para trás
Apesar de estar ciente dos riscos, Thanh Huyen ainda aceita "apostar" na IA. Ela acredita que os benefícios imediatos que a IA traz são muito grandes, o que a ajuda a produzir dezenas de artigos e ideias todos os dias.
A conveniência, a velocidade e a capacidade de aumentar o desempenho fizeram com que Huyen estivesse disposta a fornecer informações sigilosas e confidenciais à IA, até mesmo informações pessoais de seus superiores.
Apesar dos riscos potenciais de usar IA sem controle, muitos funcionários ainda aceitam a troca por benefícios imediatos (Ilustração: CV).
Da mesma forma, Trung Hieu (20 anos), um funcionário de marketing de conteúdo, também fornece regularmente documentos internos e informações comerciais ao chatbot de IA.
Hieu notou um aumento significativo na produtividade, criando uma vantagem competitiva e acredita que isso não afeta muito as operações da empresa.
Esses casos mostram que a IA oculta está se espalhando devido à falta de políticas claras da empresa e à conscientização insuficiente entre os funcionários sobre riscos de segurança, qualidade e dependência.
Uma série de riscos ao confiar demais na IA
O Sr. Nguyen Viet Hung, CEO de uma empresa de desenvolvimento de software de aplicativos de IA, explica a popularidade da Shadow AI devido a três fatores: a IA ajuda a trabalhar de forma mais rápida e eficiente; o hábito de depender da IA se forma rapidamente; e as empresas não têm avisos e treinamento sobre riscos.
Sr. Nguyen Viet Hung, CEO de uma empresa de desenvolvimento de software de aplicativos de IA (Foto: Cong Khanh).
Especialistas alertam que a IA oculta pode levar a vazamentos de dados (de clientes, internos) quando aplicada em ferramentas de IA gratuitas.
Além disso, a qualidade do conteúdo gerado pela IA não é verificada, o que pode facilmente levar a distorções e influenciar decisões empresariais.
Mais seriamente, o uso descontrolado de IA pode criar vulnerabilidades de segurança, dificultando o monitoramento e a resposta rápida dos sistemas de TI, além de dificultar a determinação de responsabilidades quando ocorrem incidentes.
Áreas escuras são difíceis de controlar.
Monitorar e gerenciar funcionários usando IA é um processo longo e coordenado. Especialistas afirmam que o acesso dos funcionários a dados internos representa um grande obstáculo para impedi-los de transmitir dados privados por meio de ferramentas pessoais de IA.
Além disso, as ferramentas de IA agora são facilmente acessíveis, o que as torna difíceis de serem detectadas ou gerenciadas pela TI.
O fácil acesso às ferramentas de IA é uma das barreiras que torna mais difícil controlar as informações que os funcionários colocam nas plataformas de IA (Ilustração: CV).
Para lidar com isso, o especialista Nguyen Viet Hung sugeriu que as empresas precisam aumentar o treinamento dos funcionários sobre conscientização de riscos ao usar IA e obter uma compreensão mais profunda da "IA Sombra".
Ao mesmo tempo, emita prontamente regulamentações legais e políticas internas. Outra solução importante é fortalecer os recursos de segurança na empresa, incluindo monitoramento comportamental, controle de acesso a dados e autorização criteriosa para cada funcionário.
Atualmente, muitas empresas ainda não possuem um processo claro para o uso da IA, incentivando seu uso apenas para aumentar a produtividade. Para lidar com a IA oculta, muitas grandes empresas começaram a implantar plataformas internas de IA ou exigir que os funcionários utilizem ferramentas aprovadas com políticas claras de segurança da informação.
Fonte: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm
Comentário (0)