Duas em cada três empresas sofrem com o uso invisível da IA

O avanço acelerado da inteligência artificial (IA) dentro do espaço corporativo trouxe um novo desafio para as áreas de tecnologia e segurança da informação: o crescimento do chamado ‘Shadow AI’, termo utilizado para descrever o uso de ferramentas e agentes de IA por colaboradores sem homologação, monitoramento ou conhecimento do departamento de TI.

Dados do estudo Value of AI, da SAP em parceria com a Oxford Economics, mostram que 66% das companhias brasileiras admitem que esse uso ocorre com alguma frequência nas empresas. O relatório ouviu 1.600 executivos de oito países, sendo 200 deles líderes brasileiros.

Para Ammina Rachid, DPO e gerente de Segurança da Escale – sales tech especializada em vendas AI-First para o mercado enterprise – o desafio do universo corporativo deixou de ser apenas implementar agentes de IA com alta performance e passou a exigir governança, segurança e capacidade de auditoria.

Embora impulsione produtividade e agilidade operacional, o uso do Shadow AI, também amplia riscos relacionados a vazamento de dados, conformidade e rastreabilidade de informações. Dados da Gartner revelam que quase 60% dos funcionários usam contas pessoais para tarefas relacionadas ao trabalho com IA generativa e 33% admitem inserir informações confidenciais em ferramentas públicas ou não aprovadas.

Segundo Ammina, o combate a esse fenômeno não passa por restringir o uso da tecnologia, mas por centralizar sua adoção em plataformas oficiais, capazes de garantir observabilidade, padronização e conformidade regulatória. “É preciso ir além do básico, de quem espera ser consultado ou que as áreas sigam regras padronizadas. Antes de mais nada, a própria IA é uma aliada estratégica da segurança, auxiliando na otimização de processos, monitorando uso em tempo real, nos ajudando a tomar decisões de mitigação muito mais rápidas e precisas “, explica.

Ammina também acredita que, para isso, é imprescindível que o time de segurança faça parte das implementações, atuando na homologação, garantindo o uso de ferramentas que nos permitam controlar a concessão de direitos aos dados, validando a minimização de dados e criando rotinas de monitoração e auditoria, garantindo menor risco residual para a operação. “Claro, a tecnologia não caminha sozinha e por isso é sustentada por ações contínuas de treinamento e políticas claras de responsabilização. O objetivo é garantir respostas alinhadas à voz da marca com máxima consistência operacional”, encerra a DPO.