Segurança de dados é o maior desafio na adoção de IA, aponta Hitachi Vantara

Desafios na implementação da inteligência artificial

Executivos da Hitachi Vantara identificam estruturação de dados, governança e infraestrutura como os três pilares que mais preocupam na adoção da inteligência artificial (IA) nas empresas. Desde que a tecnologia ganhou popularidade com a versão generativa, a cibersegurança tem enfrentado ameaças crescentes devido à ausência desses elementos essenciais, um problema que tende a se agravar com o avanço dos agentes de IA.

Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta que a introdução de agentes de IA traz novos riscos, já que essas ferramentas podem executar ações com consequências imprevistas se não forem monitoradas continuamente. Ele também destaca o grande equívoco sobre o funcionamento dessas tecnologias.

Confiança excessiva e vulnerabilidades

Segundo o executivo, muitas empresas depositam mais confiança do que deveriam nos resultados gerados pela IA. A empolgação com a tecnologia leva à implementação acelerada de soluções, muitas vezes desnecessárias, o que cria novas vulnerabilidades. O relatório revela que as alucinações em agentes de IA ainda ocorrem em cerca de 91% dos casos, enquanto 76% dos dados corporativos permanecem não estruturados — justamente o tipo mais utilizado por aplicações de IA.

No Brasil, o cenário é diferente. O país passa por um processo acelerado de digitalização, frequentemente sustentado por sistemas legados e ambientes heterogêneos. Os executivos brasileiros são vistos como mais conservadores, adotando uma postura cautelosa antes de investir em IA. Joshua Wick, líder global de riscos e compliance na Hitachi Vantara, observa que os profissionais locais preferem realizar uma análise detalhada antes de qualquer investimento financeiro, refletindo uma apreensão em relação ao retorno inicial da tecnologia.

Educação e preparo são fundamentais para mitigar riscos

Essa cautela brasileira é encarada positivamente pelos especialistas, que ressaltam a potência da IA quando usada com responsabilidade. Wick destaca que o primeiro passo deve ser avaliar se o problema pode ser resolvido sem recorrer à IA. Para os executivos, educar os usuários sobre o funcionamento da tecnologia e as implicações do seu uso é essencial para estabelecer uma base segura. Shane Gibson reforça que esse processo demanda tempo e atenção, elementos frequentemente negligenciados pelas organizações.

É fundamental que as empresas saibam exatamente o que esperam da IA, conheçam os riscos envolvidos e evitem pressa na implementação. Testes prévios e conscientização são indispensáveis para garantir a segurança antes de colocar a tecnologia em produção.

Tendências em segurança e governança na IA

Com o aumento da preocupação com a segurança, 56% das lideranças apontam esse tema como o principal desafio na adoção da IA, um aumento de 19 pontos percentuais em relação ao ano anterior. Esse cenário tem impactado o uso dos modelos de linguagem de grande escala (LLMs). Ferramentas como ChatGPT e Copilot tiveram uma queda na percepção de sucesso, de 95% para 81%.

Em paralelo, cresce o investimento em governança e na qualidade dos dados usados no treinamento. A proporção de empresas que aprimoram seus dados subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, passando de 36% para 44%, e o número de organizações sem estratégia de explicabilidade dos modelos caiu de 42% para 24%.

Equilíbrio entre inovação e segurança

Gibson explica que, inicialmente, a IA parecia uma ferramenta eficiente e produtiva, mas com o tempo as alucinações e a falta de retorno sobre o investimento começaram a evidenciar riscos para os negócios. A tecnologia nem sempre entrega resultados determinísticos, o que exige cautela.

Mesmo assim, tanto Gibson quanto Wick ressaltam que governança e segurança não devem frear a inovação. Pelo contrário, essas práticas são necessárias para que a IA seja usada em sua máxima capacidade, protegendo as empresas à medida que avançam.

O futuro, segundo Gibson, poderá contar com interfaces únicas que geram resultados mediante simples comandos, mas para alcançar essa evolução é preciso estruturar processos e garantir segurança desde já.