Segurança e estruturação de dados: os obstáculos para a inteligência artificial
A implementação de inteligência artificial (IA) nas empresas enfrenta hoje um desafio central: a segurança dos dados. Um relatório global da Hitachi Vantara aponta que a falta de estruturação dos dados, governança e infraestrutura adequada cria vulnerabilidades que ameaçam diretamente a cibersegurança. Com o avanço da ia generativa e o aumento do uso de agentes de IA, esses riscos se intensificam, exigindo atenção redobrada das organizações.
Shane Gibson, especialista técnico sênior para as Américas na Hitachi Vantara, destaca que agentes de IA podem agir de forma inesperada se não forem monitorados constantemente, devido a um entendimento equivocado sobre seu funcionamento. A confiança excessiva nas soluções de IA, acelerada pelo entusiasmo do mercado, tem levado empresas a adotá-las sem a devida cautela, abrindo brechas que podem comprometer a segurança corporativa.
Dados não estruturados e alucinações em IA: um problema global
O levantamento revela que cerca de 76% dos dados corporativos são não estruturados, justamente o tipo de informação mais explorada pelas aplicações de IA. Esse cenário é agravado pela ocorrência de alucinações em agentes de IA, fenômeno presente em aproximadamente 91% dos casos analisados. No entanto, a realidade brasileira mostra uma postura mais conservadora.
Segundo Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, o Brasil adota uma cautela maior ao ingressar no mercado da IA. Os executivos locais preferem realizar análises detalhadas antes de investir, refletindo uma apreensão em relação ao custo inicial e aos riscos envolvidos. Essa abordagem reduz o ritmo acelerado de implementação observado em outros países.
Leia também: Segurança de Dados: O Maior Desafio na Adoção da IA nas Empresas
Fonte: diretodorecife.com.br
Leia também: Alexa+ e ChatGPT: Comparação Direta Revela Limites da Assistente da Amazon
Fonte: ocuiaba.com.br
Educação e governança como caminhos para mitigar riscos
Para os especialistas, a capacitação dos usuários é fundamental para que entendam como a IA funciona e quais são as implicações do seu uso. O tempo dedicado a esse processo, no entanto, ainda é insuficiente. Gibson reforça que as organizações precisam definir claramente seus objetivos com a IA, compreender os perigos envolvidos e evitar pressa na adoção, realizando testes prévios rigorosos.
O relatório também indica um avanço na preocupação com segurança: 56% dos líderes empresariais apontam a proteção de dados como o maior desafio na implementação da IA, um crescimento de 19 pontos percentuais em relação ao ano anterior. Esse movimento se reflete na queda da percepção de sucesso dos modelos de linguagem de grande escala (LLMs), como ChatGPT e Copilot, que passaram de 95% para 81% em eficiência percebida.
Investimento em qualidade de dados e governança
Com a maior atenção à segurança, cresce também o investimento em governança e aprimoramento da qualidade dos dados utilizados no treinamento dos modelos. A proporção de empresas que realizam esse aprimoramento subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, passando de 36% para 44%, e o número de organizações sem estratégias claras de explicabilidade caiu de 42% para 24%.
Leia também: Segurança de Dados: O Maior Desafio na Adoção da Inteligência Artificial nas Empresas
Fonte: decaruaru.com.br
Gibson ressalta que, embora a IA tenha sido vista inicialmente como uma ferramenta promissora, os problemas como alucinações e retorno insuficiente sobre o investimento evidenciam riscos reais para os negócios, já que a tecnologia nem sempre entrega resultados determinísticos.
O futuro da IA exige estrutura e segurança
Apesar das ressalvas, os especialistas reforçam que governança e segurança não devem frear a inovação, mas sim garantir que ela aconteça de forma segura e eficiente. Gibson prevê um futuro onde haverá interfaces únicas, capazes de gerar resultados sob demanda, mas destaca que para alcançar essa etapa é indispensável estruturar bem os processos e as proteções.
O avanço da inteligência artificial depende, portanto, de uma adoção consciente, com foco na mitigação de riscos e na preparação das organizações para lidar com as complexidades da tecnologia, evitando surpresas desagradáveis e promovendo benefícios reais para os negócios.
