Inteligência Artificial: Aliada ou Desafio no Desenvolvimento de Software Corporativo?

Ao lado dos benefícios, surgem riscos relacionados à segurança. Códigos sugeridos por sistemas de IA, embora acelerem o desenvolvimento, nem sempre seguem padrões rigorosos de proteção e qualidade. Pesquisas demonstram que boa parte dessas sugestões pode conter vulnerabilidades, como exposição de credenciais, validação inadequada de dados, configurações inseguras e até ausência de checagens essenciais de autenticação ou autorização.

Essas falhas criam oportunidades para ataques cibernéticos, especialmente quando não há revisão criteriosa do material automatizado. Em 2024, já foram reportados incidentes de segurança cuja causa principal foi a implementação de códigos gerados por IA. APIs, cada vez mais presentes nas arquiteturas modernas, também estão sujeitas a riscos quando dependem de implementações automatizadas sem os devidos cuidados.

Pacotes “Alucinados” e Novas Ameaças

Uma pesquisa acadêmica publicada em junho de 2024 destacou outro risco: a IA pode sugerir o uso de pacotes inexistentes em repositórios oficiais como o PyPI ou npm. Cerca de 20% das bibliotecas recomendadas por modelos como CodeLlama e GPT-4 Turbo não estavam disponíveis nas fontes oficiais. Isso facilita a prática criminosa de registrar pacotes com esses nomes para disseminar software malicioso, aproveitando a previsibilidade dessas sugestões, como observado em ataques do tipo slopsquatting.

Além disso, estudos mostram que 30% do código Python e 24% em JavaScript gerados por IA apresentam falhas de segurança, envolvendo desde a geração insegura de valores aleatórios até vulnerabilidades em scripts de infraestrutura e ataques de cross-site scripting.

A Supervisão Humana Continua Essencial

Apesar do avanço das IAs, a revisão por especialistas permanece imprescindível. A automação não substitui a capacidade de análise contextual e a visão estratégica dos profissionais, que conseguem alinhar a implementação às necessidades do negócio e aos padrões regulatórios. Pesquisas globais indicam que mais de 70% dos especialistas continuam revisando as entregas produzidas por IA pelo menos metade do tempo, e cerca de 19% checam todas as sugestões antes de aprovarem.

Também é papel das equipes garantir conformidade com políticas internas e legislações específicas do setor, algo que os sistemas de IA, por si só, não abrangem integralmente.

IA como Parceira, Não Substituta

A IA representa uma evolução no trabalho dos times de DevOps, ampliando a capacidade de automação e a eficiência das equipes. No entanto, o fator humano segue indispensável, potencializado pelas novas ferramentas. Empresas que combinarem inteligência artificial à expertise dos seus especialistas estarão mais preparadas para aproveitar os benefícios da tecnologia sem negligenciar a segurança e a governança das soluções.