Segurança de IA: Manuais de 2023 já estão obsoletos em 2024

A velocidade da inteligência artificial generativa exige respostas de segurança cada vez mais ágeis e ousadas.

A rápida evolução da IA generativa força a reavaliação constante de estratégias de segurança, tornando obsoletos manuais criados há pouco tempo.

A inteligência artificial generativa avança em um ritmo vertiginoso, a ponto de líderes de segurança estarem descartando manuais desenvolvidos há apenas um ou dois anos. Essa evolução acelerada significa que as empresas precisam adotar abordagens de segurança mais rápidas e ousadas para se defender contra ameaças impulsionadas por IA, incluindo ataques autônomos.

Atualmente, conselhos empresariais pressionam os CEOs a implementarem a IA em suas organizações, mesmo diante da cautela das equipes jurídicas e de compliance em relação aos riscos de segurança e propriedade intelectual. Fabricantes de modelos de IA têm divulgado novas descobertas e frameworks de segurança, evidenciando a velocidade do progresso na área.

Um exemplo prático dessa vulnerabilidade reside na capacidade de um agente mal-intencionado enganar um sistema de IA. Isso pode ocorrer simplesmente ao inserir uma instrução oculta em um e-mail ou convite de calendário aparentemente comum, levando o sistema a extrair documentos internos.

Especialistas alertam para a necessidade de ciclos de decisão curtos na segurança de IA.

Morgan Kyauk, diretor-gerente da NightDragon, expressou surpresa com a rapidez com que conceitos como agentes de IA e sua aplicação se tornaram realidade. Ele afirmou que, “mesmo o framework da própria NightDragon, lançado em meados de 2023, provavelmente precisa ser revisado. As coisas mudaram tão rapidamente em relação à IA – essa tem sido a parte surpreendente de ser um investidor nesta categoria.”

Kyle Hanslovan, CEO e cofundador da Huntress, detalhou a abordagem de sua empresa, que toma decisões relacionadas à IA, desde a implementação até as medidas de segurança, em ciclos de seis semanas. Hanslovan considera esse prazo potencialmente longo demais, comparando a situação a um “chicote” caso o período seja excedido. Ele questiona a lógica de manter um modelo de segurança por mais de seis meses, quando a própria IA evolui tão rapidamente.

A pesquisa da Palo Alto Networks revela que empresas utilizam, em média, 66 ferramentas de IA generativa em seus ambientes. No entanto, os desafios de segurança continuam a crescer, com cerca de 14% dos incidentes de perda de dados em 2025 envolvendo colaboradores que compartilharam inadvertidamente informações confidenciais com ferramentas de IA generativa.

A natureza da IA generativa, com sua capacidade de aprimorar o raciocínio através da retroalimentação, torna a necessidade de uma segurança igualmente adaptativa cada vez mais evidente. A rápida evolução exige que as estratégias de segurança acompanhem o mesmo ritmo.

Fundamentos de segurança em IA são sólidos, apesar das novidades.

Apesar da velocidade das inovações, John “Four” Flynn, vice-presidente de segurança do Google DeepMind, ressalta que muitos aspectos da segurança em IA se baseiam em práticas já consolidadas. Embora conceitos como injeção de prompts e a definição de permissões para agentes sejam novidades, a necessidade de gerenciar o acesso a fontes de dados e garantir protocolos de login seguros não é algo novo.

Flynn enfatiza que “mesmo quando um agente está em operação, as equipes de segurança precisam definir quais fontes de dados esse agente pode acessar e quão seguros são os protocolos de login. Não precisamos reinventar a roda; há fundamentos nos quais já somos especialistas há anos.” Essa perspectiva sugere que, embora a IA generativa traga novos desafios, as bases da segurança da informação permanecem cruciais.

Diretores e equipes de segurança demonstram uma receptividade crescente à IA generativa, possivelmente maior do que em relação a outras transformações tecnológicas. Essa familiaridade pode impulsionar o desenvolvimento de novas ferramentas para combater ataques. Kyauk observa que, “se você é um profissional de segurança e utiliza o ChatGPT diariamente para consultar uma receita ou planejar uma viagem, logo percebe a precisão de algumas respostas,” o que contribui para uma maior disposição em adotar essas tecnologias.

A tendência de manuais de segurança de IA tornarem-se obsoletos rapidamente reflete a dinâmica do setor. A capacidade de adaptação e a agilidade na tomada de decisões são, portanto, essenciais para as empresas que buscam navegar com segurança no cenário em constante mudança da inteligência artificial generativa.