Introdução: A Evolução da Segurança Ofensiva para a Era dos Agentes Autônomos
No episódio de hoje do Lion Talks, mergulhamos fundo na transição da segurança ofensiva tradicional para a era dos agentes autônomos de IA. Recebemos João Santos, uma referência internacional em cybersegurança, professor universitário, líder e fundador do Head Team Leaders, e um dos principais especialistas em treinamento de agentes de IA para pentest. Com uma carreira que começou aos 10 anos com engenharia reversa, João traz uma visão única sobre como a inteligência artificial está remodelando o campo da segurança ofensiva e defensiva.
O Que São Agentes Autônomos de IA?
Para entender a revolução, precisamos primeiro definir o que são agentes autônomos. Antes do surgimento dos LLMs (Large Language Models) de forma acessível, especialmente após o lançamento do ChatGPT em 2022, a automação em pentest era extremamente trabalhosa. Ela consistia em criar scripts e automações sequenciais com condições manuais para cada classe de vulnerabilidade. Com os LLMs, que interpretam a linguagem humana e a convertem em código, tornou-se possível construir agentes que não apenas executam tarefas, mas entendem o contexto, tomam decisões e exploram vulnerabilidades de forma autônoma.
Arquitetura dos Agentes: O Cérebro e o Harness
João explica que um agente autônomo é composto por duas partes fundamentais. O LLM (cérebro) é o modelo de IA que processa a linguagem e gera as ações. O Harness é toda a infraestrutura por trás, que gerencia a memória, o contexto e a execução do código. O harness filtra as saídas do LLM e as converte em ações práticas, como comandos de terminal.
Para construir um agente autônomo eficiente, são necessários elementos como:
- Gerenciamento de contexto: Capacidade de manter e processar informações ao longo de várias interações.
- Memorização: Guardar resultados de ações anteriores para uso futuro.
- Reforço (Reinforcement Learning): O agente aprende com acertos e erros, ganhando 'recompensas' que indicam o caminho correto.
- Subtarefas: Agentes especializados para cada etapa (reconhecimento, exploração, geração de relatórios) que trabalham em conjunto.
Sem um harness bem configurado e treinado, não se tem um agente autônomo eficaz. A construção desses agentes é um trabalho científico contínuo, com novas técnicas e algoritmos sendo publicados constantemente.
Automação vs. Autonomia: A Revolução no Pentest
A diferença crucial é que a automação segue scripts e condições pré-definidos (playbooks), enquanto a autonomia permite que o agente use um 'cérebro' (LLM) para entender o contexto da aplicação, navegar, analisar código fonte, requisições e respostas, e decidir qual é a vulnerabilidade mais promissora para explorar. O agente pode, por exemplo, identificar uma injeção SQL, executar um agente paralelo especializado nessa técnica e, com base no que encontrar, prosseguir.
No entanto, essa autonomia vem com a necessidade de guard rails (salvaguardas). Sem limites definidos, um agente autônomo pode tomar ações destrutivas, como deletar ou reescrever um banco de dados. João relata exemplos de agentes que, durante testes, reescreveram dados de bancos de produção. Por isso, definir guard rails é essencial para garantir que a IA não cause danos, assim como se define um escopo para um pentester humano.
Modelos Híbridos vs. Autônomos: A Prática no Mercado
Atualmente, o mercado adota predominantemente modelos híbridos, especialmente em APTs (Advanced Persistent Threats). Nesse modelo, o ser humano ainda está no loop, aprovando ou não as ações propostas pelo agente e fornecendo contextos críticos. O agente executa tarefas como reconhecimento, configuração de infraestrutura (ex: subir um servidor para ataques Man-in-the-Middle) e até criação de scripts, mas a decisão final e o julgamento humano são fundamentais para evitar desvios de escopo. Os agentes totalmente autônomos ainda são raros, pois dependem de uma arquitetura e treinamento muito robustos.
Capacidades Humanas vs. IA: A Malícia e a Criatividade
Apesar do avanço dos agentes, a malícia e a criatividade humanas permanecem insuperáveis. A IA potencializa a capacidade humana, mas quem dita a estratégia é o ser humano. João destaca que o conhecimento técnico essencial (fundamentos de tecnologia, arquitetura de software, engenharia de software) é crucial para operar a IA de forma eficaz. Sem esse conhecimento, o uso da IA pode gerar danos, como o famoso incidente da Amazon AWS, onde uma IA reescreveu um banco de dados por falta de limites.
O ser humano é a espécie mais maliciosa e possui um mindset ofensivo que a IA ainda não consegue replicar plenamente. O atacante pensa além do óbvio: se não pode atacar a empresa diretamente, ataca a cadeia de suprimentos (fornecedores, bibliotecas open-source). Esse raciocínio lateral, de 'entrar pela porta dos fundos', é uma habilidade humana que a IA só pode simular se receber os insumos corretos, mas não substituir.
O Mercado Está Preparado?
João acredita que o mercado está em uma corrida armamentista de IA, tanto no lado ofensivo quanto no defensivo. O problema não é a falta de mapeamento de ameaças (como as bases do MITRE ATT&CK ou OWASP), mas sim a escala e rapidez com que os agentes autônomos podem operar. No lado defensivo, a grande questão é como lidar com o volume de alertas. A evolução tende para um conceito de Security Mesh, onde uma malha de dados (provenientes de EDR, XDR, etc.) alimenta um agente de IA defensivo que faz a triagem e correlação de incidentes de forma inteligente.
O Mindset do Atacante Moderno e a Cadeia de Suprimentos
Atualmente, pensar como um atacante significa olhar para a cadeia de suprimentos de software. Com a aceleração dos negócios e o uso de 'vibe coding' (código gerado por IA sem preocupação com segurança), as empresas estão criando produtos com mau gerenciamento de cadeia de suprimentos. Isso inclui: uso de bibliotecas vulneráveis, vazamento de segredos (chaves de API, tokens) em repositórios públicos ou no código-fonte, e senhas fracas. O atacante usa esses insights (até mesmo vagas de emprego que listam tecnologias usadas) para identificar alvos indiretos.
Melhorias para a Maturidade de Segurança: Governança e Identidade
Para João, as duas áreas mais críticas para as empresas melhorarem sua maturidade de segurança são Governança e Identidade.
- Governança: Não se trata mais de gerenciar riscos de forma passiva (mapear e aceitar). É sobre antecipar riscos, identificar gaps proativamente e cobrar ações antes que os incidentes aconteçam. A governança dita como a IA é usada dentro das empresas, estabelecendo controles e ética.
- Identidade: A gestão de acessos agora inclui tanto acessos humanos quanto acessos não-humanos (chaves de API, secrets, tokens). A capacidade de detectar, revogar e gerenciar esses segredos, inclusive em ambientes de Shadow IT, é fundamental para evitar vazamentos em massa.
Se ele assumisse uma liderança, testaria prioritariamente: Governança, Identidade, Monitoramento (para detectar e responder a incidentes) e a Área Ofensiva (para validar a eficácia dos controles). O foco inicial seria no produto principal da empresa, avaliando seu nível de maturidade e definindo estratégias para elevá-lo.
O Papel do Profissional de Cybersegurança: O Especialista Generalista
João defende o conceito de especialista generalista. O profissional de cybersegurança deve entender todo o ecossistema (segurança ofensiva, defensiva, GRC, identidade, etc.) para ter uma visão estratégica, mas se especializar em uma área. Esse conhecimento multidisciplinar permite ter discussões estratégicas com outras áreas e traduzir a linguagem técnica para a executiva, um soft skill cada vez mais valorizado.
Dicas de Carreira para Iniciantes e Executivos
Para quem está começando, João oferece conselhos valiosos:
- Não seja resistente à IA: Use-a como ferramenta, mas nunca deixe de aprender o que está por trás. Se a IA deixar de existir amanhã, você deve ser capaz de executar suas tarefas manualmente.
- Invista em fundamentos: Base de redes, sistemas operacionais, desenvolvimento. Não existe atalho para o conhecimento sólido.
- Networking e ensino: Aprenda e ensine. O conhecimento guardado morre. Ser professor ou mentor é uma das melhores formas de consolidar o aprendizado e construir um legado.
- Escute outros profissionais: Aprenda com a experiência de quem já viveu situações práticas, pois laboratórios prontos não ensinam as nuances e burocracias corporativas.
Para os executivos (Board), a dica é: não implemente estratégias de cybersegurança sem analisar o impacto. A segurança deve acompanhar o negócio, mas não pode ser ditada por ele. Evite exceções que colocam a segurança em segundo plano, pois o custo de um vazamento de dados ou incidente crítico é gigantesco.
O Livro e o Legado de João Santos
João é autor de 19 livros, com mais três a caminho (sobre agentes de IA para segurança, desenvolvimento de malware e kernel do Windows). Seu livro sobre operações de Red Team é um guia prático que diferencia red team de pentest, mostrando como construir uma equipe e operar na prática. Ele reforça que o red team vai além da identificação de vulnerabilidades, focando na evasão de mecanismos de defesa e simulando um atacante real, exigindo um conjunto de habilidades que raramente se encontra em um único profissional, daí a importância de uma equipe com múltiplas expertises (engenharia social, delivery de artefatos, testes físicos).
Conclusão: A Jornada do Conhecimento e a Humildade
Para fechar, João destaca duas lições de vida valiosas: escolha bem suas companhias, pois um bom networking é para a vida, mas um mau networking pode ser prejudicial. E, acima de tudo, tenha humildade para aprender ouvindo outros profissionais e absorvendo diferentes visões. Aprender com os erros, tanto os próprios quanto os dos outros, é a chave para uma carreira sólida e sustentável em cybersegurança.