security
- Quando a IA deixa de ser ferramenta e se torna superfície de ataque
Quando IA vira superfície de ataque: prompt injection, cadeias de ataque reais, arquiteturas em risco e defesas práticas para engenharia.
- Fackel: um framework autônomo de pentest baseado em agentes ReAct
Fackel: framework multi-agente de pentest onde LLMs decidem a estratégia. Arquitetura, decisões de design e lições aprendidas.
- Device Code Phishing + Vishing: como atacantes comprometem contas Microsoft Entra usando páginas de login legítimas
Device code phishing combinado com vishing contra Microsoft Entra: como o fluxo OAuth é abusado, o que monitorar e como mitigar.
- Implicações de segurança do raciocínio probabilístico em IA generativa
Uma análise rigorosa de como o raciocínio probabilístico em modelos generativos molda o risco de segurança, modos de falha e robustez.
- O custo da abstração: quando camadas escondem riscos de segurança e confiabilidade
Camadas de abstração podem obscurecer modos de falha, transferir risco entre fronteiras e enfraquecer garantias de sistemas.
- Por que a modelagem de ameaças tradicional falha em sistemas de IA generativa
Comportamento probabilístico, risco distribucional e composabilidade invalidam premissas da modelagem de ameaças para IA generativa.