O modelo de próxima fronteira é sua maior ameaça ou seu melhor defensor?

Johnny Hand: Então, o Mythos é o objetivo final para a cibersegurança?

Rob Bair: Mythos é apenas o começo. [ Música ]

Johnny Hand: Bem-vindo ao AI Security Brief, onde estamos desvendando novas ameaças de IA, pesquisa de vulnerabilidades e as decisões estratégicas que os líderes de segurança estão tomando agora. Eu sou Johnny Hand.

Dustin Childs: E eu sou Dustin Childs. E, Johnny, estamos na estrada novamente. Acabei de voltar do Pwn2Own Berlin, onde vi muitas explorações facilitadas por inteligência artificial e diferentes modelos de IA. Bem, ao mesmo tempo, você teve a chance de conversar com Rob Bair da Anthropic sobre tudo relacionado ao Mythos. Então, adoraria ouvir mais sobre sua conversa com ele.

Johnny Hand: Sim, foi honestamente uma ótima conversa. E Rob realmente é a pessoa perfeita para isso. Como Chefe de Parcerias de Segurança Nacional na Anthropic, ele teve uma carreira notável nas Forças Armadas, e uma curiosidade é que nossa carreira militar se cruzou, onde ambos trabalhamos em cibersegurança e no governo dos EUA. Então, mergulhamos no Mythos. Mergulhamos na atividade de estados-nação. Foi muito, muito divertido, muito interessante, e estou animado para começar.

Dustin Childs: Sim, adoraria ouvir mais sobre isso, especialmente porque há tanto hype em torno do Mythos, mas eu realmente quero ir além do hype e entender por que isso importa, especialmente porque o ângulo do estado-nação é uma ameaça real e atual e não teórica. Já vimos isso acontecendo na prática.

Johnny Hand: Ótimo. Vamos mergulhar. Rob, uma das coisas que estou realmente animado para conversar com você é o fato de que ambos passamos pela Marinha. Temos trajetórias de carreira semelhantes, e estivemos próximos um do outro provavelmente nos últimos 20, 25 anos. Então, me conte um pouco sobre sua carreira na Marinha, como você começou, e como isso se transformou no que você está fazendo hoje.

Rob Bair: Sim, quero dizer, acho que acabei na cibersegurança por acidente. Assim como seu filho, Keegan, eu era um oficial treinado em energia nuclear, passei meus primeiros cinco anos em submarinos, e depois tive um problema médico que não me permitiu continuar na força de submarinos. E acontece que 2008 não foi um ótimo momento para sair da Marinha e conseguir um emprego em Wall Street. Então, acabei ficando na Marinha e me redesignando para, você sabe, uma área relacionada a ciber. E então fui trabalhar em capacidades cibernéticas muito iniciais no Comando de Operações Especiais, e depois fui para a NSA e o Comando Cibernético dos EUA, e meio que, fiquei na vanguarda da integração da tecnologia nas operações. E isso levou a uma carreira realmente incrível. E acho que, como o histórico em energia nuclear, apenas entender, você sabe, como um reator nuclear funciona. É apenas entender como os elétrons fluem. É uma transição muito, tipo, natural para o ciber. Então, você sabe, cruzamos com muitos de nossos companheiros de navio, e foi uma ótima transição para a cibersegurança.

Johnny Hand: Sim. Sim. É realmente interessante porque estivemos próximos um do outro, tipo, praticamente a maior parte de nossa carreira, e nunca realmente nos encontramos, o que foi -- o que foi meio engraçado. E acho que estava brincando com um amigo outro dia que quanto mais velho você fica, menor o mundo fica, e você percebe que conhece muito mais pessoas do que imagina. Então, uma coisa que quero abordar um pouco com sua carreira na Marinha -- porque ambos viemos de um histórico de operações, e acho que algo que é perdido, muitas vezes pensamos, tipo, cibersegurança é esse espaço altamente técnico. Mas, em última análise, como no Comando Cibernético dos EUA, eu estava no Comando de Operações de Defesa Cibernética da Marinha, meio que na vanguarda do que se tornou a Décima Frota dos EUA e depois no Comando Cibernético dos EUA. E uma das melhores habilidades foi traduzir para operações porque muitas pessoas não tinham isso. Então, sua carreira na Marinha em termos de ser um oficial no lado nuclear, mas depois se movendo, isso ajudou você a entender o mundo cibernético?

Rob Bair: Sim, quero dizer, acho que no final do dia, é tudo sobre operações. É sobre traduzir a tecnologia em algum tipo de resultado de negócios. E, você sabe, a Marinha, você sabe, não temos lucro e perda, mas temos resultados de missão que, você sabe, você viu quando estava trabalhando com os SEALs da Marinha. E acho que é apenas uma transição realmente natural para entrar nesse espaço. E acho que a outra coisa que me fez perceber é, tipo, sempre podemos ter a melhor tecnologia. E o DoD ou DoW, temos que gastar muito dinheiro em brinquedos e tecnologia. Mas no final do dia, era sobre as pessoas implantando as ferramentas e a tecnologia. E então, tipo, fui realmente abençoado ao longo da minha carreira por ter algumas pessoas realmente incríveis construindo um centro de operações de segurança ou o que quer que fosse. E tomamos decisões de ferramentas e decisões de tecnologia. Mas, tipo, o que realmente enfatizamos foi investir em nossas pessoas. E acho que o mesmo é verdade em um mundo impulsionado por IA onde estamos hoje.

Johnny Hand: Eu realmente amo isso porque muitas vezes ficamos realmente empolgados com a tecnologia. E eu disse por anos que é como, você pode comprar a melhor tecnologia, pode ter todas as capacidades, mas no final do dia, se alguém não fizer a coisa certa, você ainda fica com o mesmo resultado. Então, mudando um pouco de assunto, você está no espaço de segurança nacional, focado com a Anthropic, um espaço muito empolgante para estar. O que você está vendo em termos de tendências com empresas de grande porte que estão perdendo em torno da IA, especialmente em torno da conversa de segurança nacional?

Rob Bair: Sim. Não tenho certeza de quão ampla é a compreensão sobre o quão rápido as coisas estão se movendo no mundo cibernético habilitado por IA agora. No final de setembro do ano passado, a Anthropic publicou o que chamamos publicamente de GTG-1002, que era um ator estatal chinês utilizando Claude para fazer uma cadeia de ataque cibernético totalmente autônoma contra organizações do setor público e privado. E acho que talvez até internamente e como comunidade, fomos pegos de surpresa por quão rapidamente passamos de, tipo, você sabe, script kiddies para pessoas usando IA para escrever ransomware funcional. E então, de repente, estávamos assistindo um estado-nação invadir organizações cibernéticas relativamente maduras ou muito maduras de forma totalmente autônoma. E acho que estamos apenas vendo o começo dessa tendência agora, e isso vai continuar. E então, você sabe, nossa parceria é tão importante porque agora estamos lutando, você sabe, um estado-nação usando IA -- com IA defensiva. Sim.

Johnny Hand: Esse é um bom ponto porque acho que quando falamos com muitas organizações, elas estão empolgadas com o potencial da IA, mas também sabemos que temos que defender na velocidade da máquina. E isso é uma grande mudança. Você está vendo cibercriminosos, outras organizações de estados-nação que estão tentando aproveitar, você sabe, a tecnologia com a qual você está em parceria com a Anthropic de outras maneiras?

Rob Bair: Sim. Quero dizer, então você verá apenas, você sabe, uma cadeia de ataque totalmente autônoma que um estado-nação tem a capacidade de fazer, tipo, você sabe, alguma organização madura com operadores muito experientes. Mas também estamos vendo, você sabe, atores de ransomware com, você sabe, anteriormente nenhuma habilidade de codificar. Eles não sabem como o código funciona. Eles não sabem como ele funciona, mas de alguma forma eles são capazes de vender ransomware totalmente funcional na dark web. E quando o ransomware quebra, eles estão perguntando, você sabe, IA, "Como eu conserto essa ferramenta?" E então acho que continuaremos a ver essa proliferação como, você sabe, ameaças como serviço. E então, você sabe, você tem ransomware como serviço. Agora, vamos ter, você sabe, ferramentas como serviço, você sabe, como isso se parece de uma perspectiva de estado-nação? E então acho que, novamente, descobrir como é a telemetria, você tem três décadas de, você sabe, telemetria, você está fazendo programas de recompensa por bugs, encontrando zero days. Acho que descobrir como integrar a IA em operações defensivas é a única maneira de parar, você sabe, futuros criminosos e estados-nação.

Johnny Hand: Sim, e uma das coisas que eu amo sobre a parceria é -- entre TrendAI e Anthropic é que estamos focados em enfrentar as coisas mais desafiadoras juntos. E sempre há a conversa de, tipo, sempre que você olha para, tipo, o que os adversários estão fazendo, você sabe, qual é a ameaça, como você enfrenta isso. Acho que temos essa ideia de que a IA é esse, tipo, botão fácil. Mas, em última análise, tipo, você ainda precisa das habilidades do, você sabe, do defensor, certo? E acho que o que você está dizendo é que realmente aprimoramos as pessoas com a tecnologia em vez de apenas, você sabe, confiar no sistema.

Rob Bair: Sim. Quero dizer, somos uma empresa de modelo Frontier. Você sabe, a Anthropic vai continuar a desenvolver os melhores modelos e tentar chegar à AGI primeiro. E vamos fornecer esses modelos avançados para você integrar nas operações. E você tem uma grande equipe de P&D, uma grande equipe de cibersegurança que pode pegar esses modelos Frontier. E para o seu ponto anterior sobre a Marinha e operacionalizar as coisas, você está operacionalizando-os em décadas de experiência e depois implantando-os em empresas, o que, você sabe, como uma empresa Frontier, não é nosso foco hoje. E então nossa parceria é tão importante para reduzir a superfície de ataque e realmente bloquear ameaças no mundo real.

Johnny Hand: Sim, é um ótimo ponto. E, você sabe, estávamos falando sobre operacionalizar. Então, quando você está lidando com, você sabe, grandes empresas, especialmente aquelas focadas em, você sabe, espaços federais e governamentais, tipo, qual é a mensagem que você está levando para elas? E, tipo, onde elas estão em sua maturidade? Tipo, como elas estão respondendo às ameaças de IA, mas também à inovação de IA?

Rob Bair: Sim. Quero dizer, você sabe, tendo passado mais de duas décadas no governo e trabalhando no ramo executivo e nas forças armadas, acho que, você sabe, você e eu reconhecemos que o governo não se move tão rapidamente quanto precisamos que ele se mova, certo? E então, você sabe, eu fazia parte da pequena equipe que escreveu a Ordem Executiva 14028, que estava melhorando a cibersegurança da nação após, você sabe, uma série de eventos, que foi, você sabe, Colonial Pipeline, JBS Foods, SolarWinds. E acho que, na época, por volta de 2020, 2021, pensávamos que o SolarWinds seria essa, tipo, oportunidade única em uma administração para conseguir essa ordem executiva aprovada. E os golpes continuaram chegando. E ainda assim, como governo federal, não acho que nos movemos tão rapidamente quanto precisávamos. Isso é pré-IA, certo? Agora, estamos nesta era habilitada por IA. E acho que o governo federal e grandes empresas estão trabalhando para descobrir, tipo, "Como nos movemos rapidamente para acompanhar esse ritmo?" E há muitos sinais promissores, você sabe, no horizonte, de que o governo dos EUA vai adotar as coisas rapidamente, mas isso leva tempo.

Johnny Hand: Sim. Sim, sempre tento temperar e entender, tipo, qual é o apetite por mudança? Porque se há um bom apetite, então você pode realmente implementar boas, você sabe, políticas e começar a mover essa bola adiante. Mas você está certo. Acho que essa foi uma das -- minhas experiências também foi, você sabe, a ideia de que sabemos que precisamos nos mover rápido, mas é um grande navio. É difícil movê-lo rapidamente. Então, isso é sempre um grande desafio. E então, meio que entrando nessa conversa em torno dos riscos e, você sabe, o movimento do governo em geral e essas coisas, vamos pivotar um pouco para a empolgação e também a ansiedade em torno do Mythos. E este modelo que foi lançado, e as parcerias em torno disso. Você pode nos dar um pouco sobre o que é o Mythos e talvez o que ele não é que as pessoas estão perdendo?

Rob Bair: Sim, quero dizer, eu -- olha, o Mythos é apenas o começo quando se trata de modelos mais capazes de ciber. Como consequência de modelos serem realmente bons em codificação e realmente bons em engenharia de software, esses são os mesmos tipos de habilidades analíticas que você precisa quando quer fazer operações cibernéticas, certo? E então identificar vulnerabilidades e depois identificar explorações ou encadear explorações para avançar no processo da cadeia de ataque. Acho que nós, como laboratórios Frontier, continuaremos a ver essas capacidades aumentarem. E então, você sabe, o Mythos para nós, não tornamos o modelo geralmente disponível. Porque vimos quão habilidoso ele era como operador cibernético e um motor de descoberta de vulnerabilidades. Então, queríamos lançar esse modelo de uma maneira que fosse responsável. E tínhamos salvaguardas embutidas. E então olhamos para empresas que tinham a capacidade de reduzir a superfície de ataque e tinham software crítico que afetava, você sabe, a maioria dos americanos para tornar suas vidas de cibersegurança mais seguras. E então, você sabe, à medida que outros laboratórios Frontier e nós mesmos continuamos a desenvolver modelos mais capazes no domínio cibernético. Acho que o importante é, é, você sabe, desenvolvemos o programa de escalonamento responsável, RSP, que é tudo sobre segurança em modelos. E então vamos precisar garantir que temos segurança e salvaguardas para identificar incidentes como o GTG-1002, como falamos anteriormente, e bloqueá-los antes que se tornem uma coisa.

Johnny Hand: Sim, você tocou em algumas peças realmente interessantes. Uma é a conversa sobre descoberta. E acho que, o que todos ficam realmente empolgados ou, até ansiosos, em torno da conversa do Mythos ou dessas ferramentas fundamentais é que, oh, há uma enxurrada de, você sabe, de descobertas que está por vir. E, você sabe, é interessante porque quando falamos sobre isso, nós -- você sabe, há princípios fundamentais para um programa de segurança. E por melhor que seja a descoberta, queremos encontrar essas coisas cedo. Você sabe, isso faz parte da parceria que você está fazendo com, você sabe, com o Mythos, é descoberta e notificação precoce. Operamos o ZDI por mais de 20 anos. E uma das coisas que descobrimos é, você sabe, há uma grande lacuna entre a descoberta e a real remediação. E, acho que essa é a -- a mensagem, certo, é, tipo, "Ei, vamos ficar realmente bons, e vamos ver mais e mais descobertas, mas agora temos que aprender a fechar a lacuna." Você está tendo essas conversas em torno do Mythos com, você sabe, no espaço de segurança nacional em torno da parte posterior, que não é apenas a descoberta, mas a real remediação?

Rob Bair: Sim, esse é um ótimo ponto. E quando, você sabe, você e eu estávamos em uniforme, acho que, você sabe, o patching sempre foi, você sabe, a dor de nossa existência, certo, onde você estava rastreando em uma planilha do Excel. Mas as vulnerabilidades vinham em um ritmo que era incontrolável mesmo naquela época, certo? Não conseguíamos aplicar patches rápido o suficiente. E agora, estamos neste espaço onde provavelmente veremos dezenas de milhares de vulnerabilidades em software. Você sabe, encontramos bugs em software que datam de, você sabe, quase 30 anos, 27 anos, 15 anos, que testadores de penetração e pesquisadores de vulnerabilidades estão olhando há muito tempo, e eles não encontraram esses bugs. Agora, estamos encontrando-os. Estamos encontrando-os em uma velocidade que é sem precedentes. E para o seu ponto, acho que a coisa difícil agora é obter essas vulnerabilidades descobertas, mas depois desenvolver um patch para isso, e então realmente obter esse patch implantado para o usuário final. E então isso sempre foi um gargalo. E agora aumentamos ainda mais esse gargalo, você sabe, encontrando vulnerabilidades em uma velocidade que não vimos no passado.

Johnny Hand: Sim, há uma enxurrada de descobertas chegando, certo? Mas você tocou em algo anteriormente, em torno de, você sabe, responsável, certo? Você falou sobre o programa responsável. Você pode expandir um pouco sobre isso e o que isso significa para, você sabe, empresas, e especialmente no espaço federal?

Rob Bair: Sim. Quero dizer, olha, divulgação responsável, como estamos trabalhando de perto com, você sabe, parceiros e fornecedores no programa. E também tornamos geralmente disponível o Claude Security, que permite que as empresas rapidamente escaneiem bases de código que são proprietárias e encontrem vulnerabilidades nelas e as corrijam. Então, você sabe, somos um facilitador de fornecedores e provedores de segurança para então ir e ajudá-los a corrigir, você sabe, vulnerabilidades em seu software crítico. E então, você sabe, queremos trabalhar com fornecedores o mais próximo possível para dizer, tipo, "Vamos dar a você a capacidade. Você tem que ir e escanear seu software, corrigir essas vulnerabilidades, e então, você sabe, trabalhar com, seja o governo federal ou o setor privado para ir e obter esses patches nas mãos do usuário final," o que, novamente, é a coisa mais difícil.

Johnny Hand: Sim, esse é o ciclo de vida que acho que não falamos com frequência. E acho que qualquer pessoa que esteja na cibersegurança há anos, especialmente com a velocidade e o ritmo da IA, é, tipo, "Eu amo o ritmo de descoberta. Quero entender, você sabe, o mais cedo possível quais bugs estão por aí e se há, você sabe, um caminho de ataque." Mas então temos que chegar ao trabalho real. E o trabalho real é a parte mais difícil, que é, tipo, "Podemos corrigir isso? Podemos nos mover em um ambiente e, tipo, você sabe, mover para nossa produção, aplicar isso, e trabalhar nisso?" Então, a divulgação responsável é importante. É uma boa conversa. E então isso permite que os operadores de segurança realmente olhem para seu ambiente, contextualizem, e digam, "Ok. Certo. Agora, eu tenho que fazer algo sobre isso."

Rob Bair: Sim, quero dizer -- Acho que anos atrás, quando estávamos em uniforme, falávamos sobre defesa em profundidade. Tipo, isso era, tipo, a coisa toda na Marinha era defesa em profundidade. E acho que -- quero dizer, ser brilhante no básico, um, que é, você sabe, descobrir como você corrige. Ainda é muito, muito importante quando se trata de prevenir exploração em suas redes. E dois, é ter parceiros como a TrendAI e ter a capacidade de bloquear proativamente ameaças ou detectar coisas que são zero days. Como suas equipes de pesquisa e desenvolvimento estão fazendo hoje, tipo, isso ainda -- isso ainda é verdade hoje.

Johnny Hand: Sim. Eu amo essa declaração de, você sabe, ser brilhante, certo, no básico. Porque acho que às vezes sentimos que -- Eu normalmente, tipo, catalogo a maioria do que fazemos nas três categorias de, tipo, pessoas, processos e tecnologia. E muitas vezes pensamos que vai haver uma tecnologia que vai apenas consertar as coisas, certo? E então, neste caso, você sabe, estamos falando sobre o Mythos, e o fator de descoberta é, você sabe, exponencialmente aumentado. Mas ainda temos que chegar ao básico. Ainda temos que ser capazes de corrigir e remediar. E, ser realmente, realmente bom nas coisas simples, os itens fundamentais principais são realmente o que te diferencia. De um praticante de segurança, talvez para líderes de segurança que estão ouvindo este podcast, você poderia fornecer, tipo, uma ou duas, você sabe, principais conclusões, se puder, em torno do Mythos e, tipo, como você reforça e fortalece seus programas?

Rob Bair: Sim. Olha, novamente, como eu disse, o Mythos é apenas o começo. Acho que descobrir como você integra modelos Frontier em seu programa de segurança é extremamente importante, seja para, você sabe, pesquisa de vulnerabilidades ou descobrir como você usa agentes para ajudá-lo a corrigir de uma maneira muito eficiente. Acho que isso é realmente importante. Acho que entender a velocidade com que as coisas estão acontecendo, certo? Tipo, vimos uma mudança de função de passo de, você sabe, Opus 4.6 para Mythos Preview em sua capacidade de realizar tarefas relacionadas a ciber. E você vê outros laboratórios Frontier lançando modelos que também são capazes de mudar de passo. Então, acho que apenas entender a velocidade e onde estaremos potencialmente no final de, você sabe, 2026, final de 2027 com ferramentas habilitadas por IA, você precisa começar essa integração agora. E se você não está se movendo na velocidade da IA e ainda não integrou em seus SOCs, você sabe, uma empresa que foi rebatizada para TrendAI após, você sabe, três décadas em operação, quero dizer, isso é bastante revelador para mim, tipo, para onde este campo está indo.

Johnny Hand: Certo. Então, Rob, enquanto encerramos hoje, normalmente perguntamos aos nossos convidados, há uma conclusão chave ou talvez uma coisa que não cobrimos que você gostaria de destacar e falar sobre?

Rob Bair: Sim, quero dizer, acho que, você sabe, o Mythos Preview tem sido o tópico de conversa desde 7 de abril, quando o lançamos publicamente. Acho que o que estamos perdendo nessa conversa é realmente integrar outros modelos Frontier em sua postura de segurança, certo? E então lançamos o Claude Security que mencionei anteriormente. Então, descobrir como você vai operar no mundo da IA com modelos não-Mythos é extremamente importante, certo? E então estamos tornando esses modelos geralmente disponíveis para que os praticantes de segurança possam descobrir como vão integrar em seus fluxos de trabalho. E adoraríamos ver isso proliferar ainda mais do que é hoje.

Johnny Hand: Sim, há uma oportunidade de usar, você sabe, a gama de ferramentas para realmente se elevar como um praticante. [ Música ]

Dustin Childs: Bem, Johnny, essa foi uma discussão realmente ótima. E eu realmente apreciei a parte sobre a divulgação do GTG-1002. Quero dizer, onde você tem um estado-nação executando uma cadeia de ataque totalmente autônoma usando um modelo de IA Frontier. E isso, para mim, vai além de apenas outro relatório de ameaça, e é realmente uma linha significativa sendo cruzada.

Johnny Hand: Sim. E é uma mensagem diferenciada com o Mythos também. E Rob realmente acertou em cheio. Ele disse, "Você sabe, isso não é o fim da cibersegurança. Isso é realmente o ponto de partida." E isso realmente reforça o que sempre foi verdade. E temos que entender que, enquanto a descoberta está ficando mais rápida, ainda temos que ver a descoberta através da remediação. E isso é algo que nossa equipe da TrendAI Zero Day Initiative tem feito por mais de 20 anos.

Dustin Childs: Sim, e assim como vimos no Pwn2Own Berlin, quero dizer, a ofensiva habilitada por IA certamente está aqui, e vai ficar. Mas realmente requer uma defesa habilitada por IA em escala para contrabalançar isso. Essa é uma das razões pelas quais a TrendAI fez parceria com a Anthropic para entender esses modelos Frontier e garantir que eles atendam à implantação operacional.

Johnny Hand: Sim. E uma conclusão chave para nossos ouvintes, se você ainda não começou a integrar a IA em seus centros de operações de segurança ou em seus fluxos de trabalho de segurança, você tem que começar agora. Então, gostaria de agradecer a Rob Bair por uma conversa tão ótima. Se você gostaria de saber mais sobre Rob e seu trabalho com a Anthropic, ou como acessar recursos adicionais relacionados à nossa parceria, por favor, veja as notas do programa para isso.

Dustin Childs: Sim. Também vamos linkar para um webinar sob demanda que Johnny e eu apresentamos sobre como o Mythos aumenta as apostas para a cibersegurança, além de links para pesquisa de ameaças relacionadas a estados-nação e IA. Então, vá conferir.

Johnny Hand: E isso encerra mais um episódio do AI Security Brief. Queremos agradecer por se juntar a nós. Nosso objetivo é hospedar conversas que façam você pensar de forma diferente sobre segurança. E se isso acontecer, considere se inscrever para não perder o que vem a seguir.

Dustin Childs: AI Security Brief é mixado e produzido por Elliott Peltzman, com música original de Amneajynx. Nossa produtora executiva é Jennifer Eiben, com estratégia de conteúdo por Ma'ayan Plaut e Melanie Gallant. Ajuda adicional de produção por Liz Stokes. Edição de vídeo por Sarelle Joppy e Brigitte Criqui-Wild.

Johnny Hand: Muito obrigado por ouvir, e nos vemos na próxima vez no AI Security Brief. [ Música ]