Robert (Bob) McArdle: Então, eu acho que a IA agente é genuinamente a verdadeira mudança de jogo aqui. Certo? Se você olhar para a indústria do cibercrime nos últimos 10/15 anos, é, sem dúvida, o melhor exemplo de uma indústria de serviços no mundo. Ainda mais do que a computação em nuvem e assim por diante, porque você simplesmente substitui todos esses serviços ou APIs por um agente e então você apenas junta os agentes. Eles conversam entre si de forma eficaz e você tem esse ecossistema automatizado de cibercrime que pode se autogerir. [ Música ]
Dustin Childs: Bem-vindo ao "AI Security Brief", onde estamos desvendando ameaças emergentes de IA, pesquisa de vulnerabilidades e as decisões estratégicas que os líderes de segurança estão tomando agora para se antecipar à próxima onda de ameaças cibernéticas. Eu sou Dustin Childs.
Johnny Hand: E eu sou Johnny Hand e o episódio de hoje traz um ponto crítico para mim. Não apenas a IA está tornando os ataques existentes mais rápidos, mas toda a estrutura de como o cibercrime opera está sendo reconstruída em torno dela.
Dustin Childs: E é uma indústria bastante lucrativa também.
Johnny Hand: Sim. Definitivamente é. E para explorar a evolução do cibercrime, conversamos com Bob McArdle, diretor de pesquisa de cibercrime na Trend AI. Agora, Bob passou duas décadas rastreando criminosos cibernéticos, então ele tem um lugar privilegiado para ver como a IA agente está remodelando o cibercrime.
Dustin Childs: Sim. O que realmente me impressionou nesta conversa é como Bob enquadra o que está acontecendo. Quero dizer, isso não é apenas a IA tornando os e-mails de phishing melhores, o que ela faz, mas trata-se de uma economia de serviços criminosos inteira, uma que já é mais sofisticada do que a maioria das pessoas percebe, e como a IA agente está dando a ela um novo motor.
Johnny Hand: Sim. Falamos sobre as três regras de adoção do cibercrime também e por que a IA agente é diferente da IA generativa. Além disso, o que os defensores podem realmente fazer para se antecipar aos criminosos cibernéticos.
Dustin Childs: Bob não decepciona. Se você é um líder de segurança ou tecnologia procurando entender para onde o cenário de ameaças está evoluindo, esta conversa é para você. Vamos mergulhar. Sim. Então, Bob, quero dizer, seu trabalho, pelo que entendo, envolve muitos crimes, operações de desmantelamento, trabalhando com LEOs. E sua palestra é sobre combater o crime. Mas antes de entrarmos nisso, explique-me o que é codificação de vibração, porque algumas pessoas acham que é uma coisa muito ruim. Algumas pessoas acham que é uma coisa boa, neutra, seja o que for. O que é codificação de vibração para você?
Robert (Bob) McArdle: Então, eu acho que a codificação de vibração tem uma má reputação porque, em algumas situações, são pessoas que não são programadores tradicionais de repente sendo capazes de desenvolver coisas. Mas, essencialmente, é apenas a codificação mudando de uma linguagem que você tem que aprender, seja Python ou algo assim, para ser capaz de codificar efetivamente na sua linguagem de escolha, seja francês, alemão, inglês, o que for. Você simplesmente descreve o problema que está tentando resolver e trabalha de forma interativa com uma IA para realmente resolvê-lo. Então, é um desenvolvimento novo e interessante.
Johnny Hand: Isso deve tornar mais fácil porque, como defensor, sei que uma das grandes coisas que fiz foi tentar tornar isso tão caro porque, dado tempo e recursos suficientes, qualquer coisa pode ser violada. Certo? Então, eu tentei tornar isso tão caro que o atacante essencialmente me ignoraria e seguiria em frente. Mas parece que com a codificação de vibração você pode pegar uma pessoa bastante genérica e levá-la a um ponto onde ela pode ser um criminoso sem ter muitas habilidades. Isso está correto?
Robert (Bob) McArdle: Então, eu acho que há duas partes em ser um criminoso. Certo? Uma são as habilidades técnicas que você vai precisar. E sim, isso absolutamente reduz a barreira de entrada para esse tipo de coisa. Certo? Porque qualquer um pode obter um conjunto de ferramentas ou construí-las por si mesmo ou os preços das ferramentas reais vão cair porque qualquer um pode construí-las. O segundo lado de ser um criminoso, no entanto, são os próprios valores éticos e morais e assim por diante. Certo? Então, se você, por exemplo, é, você sabe, um hacker, um hacker adolescente, e invade um servidor em algum lugar e está explorando, então você pode sentir aquela alegria de tipo, "Ei, eu realmente consegui realizar isso tecnicamente." Mas se você não chegou ao nível de instalar ransomware e infligir miséria e assim por diante em alguém, isso é uma bússola moral completamente diferente da pessoa que está apenas fazendo isso por, você sabe, criatividade e coisas assim. Então, essa é a parte que a IA não afeta. Certo? Essa parte da bússola moral.
Dustin Childs: Eu quero explorar um pouco o impulso que está acontecendo agora e apenas a linguagem e a velocidade com que a IA agente está decolando. E como isso está se traduzindo com o cibercrime? Quais são alguns desses efeitos secundários e terciários que estão ocorrendo? Você está vendo isso em sua pesquisa com criminosos cibernéticos na velocidade que estamos fazendo isso de uma perspectiva defensiva ou mesmo apenas como automação e usando ferramentas agentes para realizar essas ações de tarefa?
Robert (Bob) McArdle: Sim. Então, eu acho que a IA agente é genuinamente a verdadeira mudança de jogo aqui. Certo? Para criminosos cibernéticos em particular. Então, se você olhar apenas para a IA generativa pura ou pessoas que estariam ouvindo e estão familiarizadas com, você sabe, seus Chat GPTs ou Claudes ou o que for, isso é muito bom em responder perguntas. Certo? Você faz uma pergunta. Você recebe uma resposta de volta ou ela escreve um artigo inteiro para você. O que for. Mas ela realmente não faz algo em seu nome. E esse fazer algo em seu nome que a agente nos dá é a verdadeira mudança de jogo porque se você olhar para a indústria do cibercrime nos últimos 10/15 anos, é, sem dúvida, o melhor exemplo da indústria de serviços no mundo. Ainda mais do que a computação em nuvem e assim por diante. E isso dá uma flexibilidade incrível onde você pode simplesmente juntar essas diferentes APIs e serviços de criminosos. Mas isso está perfeitamente configurado para agentes porque você simplesmente substitui todos esses serviços ou APIs por um agente e então você apenas junta os agentes. Eles conversam entre si de forma eficaz e você tem esse ecossistema automatizado de cibercrime que pode se autogerir.
Johnny Hand: É uma perspectiva interessante porque eu acho que para muitas pessoas quando estão olhando para, você sabe, talvez eles -- a lente que eles veem os criminosos cibernéticos ou mesmo criminosos em geral, eles não estão frequentemente pensando em quão sofisticados eles podem ser. E eu adoro o fato de que você acabou de tocar em como eles são ainda melhores em muitos casos do que nós em construir esses serviços e fornecê-los. Então, vamos dar um passo para trás por um segundo porque você tem feito pesquisa de ameaças em criminosos cibernéticos por muitos anos. Eu adoraria ouvir meio que essa jornada ao longo da última década até os últimos anos enquanto você meio que mergulhou na água no ritmo que temos em pesquisa com IA, IA agente, e essas capacidades em torno do cibercrime.
Robert (Bob) McArdle: Então, eu tenho trabalhado em pesquisa de cibercrime e também em pesquisa de estado-nação APT e coisas assim por cerca de duas décadas agora. E você vê ao longo desse tempo essas grandes ondas surgindo. E quanto mais tempo você faz isso, você percebe que algumas dessas ondas são essencialmente cíclicas. Elas estão meio que acontecendo repetidamente. A tecnologia é diferente, mas o núcleo do scam, a tecnologia central, o negócio, é efetivamente a mesma coisa. É apenas a nova tecnologia que é colocada por cima. Então, você tinha, você sabe, por muito tempo você teve bastante inovação no cibercrime. Então, chegamos a uma era de ransomware que todos nós meio que vivemos nos últimos tempos, que, sem dúvida, realmente matou a inovação no espaço do cibercrime.
Dustin Childs: Interessante.
Robert (Bob) McArdle: Porque de repente passou de, você sabe, antes tínhamos coisas como ataques a bancos e phishing e assim por diante, mas o ransomware fez tanto dinheiro que era muito difícil para qualquer nova ideia decolar porque se você está ganhando um milhão por mês fazendo ransomware e algum novo ataque tecnicamente mais interessante surge, mas não é testado, não é comprovado, e assim por diante, por que você se incomodaria com isso? Apenas continue recebendo o cheque de um milhão de dólares todo mês. Então, isso realmente sufocou a criatividade. E agora estamos no ponto onde há essa tempestade perfeita acontecendo. A indústria geralmente sabe como resolver o problema do ransomware neste ponto. Certo? Ou se você não sabe neste estágio em sua indústria, você está em apuros. Certo? Existem soluções ousadas por aí. Então, eles estão lutando com isso. As taxas de pagamento de ransomware são as mais baixas que já foram. Ao mesmo tempo, você tem essa tecnologia crescente em IA que eu disse que está perfeitamente configurada com IA agente para o cibercrime. E criminosos cibernéticos, por natureza, tendem a ser técnicos e interessados em novas tecnologias. Certo? De uma forma pura de tipo, "Oh, isso é legal." Certo? Então, essa tempestade perfeita está acontecendo onde, de um lado, eles têm que mudar porque a indústria deles está desacelerando, e então há essa nova transformação de tecnologia surgindo e eles estão tipo, "Vamos pular nisso e ver o que acontece."
Johnny Hand: Eu sei que na RSA você apresentou sobre o crime de vibração, e eu acho que é um título interessante. E você fala sobre esses três princípios ou leis principais de adoção do cibercrime. Você pode expandir isso um pouco para nós e nos ajudar a entender o que você está apresentando lá?
Robert (Bob) McArdle: Claro. Então, quando vemos -- frequentemente em nossa indústria vemos, você sabe, pesquisadores como eu ou colegas e suas empresas, e eles vão criar novos ataques e os criminosos poderiam trabalhar assim, mas o que eles estão realmente fazendo é pensar como hackers, não como criminosos. Certo? Então, eles estão pensando como há uma maneira técnica de invadir isso, você sabe, ou como -- você provavelmente vê isso no mundo das vulnerabilidades também. Certo? Mas então, quando se trata dos criminosos, você tem que pensar como qual é o negócio aqui. Posso ganhar mais dinheiro do que costumava ganhar? E assim por diante. E ao longo do tempo, descobrimos que os criminosos evoluem um pouco mais devagar do que as pessoas pensam que eles fazem porque você só evolui quando precisa ou quando há uma oportunidade realmente boa por aí para ganhar ainda mais dinheiro do que você está ganhando atualmente. Então, meio que temos três regras que chamamos internamente de as três regras de ser um criminoso cibernético. E eu acho que as publicamos em um artigo recentemente. Então, a primeira é muito simples. Criminosos querem uma vida fácil. Certo? Esse é o ponto inteiro de ser um criminoso. Caso contrário, você estaria trabalhando em um emprego real fazendo coisas reais.
Dustin Childs: O filme Good Fellas explica isso também.
Robert (Bob) McArdle: Sim. Exatamente. Certo? A segunda coisa é se há alguma nova tecnologia por aí, seja IA agente ou o que for que você queira adotar, o retorno do investimento dela tem que ser melhor do que tudo o mais no mercado. Caso contrário, novamente, qual é o ponto. Por que você adotaria isso? E a terceira regra que vemos eles fazerem é que a mudança do criminoso cibernético é muito mais evolução do que revolução. Então, eles apenas pegam o que estava funcionando e é tipo, "Oh. Isso não está funcionando tão bem quanto costumava. Podemos ajustar isso um pouco? Ok. Estamos de volta aos trilhos novamente." Certo? Então, apenas as maiores organizações criminosas realmente já tiveram equipes de P&D onde elas apenas afundam custos na esperança de que isso compense no futuro. Como o que fazemos em nossa indústria. Certo? Então, isso não acontece com tanta frequência. Então, esses três juntos ajudam você a entender muito sobre como os criminosos cibernéticos vão adotar certas novas tecnologias [inaudível 00:10:01].
Dustin Childs: O que os defensores devem fazer para entender que a barreira de entrada foi reduzida para esses criminosos? Qual é algum conselho real que poderíamos levar para saber que o custo do cibercrime está despencando?
Robert (Bob) McArdle: Sim. Então, se você pensar sobre o custo do cibercrime está despencando, o que isso vai fazer? Certo? Primeiro de tudo, porque dissemos que eles não se adaptam a esquemas totalmente novos a menos que realmente precisem, então a primeira coisa que eles vão fazer é apenas aumentar o volume para 11 em tudo o que estão fazendo atualmente. Então, mais phishing, mais ransomware, mais malware, mais tudo o mais, o que é um pouco chato de ver. Certo? Mas é isso que eles vão fazer primeiro. E então coisas como deep fakes e assim por diante. Então, a primeira coisa que você tem que fazer como defensor é saber como se defender contra essas coisas. Certo? Pelo menos, espero que você saiba como se defender contra essas coisas neste ponto. Mas o que você vai estar fazendo é se você estava lutando com o volume antes, você não viu nada ainda. Pode ser um 100X. Certo? Em termos de volume vindo em sua direção. Então, se seu modelo antigo era, "Nós olhamos para, você sabe, 1 em 10 dos alertas em nossa rede, e nossos processos de soft e assim por diante," isso simplesmente não vai escalar. Certo? A menos que você contrate um monte de pessoas extras. Então, o que você vai honestamente ter que ter é que você precisa de agentes para lutar contra os agentes -- pelo menos na base ali. Certo? Vamos apenas remover a camada um, camada dois, de ataques da imagem, e então você tem seus humanos seniores que entram. Ok. Certo. Eu sei o que está acontecendo aqui. Estou triando e assim por diante. Então, eu aconselharia qualquer um genuinamente, tipo, você sabe, todo produto no espaço de segurança neste ponto tem algo de IA dentro dele. Certo? É quase uma piada neste ponto. Olhe para aqueles que genuinamente estão falando sobre fluxos de trabalho agentes e coisas como seams agentes e SOCs e assim por diante. E eles entendem. Eles entendem o problema real. Questione-os sobre isso. Certo? Pergunte a eles sobre isso. O que você está honestamente fazendo? E se eles não puderem responder essas perguntas além de tipo IA é mágica e é uma caixa preta e é incrível, então fique longe. Certo? Porque você precisa disso para remover essa primeira, essa onda de informações vindo em sua direção.
Johnny Hand: Bem, me ajude, especialmente como um ex-líder de segurança, você sabe, como um CISA que trabalhou em organizações, eu sempre gosto de olhar para pesquisa de ameaças e diferentes relatórios que são publicados e eu frequentemente saio dizendo, "Ok. O que eu posso fazer com isso?" Então, para mim, quando você fala sobre os criminosos cibernéticos realmente se preparando para realmente aumentar isso, o desafio que eu vejo é que temos tanto hype de IA acontecendo. Então, para aqueles líderes de segurança que estão ouvindo que estão dizendo, "Ok. Bem, como eu posso romper esse ruído? Como eu posso entender, por exemplo, quais ferramentas de segurança baseadas em IA realmente são agentes, realmente vão me ajudar a navegar na onda de cibercrime que está por vir?"
Robert (Bob) McArdle: Então, eu tenho algumas dicas nessa área. A primeira coisa é para qualquer um que esteja ouvindo, você tem que perceber que essa revolução de IA, e ela genuinamente é uma revolução, é exponencial em sua escala. Certo? E felizmente todos que estão ouvindo, a menos que tenhamos um monte de crianças de três anos aqui, viveram através do COVID. Certo? Então, eles sabem como algo exponencial se sente. Certo? Vou apenas dar um exemplo. Certo? A maneira número um de navegar em algo assim é entender a informação e entender a tendência que está acontecendo, não apenas os pontos de dados individuais do dia. Então, você pode dizer, "Ok. Eu acho que sei para onde isso está indo na próxima semana." Você sabe para onde isso está indo em seis meses. E você pode reagir de acordo. Certo? Então, como se você imaginar de volta apenas para jogar fora a analogia e então eu vou voltar para a resposta, é março de 2020. Primeiro de março. Eu acho que há tipo 1.000 casos ao redor do mundo ou algo assim. Certo? E se é aí que você congela seu conhecimento e você está tipo, "Ok. É assim que o mundo é," 15 dias depois 8 vezes mais casos. 30 dias depois 50 vezes mais casos. E é assim que a IA funciona, então quando estamos na vanguarda da IA e estamos testando coisas e assim por diante, e quando falamos com pessoas que estão talvez um mês atrás em seu conhecimento, o que estamos falando parece ficção científica para eles. Eles estão tipo, "Nós não queremos nenhuma dessas coisas futuras que você está falando. Me diga o que está acontecendo agora." É tipo isso está acontecendo agora. Você apenas não leu isso ainda. Certo? Isso é realmente notícia de ontem que estou te contando. Então, quando trazemos isso para o conselho, é ler as publicações mais estratégicas da comunidade de pesquisa, não tanto a ameaça do dia. Nós encontramos isso. É super legal. E assim por diante. A indústria de segurança sempre vai publicar cada dia o caso de esquina porque é interessante. E da mesma forma que ninguém publica mais é tipo, "Ransomware afetou pessoas hoje." É tipo nós sabemos. Claro que afetou. Certo? São apenas as anomalias que as pessoas vão relatar. Então, se você puder ler os relatórios mais estratégicos e pelo menos talvez dois por mês neste estágio apenas para acompanhar, você será capaz de ver através desses, o hype do dia, e ver a tendência real que você precisa se importar.
Dustin Childs: Entendi. E há alguma recomendação que você ama?
Robert (Bob) McArdle: Sim. Então, genuinamente, na verdade, eu tenho duas que vou te dar. Uma, honestamente, os relatórios que saem da Trend AI e nossa equipe. Então, o relatório de crime de vibração que colocamos ainda é muito -- ainda muito, muito relevante. Já tem alguns meses, mas construímos para ser estratégico. Certo? Que você pode aprender com. Há também, na verdade, um site que eu uso todos os dias. Veio de uma equipe interna, na verdade, na Trend AI, mas publicamos externamente para qualquer um usar. É um news.aatf.ai. E ele apenas faz um resumo de todas as notícias de IA do dia em um feed RSS que você assina. E ele te dá aquela dose diária de isso é o que aconteceu no mundo hoje. Eu acho que isso já é crítico para se manter atualizado com o que está acontecendo porque as notícias de um único dia são como semanas de notícias no passado.
Johnny Hand: Sim. Absolutamente. Isso é um ótimo conselho. Eu aprecio isso. E muito obrigado por compartilhar sua pesquisa conosco hoje. Eu estava realmente falando na RSA. Foi uma apresentação realmente ótima. É muito importante e um trabalho muito revelador e mal podemos esperar para tê-lo de volta no programa novamente para nos aterrorizar com sua última pesquisa sobre as organizações criminosas e a mente criminosa.
Robert (Bob) McArdle: A qualquer momento. [ Música ]
Dustin Childs: Ok. As três regras que Bob compartilhou ficaram comigo. Criminosos querem uma vida fácil. Nova tecnologia só é adotada se o ROI superar o que eles já estavam fazendo. E a mudança no mundo do cibercrime é evolutiva e não revolucionária.
Johnny Hand: Sim. E aqui vem a verdadeira IA agente que é quase feita sob medida para a forma como as operações criminosas já estão estruturadas. Ela oferece aquele framework repetível para um retorno rápido.
Dustin Childs: Sim. O ponto da economia de serviços é o que eu continuo voltando. Esses grupos operaram como uma versão da dark web da infraestrutura de nuvem por anos. Eles são modulares e especializados. A IA agente não apenas interrompe isso. Ela acelera.
Johnny Hand: Sim. E eu acho que isso realmente é a principal lição do dia.
Dustin Childs: Vá em frente.
Johnny Hand: Bem, o volume de ataques está prestes a aumentar de uma forma que quebra o modelo atual para a maioria das equipes de segurança. Então, se você está triando 1 em 10 alertas hoje e isso parece difícil, o ponto de Bob é que você ainda não viu nada. A única resposta real é usar IA no lado defensivo para absorver essa primeira onda para que seus funcionários experientes possam se concentrar no que realmente importa.
Dustin Childs: E isso significa ser deliberado sobre quais ferramentas você está apostando. Não se este fornecedor tem IA, porque todos os fornecedores estão alegando que têm IA agora. Mas eles realmente entendem fluxos de trabalho agentes? Eles podem operar no volume do que está por vir? Essas são as perguntas que valem a pena fazer.
Johnny Hand: Eu concordo totalmente. Um enorme agradecimento a Bob McArdle por seu tempo e por compartilhar suas percepções sobre a natureza em evolução do cibercrime. Links para o relatório de crime de vibração e o feed de notícias diárias da AATF estão nas notas do programa. Ambos valem muito a pena adicionar à sua lista de leitura.
Dustin Childs: Não poderia concordar mais. E isso encerra nosso primeiro episódio no "AI Security Brief". Queremos agradecer por se juntar a nós e esperamos que esta conversa tenha feito você pensar um pouco diferente sobre segurança. Se isso acontecer, por favor, considere se inscrever e nos deixar uma avaliação. Deixe-nos saber o que você achou para que você não perca o que vem a seguir.
Johnny Hand: O "AI Security Brief" é mixado e produzido por Elliott Peltzman com música original de Omnia Jinx [suposta grafia]. Nossa produtora executiva é Jennifer Eiben com estratégia de conteúdo por Ma'ayan Plaut, Shannon Murphy, e Melanie Gallant. Ajuda adicional de produção por Liz Stokes. Edição de vídeo por Bridget Criqui Wild e Sarelle Joppy. Muito obrigado por ouvir.
Dustin Childs: Obrigado e nos vemos na próxima vez no "AI Security Brief". [ Música ]
