Robert (Bob) McArdle: Creo que, de hecho, la IA agentiva es realmente el cambio de juego aquí. ¿Verdad? Si observas la industria del cibercrimen en los últimos 10/15 años, es posiblemente el mejor ejemplo de una industria de servicios en el mundo. Incluso más que la computación en la nube y demás, porque simplemente reemplazas todos esos servicios o APIs con un agente y luego simplemente unes a los agentes. Ellos conversan entre sí de manera efectiva y tienes este ecosistema automatizado de cibercrimen que puede funcionar por sí mismo. [ Música ]
Dustin Childs: Bienvenidos a "AI Security Brief" donde estamos desglosando las amenazas emergentes de IA, la investigación de vulnerabilidades y las decisiones estratégicas que los líderes de seguridad están tomando ahora mismo para adelantarse a la próxima ola de amenazas cibernéticas. Soy Dustin Childs.
Johnny Hand: Y yo soy Johnny Hand y el episodio de hoy resalta un punto crítico para mí. No solo la IA está haciendo que los ataques existentes sean más rápidos, sino que toda la estructura de cómo opera el cibercrimen se está reconstruyendo a su alrededor.
Dustin Childs: Y es una industria bastante rentable también.
Johnny Hand: Sí. Definitivamente lo es. Y para explorar la evolución del cibercrimen nos sentamos con Bob McArdle, el director de investigación de cibercrimen en Trend AI. Ahora, Bob ha pasado dos décadas rastreando a los cibercriminales, por lo que tiene un asiento de primera fila sobre cómo la IA agentiva está remodelando el cibercrimen.
Dustin Childs: Sí. Lo que realmente me impactó en esta conversación es cómo Bob enmarca lo que está sucediendo. Quiero decir, esto no es solo que la IA mejora los correos electrónicos de phishing, lo cual hace, sino que se trata de toda una economía de servicios criminales, una que ya es más sofisticada de lo que la mayoría de la gente se da cuenta, y cómo la IA agentiva le está dando un nuevo motor.
Johnny Hand: Sí. Hablamos sobre las tres reglas de adopción del cibercrimen también y por qué la IA agentiva impacta de manera diferente a la IA generativa. También lo que los defensores pueden hacer realmente para adelantarse a los cibercriminales.
Dustin Childs: Bob no decepciona. Si eres un líder de seguridad o tecnología que busca entender hacia dónde está evolucionando el panorama de amenazas, esta conversación es para ti. Vamos a sumergirnos. Sí. Entonces, Bob, quiero decir, tu trabajo por lo que entiendo está en muchos delitos, desmantelamientos, trabajando con LEOs. Y tu charla trata sobre combatir el crimen. Pero antes de entrar en eso, explícame qué es la codificación de vibraciones porque algunas personas piensan que es algo realmente malo. Algunas personas piensan que es algo bueno, neutral, lo que sea. ¿Qué es la codificación de vibraciones para ti?
Robert (Bob) McArdle: Creo que la codificación de vibraciones tiene una mala reputación porque en algunas situaciones son personas que no son programadores tradicionales que de repente pueden desarrollar cosas. Pero esencialmente es solo que la codificación cambia de un lenguaje que tienes que aprender, ya sea Python o algo así, a poder codificar efectivamente en tu idioma de elección, ya sea francés, alemán, inglés, lo que sea. Simplemente describes el problema que estás tratando de resolver y trabajas de ida y vuelta con una IA para realmente resolverlo. Así que es un desarrollo nuevo e interesante.
Johnny Hand: Eso debe hacerlo más fácil porque como defensor sé que una de las grandes cosas que hice fue tratar de hacerlo tan costoso porque dado suficiente tiempo y recursos, cualquier cosa puede ser violada. ¿Verdad? Así que traté de hacerlo tan costoso que el atacante esencialmente me ignorara y siguiera adelante. Pero parece que con la codificación de vibraciones puedes tomar a una persona bastante genérica y llevarla a un punto donde pueda ser un criminal sin tener muchas habilidades. ¿Es correcto?
Robert (Bob) McArdle: Creo que hay dos partes para ser un criminal. ¿De acuerdo? Una son las habilidades técnicas que vas a necesitar. Y sí, absolutamente reduce la barrera de entrada para ese tipo de cosas. ¿Verdad? Porque cualquiera puede obtener un conjunto de herramientas o construirlas ellos mismos o los precios de las herramientas reales bajarán porque cualquiera puede construirlas. La segunda parte de ser un criminal, sin embargo, son los verdaderos valores éticos y morales y demás. ¿Verdad? Así que si tú, por ejemplo, eres, ya sabes, un hacker, un hacker adolescente, y te metes en un servidor en algún lugar y estás husmeando, entonces podrías obtener esa alegría de como, "Oye, realmente he podido lograr esto técnicamente." Pero si no llegaste al nivel de instalar ransomware e infligir miseria y demás a alguien, eso es una brújula moral completamente diferente que la persona que solo lo hace por, ya sabes, creatividad y cosas así. Así que esa es la parte que la IA no afecta. ¿Verdad? Esa parte de la brújula moral.
Dustin Childs: Quiero profundizar un poco en el impulso que está sucediendo ahora mismo y solo el lenguaje y la velocidad con la que la IA agentiva está despegando. ¿Y cómo se está traduciendo eso con el cibercrimen? ¿Cuáles son algunos de esos efectos secundarios y terciarios que están teniendo? ¿Estás viendo eso en tu investigación con cibercriminales al ritmo que lo estamos haciendo desde una perspectiva defensiva o incluso solo como automatización y usando herramientas agentivas para realizar esas acciones de tarea?
Robert (Bob) McArdle: Sí. Así que creo que, de hecho, la IA agentiva es genuinamente el verdadero cambio de juego aquí. ¿Verdad? Para los cibercriminales en particular. Así que si solo miras la IA generativa pura o las personas que estarían escuchando y están familiarizadas con, ya sabes, tus Chat GPTs o Claudes o lo que sea, eso es muy bueno para responder preguntas. ¿Verdad? Haces una pregunta. Obtienes una respuesta de vuelta o te escribe un documento completo. Lo que sea. Pero realmente no hace algo en tu nombre. Y ese hacer algo en tu nombre que nos da la agentiva es el verdadero cambio de juego porque si miras la industria del cibercrimen en los últimos 10/15 años, es posiblemente el mejor ejemplo de la industria de servicios en el mundo. Incluso más que la computación en la nube y demás. Y eso le da una flexibilidad increíble donde simplemente puedes unir estos diferentes APIs y servicios de criminales. Pero eso está perfectamente preparado para la agentiva porque simplemente reemplazas todos esos servicios o APIs con un agente y luego simplemente unes a los agentes. Ellos conversan entre sí de manera efectiva y tienes este ecosistema automatizado de cibercrimen que puede funcionar por sí mismo.
Johnny Hand: Es una perspectiva interesante porque creo que para muchas personas cuando están mirando, ya sabes, tal vez están -- la lente con la que ven a los cibercriminales o incluso a los criminales en general, no suelen pensar en lo sofisticados que pueden ser. Y me encanta el hecho de que acabas de mencionar cómo son incluso mejores en muchos casos que nosotros en construir estos servicios y proporcionarlos. Así que tomemos un paso atrás por un segundo porque has estado haciendo investigación de amenazas en cibercriminales durante muchos años. Me encantaría escuchar un poco sobre ese viaje en la última década hasta los últimos años mientras te has adentrado en el agua al ritmo que tenemos en la investigación con IA, IA agentiva y estas capacidades alrededor del cibercrimen.
Robert (Bob) McArdle: Así que he estado trabajando en investigación de cibercrimen y también en investigación de estados nacionales APT y cosas así durante unas dos décadas ahora. Y ves a lo largo de ese tiempo como estas grandes olas vienen. Y cuanto más tiempo haces esto, te das cuenta de que algunas de estas olas son esencialmente cíclicas. Están sucediendo una y otra vez. La tecnología es diferente, pero la estafa central, la tecnología central, el negocio, es efectivamente lo mismo. Es solo que la nueva tecnología se coloca encima. Así que tuviste, ya sabes, durante mucho tiempo tuviste bastante innovación en el cibercrimen. Luego llegamos a una especie de era de ransomware que todos hemos vivido en los últimos tiempos, lo cual, se podría decir, en realidad mató la innovación en el espacio del cibercrimen.
Dustin Childs: Interesante.
Robert (Bob) McArdle: Porque de repente pasó de, ya sabes, antes teníamos cosas como ataques bancarios y phishing y demás, pero el ransomware hizo tanto dinero que era muy difícil que cualquier nueva idea despegara porque si estás ganando un millón al mes haciendo ransomware y surge algún nuevo ataque técnicamente más interesante, pero no está probado, no está probado, y demás, ¿por qué te molestarías en ello? Simplemente sigue recibiendo el cheque de un millón de dólares cada mes. Así que en realidad sofocó la creatividad. Y ahora estamos en el punto donde hay esta especie de tormenta perfecta sucediendo. La industria generalmente sabe cómo resolver el problema del ransomware en este punto. ¿Verdad? O si no lo haces en esta etapa en tu industria, estás en problemas. ¿Verdad? Hay soluciones audaces por ahí. Así que están luchando con eso. Como las tasas de pago de ransomware son las más bajas que han sido. Al mismo tiempo, tienes esta tecnología en ascenso en IA que dije está perfectamente preparada con IA agentiva para el cibercrimen. Y los cibercriminales por su naturaleza tienden a ser técnicos e interesados en la nueva tecnología. ¿Verdad? Desde un punto de vista puro de, "Oh, eso es genial." ¿Verdad? Así que esta tormenta perfecta está sucediendo donde por un lado tienen que cambiar porque su industria se está desacelerando, y luego hay esta nueva transformación de tecnología que viene y están como, "Salgamos en esto y veamos qué pasa."
Johnny Hand: Sé que en RSA presentaste sobre el crimen de vibraciones, y creo que es un título interesante. Y hablas sobre estos tres principios o leyes centrales de adopción del cibercrimen. ¿Puedes expandir eso un poco para nosotros y ayudarnos a entender lo que estás presentando allí?
Robert (Bob) McArdle: Claro. Así que cuando vemos -- a menudo en nuestra industria vemos, ya sabes, investigadores como yo mismo o colegas y sus empresas, y ellos idearán nuevos ataques y los criminales podrían trabajar así, pero lo que realmente están haciendo es que están pensando como hackers, no como criminales. ¿Verdad? Así que están pensando como hay una manera técnica de entrar en esto, ya sabes, o como -- probablemente veas esto en el mundo de las vulnerabilidades también. ¿Verdad? Pero luego cuando se trata de los criminales tienes que pensar como cuál es el negocio aquí. ¿Puedo ganar más dinero del que solía ganar? Y así sucesivamente. Y con el tiempo hemos encontrado que los criminales evolucionan un poco más lento de lo que la gente piensa que lo hacen porque solo evolucionas cuando tienes que hacerlo o cuando hay una oportunidad realmente buena por ahí para ganar aún más dinero del que estás ganando actualmente. Así que hemos tenido tres reglas que llamamos internamente las tres reglas de ser un cibercriminal. Y creo que las publicamos en un documento recientemente. Así que la primera es muy simple. Los criminales quieren una vida fácil. ¿Verdad? Ese es el punto entero de ser un criminal. De lo contrario, estarías trabajando en un trabajo real haciendo cosas reales.
Dustin Childs: La película Good Fellas explica eso también.
Robert (Bob) McArdle: Sí. Exactamente. ¿Verdad? La segunda cosa es si hay alguna nueva tecnología por ahí, ya sea IA agentiva o lo que sea que quieras adoptar, el retorno de la inversión de ella tiene que ser mejor que todo lo demás en el mercado. De lo contrario, de nuevo, ¿cuál es el punto? ¿Por qué la adoptarías? Y la tercera regla que vemos que hacen es que el cambio en el cibercrimen es muy evolutivo, no revolucionario. Así que simplemente toman lo que estaba funcionando y es como, "Oh. Esto no está funcionando tan bien como solía. ¿Podemos ajustar esto un poco? Bien. Estamos de nuevo en el camino." ¿Verdad? Así que solo las organizaciones criminales más grandes realmente han tenido equipos de I+D donde simplemente hunden costos con la esperanza de que pague en el futuro. Como lo que hacemos en nuestra industria. ¿Verdad? Así que no sucede tan a menudo. Así que esos tres juntos te ayudan a entender mucho sobre cómo los cibercriminales adoptarán ciertas nuevas tecnologías [inaudible 00:10:01].
Dustin Childs: ¿Qué deberían hacer los defensores para entender que la barrera de entrada ha sido reducida para estos criminales? ¿Cuál es algún consejo real que podríamos tomar para saber que el costo del cibercrimen está cayendo en picada?
Robert (Bob) McArdle: Sí. Así que si piensas en que el costo del cibercrimen está cayendo en picada, ¿qué va a hacer eso? ¿Verdad? Primero que nada, porque dijimos que no se adaptan a esquemas completamente nuevos a menos que realmente tengan que hacerlo, lo primero que van a hacer es simplemente aumentar el volumen a 11 en todo lo que están haciendo actualmente. Así que más phishing, más ransomware, más malware, más de todo lo demás, lo cual es un poco aburrido de ver. ¿Verdad? Pero eso es lo que harán primero. Y luego cosas como deep fakes y demás. Así que lo primero que tienes que hacer como defensor es saber cómo defenderte contra estas cosas. ¿Verdad? Al menos, con suerte, sabes cómo defenderte contra estas cosas en este punto. Pero lo que vas a estar haciendo es si estabas luchando con el volumen antes, no has visto nada todavía. Podría ser un 100X. ¿Verdad? En términos del volumen que viene hacia ti. Así que si tu modelo antiguo era, "Miramos, ya sabes, 1 de cada 10 de las alertas en nuestra red, y nuestros procesos suaves y demás," eso simplemente no va a escalar. ¿Verdad? A menos que contrates a un montón de personas adicionales. Así que lo que honestamente vas a tener que tener es que necesitas agentes para luchar contra los agentes para -- al menos en la parte inferior allí. ¿Verdad? Vamos a eliminar la capa uno, capa dos, de ataques fuera de la imagen, y luego tienes a tus humanos senior que entran. Bien. Correcto. Sé lo que está pasando aquí. Estoy clasificando y demás. Así que aconsejaría a cualquiera genuinamente, ya sabes, cada producto en todo el espacio de seguridad en este punto tiene algo de IA dentro de él. ¿Verdad? Es casi una broma en este punto. Mira los que genuinamente están hablando sobre flujos de trabajo agentivos y cosas como seams agentivos y SOCs y demás. Y lo entienden. Entienden el problema real. Cuestiónalos sobre eso. ¿Verdad? Pregúntales sobre ello. ¿Qué estás haciendo honestamente? Y si no pueden responder esas preguntas más allá de como la IA es mágica y es una caja negra y es increíble, entonces aléjate. ¿Verdad? Porque necesitas eso para eliminar esa primera, esa ola de información que viene hacia ti.
Johnny Hand: Bueno, ayúdame, especialmente como un ex líder de seguridad, ya sabes, como un CISA que trabajó en organizaciones, siempre miro la investigación de amenazas y diferentes informes que se publican y a menudo me voy diciendo, "Bien. ¿Qué puedo hacer con esto?" Así que para mí, cuando hablas sobre los cibercriminales realmente preparándose para realmente aumentar eso, el desafío que veo es que tenemos tanto bombo de IA en marcha. Así que para esos líderes de seguridad que están escuchando que están diciendo, "Bien. Bueno, ¿cómo rompo ese ruido? ¿Cómo entiendo, por ejemplo, qué herramientas de seguridad basadas en IA realmente son agentivas, realmente me ayudarán a navegar la próxima ola de cibercrimen?"
Robert (Bob) McArdle: Así que tengo un par de consejos en esa área. La primera cosa es para cualquiera que esté escuchando, tienes que darte cuenta de que esta especie de revolución de IA, y genuinamente es una revolución, es exponencial en su tipo de escala. ¿Verdad? Y afortunadamente todos los que están escuchando, a menos que tengamos un montón de niños de tres años aquí, han vivido a través de COVID. ¿Verdad? Así que saben cómo se siente algo exponencial. ¿Verdad? Solo daré un ejemplo. ¿Verdad? La forma número uno en que navegas algo así es entendiendo la información y entendiendo la tendencia que está sucediendo, no solo los puntos de datos individuales del día. Así que puedes decir, "Bien. Creo que sé hacia dónde va esto la próxima semana." Sabes hacia dónde va en seis meses. Y puedes reaccionar en consecuencia. ¿Verdad? Así que como si imaginaras de nuevo solo para jugar con la analogía y luego volveré a la respuesta, es marzo de 2020. Primero de marzo. Creo que hay como 1,000 casos en todo el mundo o algo así. ¿Verdad? Y si ahí es donde congelas tu conocimiento y estás como, "Bien. Así es como está el mundo," 15 días después 8 veces más casos. 30 días después 50 veces más casos. Y así es como funciona la IA, así que cuando estamos en la vanguardia de la IA y estamos probando cosas y demás, y cuando hablamos con personas que tal vez están un mes atrás en su conocimiento, de lo que estamos hablando suena como ciencia ficción para ellos. Están como, "No queremos nada de eso del futuro de lo que estás hablando. Dime qué está pasando ahora." Es como esto está pasando ahora. Simplemente no has leído esto todavía. ¿Verdad? Esto es en realidad noticias de ayer que te estoy contando. Así que cuando traemos eso entonces en consejos es leer las publicaciones más estratégicas de la comunidad de investigación, no tanto la, ya sabes, amenaza del día. Encontramos esto. Es súper genial. Y demás. La industria de la seguridad siempre publicará cada día el caso especial porque es interesante. Y de la misma manera que nadie publica más es como, "El ransomware afectó a personas hoy." Es como lo sabemos. Por supuesto que lo hizo. ¿Verdad? Solo las anomalías son las que la gente va a reportar. Así que si puedes leer los informes más estratégicos y al menos tal vez dos por mes en esta etapa solo para mantenerte al día con ello, podrás ver a través de estos, el bombo del día, y ver la tendencia real de la que necesitas preocuparte.
Dustin Childs: Entendido. ¿Y hay alguna recomendación que te encante?
Robert (Bob) McArdle: Sí. Así que genuinamente, de hecho, tengo dos que te daré. Una, honestamente, los informes que salen de Trend AI y nuestro equipo. Así que el informe de crimen de vibraciones que publicamos sigue siendo muy -- sigue siendo muy, muy relevante. Tiene unos meses de antigüedad ahora, pero lo construimos para ser estratégico. ¿Verdad? Que puedas aprender de él. También hay un sitio que uso todos los días. Vino de un equipo interno en realidad en Trend AI, pero lo publicamos externamente para que cualquiera lo use. Es un news.aatf.ai. Y simplemente hace un resumen de todas las noticias de IA del día en un feed RSS al que te suscribes. Y te da esa dosis diaria de esto es lo que pasó en el mundo hoy. Creo que eso ya es crítico para mantenerse al día con lo que está pasando porque las noticias de un solo día son como semanas de noticias en el pasado.
Johnny Hand: Sí. Absolutamente. Es un gran consejo. Lo aprecio. Y muchas gracias por compartir tu investigación con nosotros hoy. En realidad estaba hablando en RSA. Fue una presentación realmente genial. Es un trabajo muy importante y muy revelador y no podemos esperar para tenerte de nuevo en el programa para aterrorizarnos con tu última investigación en las organizaciones criminales y la mente criminal.
Robert (Bob) McArdle: En cualquier momento. [ Música ]
Dustin Childs: Bien. Las tres reglas que Bob compartió se quedaron conmigo. Los criminales quieren una vida fácil. La nueva tecnología solo se adopta si el ROI supera lo que ya estaban haciendo. Y el cambio en el mundo del cibercrimen es evolutivo y no revolucionario.
Johnny Hand: Sí. Y aquí viene la verdadera IA agentiva que está casi construida con el propósito de la forma en que las operaciones criminales ya están estructuradas. Ofrece ese marco repetible para un retorno rápido.
Dustin Childs: Sí. El punto de la economía de servicios es al que sigo volviendo. Estos grupos han operado como una versión de la web oscura de la infraestructura en la nube durante años. Son modulares y especializados. La IA agentiva no solo interrumpe eso. Lo acelera.
Johnny Hand: Sí. Y creo que realmente esa es la clave del día.
Dustin Childs: Adelante.
Johnny Hand: Bueno, el volumen de ataques está a punto de aumentar de una manera que rompe el modelo actual para la mayoría de los equipos de seguridad. Así que si estás clasificando 1 de cada 10 alertas hoy y eso se siente difícil, el punto de Bob es que no has visto nada todavía. La única respuesta real es usar IA en el lado defensivo para absorber esa primera ola para que tu personal experimentado pueda centrarse en lo que realmente importa.
Dustin Childs: Y eso significa ser deliberado sobre en qué herramientas estás apostando. No si este proveedor tiene IA, porque todos los proveedores están afirmando que tienen IA ahora mismo. Pero, ¿realmente entienden los flujos de trabajo agentivos? ¿Pueden operar al volumen de lo que está por venir? Esas son las preguntas que vale la pena hacer.
Johnny Hand: Estoy totalmente de acuerdo. Un gran agradecimiento a Bob McArdle por su tiempo y por compartir sus ideas sobre la naturaleza evolutiva del cibercrimen. Los enlaces al informe de crimen de vibraciones y al feed de noticias diarias de AATF están en las notas del programa. Ambos valen mucho la pena agregar a tu lista de lectura.
Dustin Childs: No podría estar más de acuerdo. Y eso es todo para nuestro primer episodio en "AI Security Brief". Queremos agradecerte por unirte a nosotros y esperamos que esta conversación te haga pensar un poco diferente sobre la seguridad. Si lo hace, considera suscribirte y dejarnos una reseña. Déjanos saber qué pensaste para que no te pierdas lo que viene.
Johnny Hand: "AI Security Brief" es mezclado y producido por Elliott Peltzman con música original de Omnia Jinx [supuesto deletreo]. Nuestra productora ejecutiva es Jennifer Eiben con estrategia de contenido de Ma'ayan Plaut, Shannon Murphy y Melanie Gallant. Ayuda adicional en producción por Liz Stokes. Edición de video por Bridget Criqui Wild y Sarelle Joppy. Muchas gracias por escuchar.
Dustin Childs: Gracias y nos vemos la próxima vez en "AI Security Brief". [ Música ]
