Chompie: Entonces, fue capaz de... simplemente lo dejé ir y verificar autónomamente y dije, "Solo muéstrame los errores que pudiste probar que son errores reales". Y regresó con algunos y ese fue mi momento de "santo sh [beep]". [ Música ]
Johnny Hand: Bienvenidos a "AI Security Brief", donde estamos desglosando las amenazas emergentes de IA, la investigación de vulnerabilidades y las decisiones estratégicas que los líderes de seguridad están tomando ahora mismo. Soy Johnny Hand.
Dustin Childs: Y yo soy Dustin Childs. Recientemente estuve en Pwn2Own Berlín donde otorgamos casi 1.3 millones de dólares por 47 días cero únicos, y fue genial ver a todos los investigadores allí y quién estaba usando IA y quién no. Así que pude grabar este podcast con uno de los investigadores que usó IA para ganar un par de las entradas y encontré que fue una conversación fascinante.
Johnny Hand: Sí. Pwn2Own sonó como una explosión y ciertamente estaba siguiendo todas las publicaciones en redes sociales, especialmente de los ganadores. Así que te sentaste con Chompie, quien es investigadora de vulnerabilidades y desarrolladora de exploits que salió de esta competencia con dos entradas exitosas y más de 70,000 dólares, ¿es correcto? Entonces, ¿de qué hablaron?
Dustin Childs: Sí, eso es correcto. Así que todos están discutiendo si la IA Agente está a punto de desatar un Vulnpocalipsis sobre nosotros. Así que fui directamente a alguien que realmente está usando IA Agente en Pwn2Own. Chompie usó Claude Code para ayudar a lograr un exploit del NVIDIA Container Toolkit en el primer día. Y esto no fue, ya sabes, un aviso para mí de un día cero y ella se fue. Ella explica cómo tuvo que entrenar a la IA basada en sus propias habilidades y experiencia y cómo necesitaba aprender qué aspecto tenía el éxito realmente.
Johnny Hand: Wow. Eso es increíble. No puedo esperar para escuchar cómo lo logró. [ Música ]
Dustin Childs: Pero has estado en esto por un tiempo. Sé que tu carrera se remonta un poco. ¿Cuándo comenzaste en la investigación de vulnerabilidades?
Chompie: Entonces, he estado haciendo investigación de seguridad, lo llamaría, supongo que desde... bueno, comencé a aprenderlo en 2017.
Dustin Childs: Bien.
Chompie: Y luego me cambié a VR, desarrollo de exploits oficialmente alrededor de 2020 durante el confinamiento por COVID, en realidad, no había nada que hacer excepto quedarse en casa y aprender a hackear.
Dustin Childs: Eso es genial. Así que, obviamente estamos aquí en Pwn2Own Berlín 2026 grabando. Mientras grabamos esto, has tenido dos entradas exitosas ganando 70,000 dólares. Así que, felicitaciones por eso. Quiero comenzar hablando de tu entrada en el NV Container Toolkit, porque eso fue... primero que nada fue el primer día, así que fue genial verlo y fue el primero que vimos, pero luego tuiteaste más tarde que tenías una suscripción por un mes de Claude Code Max y que fue una inversión bastante buena. Háblame de cómo usaste IA Agente para ayudarte a encontrar este error o qué hiciste con Claude Code Max, ¿cómo te ayudó?
Chompie: Sí. Sí. Ese tuit hizo que algunas personas se enfurecieran, pero no fue solo que había escrito en Claude como encontrar, como "Claude encuéntrame un día cero, no te equivoques".
Dustin Childs: Correcto.
Chompie: Pero tampoco fue tan complejo. Así que había estado jugando con IA por un tiempo, pero no con Claude Code en particular y no como Opus 4.6 que salió creo que a finales de febrero, marcó un gran cambio al menos en la capacidad del modelo de frontera pública.
Dustin Childs: Correcto.
Chompie: Y entonces, estaba un poco curioso sobre eso. Y como un experimento, decidí apuntarlo a una base de código que conocía bastante bien, quiero decir, no... es una base de código enorme.
Dustin Childs: Correcto.
Chompie: Hay mucha superficie de ataque allí.
Dustin Childs: Sí.
Chompie: La había mirado antes y sabía que ciertamente tenía algunos problemas, así que tenía esa especie de sentido arácnido al respecto. Y había visto a algunos de mis compañeros tener éxito con Claude Code, así que dije "¿Por qué no?" En realidad, comencé probando sus habilidades de explotación.
Dustin Childs: Bien.
Chompie: Porque había mucho discurso sobre si la IA podría, ya sabes, generar autónomamente exploits.
Dustin Childs: Correcto.
Chompie: Así que lo puse a prueba. Traté de que escribiera un exploit para un error que tenía un exploit, pero no, no nada público. Y fue un error bastante difícil de explotar, una condición de carrera, tu favorita.
Dustin Childs: Sí, mis condiciones de carrera favoritas.
Chompie: Sí. Y pensé, bueno, si realmente estamos cocidos, entonces podrá hacerlo.
Dustin Childs: Bien.
Chompie: Así que simplemente lo desaté en eso, y falló bastante miserablemente. No lo hizo bien. Creo que si hubiera... decidí no ayudarlo en absoluto, solo para ver qué podía hacer por sí solo. Y estaba bastante impresionado de lo lejos que llegó por sí mismo, pero no lo logró. Y lo siguiente que decidí hacer fue tenerlo, ya sabes, hacer algo de VR contra una base de código que probablemente tenía vulnerabilidades. Y entonces, lo que hice fue algo que había visto que otras personas decían que hicieron, que es, ya sabes, generar habilidades que reflejan mi propio proceso de investigación de vulnerabilidades, así que tenía como habilidades distintas para diferentes clases de errores y dije, "Así es como deberías buscar este tipo de clase de error y estos son los patrones que deberías buscar", y señalé la base de código, y simplemente miré lo que traía de vuelta. Y eso tuvo resultados mixtos, pero una vez que comencé a configurarlo con alguna forma de oráculo y alguna forma para que se verificara a sí mismo, fue cuando realmente vi un gran.
Dustin Childs: Cosa.
Chompie: Un gran retorno. Así que fue capaz de... simplemente lo dejé ir y verificar autónomamente. Y dije, "Solo muéstrame los errores que pudiste probar que son errores reales". Y regresó con algunos. Y ese fue mi momento de "santo sh*t [beep]".
Dustin Childs: Entonces, ha habido mucho debate públicamente sobre la IA Agente encontrando vulnerabilidades en el Vulnpocalipsis. Claramente usaste IA Agente para ayudar a encontrar una vulnerabilidad, pero ¿crees que estamos al borde de un Vulnpocalipsis?
Chompie: No lo sé. Quiero decir, ¿cómo clasificarías un Vulnpocalipsis? Ciertamente, creo que está superando la capacidad de los proveedores para parchear.
Dustin Childs: Bien.
Chompie: Creo que probablemente veremos algunos problemas con el parcheo de brechas, así que.
Dustin Childs: Sí.
Chompie: Esa es una área donde me gusta prosperar, ya sabes, nuestro equipo apoya a nuestro Equipo de Simulación de Adversarios.
Dustin Childs: Bien.
Chompie: Y entonces, a veces lo que nos gusta hacer es parchear brechas y explotar datos. Así que aprovechando el tiempo cuando una vulnerabilidad es conocida o divulgada públicamente y una empresa aplicará sus parches. Y entonces, esperaría que ese tiempo se alargue un poco.
Dustin Childs: Sí.
Chompie: Debido a ese retraso. Eso puede ser malo si tu postura de seguridad es.
Dustin Childs: Correcto.
Chompie: No buena. Así que sí, esperaría ver a algunas empresas quemarse. Pero quiero decir, solo porque, eso no va a generar nuevas vulnerabilidades.
Dustin Childs: Correcto.
Chompie: En sí mismo.
Dustin Childs: Bien. Bueno, volvamos a Pwn2Own por un minuto porque tuviste un segundo éxito en Red Hat usando una escalada de privilegios y nuevamente voy a ir a tu Twitter, porque dijiste "Claude trató de engañarte", así que era inexplotable. Así que guíanos a través de eso.
Chompie: Sí, Claude me dijo que no era explotable. O, perdón, el término fue "no explotable en la práctica".
Dustin Childs: Umm-hmm.
Chompie: Y sabes qué, Claude tenía un punto. Fue... fue difícil de explotar. Voy a defenderme aquí, porque necesité... necesité un segundo intento, pero en mi defensa, la razón por la que Claude dijo eso fue porque era una ventana de carrera muy, muy pequeña.
Dustin Childs: Bien.
Chompie: Así que alrededor de 13 instrucciones [múltiples hablantes] entre, sí. Y entonces, dentro de esas 13 instrucciones, tienes que... es un uso después de liberar. Así que tienes que realocar los objetos vulnerables y también hacer un rociado, y el rociado también tenía que ser de caché cruzado. Así que eso necesita más de 13 instrucciones de tiempo de CPU para hacerlo. Pero Claude realmente no conocía todos los trucos para ampliar la ventana de carrera. Creo que por eso Claude dijo eso, pero parecía bastante complicado y dejé ese error a un lado por un tiempo y traté de encontrar uno mejor que probablemente fue lo más inteligente que hacer. Pero había algo que simplemente me seguía molestando y dije, sabes qué, "Apuesto a que puedo lograrlo". ¡Y lo hice!
Dustin Childs: Sí, lo hiciste. Así que, volviendo a la pregunta sobre la investigación.
Chompie: Sí.
Dustin Childs: Es cómo abordas algo y ¿es diferente si estás usando IA Agente versus no?
Chompie: Sí, no, creo que el proceso sigue siendo como... al menos mi proceso sigue siendo similar. Como, siempre me ha gustado mirar múltiples objetivos, múltiples superficies de ataque. Supongo que hay personas que se especializan en un tipo de objetivo y lo conocen, y es un objetivo realmente complejo y conocen ese objetivo muy bien. Me gusta saltar y mirar diferentes tipos de cosas. Y cuando decido qué investigar, tengo, uso lo que llamo como "sentido arácnido" en la selección de superficie de ataque. Así que, tipos de cosas que buscaré son como la complejidad.
Dustin Childs: Umm-hmm.
Chompie: Y una base de código. También podría ser, ya sabes, miraré vulnerabilidades previas que se han reportado en esa base de código para tratar de tener una idea de qué podría salir mal aquí.
Dustin Childs: Umm-hmm.
Chompie: Y luego tal vez buscar superficies de ataque similares que puedan tener esas propiedades, o buscar variantes de esas mismas cosas, o buscar como variantes de ese tipo de clase de error, pero en tal vez una superficie de ataque análoga separada o como una clase diferente o algo así. Pero generalmente como tendrán, ya sabes, esas propiedades de como, ya sabes, complejidad... sí, como mucha superficie de ataque accesible.
Dustin Childs: He escuchado a muchas personas decir que hay una gran diferencia entre alguien como tú que obviamente es un investigador experimentado y hábil usando IA Agente versus un completo novato que simplemente dice, "Encuéntrame un día cero".
Chompie: Umm-hmm.
Dustin Childs: ¿Es algo con lo que estás de acuerdo? ¿Es algo que has presenciado?
Chompie: Aún no.
Dustin Childs: Bien.
Chompie: Pero sí creo que está bajando el listón.
Dustin Childs: Umm-humm.
Chompie: Seguro. Seguro.
Dustin Childs: Sí, creo que hemos visto eso también y creo que nuestro primer podcast habló sobre eso con Bob McArdle y el crimen de vibración. Todavía considero que este es el comienzo del período de seguridad de IA y vuelvo atrás y mi experiencia es un poco más larga que la tuya, lo que solo significa que soy más viejo, pero he mirado hacia atrás en ciertas cosas y me río de cómo estábamos en ese período de tiempo. ¿Ves algo ahora mismo que vamos a mirar hacia atrás años después y reírnos de que pensamos que era importante o que totalmente nos perdimos eso? En otras palabras, ¿qué estamos perdiendo en la seguridad de IA ahora mismo o dónde crees que podríamos reírnos de nosotros mismos en el futuro?
Chompie: Sí, creo... creo que la preocupación por la IA Agente en términos de seguridad, creo que la forma en que la gente habla de ello es casi como si... como si la IA fuera a generar días cero que no existen. Sí creo que hay como, ya sabes, la cantidad de vulnerabilidades que se descubren con IA es asintótica. Así que, como... por supuesto depende del objetivo. También hay, ya sabes, mucho enfoque ahora en el aprovechamiento.
Dustin Childs: Umm-hmm.
Chompie: Y hay un debate sobre si el aprovechamiento va a importar una vez que una IA sea lo suficientemente poderosa. Y luego creo que, ya sabes, algunas startups y algunas personas se han quemado al invertir tanto en el aprovechamiento solo para quedar obsoletos por, ya sabes, el nuevo producto de Anthropic.
Dustin Childs: Correcto.
Chompie: No lo sé. Quiero decir, creo que es difícil distinguir qué es exageración en marketing y qué es realidad. Definitivamente creo que estamos en el precipicio de una era totalmente nueva.
Dustin Childs: Bien.
Chompie: Va a ser diferente. Quiero decir, me di cuenta de esto durante ese primer mes de Claude Code Max donde estaba como, ya sabes, me habría tomado mucho más tiempo de principio a fin.
Dustin Childs: Bien.
Chompie: Ya sabes, si no lo hubiera tenido. Y entonces, sí creo que va a tener muchas implicaciones. Alguien me hizo una broma hoy sobre si consideraría una carrera en como entrenador de objetivos de IA o algo así.
Dustin Childs: Sí.
Chompie: Y me reí de eso, pero también creo que mi trabajo se está convirtiendo cada vez más en eso, ¿verdad?
Dustin Childs: Bien.
Chompie: Creo que la mayoría de las personas tendrán que usar algún tipo de asistencia de IA para mantenerse al día. Y creo que eso es como ahora mismo, es realmente como un punto dulce.
Dustin Childs: Bien.
Chompie: Donde si tienes experiencia en investigación de seguridad, tu productividad puede, ya sabes, multiplicarse muchas veces.
Dustin Childs: Correcto.
Chompie: Y he estado divirtiéndome mucho. Es casi como, como cuando comencé a hackear.
Dustin Childs: Sí.
Chompie: Y espero que continúe sintiéndose así. Pero sé que todos están un poco nerviosos.
Dustin Childs: Sí.
Chompie: Creo que todos estamos un poco en el borde, porque nadie sabe cuáles serán las capacidades dentro de 2 o 3 años. Creo que me citaron en el registro cuando hablé en Ekoparty el año pasado en octubre de 2025. Y Federico, quien dirige Ekoparty, también me preguntó en un podcast, si sabes sobre la explotación de AGI, ¿estaba en el horizonte? Y dije, "No por al menos 5 años".
Dustin Childs: Bien.
Chompie: Y luego, obviamente, desde entonces, mucho ha cambiado y él bromeó y dijo como, "¿Todavía crees que tenemos 5 años?" Dije, "Bueno, todavía no estamos allí, pero tal vez no lo sé, tal vez sean como 2". No creo que nadie realmente sepa, pero ciertamente la capacidad... como la progresión de los modelos definitivamente ha superado mucho más de lo que cualquiera.
Dustin Childs: Bien.
Chompie: Esperaba.
Dustin Childs: Correcto. Así que una última pregunta, porque estamos un poco presionados por el tiempo aquí y quiero ser consciente de tu tiempo también, pero esta es realmente una pregunta abierta y realmente de gran imagen. Así que estás a cargo del mundo y puedes obtener un compromiso de cada desarrollador, así que cada desarrollador de IA en toda la industria, ¿cuál sería ese compromiso?
Chompie: Oh, Dios, esa es una... esa es una pregunta difícil. ¿Cuál es tu respuesta? ¿Tienes una?
Dustin Childs: No hacer el mal. Vuelvo a eso.
Chompie: Sí.
Dustin Childs: Es como, ya sabes, esa sería mi respuesta, es asegurarte de que estás usando esto para el bien de la humanidad, porque no puedo hacer que se comprometan con nada más.
Chompie: En esa nota, sí. Quiero decir, tal vez solo copiaré tu respuesta y la editaré un poco. Y diré, como sí, quiero decir, ya sabes, enfocar el progreso en mejorar la humanidad y la vida para los humanos, sí, como en general. Creo que cuando la gente reacciona o la reacción negativa de la gente sobre la IA, creo que está enraizada en el miedo.
Dustin Childs: Umm-hmm.
Chompie: Miedo de que eventualmente solo empeore la vida para ellos.
Dustin Childs: Correcto.
Chompie: Y creo que todos podríamos evolucionar como raza humana si decidimos colectivamente que, ya sabes, esta gran innovación en tecnología podemos usarla para mejorar todas nuestras vidas.
Dustin Childs: Correcto. Bueno, Chompie, muchas gracias por tu tiempo. Fue genial verte de nuevo. Siempre traes una gran investigación a Pwn2Own y te deseo la mejor de las suertes en el futuro.
Chompie: Gracias. Gracias por tenerme. [ Música ]
Johnny Hand: Wow. Esa fue una entrevista fenomenal y me encanta que un investigador hábil más IA Agente pueda ser un verdadero multiplicador de fuerza, y hubo matices en la forma en que ella mostró que la IA falló gravemente cuando se le pidió que explotara autónomamente una condición de carrera difícil por sí sola, pero luego sobresalió una vez que tuvo las habilidades adecuadas para verificarse a sí misma. Sí, y esa es la cosa. La IA Agente no está conjurando vulnerabilidades de la nada, y Chompie realmente mostró que tomas a un investigador hábil con esto y realmente baja el listón y multiplica la productividad. Investigadores que ya saben lo que están haciendo, pero si eres un investigador no hábil, solíamos llamarte "script kiddie". Estos días simplemente te llamamos un cadete de Claude [asumido].
Dustin Childs: Me encanta eso. Vamos a tener que acuñar el cadete de Claude para todos nuestros oyentes. Una de las conclusiones clave que quiero que nuestros líderes de seguridad piensen es, ya sabes, muchas veces la mayoría de nuestras reacciones negativas hacia la IA están realmente enraizadas en el miedo de que la IA reemplace a los humanos. Y como mostró Chompie, el modelo no la reemplazó, multiplicó su producción. Le permitió moverse más rápido. Le permitió entrenar las habilidades necesarias para que no tomara tanto tiempo encontrar los exploits, y eso fue algo que realmente la ayudó a ganar esas dos condiciones.
Johnny Hand: Sí, y gracias a Chompie por compartir su investigación con nosotros y sus opiniones honestas desde la sala de divulgación. Así que puedes ver nuestras notas del programa sobre enlaces de cómo conectarte con Chompie. También puedes encontrar los enlaces a los resultados de Pwn2Own y otros recursos para ayudarte a navegar la exposición a vulnerabilidades en la era de la IA.
Dustin Childs: Y eso es todo por otro episodio de "AI Security Brief". Queremos agradecerte por acompañarnos. Nuestro objetivo es albergar conversaciones que te hagan pensar de manera diferente sobre la seguridad. Y si lo hace, por favor considera suscribirte para que no te pierdas lo que sigue.
Johnny Hand: "AI Security Brief" es mezclado y producido por Elliott Peltzman con música original de Amneajynx. Nuestra productora ejecutiva es Jennifer Eiben con estrategia de contenido por Ma'ayan Plaut y Melanie Galant. Ayuda adicional en producción por Liz Stokes. Edición de video por Sarelle Joppy y Bridgitte Criqui Wild.
Dustin Childs: Muchas gracias por escuchar y nos veremos la próxima vez en el "AI Security Brief". [ Música ]
