Mark Houpt: Obtienes una vulnerabilidad informativa que luego te permite pasar a una vulnerabilidad baja y abrirte camino, mientras que un humano no es capaz, o le lleva mucho tiempo, y nuevamente es altamente detectable cuando un humano está haciendo eso. Con la IA, no lo es. Así que tenemos que volver y repensar. [ Música ]
Johnny Hand: Bienvenidos a AI Security Brief, donde estamos desglosando las amenazas emergentes de IA, la investigación de vulnerabilidades y las decisiones estratégicas que los líderes de seguridad están tomando ahora mismo. Soy Johnny Hand.
Dustin Childs: Y yo soy Dustin Childs. Hoy, estamos hablando de todo lo relacionado con la seguridad de los centros de datos. Con tantas conversaciones sobre la seguridad de la IA, a menudo pasamos por alto el hecho de que estos sistemas de IA existen en el mundo físico. Nuestro invitado de hoy es Mark Houpt, CISO de DataBank, y es uno de los raros CISOs que lideró proyectos de innovación temprana en IA, construyendo un marco de seguridad de IA desde cero.
Johnny Hand: Definitivamente. Mark realmente profundiza en los muchos tipos diferentes de riesgos alrededor de los centros de datos de IA, no solo los controles de acceso físico, sino el impacto de los ataques modernos de IA y cómo los actores estatales están planeando personal interno para interrumpir las operaciones. Así que ya no se trata solo del ataque cibernético tradicional. Hay un espectro más amplio de amenazas contra las que defenderse. Y, Dustin, estoy seguro de que te emocionaste con la conversación sobre la conciencia de las amenazas.
Dustin Childs: Absolutamente, me emocioné con varias partes de esta conversación. Así que vamos a sumergirnos directamente en ello.
Johnny Hand: Mark, bienvenido a AI Security Brief. Estamos muy emocionados de tenerte aquí.
Mark Houpt: Estoy muy emocionado de estar aquí, especialmente porque teníamos la intención de hacer esto en otra ocasión y los retrasos de vuelo se interpusieron.
Dustin Childs: Como suele suceder.
Mark Houpt: Mm-Hmm.
Johnny Hand: Entonces, Mark, para los oyentes que pueden no conocerte, o mientras van a buscarte, ¿puedes describir brevemente tu papel en DataBank y luego, ya sabes, también cómo se conecta con la IA y las operaciones del centro de datos, que es de lo que queremos hablar hoy?
Mark Houpt: Sí, absolutamente. Entonces, ya sabes, cuando escuchas Director de Seguridad de la Información, viene a la mente una descripción de rol. Y eso es típicamente dentro de un tipo de organización empresarial. Ese individuo es responsable de la ciberseguridad de la organización. Dentro del rol del centro de datos, tenemos esa función que existe para nuestro lado corporativo, pero también tenemos funciones de seguridad adicionales que se aplican para nuestro lado del cliente. Así que mi rol abarca tres disciplinas diferentes. Una es esa ciberseguridad y arquitectura de seguridad. La segunda es el cumplimiento normativo en lo que respecta a la seguridad de la información. Y la tercera es la seguridad física de los edificios físicos, así como nuestras instalaciones corporativas.
Johnny Hand: Entendido. Ahora, sé que has estado en seguridad durante décadas, durante muchos años.
Mark Houpt: Sí.
Johnny Hand: ¿Cómo has visto el auge de la IA cambiar la forma en que ves la seguridad de tu entorno o asegurar tu entorno?
Mark Houpt: Bueno, es interesante. Sabes, pasamos por estos ciclos. Así que es difícil de creer que en los años 90, cuando todo esto comenzó, o cuando yo comencé, cuando ustedes comenzaron, realmente no teníamos departamentos de seguridad en nuestros entornos corporativos. Y si los había, eran guardias de seguridad alquilados con frecuencia para asegurar grandes edificios. Pero dicho eso, lo que he visto -- y el punto de eso es que he visto que hay una comprensión fundamental de la seguridad. Y lo que seguimos rehaciendo es reinventar la seguridad con nuevos títulos y nuevos nombres, pero realmente es la seguridad fundamental que siempre hemos hecho. Control de acceso basado en roles. Podríamos llamarlo de cien nombres diferentes. Podríamos llamarlo confianza cero. Podríamos llamarlo como quieras llamarlo. Pero sigue siendo acceso limitado basado en tu rol, basado en lo que estás autorizado a acceder. Así que hay -- así que lo que estamos haciendo con la IA es muy similar en mi opinión. Ahora, siempre hay matices. Pero tengo dos cosas que le digo a la gente en mi equipo y en otros lugares. "Lo que es viejo es nuevo otra vez" es una frase que realmente podemos aplicar a la seguridad. Y trato de decirle a la gente eso porque tienen que entender que podemos aplicar las mismas metodologías y tecnologías y procesos de pensamiento a lo que estamos haciendo con la IA en nuestro entorno actual. Y la otra cosa que me gusta decir es, mira, he estado haciendo esto el tiempo suficiente -- hay mucha gente que ha estado haciendo esto el tiempo suficiente para que podamos evolucionar esos conjuntos de controles básicos en cómo operamos. Así que, la seguridad física, por ejemplo. No ha cambiado para la IA. Necesitamos proteger el entorno. Necesitamos -- necesitamos poner cercas alrededor. Necesitamos tener guardias de seguridad. Necesitamos verificar las identificaciones de las personas cuando entran por la puerta. Necesitamos zonificar las cosas y poner en marcha seguridad de múltiples capas. Necesitamos implementar autenticación de múltiples factores. Todas estas cosas son cosas que hemos hecho durante años, pero podríamos hacerlo de manera diferente. Y nuestro panorama de amenazas es probablemente lo más grande que ha cambiado. Así que, hace cinco años -- así que he estado en DataBank durante 11 años y medio como CISO, así que he visto muchos cambios ocurrir. Hace cinco años, nuestra mayor amenaza eran las personas que intentaban entrar en la instalación para actualizar sus servidores porque, "Oh, por cierto, dejé mi credencial en la oficina y ya no me dejan entrar a la oficina por el COVID". Y ahora estamos lidiando con situaciones donde todavía no queremos que las personas entren en los centros de datos, y queremos protegerlos, pero tenemos diferentes influencias que están tratando de hacer eso. Ya sea que sean estados nacionales porque tenemos nuevas guerras y nuevas situaciones en curso, o tenemos lo que llamo la situación NIMBY. Nuevamente, no es algo nuevo, pero no en mi patio trasero. La nueva parte de no en mi patio trasero es, "Oye, no quiero un centro de datos en mi patio trasero por lo que la gente ha dicho sobre los centros de datos". Pero toda la conversación NIMBY, ya sabes, los agricultores no quieren nueva industria en su patio trasero porque están quitando campos. Bueno, ahora la nueva industria resulta ser centros de datos.
Johnny Hand: Sabes, eso es interesante, Mark, porque cuando hablo con la gente y, por supuesto, hablo sobre la seguridad de la IA, obviamente están pensando en ciberseguridad. Pero has dicho que como proveedor de co-ubicación, la seguridad física puede ser lo más importante para los clientes. ¿Por qué es eso?
Mark Houpt: Bueno, un par de razones diferentes por las que. Una es los conjuntos de chips que se utilizan dentro de estos dispositivos de cómputo que realmente pueden, ya sabes, realizar las transacciones para la IA, realizar el cómputo para la IA, son en realidad mucho más valiosos que el cómputo estándar. Sabes, las GPU que se colocan allí, hay una gran demanda por ellas en este momento porque hay tanta IA siendo implementada. Es la cosa, si quieres, para hacer. Ahora, la otra cosa que se está superponiendo recientemente en los últimos meses, los últimos seis meses más o menos, es el problema de seguridad nacional, donde algunas de las IA que se están ejecutando en estas GPU en particular en los EE. UU. y en otras naciones también, tienen un aspecto donde es tan avanzado que un país no quiere que el otro país lo obtenga, aunque no es un producto clasificado. Y ese es un desafío interesante para los tres, habiendo sido exmilitares. Entendemos claramente todo este, ya sabes, confidencial secreto, ya sabes, secreto máximo con, ya sabes, SCI potencialmente. Y aunque estas GPU no están clasificadas, ahora hay órdenes ejecutivas en vigor desde hace dos semanas que dicen que no puedes enviar estas cosas al extranjero. No puedes usar la IA que se aplica a ellas, ni siquiera en el extranjero, sino con individuos que no son ciudadanos estadounidenses. Y esos desafíos son los que surgen. Así que hay muchos aspectos diferentes de esa pieza de seguridad física que, justo dentro del centro de datos, es una preocupación, sin mencionar a los activistas que están afuera que quieren entrar y dañar y destruir esas cosas porque creen que la IA está dirigiendo nuestras vidas.
Johnny Hand: Sí. Así que te preocupa que los actores estatales realmente resuenen conmigo como una persona de amenazas de ZDI [inaudible 00:08:58]. Específicamente volviendo a Stuxnet, que tenía un componente interno, donde creo que fue un científico holandés que estaba visitando una instalación iraní, cargó un USB. ¿Cómo estás operacionalizando ese modelo de amenaza en una instalación de co-ubicación para combatir contra esa amenaza interna, ya sea un actor estatal intencional o un conserje torpe, por ejemplo, que podría ser igualmente amenazante en la circunstancia correcta?
Mark Houpt: Sí. Así que, en primer lugar, los métodos antiguos de, ya sabes, si no tienes -- si no necesitas tener acceso a una sala de datos, entonces no lo obtienes. O si necesitas entrar allí -- si eres el conserje y necesitas entrar allí, eres escoltado. Así que la integridad de dos personas son un par -- un par de formas de hacerlo. Pero, ya sabes, en general, hay una responsabilidad compartida porque, ya sabes, dentro de estas salas de datos, las empresas que están contratando los servicios de un proveedor de centros de datos como DataBank, tienen una responsabilidad porque pueden permitir que su gente entre. Así que lo que necesitamos hacer es tener una responsabilidad compartida de que a quién estamos contratando es realmente a quien creemos que estamos contratando. Y hay una gran situación en curso en este momento de la que he sido informado, y estoy seguro de que tú también, por la policía nacional e incluso la policía local, o al menos, la policía a nivel estatal, dice, oye, hay ciertos países por ahí que -- y puedes ir a las noticias y buscarlos tú mismo -- donde las personas están creando granjas de laptops y luego haciendo que sus personas sean contratadas para trabajar con empresas. Y estas laptops literalmente están, ya sabes, moviendo teclas y moviendo el ratón desde un formato electrónico, y realmente no están haciendo nada, aunque están siendo pagadas por no hacer nada. Y desafortunadamente, tenemos que ver a las personas como amenazas potenciales más de lo que nunca antes lo hemos hecho. Robar propiedad intelectual no solo de DataBank sino también de nuestros clientes, y tener un impacto en los sistemas que mantienen los sistemas de IA es donde estamos teniendo el desafío.
Johnny Hand: Tengo curiosidad. Quiero cambiar un poco de perspectiva. Mark, así que hemos hablado mucho sobre el verdadero aspecto de seguridad física de proteger los centros de datos, pero, ya sabes, el componente de seguridad física de eso es alrededor de los centros de datos basados en IA. ¿Cómo estás aprovechando la tecnología de IA en los centros de datos para también realizar seguridad y proteger esos centros de datos?
Mark Houpt: Sí, esperaba que llegaras a esta pregunta. Así que, sin revelar demasiado, diré que podrías usar tecnología de IA en cualquier cosa, desde drones hasta perros robot. Así que, ya sabes, algo muy avanzado, de vanguardia. Pero la tecnología de IA está dentro de tus sistemas de cámaras y dentro de tus lectores de credenciales y dentro de tus lectores biométricos y cosas así. Y así, dejando de lado la tecnología de vanguardia, centrémonos en la realidad de la mayoría de los escenarios. Lo que estamos haciendo es usar esa tecnología para reducir -- en algunos casos, reducir el número de rondas de guardias de seguridad que necesitan hacerse, para que podamos enfocar a nuestros guardias humanos en las puertas principales y en los sistemas de monitoreo. Así que, como la analogía del F-35, se convierten en operadores de sistemas de armas. No para decir que la seguridad es sistemas de armas. Estoy usando eso como la analogía, ¿de acuerdo? Pero estos dispositivos, ya sabes, con la función de sígueme, ya sabes, alguien está en CCTV. Identifican quiénes son. Identifican porque pusieron su credencial contra un lector cuando entraron por la puerta que identificó su nombre y su autoridad de acceso. Capturó su imagen en la cámara, los siguió a dondequiera que vayan. Y, oh, por cierto, estas personas están -- ya sabes, tal vez estás tocando cada lector de credenciales a lo largo de la puerta. Sabes, tenemos personas que hacen eso por diversión. Y así, lo que estamos haciendo es usar esa tecnología para ayudar a eliminar las cosas que necesitamos mirar y enfocarnos en las cosas que realmente necesitamos mirar. También lo estamos usando para identificar cuando las personas están jugando, y no deberían estarlo. Sabes, como dije, a veces las personas caminarán por el pasillo que está fuera de la sala de datos, y simplemente tocarán cada lector que quieran -- ya sabes, que vean por diversión. Bueno, eso registra un rechazo. Así que nuestros sistemas dirán, "Oye, tenemos tres rechazos". Sabes, como lo que solíamos hacer con Active Directory. Obtienes tres rechazos. Obtienes cinco rechazos en un cierto período de tiempo. Te bloqueamos. Bueno, en la generación anterior de sistemas de control de acceso, no necesariamente podíamos hacer eso en sistemas de control de acceso de seguridad física. Bueno, ahora no solo puedes hacer eso, sino que puedes vincularlo al CCTV y ver que alguien no está siguiendo el camino que debería estar siguiendo para llegar a su sala de datos. Así que ahora comenzamos a hacerles preguntas, "¿Por qué tomaste el camino largo para llegar a donde necesitabas ir?" Cosas así están comenzando a ser utilizadas, ya sabes, para rastrear -- o más escenarios de rastreo de comportamiento. Y cada iteración, estamos construyendo sobre eso. Estamos construyendo sobre eso. Estamos construyendo sobre eso. Es como, ya sabes, todos sabemos. La verdadera IA tiene tres años como máximo. Así que cada iteración mejora, y cada iteración se vuelve un poco más inteligente. Inyectamos nuevas cosas en ella. También la estamos usando para entrenamiento. Usando IA para entrenamiento de seguridad física. Podemos, en algunos de nuestros CCTV, podemos poner fantasmas allí. Así que podríamos detectar si nuestros guardias de seguridad están realmente monitoreando o no. Podemos inyectar múltiples intentos fallidos en el sistema para que nuestros guardias de seguridad, ¿están monitoreando las alarmas que están en la pared? Sabes, cosas así. Pero estamos construyendo una y otra vez.
Johnny Hand: Así que cuando piensas en, como, lo que es nuevo en tecnología, creo que a menudo nos sentimos tentados, si quieres, a desechar nuestros viejos libros de jugadas de seguridad o abordarlo como si fuera algo nuevo. Entonces, ¿cuáles son algunos principios fundamentales que crees que aún se aplican incluso en la era de la IA?
Mark Houpt: La compartimentación es probablemente uno de los más grandes. Sabes, siempre hemos -- siempre hemos dicho, oye, ya sabes, en seguridad física en particular, solo deberías poder ir a donde estás autorizado a ir. Pero creo que llegamos -- o, ya sabes, no solo en mi organización sino en muchas organizaciones, llegamos al punto donde estábamos estirando los límites de eso. Y creo que lo que la IA ha hecho es que nos ha hecho reevaluar eso, reenfocarnos en eso, traer el péndulo de vuelta hacia el medio. Sabes, el riesgo de que una GPU sea sacada de la instalación frente a un chip de CPU regular o un disco nos ha hecho repensar esa compartimentación hasta el punto de que tal vez ya no sea solo la sala de datos.
Johnny Hand: Así que si soy un líder de tecnología o seguridad que recién comienza a liderar proyectos de IA, obviamente, la compartimentación, has dicho, es una práctica fundamental. ¿Cuáles son un par de otras prácticas o mentalidades fundamentales que insistirías desde el primer día?
Mark Houpt: Bueno, no olvides -- si estás haciendo desarrollo de código, no olvides simplemente buenas prácticas de higiene de seguridad. Sabes, incluso -- ya sabes, con la nueva IA que ha salido en los últimos meses, donde están atacando múltiples capas, ya sabes, 10 capas de profundidad, entonces, ya sabes, tienes que pensar en todas las vulnerabilidades que has estado dispuesto a permitir antes porque tenías otras circunstancias mitigantes frente a ellas. Así que ahora -- ya sabes, una de las cosas que estamos haciendo dentro de DataBank es que estamos volviendo, y estamos mirando que hemos sido realmente buenos en aplicar parches para cosas críticas y altas e incluso de nivel medio. No tan buenos en hacer cosas informativas y bajas, pero ya hemos visto intentos de ataque usando IA que se dirigirán hacia esas cosas más pequeñas, y obtienes una vulnerabilidad informativa que luego te permite pasar a una vulnerabilidad baja y abrirte camino, mientras que un humano no es capaz, o le lleva mucho tiempo y es altamente detectable cuando un humano está haciendo eso. Con la IA, no lo es. Así que tenemos que volver y repensar. Así que esas son algunas de las cosas que tenemos que repensar porque la IA puede hacer las cosas más rápido de lo que podemos hacer. Obtenemos un exploit. Alguien dice, "Ve a atacar esto en un laboratorio". Boom. Ahora, ve a atacarlo en la vida real, y está hecho.
Johnny Hand: Y, Mark, siempre le hacemos a cada invitado una última pregunta, y sé que hemos hablado mucho hoy, hemos hablado mucho sobre la IA fundamental, cómo se está utilizando para asegurar el centro de datos, pero también el impacto de, ya sabes, la seguridad física alrededor del centro de datos. ¿Hay algo que nos hayamos perdido que deberíamos cubrir?
Mark Houpt: Sí, tal vez. La única cosa que -- la única cosa que he estado advirtiendo a mi gente es no saltar a las tecnologías de vanguardia. O si lo haces, hazlo en un entorno muy controlado. Porque la IA en este momento es tan nueva, y la gente está lanzando cosas por ahí que estos productos en sí mismos tienen vulnerabilidades que no necesitamos traer a un centro de datos, o no necesitamos traer a un entorno empresarial. A veces son cosas geniales como, digamos, un perro robot o un dispositivo que hará las rondas del guardia de seguridad, o incluso un dron. Pero tenemos que asegurarnos de que estos estén controlados, y que realmente sean apropiados para nuestros entornos. Y creo que esa es la parte que algunas empresas podrían estar perdiendo, es su prisa por implementar no está considerando el impacto a largo plazo de lo que esa implementación será dentro de su entorno y los riesgos y vulnerabilidades que traerá a su puerta, casi como un caballo de Troya, un caballo de Troya literal, no un gusano o un caballo de Troya cibernético, sino un caballo de Troya literal. Y así que tenemos que tener cuidado con esas cosas. Creo que eso es algo de lo que no hemos hablado que la gente necesita tener cuidado.
Johnny Hand: Sí, creo que ese es un consejo sabio, y diré como líder de seguridad, la cantidad de llamadas de marketing que he recibido alrededor de drones y, ya sabes, seguridad robótica durante años ha sido bastante reveladora. Pero creo que es de la misma manera que no queremos saltar a la tecnología temprana, especialmente a nivel empresarial. Es divertido probar y evaluar, pero definitivamente no -- bueno, Mark, muchas gracias por unirte a nosotros en AI Security Brief. Sé que Dustin y yo hemos sacado mucho de esto. Realmente apreciamos la conversación, y esperamos volver a charlar contigo.
Mark Houpt: Absolutamente. Lo mismo aquí. [ Música ]
Johnny Hand: Y eso es todo para el episodio de hoy de AI Security Brief. Un gran agradecimiento a Mark Houpt por unirse a nosotros desde Alaska.
Dustin Childs: Y Mark cubrió algo que mucha gente pasa por alto cuando hablan de seguridad de IA, y es el hecho de que es fundamentalmente un problema físico. Si alguien tiene acceso a tu dispositivo físicamente, ya no es tu dispositivo.
Johnny Hand: Sí, y sabemos que el panorama de amenazas ha cambiado. Ahora, vemos actores estatales, activistas y redes sociales siendo utilizados como proxies.
Dustin Childs: Sí, el punto de Mark sobre la responsabilidad compartida entre los proveedores de co-ubicación y sus clientes es algo que cada líder de seguridad en ese modelo necesita escuchar. La amenaza interna no es nueva. Es solo que las apuestas se han elevado.
Johnny Hand: Sí, y lo que me quedó fue el encuadre que hizo Mark de lo que es viejo es nuevo. Así que conceptos como compartimentación, integridad de dos personas, y una buena disciplina de parcheo nunca realmente desaparecieron. Creo que la IA simplemente elevó las apuestas de hacerlo mal.
Dustin Childs: Sí, su advertencia final sobre apresurar la tecnología de seguridad física de vanguardia a la producción sin entender lo que estás trayendo a tu entorno fue la nota en la que realmente quería terminar porque podrías estar trayendo un caballo de Troya literal y no un gusano.
Johnny Hand: Sí, estoy de acuerdo. Y nos gustaría agradecer a Mark por venir. Si has disfrutado de esta conversación, suscríbete donde sea que obtengas tu podcast y revisa nuestras notas del programa para enlaces para conectarte con Mark y DataBank.
Dustin Childs: AI Security Brief es mezclado y producido por Elliott Peltzman, con música original de Amneajynx. Nuestra productora ejecutiva es Jennifer Eiben, con estrategia de contenido por Ma'ayan Plaut y Melanie Gallant. Ayuda adicional en producción por Liz Stokes. Edición de video por Sarelle Joppy y Brigitte Criqui-Wild.
Johnny Hand: Muchas gracias por escuchar, y nos veremos la próxima vez en AI Security Brief. [ Música ]
