Mark Houpt: Você obtém uma vulnerabilidade informacional que então permite que você se mova para uma vulnerabilidade baixa e se infiltre, enquanto um humano não é capaz, ou leva muito tempo, e novamente é altamente detectável quando um humano está fazendo isso. Com IA, não é. Então, temos que voltar e repensar. [ Música ]
Johnny Hand: Bem-vindo ao AI Security Brief, onde estamos desvendando ameaças emergentes de IA, pesquisa de vulnerabilidades e as decisões estratégicas que os líderes de segurança estão tomando agora. Eu sou Johnny Hand.
Dustin Childs: E eu sou Dustin Childs. Hoje, estamos falando sobre segurança de centros de dados. Com tantas conversas sobre segurança de IA, muitas vezes esquecemos que esses sistemas de IA existem no mundo físico. Nosso convidado hoje é Mark Houpt, CISO da DataBank, e ele é um dos raros CISOs que liderou projetos de inovação em IA, construindo uma estrutura de segurança de IA do zero.
Johnny Hand: Definitivamente. Mark realmente mergulha nos muitos tipos diferentes de riscos em torno dos centros de dados de IA, não apenas os controles de acesso físicos, mas o impacto dos ataques modernos de IA e como atores estatais estão planejando pessoal interno para interromper operações. Então, não se trata apenas do ataque cibernético tradicional. Há um espectro mais amplo de ameaças para se defender. E, Dustin, tenho certeza de que você estava empolgado com a conversa sobre conscientização de ameaças.
Dustin Childs: Absolutamente, eu estava empolgado com várias partes desta conversa. Então, vamos em frente e mergulhar direto nisso.
Johnny Hand: Mark, bem-vindo ao AI Security Brief. Estamos muito animados por tê-lo aqui.
Mark Houpt: Estou muito animado por estar aqui, especialmente porque pretendíamos fazer isso outra vez e os atrasos de voo atrapalharam.
Dustin Childs: Como frequentemente acontece.
Mark Houpt: Mm-Hmm.
Johnny Hand: Então, Mark, para os ouvintes que podem não conhecê-lo, ou enquanto eles vão procurá-lo, você pode descrever brevemente seu papel na DataBank e, você sabe, também como ele se conecta à IA e às operações de centros de dados, que é o que queremos falar hoje.
Mark Houpt: Sim, absolutamente. Então, você sabe, quando você ouve Chief Information Security Officer, há uma descrição de papel que vem à mente. E isso é tipicamente dentro de um tipo de organização empresarial. Esse indivíduo é responsável pela cibersegurança da organização. Dentro do papel do centro de dados, temos essa função que existe para nosso lado corporativo, mas também temos funções de segurança adicionais que se aplicam ao nosso lado de clientes. Então, meu papel abrange três disciplinas diferentes. Uma é a cibersegurança e arquitetura de segurança. A segunda é a conformidade regulatória conforme se aplica à segurança da informação. E a terceira é a segurança física dos edifícios físicos, bem como nossas instalações corporativas.
Johnny Hand: Entendi. Agora, eu sei que você está na segurança há décadas, por muitos anos.
Mark Houpt: Sim.
Johnny Hand: Como você viu a ascensão da IA mudar a maneira como você olha para a segurança do seu ambiente ou para proteger seu ambiente?
Mark Houpt: Bem, é interessante. Você sabe, passamos por esses ciclos. Então, é difícil acreditar que nos anos 1990, quando tudo isso começou, ou quando eu comecei, quando vocês começaram, realmente não tínhamos departamentos de segurança em nossos ambientes corporativos. E se eles existiam, eram frequentemente seguranças contratados para proteger grandes edifícios. Mas dito isso, o que eu vi -- e o ponto disso é que eu vi que há uma compreensão fundamental de segurança. E o que continuamos refazendo é reinventar a segurança com novos títulos e novos nomes, mas é realmente a segurança fundamental que sempre fizemos. Controle de acesso baseado em função. Poderíamos chamar isso por cem nomes diferentes. Podemos chamar de confiança zero. Podemos chamar do que você quiser chamar. Mas ainda é acesso limitado com base em sua função, com base no que você está confiado a acessar. Então, há -- então o que estamos fazendo com IA é muito semelhante na minha opinião. Agora, sempre há nuances nisso. Mas eu tenho duas coisas que digo às pessoas na minha equipe e em outros lugares. "O que é velho é novo novamente" é uma frase que podemos realmente aplicar à segurança. E eu tento dizer isso às pessoas porque elas precisam entender que podemos aplicar as mesmas metodologias e tecnologias e processos de pensamento ao que estamos fazendo com IA em nosso ambiente atual. E a outra coisa que gosto de dizer é, olhe, eu estou fazendo isso há tempo suficiente -- há muitas pessoas que estão fazendo isso há tempo suficiente que podemos evoluir esses conjuntos de controle básicos para como operamos. Então, segurança física, por exemplo. Não mudou para IA. Precisamos proteger o ambiente. Precisamos -- precisamos colocar cercas ao redor. Precisamos ter seguranças. Precisamos verificar as identidades das pessoas quando elas entram pela porta. Precisamos zonar as coisas e colocar segurança em várias camadas. Precisamos colocar autenticação multifator em prática. Todas essas coisas são coisas que fizemos por anos, mas podemos fazê-las de forma diferente. E nosso cenário de ameaças é provavelmente a maior coisa que mudou. Então, cinco anos atrás -- então eu estou na DataBank há 11 anos e meio como CISO, então eu vi muitas mudanças acontecerem. Cinco anos atrás, nossa maior ameaça eram pessoas tentando entrar na instalação para atualizar seus servidores porque, "Ah, a propósito, eu deixei meu crachá no escritório e eles não me deixam mais entrar no escritório por causa do COVID." E agora estamos lidando com situações onde ainda não queremos que as pessoas entrem nos centros de dados, e queremos protegê-los, mas temos diferentes influenciadores que estão tentando fazer isso. Seja estados-nação porque temos novas guerras e novas situações acontecendo, ou temos o que eu chamo de situação NIMBY. Novamente, não é algo novo, mas não no meu quintal. A parte nova de não no meu quintal é, "Ei, eu não quero um centro de dados no meu quintal por causa do que as pessoas disseram sobre centros de dados." Mas toda a conversa NIMBY, você sabe, os fazendeiros não querem nova indústria em seu quintal porque estão tirando campos. Bem, agora a nova indústria acontece de ser centros de dados.
Johnny Hand: Você sabe, isso é interessante, Mark, porque quando eu falo com as pessoas e, claro, eu falo sobre segurança de IA, elas obviamente estão pensando em ciber. Mas você disse que como um provedor de co-location, a segurança física pode ser a coisa mais importante para os clientes. Por que é isso?
Mark Houpt: Bem, algumas razões diferentes. Uma é os chipsets que são usados dentro desses dispositivos de computação que realmente podem, você sabe, conduzir as transações para a IA, conduzir a computação para a IA, são realmente muito mais valiosos do que a computação padrão. Você sabe, os GPUs que são colocados lá, há uma enorme demanda por isso agora porque há tanta IA sendo colocada. É a coisa, se você quiser, para fazer. Agora, a outra coisa que está sendo adicionada recentemente nos últimos meses, nos últimos seis meses ou assim, é a questão de segurança nacional, onde algumas das IA que estão sendo executadas nesses GPUs em particular nos EUA e em outras nações também, têm um aspecto onde é tão avançado que um país não quer que o outro país o obtenha, mesmo que não seja um produto classificado. E isso é um desafio interessante para nós três, tendo sido ex-militares. Nós entendemos claramente todo esse, você sabe, confidencial secreto, você sabe, top secret com, você sabe, SCI potencialmente. E mesmo que esses GPUs não sejam classificados, agora há ordens executivas em vigor há duas semanas que dizem que você não pode enviar essas coisas para o exterior. Você não pode usar a IA que é aplicada a eles, nem mesmo no exterior, mas com indivíduos que não são cidadãos dos EUA. E então esses desafios são o que surge. Então, há muitos aspectos diferentes dessa peça de segurança física que, bem dentro do centro de dados, é uma preocupação, sem mencionar os ativistas que estão fora que querem entrar e danificar e destruir essas coisas porque acreditam que a IA está controlando nossas vidas.
Johnny Hand: Sim. Então, sua preocupação com atores estatais realmente ressoa comigo como uma pessoa de ameaças ZDI [inaudível 00:08:58]. Especificamente voltando ao Stuxnet, que teve um componente interno, onde eu acredito que foi um cientista holandês que estava visitando uma instalação iraniana, carregou um USB. Como você está operacionalizando esse modelo de ameaça em uma instalação de co-location para combater contra essa ameaça interna, seja um ator estatal intencional ou um zelador desajeitado, por exemplo, que poderia ser igualmente ameaçador na circunstância certa?
Mark Houpt: Sim. Então, primeiro de tudo, os métodos antigos de, você sabe, se você não tem -- se você não precisa ter acesso a um corredor de dados, então você não o obtém. Ou se você precisa entrar lá -- se você é o zelador e precisa entrar lá, você é escoltado. Então, integridade de duas pessoas são algumas -- algumas maneiras de fazer isso. Mas, você sabe, em geral, há uma responsabilidade compartilhada porque, você sabe, dentro desses corredores de dados, as empresas que estão contratando os serviços de um provedor de centro de dados como a DataBank, têm uma responsabilidade porque podem permitir que suas pessoas entrem. Então, o que precisamos fazer é ter uma responsabilidade compartilhada de que quem estamos contratando é realmente quem acreditamos que estamos contratando. E há uma enorme situação acontecendo agora que eu fui informado, e tenho certeza de que você também foi por autoridades nacionais de aplicação da lei e até mesmo autoridades locais de aplicação da lei, ou pelo menos, autoridades de aplicação da lei em nível estadual, dizem, ei, há certos países por aí que -- e você pode ir nas notícias e procurá-los você mesmo -- onde as pessoas estão criando fazendas de laptops e então tendo suas pessoas contratadas para trabalhar com empresas. E esses laptops literalmente estão, você sabe, tendo teclas movendo e mouse movendo de formato eletrônico, e eles realmente não estão fazendo nada, mesmo que estejam sendo pagos por não fazer nada. E infelizmente, temos que olhar para as pessoas como potenciais ameaças mais do que nunca antes. Roubar propriedade intelectual não apenas da DataBank, mas também de nossos clientes, e ter um impacto sobre os sistemas que mantêm os sistemas de IA é onde estamos tendo o desafio.
Johnny Hand: Estou curioso. Quero mudar um pouco de perspectiva. Mark, então falamos muito sobre o verdadeiro aspecto de segurança física de proteger centros de dados, mas, você sabe, o componente de segurança física disso é em torno de centros de dados baseados em IA. Como você está aproveitando a tecnologia de IA nos centros de dados para também realizar segurança e proteger esses centros de dados?
Mark Houpt: Sim, eu estava esperando que você chegasse a essa pergunta. Então, sem revelar muito, direi que você pode usar tecnologia de IA em qualquer coisa, desde drones até cães robôs. Então, você sabe, bem aqui fora, tipo de ponta de sangramento. Mas a tecnologia de IA está dentro de seus sistemas de câmeras e dentro de seus leitores de crachá e dentro de seus leitores biométricos e coisas assim. E então, deixando de lado a tecnologia de ponta de sangramento, vamos nos concentrar na realidade da maioria dos cenários. O que estamos fazendo é usar essa tecnologia para reduzir -- em alguns casos, reduzir o número de rondas de guardas de segurança que precisam ser feitas, para que possamos focar nossos guardas humanos nos portões de entrada e sistemas de monitoramento. Então, como a analogia do F-35, eles se tornam operadores de sistemas de armas. Não para dizer que a segurança é sistemas de armas. Estou usando isso como analogia, ok? Mas esses dispositivos, você sabe, com a função de me seguir, você sabe, alguém está no CCTV. Eles identificam quem são. Eles identificam porque colocaram seu crachá contra um leitor quando entraram no portão que identificou seu nome e sua autoridade de acesso. Capturou sua foto na câmera, seguiu-os para onde quer que vão. E oh, a propósito, essas pessoas são -- você sabe, você está talvez atingindo cada leitor de crachá ao longo da porta. Você sabe, temos pessoas que fazem isso por diversão. E então o que estamos fazendo é usar essa tecnologia para ajudar a eliminar as coisas que precisamos olhar e focar nas coisas que precisamos olhar. Também estamos usando isso para identificar quando as pessoas estão brincando, e não deveriam estar. Você sabe, como eu disse, às vezes as pessoas caminham pelo corredor que está fora do corredor de dados, e elas simplesmente atingem cada leitor que querem -- você sabe, que veem por diversão. Bem, isso registra uma negação. Então, nossos sistemas vão, "Ei, temos três negações." Você sabe, tipo o que costumávamos fazer com o Active Directory. Você obtém três negações. Você obtém cinco negações em um certo período de tempo. Nós bloqueamos você. Bem, na geração anterior de sistemas de controle de acesso, não podíamos necessariamente fazer isso em sistemas de controle de acesso de segurança física. Bem, agora não apenas você pode fazer isso, mas você pode vinculá-lo ao CCTV e ver que alguém não está seguindo o caminho que deveria estar seguindo para chegar ao seu corredor de dados. Então, agora começamos a fazer perguntas a eles, "Por que você foi pelo caminho longo para chegar onde precisava ir?" Coisas assim estão começando a ser utilizadas, você sabe, para rastreamento -- ou mais cenários de rastreamento comportamental. E a cada iteração, estamos construindo sobre isso. Estamos construindo sobre isso. Estamos construindo sobre isso. É como, você sabe, todos nós sabemos. Verdadeira IA tem três anos no máximo. Então, cada iteração fica melhor, e cada iteração fica um pouco mais inteligente. Injetamos novas coisas nela. Também estamos usando isso para treinamento. Usando IA para treinamento de segurança física. Somos capazes de, em alguns de nossos CCTV, colocar fantasmas lá fora. Então, podemos detectar se nossos guardas de segurança estão realmente monitorando ou não. Podemos injetar múltiplas tentativas falhas no sistema para que nossos guardas de segurança, eles estão monitorando os alarmes que estão na parede? Você sabe, coisas assim. Mas estamos construindo repetidamente.
Johnny Hand: Então, quando você pensa sobre, tipo, o que há de novo em tecnologia, acho que muitas vezes ficamos, tipo, tentados, se você quiser, a jogar fora nossos antigos manuais de segurança ou abordá-lo como se fosse uma coisa nova. Então, quais são alguns princípios fundamentais que você acha que ainda se aplicam mesmo na era da IA?
Mark Houpt: Compartmentalização é provavelmente um dos maiores. Você sabe, sempre dissemos, ei, você sabe, em segurança física em particular, você só deve poder ir onde está autorizado a ir. Mas acho que chegamos -- ou, você sabe, não apenas na minha organização, mas em muitas organizações, chegamos ao ponto onde estávamos esticando os limites disso. E acho que o que a IA fez é que nos fez reavaliar isso, refocar isso, trazer o pêndulo de volta para o meio. Você sabe, o risco de um GPU sendo retirado da instalação versus um chip de CPU regular ou um disco nos fez repensar essa compartmentalização ao ponto de talvez não seja apenas o corredor de dados mais.
Johnny Hand: Então, se eu sou um líder de tecnologia ou segurança apenas começando a liderar projetos de IA, obviamente, compartmentalização, você disse, é uma prática fundamental. Quais são algumas outras práticas fundamentais ou mentalidades que você insistiria desde o primeiro dia?
Mark Houpt: Bem, não se esqueça -- se você está fazendo desenvolvimento de código, não se esqueça apenas de boas práticas de higiene de segurança. Você sabe, mesmo -- você sabe, com a nova IA que saiu nos últimos meses, onde estão atacando múltiplas camadas, você sabe, 10 camadas de profundidade, então, você sabe, você tem que pensar sobre todas as vulnerabilidades que você estava disposto a permitir antes porque você tinha outras circunstâncias mitigadoras na frente disso. Então, agora -- você sabe, uma das coisas que estamos fazendo dentro da DataBank é voltar e olhar que fomos realmente bons em aplicar patches para coisas críticas e altas e até mesmo de nível médio. Não tão bons em fazer coisas informacionais e baixas, mas já vimos tentativas de ataque usando IA que vão em direção a essas coisas menores, e você obtém uma vulnerabilidade informacional que então permite que você se mova para uma vulnerabilidade baixa e se infiltre, enquanto um humano não é capaz, ou leva muito tempo e é altamente detectável quando um humano está fazendo isso. Com IA, não é. Então, temos que voltar e repensar. Então, essas são algumas das coisas que temos que repensar porque a IA pode fazer as coisas mais rápido do que podemos fazer. Obtemos um exploit. Alguém diz, "Vá atacar isso em um laboratório." Boom. Agora, vá atacá-lo na vida real, e está feito.
Johnny Hand: E, Mark, sempre perguntamos a cada convidado uma última pergunta, e então eu sei que falamos muito hoje, falamos muito sobre a IA fundamental, como ela está sendo usada para proteger o centro de dados, mas também o impacto da, você sabe, segurança física em torno do centro de dados. Há algo que perdemos que deveríamos cobrir?
Mark Houpt: Sim, talvez. A única coisa que -- a única coisa que eu tenho alertado meu pessoal é para não pular nas tecnologias de ponta de sangramento. Ou se você fizer isso, faça em um ambiente muito controlado. Porque a IA agora é tão nova, e as pessoas estão lançando coisas por aí que esses produtos em si têm vulnerabilidades neles que não precisamos trazer para um centro de dados, ou não precisamos trazer para um ambiente empresarial. Às vezes, são coisas legais como, digamos, um cão robô ou um dispositivo que fará as rondas do guarda de segurança, ou até mesmo um drone. Mas temos que garantir que esses sejam controlados, e eles são realmente apropriados para nossos ambientes. E acho que essa é a parte que algumas empresas podem estar perdendo, é sua pressa em implantar não está considerando o impacto de longo prazo do que essa implantação será dentro de seu ambiente e os riscos e vulnerabilidades que isso trará para sua porta, quase como um cavalo de Troia, um cavalo de Troia literal, não um worm ou um cavalo de Troia cibernético, mas um cavalo de Troia literal. E então temos que ter cuidado com essas coisas. Acho que isso é algo que não falamos que as pessoas precisam ficar atentas.
Johnny Hand: Sim, acho que isso é um conselho sábio, e direi como um líder de segurança, a quantidade de chamadas de marketing que recebi em torno de drones e, você sabe, segurança robótica por anos tem sido bastante perspicaz. Mas acho que é da mesma forma que não queremos pular na tecnologia inicial, especialmente em nível empresarial. É divertido testar e avaliar, mas definitivamente não -- bem, Mark, muito obrigado por se juntar a nós no AI Security Brief. Eu sei que Dustin e eu tiramos muito disso. Realmente apreciamos a conversa, e esperamos conversar com você novamente.
Mark Houpt: Absolutamente. O mesmo aqui. [ Música ]
Johnny Hand: E isso é um encerramento para o episódio de hoje do AI Security Brief. Um enorme agradecimento a Mark Houpt por se juntar a nós diretamente do Alasca.
Dustin Childs: E Mark cobriu algo que muitas pessoas ignoram quando falam sobre segurança de IA, e isso é o fato de que é fundamentalmente um problema físico. Se alguém tem acesso ao seu dispositivo fisicamente, não é mais seu dispositivo.
Johnny Hand: Sim, e sabemos que o cenário de ameaças mudou. Agora, vemos atores estatais, ativistas e mídia social sendo usados como proxies.
Dustin Childs: Sim, o ponto de Mark sobre responsabilidade compartilhada entre provedores de co-location e seus clientes é algo que todo líder de segurança nesse modelo precisa ouvir. A ameaça interna não é nova. É apenas que as apostas ficaram mais altas.
Johnny Hand: Sim, e o que ficou comigo foi o enquadramento que Mark fez do que é velho é novo. Então, conceitos como compartmentalização, integridade de duas pessoas, e realmente boa disciplina de patch nunca realmente desapareceram. Acho que a IA apenas aumentou as apostas de errar.
Dustin Childs: Sim, seu aviso final sobre apressar tecnologias de segurança física de ponta de sangramento em produção sem entender o que você está trazendo para seu ambiente foi a nota que eu realmente queria terminar porque você poderia potencialmente estar trazendo um cavalo de Troia literal e não um worm.
Johnny Hand: Sim, eu concordo. E gostaríamos de agradecer a Mark por vir. Se você gostou desta conversa, inscreva-se onde quer que você obtenha seu podcast e confira nossas notas do programa para links para se conectar com Mark e DataBank.
Dustin Childs: AI Security Brief é mixado e produzido por Elliott Peltzman, com música original de Amneajynx. Nossa produtora executiva é Jennifer Eiben, com estratégia de conteúdo por Ma'ayan Plaut e Melanie Gallant. Ajuda adicional de produção por Liz Stokes. Edição de vídeo por Sarelle Joppy e Brigitte Criqui-Wild.
Johnny Hand: Muito obrigado por ouvir, e nos vemos na próxima vez no AI Security Brief. [ Música ]
