Sachin Jain: O que as pessoas não percebem é que elas acham que implementam algo, definem certas políticas e controles, e estão prontas. Mas elas precisam melhorar continuamente.
Dustin Childs: Sim.
Sachin Jain: Elas precisam constantemente observar quais outras tecnologias implementaram, como estão evoluindo, porque a IA está mudando tão rápido.
Dustin Childs: Certo.
Sachin Jain: Você não pode implantar controle hoje e depois dizer, oh, estamos prontos. [ Música ]
Johnny Hand: Bem-vindo ao AI Security Brief, onde estamos desvendando ameaças emergentes de IA, pesquisa de vulnerabilidades e as decisões estratégicas que os líderes de segurança estão tomando agora. Eu sou Johnny Hand.
Dustin Childs: E eu sou Dustin Childs. Então, em 1979, um manual da IBM afirmava que um computador nunca pode ser responsabilizado, e, portanto, um computador nunca pode tomar uma decisão de gestão. E essa era uma posição razoável na época. Mas agentes de IA estão tomando decisões de gestão agora. Então, a questão é, quem é realmente responsável quando algo dá errado?
Johnny Hand: Sim, e é exatamente isso que vamos abordar hoje. Nosso convidado é Sachin Jain. Ele é o Vice-Presidente Sênior de Tecnologia na Eventus. Ele tem mais de duas décadas de experiência abrangendo tanto o papel de CIO global quanto o papel de CISO. E Sachin tem uma perspectiva incrível sobre responsabilidade, que vai muito além de sua mesa de CISO.
Dustin Childs: Sim, Sachin também traz conselhos práticos sobre um dos maiores desafios que os líderes de segurança enfrentam - aprender a falar a linguagem do conselho. Então, se você já teve dificuldade em traduzir risco técnico em aprovação de orçamento, esta conversa vai ressoar. Vamos mergulhar. Então, bem-vindo ao "The AI Security Brief", o podcast de segurança para líderes que querem antecipar o que vem a seguir. Estamos animados por tê-lo conosco.
Sachin Jain: Sim, é um prazer.
Johnny Hand: Então, Sachin, eu tenho que perguntar isso, porque vivemos em um mundo tecnológico onde os líderes de segurança mudam a cada poucos anos, se conseguem durar alguns anos. E você demonstrou o que eu realmente consideraria, tipo, uma permanência extrema em seu papel anterior. Você esteve lá por mais de 20 anos, não apenas como CIO global, mas também em um papel de liderança de CISO em segurança. Então, como você manteve sua estratégia de segurança atualizada e evitou a armadilha da complacência e, tipo, da apatia?
Sachin Jain: Sobre a permanência, acho que foi uma longa jornada. E a maneira como me manteve em movimento, eu estava tentando fazer tudo novo. Eu estava tentando fazer muitas coisas novas. Eu estava tentando fazer coisas antes que pudessem chegar ao mercado. E você poderia dizer que provavelmente eu era mais experimental do que provavelmente mais um praticante. E isso foi o que me manteve em movimento. E meu papel em tecnologia realmente me ajudou muito a olhar para o papel de segurança, que eventualmente se complementou. Porque eu poderia traduzir o valor ou resultado tecnológico em segurança, e isso era algo que eu conseguia traduzir de volta para o negócio. E isso me manteve em movimento por bastante tempo, porque havia, tipo, tanta coisa acontecendo. Eu continuei fazendo muitas coisas, seja nuvem, virtualização e adoção de várias aplicações de software como serviço. E então, além disso, a segurança, que estava realmente crescendo e meio que evoluindo, eu poderia dizer, o que testemunhei em termos de segurança básica, como segurança baseada em firewall ou segurança baseada em endpoint, para agora uma cibersegurança muito abrangente, que está muito além apenas do usuário final e do firewall.
Dustin Childs: Sim, então eu sei que quando se trata de segurança de IA, uma das coisas que queremos falar hoje especialmente é responsabilidade. Então você deve ter tido muitos casos de responsabilidade ao longo de sua carreira. Como a responsabilidade para você se estende ao reino da IA?
Sachin Jain: É aí que, essa é uma questão interessante. E segurança é algo que eu sempre mantive, mesmo em meu papel de CISO. Não é apenas uma pessoa ou uma equipe que é responsável pela segurança. E o CISO pode obviamente colocar essas diretrizes ou criar um framework, mas tem que ser uma responsabilidade compartilhada. Tem que ser praticada conjuntamente, não apenas independentemente como uma equipe. E o que quer que protejamos, seja dados ou máquinas ou, você sabe, IA, tudo está sendo usado pelo negócio. E os usuários finais, por exemplo, IA, são eles que trazem a tecnologia para a empresa. Eles são os que estão ganhando em eficiência. Eles são os que estão utilizando o resultado para seu trabalho e para gerar receita. E nós, como CISO, não podemos controlar o resultado sozinhos, porque não sabemos o que está sendo usado hoje e o que virá para a empresa amanhã. Esta tecnologia está mudando tão rápido. Mesmo se eu tentar colocar diretrizes em talvez 10 aplicações de IA hoje, a IA está em toda parte. Você fala sobre qualquer software como serviço ou qualquer, mesmo por exemplo, aplicação CRM ou talvez ferramentas ITSM, tudo tem IA. Você não sabe onde seus dados estão sendo expostos. A menos que você tenha todos se unindo.
Dustin Childs: Ok.
Sachin Jain: Criando uma espécie de conselho de governança, então você pode provavelmente liderar o caminho, mas tem que ser praticado conjuntamente.
Johnny Hand: Eu notei que você disse algo há alguns minutos quando estava falando sobre essa jornada. E, tipo, você disse que esses líderes, especialmente líderes de tecnologia, precisam ser capazes de falar a linguagem dos negócios e entender isso. E eu sei que mesmo hoje, mesmo que tenhamos papéis de liderança mais integrados com CISOs e eles tenham acesso aos conselhos e essas coisas, ainda é um grande desafio que temos com as organizações. Temos lideranças de CISO altamente técnicas, e então temos mais focadas em negócios. Onde em sua carreira você aprendeu a navegar nisso, e talvez você tenha algumas dicas sobre isso? Porque usar esse chapéu de CIO e o chapéu de CISO é exclusivamente diferente. Então estou curioso sobre como você ganhou essa perspectiva, e talvez nos dê algumas dicas sobre construir esse relacionamento de negócios.
Sachin Jain: Absolutamente, e é tão engraçado. Quando comecei a ter tempo de face com o conselho, todas as minhas apresentações costumavam ter muitos jargões técnicos. E eu estava tão fascinado por isso. Eu esperava que todos entendessem o quanto de trabalho eu estava fazendo e em que tipo de mundo eu estava vivendo.
Dustin Childs: Sim.
Sachin Jain: Mas eu estava tão errado. E em minhas primeiras reuniões, eu estava fazendo, tipo, um deck de 30, 30, 40 slides. E então eu era interrompido em, tipo, um ou dois slides. E eles diziam, oh, apenas foque nesses dois slides. E eu percebi que eles não estão dispostos a ver mais do que alguns slides.
Dustin Childs: Certo.
Sachin Jain: Mesmo se eu fizer seis slides, eles me interromperão em um ou dois slides e continuarão fazendo perguntas, porque eles têm tantas perguntas e têm muito pouco tempo de face com você. Eles podem estar falando com você durante algumas das reuniões de revisão, de outra forma. Mas quando você está naquela sala de conselho e quando está meio que liderando a discussão e também está levando a algumas das tomadas de decisão, então você precisa estar no ponto. Você precisa aprender, primeiro de tudo, a linguagem que seu conselho entende porque todo mundo é diferente.
Dustin Childs: Certo.
Sachin Jain: Algumas pessoas sabem muito sobre tecnologia. Elas entendem o valor que a tecnologia pode trazer. Algumas pessoas não entenderão. E essa é a razão, a única coisa que eu pude perceber que CISOs ou CIOs, eles não conseguiam aprovação no orçamento porque não conseguiam traduzir o resultado na linguagem dos negócios.
Dustin Childs: Certo. Então falamos sobre como você fala com o conselho. Eu quero falar sobre como você fala com suas próprias organizações ou as organizações com as quais você lida, e quais passos as organizações podem tomar para esclarecer papéis e responsabilidades para risco de IA? Novamente, voltando a esse pensamento de responsabilidade. Quero dizer, então exercícios de mesa, planejamento de cenários da vida real, o que você faz para reunir a organização e entender de onde vem essa responsabilidade na IA?
Sachin Jain: Sim, não, esse é um ponto interessante. E eu acho, como eu disse, a responsabilidade não pode recair apenas em uma função ou uma pessoa.
Dustin Childs: Certo.
Sachin Jain: E quando você tenta colocar o framework de governança em torno disso, você realmente precisa entender quais são aqueles, eu posso definir talvez mais como pilares ou talvez pontos-chave nesse framework. Um é muito importante é a visibilidade. Muitas organizações não têm a visibilidade hoje. Elas não sabem o que está sendo usado. Mesmo se tentarem criar um inventário hoje de, digamos, 10 ferramentas, elas não sabem amanhã terão outras 10 ferramentas e como você descobre isso?
Dustin Childs: Certo.
Sachin Jain: E isso, a parte da visibilidade é muito, muito importante, descoberta de visibilidade. Então, segundo é qualquer diretriz que você esteja tentando colocar, qualquer talvez políticas, controle de acesso, você precisa identificar isso. Como você faz isso sem realmente se tornar uma barreira, sem realmente criar um obstáculo? Terceiro é aquele conselho de governança. Como você diz às pessoas que, como você basicamente cria a matriz de responsabilidade, e como você comunica isso na organização? E ao longo do tempo, eu também percebi que a comunicação é realmente muito, muito importante.
Dustin Childs: Certo.
Sachin Jain: Você pode criar uma matriz de responsabilidade. Você pode meio que distribuir isso na organização e dizer a todos, ok, olhe, você carrega essa responsabilidade adicional. E essa pessoa pode dizer, oh, por que isso está vindo para mim? Eu já tenho um trabalho em tempo integral. Eu já estou gastando mais de 100% do tempo em meu trabalho atual. Eu não estou colocando carga de trabalho adicional em mim. Mas você precisa, um, você precisa definir responsabilidade, e segundo, você precisa comunicar isso muito bem, o que se torna uma parte essencial de seu trabalho diário. Não deve soar como uma responsabilidade adicional. É como um habilitador. Qualquer trabalho que eles estejam fazendo, isso os habilita a fazer esse trabalho mais rápido e seguro.
Dustin Childs: Ok.
Sachin Jain: E a outra parte é a melhoria contínua. O que as pessoas não percebem. Elas acham que implementam algo, definem certas políticas e controles, e estão prontas. Mas elas precisam melhorar continuamente.
Dustin Childs: Sim.
Sachin Jain: Elas precisam constantemente observar quais outras tecnologias implementaram, como estão evoluindo. Porque a IA está mudando tão rápido.
Dustin Childs: Certo.
Sachin Jain: Você não pode implantar controle hoje e depois dizer, oh, estamos prontos.
Johnny Hand: Uma coisa ótima, e é tão interessante porque você está falando sobre, tipo, esses papéis adicionais. E acho que todos nós já passamos por essa experiência onde assumimos às vezes mais ou sempre assumimos mais quando sentimos que não podemos assumir mais. E às vezes você se pergunta sobre isso. Há um desafio, porém, porque falamos sobre você mencionou como o conselho e aqueles líderes executivos em uma organização podem ser influenciados por seus pares. E às vezes isso leva uma organização a mudar o que estão fazendo ou talvez surpreendê-lo, como você disse. E sinto que é exatamente isso que está acontecendo com a adoção de IA, porque está criando uma tempestade de febre de pessoas precisando descobrir como adotar porque todo mundo está adotando. E o que você está vendo em seu papel de liderança agora com o MSP? Isso está impulsionando essa tempestade de febre para você? E como isso se parece?
Sachin Jain: Oh, absolutamente. Isso é algo, como você disse corretamente, está vindo como uma tempestade. E todo mundo quer ver como eles realmente navegam, e eles não são arrancados ou interrompidos apenas por causa dessa onda. E mesmo no negócio de MSP, isso vai interromper muito. E usamos IA muito, mas precisamos provavelmente descobrir qual é o próximo passo e qual é a próxima onda que precisamos realmente descobrir. Porque em segurança, como você pode imaginar, há uma enorme quantidade de dados que todos os analistas de segurança têm que analisar. Mesmo um pesquisador de ameaças, ele ou ela tem que olhar para, tipo, uma enorme quantidade de dados. E é humanamente impossível analisar tantos dados. Eu estava lendo um artigo que, você sabe, por causa da IA, o tempo que um atacante costumava gastar para infiltrar em uma organização diminuiu significativamente. Agora é menos de meia hora. E se você está falando de menos de meia hora, esse é o tempo que você tem como defensor para detectar e responder. E é humanamente impossível se você quiser fazer isso. Você precisa, um, você precisa criar sua estratégia, que deve ser muito mais rápida do que o atacante pode entrar. E então, em segundo lugar, você também precisa estar constantemente olhando para as maneiras de como você pode estar à frente dos atacantes e como sua estratégia pode ajudá-lo a prevenir, tipo, múltiplas portas. Para um atacante, é apenas uma porta que eles precisam entrar. Mas para um defensor, pode ser múltiplas portas. Pode ser, tipo, centenas e milhares de portas ao redor do mundo. E como você basicamente cria uma estratégia que está mais à frente? E a IA é a única coisa que pode ajudá-lo a analisar, meio que fazer triagem, fazer, tipo, correlação, análise, remoção, olhando para alguns dos padrões históricos. Olhando para alguns desses talvez a previsão, o lado preditivo disso.
Dustin Childs: Certo. Eu quero voltar a algo que você disse anteriormente, porque quero ter certeza de que entendi corretamente, porque já passei por essas coisas antes. Costumava haver esse conceito de TI sombra, e agora você está dizendo que há um conceito de IA sombra, onde há agentes de IA que você simplesmente não conhece. Isso, você está vendo isso como um problema nas organizações?
Sachin Jain: Absolutamente. Acho que é consciente ou inconscientemente. Acontece de ambas as maneiras. E quando digo conscientemente, conscientemente acontece quando você tenta ser muito restritivo. Você tenta criar uma fricção dentro da empresa, e então as pessoas encontram maneiras de, elas sabem, elas desafiam você. Elas sabem que você criou uma camada restritiva ao meu redor. Eu vou te mostrar como eu saio dessa camada e como eu sou mais bem-sucedido. Porque elas têm que usar, quer você bloqueie ou permita. E os outros desafios, muitas empresas com as quais eu estava conversando, elas nem sabem se as pessoas estão usando credenciais corporativas ou credenciais pessoais com algumas dessas ferramentas de IA. E então elas não sabem o que proteger, como proteger.
Dustin Childs: Ok.
Sachin Jain: E mesmo se elas não estiverem, mesmo se estiverem colocando, digamos, diretrizes ou não colocando diretrizes, mesmo se estiverem bem com toda essa tecnologia ou talvez ferramentas sendo usadas dentro da organização, há tanto acontecendo no mundo. Como eu estava mencionando, há 10 ferramentas agora. Amanhã pode haver, digamos, 100 ferramentas. E quando digo amanhã, é literalmente, tipo, talvez uma semana ou talvez no próximo mês, você verá. Antes costumávamos falar que se algo está evoluindo, provavelmente levará talvez três meses ou um ano. O tempo de ciclo de algumas mudanças, mesmo se falarmos sobre nuvem, quando começamos a falar sobre nuvem, a evolução da nuvem, se você ver, levou algum tempo. A evolução da IA é muito, muito rápida.
Dustin Childs: Certo.
Sachin Jain: E você tem que entender como você cria um ambiente ou uma cultura dentro da organização, junto com todas essas políticas e diretrizes, que permitem um ambiente inclusivo e criam essa cultura. Que todos entendem a responsabilidade e todos entendem a importância de usar IA, ou o comportamento responsável em relação à IA. Que o que é aceitável? O que não é aceitável? E criar esse senso de responsabilidade e responsabilidade dentro de cada pessoa. Porque você não pode parar a TI sombra, ou a IA sombra, por assim dizer. Mas você pode criar uma cultura para que as pessoas entendam que mesmo se estiverem fazendo algo, elas têm o apoio da função de segurança. Elas não os veem como alguém que está tentando bloquear, mas alguém que vai permitir, mas com diretrizes suficientes em torno disso para que você não possa escorregar.
Johnny Hand: É interessante porque falamos sobre a velocidade e o ritmo da inovação da IA, e estamos claramente vendo isso. E você certamente mencionou que está vendo isso com seus clientes. Há um grande apetite por adoção. Mas voltamos à mesma, realmente, necessidade em torno de governança, responsabilidade e também aquela peça de visibilidade. E então eu amo que você, na era dessa adoção, ainda meio que volta para aqueles aspectos fundamentais que provavelmente eram os mesmos há 20 anos, você concordaria com isso?
Sachin Jain: Bem, exatamente. Acho que isso foi muito interessante. Eu estava falando sobre isso ontem e estávamos falando sobre alguma experiência de sanduíche. E é como pedir um sanduíche e é a mesma embalagem, mas com ingredientes diferentes, receita diferente. E quando digo mesma embalagem, acho que falamos sobre mesma organização, mesma exposição de dados. Acho que a ameaça ainda é a mesma. As pessoas estão tentando proteger os dados. E elas precisam descobrir como basicamente colocar as diretrizes em torno disso para que estejam constantemente protegidas enquanto o mundo está constantemente evoluindo.
Johnny Hand: Então, Sachin, você tem uma experiência incrível falando essa linguagem do conselho e sendo capaz de fazer essa transição que tantos líderes de segurança honestamente realmente lutam, sendo capaz de ter uma voz sólida dentro do conselho. Quais são alguns dos, tipo, quais são três boas conclusões para aqueles líderes de segurança emergentes que vão navegar nessa água? Como eles trazem esse valor para o conselho?
Sachin Jain: Esse é um ponto muito bom. Se eu tentar definir essas três principais conclusões, uma é ser o experimentador. Seja a pessoa que pode experimentar com a tecnologia, com o tipo de onda que você passa, o tipo de controles de segurança que você precisa construir em torno. E segundo, você precisa ser um comunicador eficaz. E você tem que comunicar muito dentro da organização com seus negócios, e então traduzir isso de volta para o conselho. Isso tem que ser um segundo ponto-chave. E terceiro é nunca tentar ser muito instintivo, porque isso acontece. Acho que é por causa talvez de nossa memória muscular, que sempre que tentamos ressoar ou talvez sempre que você tenta ver algo novo, cria uma espécie de fricção em nossa mente. E dizemos, oh, a primeira reação é bloquear, restringir, ou talvez pensaremos sobre isso mais tarde. Vamos criar uma estratégia. Mas no mundo da segurança, não há tempo para pensar. Você tem que ver primeiro, você tem que reagir primeiro.
Dustin Childs: Bem, Sachin, obrigado pela ótima conversa hoje. É tão importante para as equipes de liderança estarem tomando decisões sobre IA hoje. Mal podemos esperar para tê-lo novamente no programa.
Sachin Jain: Obrigado. [ Música ]
Johnny Hand: O framework de Sachin é prático. Visibilidade, diretrizes, comunicação. São três maneiras de a segurança não te atrasar. É o que te permite ir rápido com segurança.
Dustin Childs: Sim, eu realmente concordo. E para mim, essa conclusão realmente importante é simples. Se você é um CISO que está lutando sozinho, você já perdeu. Então você tem que entrar na sala com engenharia, com jurídico, com equipes de negócios antes que eles venham até você.
Johnny Hand: Exatamente. É assim que você constrói um framework que realmente se sustenta. Um enorme agradecimento a Sachin Jain por se juntar a nós hoje e compartilhar a perspectiva conquistada com muito esforço que só vem de duas décadas no cargo. Para se conectar com Sachin, veja nossas notas do programa para links sobre como encontrá-lo no LinkedIn e para aprender sobre a segurança da Eventus.
Dustin Childs: E isso encerra mais um episódio do "The AI Security Brief". Realmente queremos agradecer por se juntar a nós e esperamos que esta conversa tenha feito você pensar de forma diferente sobre segurança. E se isso acontecer, considere se inscrever para não perder o que vem a seguir.
Johnny Hand: "The AI Security Brief" é mixado e produzido por Elliott Peltzman com música original de Omnia Jinx. Nossa produtora executiva é Jennifer Eiben, com estratégia de conteúdo por Ma'ayan Plaut, Shannon Murphy e Melanie Galant. Ajuda adicional de produção por Liz Stokes. Vídeo e edição por Sarelle Joppy e Brigitte Criqui Wild.
Dustin Childs: Muito obrigado por ouvir e nos vemos na próxima vez no "The AI Security Brief". [ Música ]