A rápida adoção de IA e ML cria novos vetores de ataque para organizações, mas pode gerar valor (Crédito: Freepik)
A Inteligência Artificial (IA) combinada ao Aprendizado de Máquina (Machine Learning ou ML) é uma força geradora de valor nas organizações que se destacam por adotar as melhores estratégias de segurança cibernética. Contudo, essas e outras tecnologias emergentes trazem vulnerabilidades que podem colocar em risco a confiança cibernética. Para se manter à frente em um cenário competitivo, as lideranças cibernéticas precisam compreender a dualidade dessas ferramentas — tanto como potenciais ameaças quanto como soluções poderosas.
A rápida adoção de IA e ML cria novos vetores de ataque para organizações. As mesmas ferramentas que oferecem vantagens competitivas também são exploradas por cibercriminosos para amplificar ataques, tornando-os mais sofisticados e difíceis de detectar. De acordo com o relatório “EY 2023 Global Cybersecurity Leadership Insights“, 75% dos profissionais de segurança cibernética relataram um aumento nos ataques no último ano, e 85% acreditam que a IA está relacionada a esse crescimento.
Entre os Chief Information Security Officers (CISOs) e os CEOs, apenas 1 em cada 5 considera sua segurança cibernética eficaz hoje e bem posicionada para o futuro, segundo o estudo da EY. A pesquisa ouviu 500 líderes C-level e de segurança cibernética em 19 setores e 25 países, cada um representando organizações com mais de US$ 1 bilhão em receita anual.
“A IA pode ajudar a avaliar um novo tipo de ataque e construir sua defesa, mas também pode se transformar em um ponto de ataque”, diz Demetrio Carrión, Cybersecurity Leader para a EY América Latina. As equipes de segurança cibernética devem ter estratégias bem estruturadas para responder rapidamente e reduzir as vulnerabilidades. “Você começa a mitigar os ataques. Mas essa corrida é contínua e o defensor tem que estar sempre um passo à frente”.
“Os adversários estão lançando ataques direcionados aos controles de segurança cibernética. De acordo com a Microsoft, os algoritmos de IA utilizados para detectar malware podem ser suscetíveis a ataques de contaminação de dados, em que os invasores introduzem software mal-intencionado no conjunto de dados de treinamento, fazendo com que a IA o classifique erroneamente como inofensivo”, cita o relatório da EY. Mas na outra ponta da gangorra existe uma boa notícia.
“A segurança cibernética aprimorada não apenas reduz a vulnerabilidade; cria valor otimizando os gastos com tecnologia, estimulando a colaboração e construindo confiança”, aponta o estudo.
Acelerando a sofisticação dos ataques
Um dos principais desafios trazidos pela aplicação de ferramentas de IA e ML é a capacidade de escalar e automatizar ataques. Hackers podem utilizar algoritmos de aprendizado de máquina para criar ataques mais complexos, como:
- Phishing Personalizado: Com a ajuda de algoritmos de ML, cibercriminosos conseguem gerar e-mails de phishing altamente personalizados, aumentando a probabilidade de enganar os usuários e obter informações sensíveis.
- Exfiltração de Dados: A IA pode ser manipulada para liberar informações pessoais ou confidenciais sem que as defesas tradicionais percebam.
- Ransomware Adaptável: Ataques de ransomware, cada vez mais comuns, utilizam algoritmos de ML para ajustar suas táticas conforme encontram barreiras de defesa, escapando de detecções e contornando medidas de proteção.
O uso de IA em ataques também traz à tona a questão do Adversarial Machine Learning (AML). Nesse tipo de ataque, os criminosos podem introduzir dados corrompidos em sistemas de IA, manipulando algoritmos para tomar decisões incorretas. Essa tática pode fazer com que o sistema deixe de identificar atividades maliciosas ou classifique códigos maliciosos como inofensivos.
Além disso, o impacto desses ataques pode ser sentido por um tempo prolongado. Um estudo da EY apontou que, em 76% dos incidentes registrados, as organizações levaram mais de seis meses para detectar e responder adequadamente a uma ameaça. Esse atraso na detecção e resposta reforça a necessidade de novas abordagens, que utilizem IA como uma ferramenta de proteção e não apenas como um alvo de ataque.
Transformando IA e ML em vantagens cibernéticas
Apesar dos desafios, a Inteligência Artificial e o Aprendizado de Máquina também trazem oportunidades para reforçar e melhorar a segurança cibernética. Ao implementar essas tecnologias de forma estratégica, as organizações podem aperfeiçoar seus sistemas de defesa, automatizar processos de monitoramento e detecção de ameaças e reduzir o tempo de resposta a incidentes.
- Automação e redução de custos
Em um cenário onde a procura por talentos em cibersegurança encontra a escassez de mão de obra qualificada, IA e ML podem ser uma solução. Com a incorporação da automação de processos, deixando de lado tarefas manuais e demoradas, é possível ganhar tempo e eficiência, assim como liberar profissionais para atividades mais criativas e complexas. Um exemplo: sistemas de IA podem ser utilizados para automatizar a análise de grandes volumes de dados, identificando padrões e anomalias em tempo real. Essa capacidade reduz muito a carga de trabalho das equipes de TI e permite que recursos sejam alocados de maneira mais eficiente.
Além disso, algoritmos de Machine Learning conseguem prever ameaças com base em comportamentos passados, fornecendo às organizações insights sobre vulnerabilidades futuras. Isso não apenas aumenta a efetividade das operações de segurança, como também reduz custos operacionais ao minimizar a necessidade de intervenção humana em tarefas repetitivas.
- Melhor detecção e resposta a ameaças
Um dos principais benefícios do uso de IA na segurança cibernética é sua capacidade de aumentar a precisão na detecção de ameaças. Sistemas de IA podem analisar continuamente o tráfego da rede, identificar comportamentos suspeitos e gerar alertas automáticos para equipes de segurança. Esses sistemas podem ainda construir perfis de usuários, ajustando automaticamente os níveis de segurança com base em comportamentos e fatores ambientais.
Por exemplo, a IA pode ser utilizada para realizar autenticação multifator adaptativa, escalando ou reduzindo os requisitos de segurança com base no contexto da interação, como a localização ou o dispositivo utilizado. Esse nível de personalização torna a segurança mais eficiente, sem comprometer a experiência do usuário.
- Explicabilidade da IA e transparência
Para que a IA seja uma ferramenta eficaz contra os ataques cibernéticos, é preciso que suas decisões sejam explicáveis. A transparência nos algoritmos de IA ajuda as equipes de resposta a entender como o sistema chegou a determinadas conclusões, facilitando a identificação de falhas e garantindo que as respostas sejam precisas e adequadas.
Segundo a pesquisa da EY, muitas organizações ainda lutam para acompanhar a rápida evolução da IA e garantir que seus sistemas de gerenciamento de vulnerabilidades consigam lidar com essas tecnologias emergentes. A visibilidade total do funcionamento da IA e a explicabilidade das decisões são essenciais para proteger a integridade dos dados e prevenir a contaminação de modelos de IA.
Boas Práticas para implementar IA e ML em segurança cibernética
Para tirar o melhor das aplicações de Inteligência Artificial e Aprendizado de Máquina, as organizações devem adotar uma série de boas práticas que garantam a segurança e a resiliência dos sistemas. Entre as principais recomendações, destacam-se:
- Proteção dos dados utilizados no treinamento: Os dados que alimentam os modelos de IA são um dos principais alvos de cibercriminosos. Para evitar que os algoritmos sejam manipulados e levem a decisões incorretas, é preciso proteger esses dados contra contaminação e envenenamento.
- Monitoramento contínuo dos modelos de IA: A natureza dinâmica da IA exige que os sistemas de segurança cibernética sejam constantemente ajustados. O monitoramento contínuo permite identificar rapidamente quaisquer anomalias ou desvios no comportamento do algoritmo, garantindo que ele continue funcionando conforme o esperado.
- Capacitação de equipes em IA e ML: Embora a automação desempenhe um papel vital na segurança cibernética, as equipes humanas precisam ser capacitadas para entender e supervisionar os processos automatizados. Isso inclui treinamentos regulares e investimentos em qualificação (reskilling e upskilling), garantindo que os profissionais estejam familiarizados com as tecnologias e saibam como agir em caso de falha.
SOBRE ESTE CONTEÚDO
A série Ciberinteligência é um projeto conjunto da divisão de cibersegurança da EY em parceria com a The Shift. Com atuação em Assurance, Consulting, Strategy, Tax e Transactions, a EY existe para construir um mundo de negócios melhor, ajudando a criar valor no longo prazo para seus clientes, pessoas e sociedade e gerando confiança nos mercados de capitais. Tendo dados e tecnologia como viabilizadores, equipes diversas da EY em mais de 150 países contribuem para o crescimento, transformação e operação de seus clientes. Saiba mais sobre como geramos valor as empresas por meio da tecnologia.