Identificar parceiros confiáveis na integração de IA requer um entendimento profundo das preocupações relacionadas à segurança cibernética, bem como uma abordagem proativa na avaliação desses parceiros

A integração de Inteligência Artificial (IA) nas operações da organização é uma tendência que atende não apenas a demanda por novas tecnologias, mas também aos princípios de segurança cibernética. O “X” da questão é “como” fazer essa integração. Para os Chief Information Security Officers (CISOs), encontrar parceiros confiáveis na implementação de soluções de IA é fundamental para garantir que a segurança digital da empresa não seja comprometida.

Identificar parceiros confiáveis na integração de IA requer um entendimento profundo das preocupações relacionadas à segurança cibernética, bem como uma abordagem proativa na avaliação desses parceiros. Nesse processo, os CISOs desempenham um papel central, garantindo que as medidas adequadas estejam em vigor para proteger os ativos digitais da empresa enquanto se aproveitam as oportunidades oferecidas pela Inteligência Artificial.

Para Demetrio Carrión, Cybersecurity Leader para a EY América Latina, a segurança cibernética deve permear toda a estrutura do negócio. “Quando uma empresa estabelece que a cibersegurança e todos os seus processos são feitos by design, ou seja, eles já estão presentes antes do projeto tomar forma, temos o melhor dos mundo”, diz. Ele destaca ainda que organizações com funções cibernéticas eficazes, que a EY define como “Secure Creators”, olham para todos os detalhes da operação e da segurança cibernética, o que inclui a cadeia de fornecedores. 

CADASTRE-SE GRÁTIS PARA ACESSAR 5 CONTEÚDOS MENSAIS

Já recebe a newsletter? Ative seu acesso

Ao cadastrar-se você declara que está de acordo
com nossos Termos de Uso e Privacidade.

Cadastrar

Márcia Bolesina, sócia da área de Cybersecurity da EY e líder de práticas de riscos de Cibersegurança e Resiliência, reforça que os “Secure Creators” são empresas que não presumem que o risco cibernético é problema dos provedores de serviço. “Eles olham para essas questões, para os ambientes de nuvem e para o ambiente de terceiros proativamente”, explica. Isso significa que os critérios de segurança cibernética têm que ser observados na hora de avaliar e iniciar uma parceria.

Questionário básico para avaliar parceiros

O CISO precisa fazer uma série de perguntas aos potenciais parceiros para entender como podem construir juntos um ambiente seguro. Da busca inicial por fornecedores até a tomada de decisão, ao considerar um parceiro para integração de IA, os CISOs devem fazer perguntas específicas para garantir a segurança e a confiabilidade:

1. Qual é a origem dos dados utilizados pelo seu produto?
É fundamental entender a fonte dos dados e como eles são coletados e processados.

2. Quais medidas de segurança estão em vigor para proteger esses dados?
Pergunte sobre criptografia, controle de acesso e outras práticas de segurança implementadas.

3. Como vocês garantem a precisão dos dados utilizados em seus modelos?
A precisão dos dados é essencial para o desempenho da IA. Entender como isso é verificado é o fundamento para uma integração de sucesso.

4. Nossos dados serão usados para treinar modelos de terceiros?
É importante saber se haverá compartilhamento de dados com outras entidades.

5. Como vocês medem o desempenho do seu sistema além da precisão?
Avaliar métricas adicionais pode fornecer uma visão mais abrangente da eficácia do parceiro.

6. Que níveis de supervisão humana são aplicados aos sistemas baseados em IA?
A supervisão humana é vital para garantir que decisões automatizadas sejam revisadas adequadamente.

7. Quais são os limites de alerta definidos para o sistema?
Definir limites ajuda a equilibrar a automação com a necessidade de vigilância humana.

Integração com IA: Ações e iniciativas necessárias

Para garantir que a empresa esteja segura do ponto de vista da cibersegurança ao avançar com parceiros de negócios, os CISOs devem adotar várias ações estratégicas:

Identificação e levantamento das tarefas automatizáveis

Realizar uma avaliação e análise detalhadas das tarefas que podem ser automatizadas dentro da equipe cibernética é essencial. Isso ajudará a identificar onde a automação pode ser mais eficaz e onde o insight humano ainda é necessário.

Avaliação de recursos de automação

Avaliar as capacidades dos produtos oferecidos por fornecedores terceirizados deve ser uma prioridade para o CISO e sua equipe. A implementação deve focar em funcionalidades robustas que atendam às necessidades específicas da empresa.

Treinamento e educação contínua

A educação sobre cibersegurança deve ser uma prioridade, especialmente em relação ao uso seguro da IA. O treinamento regular pode ajudar a mitigar riscos associados à adoção inadequada da tecnologia.

Monitoramento contínuo

Implementar um sistema de monitoramento contínuo das operações baseadas em IA ajudará a detectar e responder rapidamente a possíveis incidentes cibernéticos.

Colaboração Interdepartamental

A colaboração entre equipes cibernéticas e outras áreas da empresa é fundamental para garantir que as medidas de segurança sejam integradas em todos os aspectos da operação, especialmente na adoção de novas tecnologias como IA.

SOBRE ESTE CONTEÚDO: A série Ciberinteligência é um projeto conjunto da divisão de cibersegurança da EY em parceria com a The Shift. Com atuação em Assurance, Consulting, Strategy, Tax e Transactions, a EY existe para construir um mundo de negócios melhor, ajudando a criar valor no longo prazo para seus clientes, pessoas e sociedade e gerando confiança nos mercados de capitais. Tendo dados e tecnologia como viabilizadores, equipes diversas da EY em mais de 150 países contribuem para o crescimento, transformação e operação de seus clientes. Saiba mais sobre como geramos valor as empresas por meio da tecnologia.

• inteligência artificial
• cibersegurança
• ciberinteligência
• segurança cibernética