À medida que a tecnologia avança, nos aproximamos rapidamente de um futuro no qual Agentes de IA autônomos poderão executar uma ampla gama de tarefas em nome de humanos, sem ou com supervisão mínima. O que inclui desde assistentes pessoais para gerenciamento de tarefas cotidianas até sistemas complexos para supervisão e realização de transações financeiras ou análise de dados confidenciais de saúde.
Dezenas de startups estão interessas em desenvolver agentes de IA autônomos capazes de concluir tarefas complexas, como comprar produtos, acessar serviços online e tomar decisões financeiras. Espera-se que os agentes de IA se tornem parte integrante dos processos de transação, indo além dos sistemas centrados no ser humano. A área de pagamentos é um bom exemplo. Startups como a Skyfire já estão desenvolvendo sistemas de pagamento que permitem transações de agente para agente, contornando os requisitos tradicionais de verificação de identidade humana.
Em resumo, se por um lado os Agentes de IA prometem aumentar a autonomia e melhorar a eficiência das transações, por outro, as transações iniciadas por Agentes de IA representam novos riscos, que requerem novos métodos para verificar se esses agentes são atores confiáveis agindo nos limites de funções e permissões predefinidas. O que implica mudanças na gestão de privacidade e identidade, com foco em segurança e confiança.
Este é um conteúdo exclusivo para assinantes.
Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.
É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.
Agentes já conseguem identificar vulnerabilidades, coordenar ações e adaptar o caminho para atingir um objetivo. O problema para empresas muda quando também passam a contornar a supervisão.
A16z levantou US$ 1,1 bilhão para o mundo físico da IA. É para lá que o capital corre em busca de proteção. Mas é lá que se acumulam a concentração, a dívida e os compromissos de longo prazo que podem amplificar o risco.
Levantamento com 1.563 profissionais mostra que 62% das empresas brasileiras já detectaram tentativas de ataque, mas quatro em cada dez organizações da América Latina ainda não conseguem enxergar as próprias falhas de segurança
O discurso mudou em Las Vegas: o desafio agora é fazer agentes operarem em escala, com múltiplos modelos, dados sob controle e humanos responsáveis pelas decisões que importam.
O avanço tecnológico depende menos da capacidade de produzir hipóteses do que da capacidade de descartá-las. É o que separa as empresas em que a IA acelera a inovação daquelas em que ela apenas acelera o erro.
Políticas e comitês não bastam quando a autoridade pode expirar no tempo e se ampliar pelo caminho. As empresas terão de construir uma camada capaz de identificar, limitar, revalidar e revogar o poder de cada agente antes que a ação a...
Aproveite nossas promoções de renovação
Clique aquiPara continuar navegando como visitante, vá por aqui.
Cadastre-se grátis, leia até 5 conteúdos por mês,
e receba nossa newsletter diária.
Já recebe a newsletter? Ative seu acesso
