Para a executiva, a IA moderna ameaça a privacidade e empodera governos e corporações (Crédito: Reprodução/YouTube)
O paradigma de que “a IA maior é melhor” não vale para Meredith Whittaker, presidente da Signal Foundation, que olha para a IA Agêntica como um grande risco à privacidade e segurança das pessoas, em nome da conveniência. Em sua palestra na SXSW 2025, em que conversou com Guy Kawasaki, Chief Evangelist do Canva, Meredith alertou para o fato de que estamos compartilhando dados com empresas o tempo todo e isso é um grande risco.
Meredith Whittaker abriu sua palestra com uma reflexão contundente: “Todos têm algo a esconder, mesmo os bons”. Para ela, a privacidade é uma necessidade fundamental da sociedade, como certas práticas de nossas vidas diárias, como fechar a porta do banheiro ou compartilhar confidências apenas com amigos próximos. Segundo a executiva, o problema não é novo, mas a escala da vigilância digital atingiu um patamar inédito devido ao avanço tecnológico e ao monopólio de dados de grandes empresas como Google e Meta.
Meredith é uma das mais influentes vozes no mundo da segurança da informação. Sua plataforma de mensagens, a Signal, uma non-profit, é a única a garantir total criptografia de ponta a ponta nas comunicações.
Segundo ela, a essência da IA é invasiva. Ela precisa se alimentar de dados de todo tipo para aprender e trabalhar, o que gera riscos gigantescos de segurança e privacidade para pessoas e empresas, especialmente quando há concentração desses dados nas plataformas controladas por Big Techs. “Você pode não se importar com privacidade, até perceber que todas as suas mensagens e dados estão armazenados em servidores que podem ser acessados ou explorados por terceiros”, disse.
Meredith Whittaker alertou para o fato de que essas corporações possuem quantidades massivas de informações sensíveis sobre seus usuários e que isso pode ser utilizado de diversas formas, incluindo influência política e manipulação comercial.
A ameaça da Inteligência Artificial e a IA Agêntica
Um dos temas centrais da palestra de Meredith Whittaker foi o papel da Inteligência Artificial na amplificação da vigilância. Segundo ela, a IA moderna foi desenvolvida com base na coleta massiva de dados, com empresas competindo para armazenar e explorar o máximo possível de informações dos usuários. “O modelo de IA atual se baseia na premissa de que quanto mais dados tivermos, melhor”, criticou.
Ela explicou que os agentes de IA, sistemas projetados para automatizar tarefas em nome dos usuários, como agendar compromissos, comprar ingressos e enviar mensagens, estão se expandindo, mas que carregam riscos para nossa privacidade. “Isso parece conveniente, mas significa conceder permissões de acesso irrestritas a tudo: seu navegador, seu cartão de crédito, sua agenda, seus contatos e suas mensagens”, disse. Para ela, essa tecnologia está “ameaçando romper a barreira entre o sistema operacional e as camadas de aplicação”, criando uma nova era de vulnerabilidades de segurança e privacidade.
A mensagem principal de Whittaker no SXSW 2025 foi clara: a privacidade não é um luxo, mas um direito essencial que precisa ser protegido contra modelos de negócio baseados na vigilância e na coleta irrestrita de dados. Ela fez um apelo para que as pessoas tomem medidas ativas para proteger sua privacidade digital. “Se você quer viver em um mundo com direitos protegidos, onde suas conversas são realmente privadas, você precisa agir agora”.
O papel dos governos e a pressão sobre a privacidade
Quando questionada sobre pressões governamentais para incluir “backdoors” em aplicativos de mensagens, Meredith foi taxativa: “Digo não”. Ela explicou que qualquer vulnerabilidade criada para permitir acesso legal pode ser explorada por atores mal-intencionados. “Não existe backdoor que só os mocinhos podem usar”, ressaltou.
Ela citou casos reais em que a falta de segurança resultou em graves consequências, como a prisão de uma mulher em Nebraska após o Facebook fornecer mensagens privadas dela às autoridades, além de um enorme vazamento de dados de telecomunicações conhecido como Salt Typhoon hack, que expôs milhões de usuários.
Meredith Whittaker encerrou a sessão com um apelo para que as pessoas adotem o Signal e tomem medidas ativas para proteger sua privacidade digital. “Se você quer viver em um mundo com direitos protegidos, onde suas conversas são realmente privadas, você precisa agir agora”, disse.
A sustentabilidade do Signal depende do apoio da comunidade, segundo ela. “Somos uma organização sem fins lucrativos. Dependemos de doações para continuar operando. Se você valoriza a privacidade, contribua”.
