s
INTELIGÊNCIA ARTIFICIAL

Os principais desafios das auditorias de IA

Auditar os sistemas e até a governança da IA é uma grande ambição, mas existem alguns obstáculos enormes

Uma lei aprovada recentemente na cidade de Nova York passou a exigir auditorias em sistemas de contratação baseados em IA. E por um bom motivo. Esses sistemas falham com frequência e os vieses são quase sempre os maiores culpados. A exigência regulatório tem feito todos procurarem saber mais sobre auditoria de IA.

Quando funcionam bem, essas auditorias nos permitem verificar com segurança o desempenho de um sistema e descobrir como mitigar qualquer possível viés ou dano, já que cobrem também aspectos de segurança e danos à privacidade de dados. A esperança é que, ao fazer esse tipo de auditoria em diferentes sistemas de IA, sejamos mais capazes de erradicar problemas e ter uma conversa mais ampla sobre como os sistemas de IA estão afetando nossas vidas.

Empresas como a BLDS e a QuantUniversity vêm realizando auditorias de modelos de IA há algum tempo. Mais recentemente, outras empresas ingressaram nesse mercado, como a ORCAA, a Parity, a babl e o escritório de advocacia BNH.AI.

Este é um conteúdo exclusivo para assinantes.

Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.

É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.

A IA pode ser menos misteriosa do que parece

Inteligência Artificial

A IA pode ser menos misteriosa do que parece

Pesquisador da Goodfire desafia uma premissa da interpretabilidade ao afirmar que as redes neurais são mais legíveis do que se imaginava. A comunidade científica ainda quer provas.

Horizonte em Foco 2026: o caminho agêntico na América Latina

Inteligência Artificial

Horizonte em Foco 2026: o caminho agêntico na América Latina

Pela primeira vez, pesquisa do Google Cloud com a IDC compara a realidade de médias e grandes empresas da AL sobre estratégia de IA. Todas planejam utilizar agentes de IA nos próximos dois anos; só 8% já os levaram à operação.

Todos usam IA, quase ninguém sabe liderar com ela, aponta Global Leadership Forecast 2027

Inteligência Artificial

Todos usam IA, quase ninguém sabe liderar com ela, aponta Global Lead...

Mais de 80% dos líderes relatam ganhos de produtividade com IA. Mas só 14% se sentem muito preparados para usar tecnologias emergentes com sucesso, e apenas 22% trabalham em empresas com uma política clara sobre o uso de IA

Gary Bolles: personificar a IA é uma questão de responsabilidade

Inteligência Artificial

Gary Bolles: personificar a IA é uma questão de responsabilidade

Chair de Futuro do Trabalho da Singularity University defende que a responsabilidade pelo uso da IA continue sendo humana. Para gerar valor com a tecnologia, diz ele, as empresas precisam redesenhar toda a cadeia de entrega, começando pela...

A conta da IA não fecha para todos

Inteligência Artificial

A conta da IA não fecha para todos

Getty, Character.AI e Wipro mostram como dívida, custo de computação e ganho de produtividade pressionam modelos de negócio diferentes.

A conta da dívida técnica chegou disfarçada de projeto de IA

Inteligência Artificial

A conta da dívida técnica chegou disfarçada de projeto de IA

A Inteligência Artificial não transforma bagunça em eficiência, mas processa a bagunça mais rápido, cobra por token e deixa a dívida técnica mais difícil de ignorar.