s
INTELIGÊNCIA ARTIFICIAL

Os principais desafios das auditorias de IA

Auditar os sistemas e até a governança da IA é uma grande ambição, mas existem alguns obstáculos enormes

Uma lei aprovada recentemente na cidade de Nova York passou a exigir auditorias em sistemas de contratação baseados em IA. E por um bom motivo. Esses sistemas falham com frequência e os vieses são quase sempre os maiores culpados. A exigência regulatório tem feito todos procurarem saber mais sobre auditoria de IA.

Quando funcionam bem, essas auditorias nos permitem verificar com segurança o desempenho de um sistema e descobrir como mitigar qualquer possível viés ou dano, já que cobrem também aspectos de segurança e danos à privacidade de dados. A esperança é que, ao fazer esse tipo de auditoria em diferentes sistemas de IA, sejamos mais capazes de erradicar problemas e ter uma conversa mais ampla sobre como os sistemas de IA estão afetando nossas vidas.

Empresas como a BLDS e a QuantUniversity vêm realizando auditorias de modelos de IA há algum tempo. Mais recentemente, outras empresas ingressaram nesse mercado, como a ORCAA, a Parity, a babl e o escritório de advocacia BNH.AI.

Este é um conteúdo exclusivo para assinantes.

Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.

É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.

Quem será o dono do dicionário da IA?

Inteligência Artificial

Quem será o dono do dicionário da IA?

Fornecedores avançam sobre a camada que define como agentes interpretam dados e regras de negócio. A disputa envolve interoperabilidade, dependência tecnológica e controle das decisões automatizadas.

Casa própria em terreno alugado: o Brasil e a IA

Inteligência Artificial

Casa própria em terreno alugado: o Brasil e a IA

No Beyond AI 2026, Carolina Bocuhy, do Banco BV, lembrou à plateia que GPT é também uma sigla da economia e propôs uma pergunta incômoda: o Brasil vai conseguir capturar valor com IA para além da energia e mineração?

Correias no teto, a IA, e o organograma que ainda não mudou

Inteligência Artificial

Correias no teto, a IA, e o organograma que ainda não mudou

No Beyond AI 2026, Pedro Waengertner, CEO da ACE Ventures, mostra como empresas de software usam a IA para reformular suas estruturas e provoca: para as demais, está na hora de desaprender o organograma antigo

Nvidia: lições de governança

Inteligência Artificial

Nvidia: lições de governança

A saída de Jensen Huang expôs fragilidades na sucessão e na supervisão do CEO, apesar dos mecanismos formais de governança da Nvidia.

Com a saída de Jensen Huang, como fica o

Inteligência Artificial

Com a saída de Jensen Huang, como fica o "Banco Central" da IA?

O afastamento do fundador e CEO da Nvidia pode retirar o amortecedor que impedia o mercado de testar a fragilidade da bolha.

Quem ensina a equipe a desconfiar da IA?

Inteligência Artificial

Quem ensina a equipe a desconfiar da IA?

Empresas valorizam a capacidade de conferir a IA, mas a veem pouco nos recém-formados. Entre os funcionários, o temor é perder o pensamento crítico.