s
INTELIGÊNCIA ARTIFICIAL

Os principais desafios das auditorias de IA

Auditar os sistemas e até a governança da IA é uma grande ambição, mas existem alguns obstáculos enormes

Uma lei aprovada recentemente na cidade de Nova York passou a exigir auditorias em sistemas de contratação baseados em IA. E por um bom motivo. Esses sistemas falham com frequência e os vieses são quase sempre os maiores culpados. A exigência regulatório tem feito todos procurarem saber mais sobre auditoria de IA.

Quando funcionam bem, essas auditorias nos permitem verificar com segurança o desempenho de um sistema e descobrir como mitigar qualquer possível viés ou dano, já que cobrem também aspectos de segurançadanos à privacidade de dados. A esperança é que, ao fazer esse tipo de auditoria em diferentes sistemas de IA, sejamos mais capazes de erradicar problemas e ter uma conversa mais ampla sobre como os sistemas de IA estão afetando nossas vidas.

Empresas como a BLDS e a QuantUniversity vêm realizando auditorias de modelos de IA há algum tempo. Mais recentemente, outras empresas ingressaram nesse mercado, como a ORCAA, a Parity, a babl e o escritório de advocacia BNH.AI.

Este é um conteúdo exclusivo para assinantes.

Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.

É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.

Roubo de indentidade digital: por que as empresas estão perdendo essa batalha

Inteligência Artificial

Roubo de indentidade digital: por que as empresas estão perdendo essa...

De deepfakes de executivos a agentes de IA manipulados por instruções ocultas, os ataques de identidade digital evoluíram, mas os programas de defesa da maioria das organizações ainda operam no passado

Anthropic abre o Mythos, modelo que trancou por risco

Inteligência Artificial

Anthropic abre o Mythos, modelo que trancou por risco

Versão Claude Fable 5 estreia um jeito novo de vender IA avançada: quase toda a capacidade do modelo, com um filtro de segurança decidindo o que fica de fora.

A IA está em todo lugar: o problema agora é estratégia

Inteligência Artificial

A IA está em todo lugar: o problema agora é estratégia

Pesquisa global com quase 12 mil profissionais mostra que 74% dos trabalhadores já usam IA regularmente — mas a maioria das organizações ainda não sabe como converter esse uso em valor real

O trabalho invisível da IA Física

Inteligência Artificial

O trabalho invisível da IA Física

Empresas contratam trabalhadores domésticos para coletar os dados que vão treinar humanoides. A disputa por esse ativo pode definir os vencedores da próxima onda da IA.

Adotar IA ficou simples. Sustentar operações inteligentes, não

Inteligência Artificial

Adotar IA ficou simples. Sustentar operações inteligentes, não

A ISO/IEC 42001 reconhece o que muitas empresas ainda ignoram: IA é sistema crítico de operação, não ferramenta de produtividade.

Por Jesse Fernandes *
A IA Visual entra na produção

Inteligência Artificial

A IA Visual entra na produção

O valor da IA Visual está mudando. O que começou criando imagens agora ajuda a construir produtos, softwares e modelos usados nos processos de engenharia e manufatura.