s
INTELIGÊNCIA ARTIFICIAL

Os principais desafios das auditorias de IA

Auditar os sistemas e até a governança da IA é uma grande ambição, mas existem alguns obstáculos enormes

Uma lei aprovada recentemente na cidade de Nova York passou a exigir auditorias em sistemas de contratação baseados em IA. E por um bom motivo. Esses sistemas falham com frequência e os vieses são quase sempre os maiores culpados. A exigência regulatório tem feito todos procurarem saber mais sobre auditoria de IA.

Quando funcionam bem, essas auditorias nos permitem verificar com segurança o desempenho de um sistema e descobrir como mitigar qualquer possível viés ou dano, já que cobrem também aspectos de segurançadanos à privacidade de dados. A esperança é que, ao fazer esse tipo de auditoria em diferentes sistemas de IA, sejamos mais capazes de erradicar problemas e ter uma conversa mais ampla sobre como os sistemas de IA estão afetando nossas vidas.

Empresas como a BLDS e a QuantUniversity vêm realizando auditorias de modelos de IA há algum tempo. Mais recentemente, outras empresas ingressaram nesse mercado, como a ORCAA, a Parity, a babl e o escritório de advocacia BNH.AI.

Este é um conteúdo exclusivo para assinantes.

Cadastre-se grátis para ler agora
e acesse 5 conteúdos por mês.

É assinante ou já tem senha? Faça login. Já recebe a newsletter? Ative seu acesso.

A IA produtiva precisa ser confiável

Inteligência Artificial

A IA produtiva precisa ser confiável

Durante o evento SAS Innovate 2024, a fornecedora mostrou soluções para auxiliar clientes a aproveitar os benefícios da tecnologia com segurança.

AI Index 2024 impressiona

Inteligência Artificial

AI Index 2024 impressiona

Mostra um avanço significativo da IA, conduzido principalmente pela iniciativa privada. Mas a corrida tem seus efeitos colaterais. Faltam avaliações robustas e padronizadas para a IA Responsável. Além disso, a IA vence os humanos em al...

A desilusão da IA Generativa

Inteligência Artificial

A desilusão da IA Generativa

Muitos heavy users exigirão além do que a tecnologia pode entregar, e as próprias corporações, sem políticas de inovação nem dados estruturados, deixarão de aproveitar a promessa de eficiência

Por Yuri Gitahy *
Poderes e limitações dos robôs

Inteligência Artificial

Poderes e limitações dos robôs

Daniela Rus, roboticista e diretora do MIT CSAIL em parceria com Gregory Mone mostram como a robótica pode auxiliar a humanidade no futuro em um novo livro.

E a IA dominou a pista

Inteligência Artificial

E a IA dominou a pista

O relatório anual Enterprise Tech 30, que publica a lista das startups de tecnologia corporativa mais promissoras, na visão dos grandes VCs, mostra startups de IA ocupando espaços do SaaS.

Bolha de IA Generativa? Talvez não...

Inteligência Artificial

Bolha de IA Generativa? Talvez não...

"Momento desânimo" na comunidade de IA. A constatação de que os bilhões de dólares investidos não vão retornar tão rápido, faz nascer a ideia de uma bolha de IA Generativa. Mas...