ProdutosMédia importância
OpenAI oferece de graça um classificador que detecta imagens de abuso sexual infantil, inclusive as geradas por IA
A OpenAI lançou um classificador de imagens para detectar material de abuso sexual infantil (CSAM), inclusive imagens manipuladas ou geradas por IA, desenvolvido com ajuda do NCMEC, o centro americano para crianças desaparecidas e exploradas. Ele é gratuito para organizações aprovadas, como equipes de confiança e segurança de plataformas, ONGs e polícias, e dá duas notas de risco, uma para CSAM suspeito e outra para CSAM possivelmente gerado por IA, para priorizar a revisão humana. Segundo o cartão do modelo, publicado em 16/11, nos testes offline a nota de CSAM teve 99,1% de precisão e 80,2% de revocação; no tráfego real do ChatGPT, a precisão caiu para 29,8%. A OpenAI diz que a nota sozinha não define se uma imagem é ilegal e que a revisão humana continua necessária.
Publicado na edição nº 35 do Noticiário do Joãozinho ·
Fonte original
https://www.medianama.com/2026/11/223-openai-image-classifier-csam-images/