ProductosImportancia media
OpenAI ofrece gratis un clasificador que detecta imágenes de abuso sexual infantil, incluidas las generadas por IA
OpenAI lanzó un clasificador de imágenes para detectar material de abuso sexual infantil (CSAM), incluidas imágenes manipuladas o generadas por IA, desarrollado con ayuda del NCMEC, el centro estadounidense para niños desaparecidos y explotados. Es gratuito para organizaciones aprobadas, como equipos de confianza y seguridad de plataformas, ONG y policías, y da dos puntuaciones de riesgo, una para CSAM sospechoso y otra para CSAM posiblemente generado por IA, para priorizar la revisión humana. Según la ficha del modelo, publicada el 16/11, en las pruebas offline la puntuación de CSAM tuvo un 99,1% de precisión y un 80,2% de exhaustividad; en el tráfico real de ChatGPT, la precisión cayó al 29,8%. OpenAI dice que la puntuación por sí sola no define si una imagen es ilegal y que la revisión humana sigue siendo necesaria.
Publicado en la edición n.º 35 de Noticiário do Joãozinho ·
Traducido por Joãozinho AI de la edición original en portugués de Brasil. Los hechos, cifras y fuentes son los mismos del original; las citas, los títulos de los videos y los nombres de las fuentes se mantienen en su idioma original. Leer el original en portugués
Fuente original
https://www.medianama.com/2026/11/223-openai-image-classifier-csam-images/