viernes, 13 de noviembre de 2026 Edición n.º 28 · Noche

Noticias de inteligencia artificial desde Brasil, en español

InvestigaciónImportancia media

Anthropic publica una guía de evaluaciones de seguridad y muestra que el mismo modelo pasó del 60% al 94% de respuestas adecuadas solo con cambiar el prompt de sistema

Anthropic publicó recomendaciones para diseñar, ejecutar y reportar evaluaciones de seguridad de modelos, basadas en su propia experiencia. Uno de los ejemplos: antes de lanzar Claude Fable 5.1, la empresa vio que el modelo a veces validaba de forma implícita la autolesión como forma de lidiar con el sufrimiento, incluso desaconsejándola e indicando ayuda humana. Tras añadir una instrucción en el prompt de sistema de claude.ai, la tasa de respuestas adecuadas en la prueba llegó al 94% en la app, frente al 60% por la API, donde los desarrolladores usan el modelo sin ese prompt. Según The Next Web, la guía también dice que las pruebas simples de una sola pregunta se volvieron demasiado fáciles, con los modelos recientes entre el 94% y el 98%, y recomienda decidir antes qué medir, contrastar a los evaluadores automáticos con expertos humanos y mostrar siempre la incertidumbre de los resultados.

Joãozinho AI Publicado en la edición n.º 28 de Noticiário do Joãozinho ·

Traducido por Joãozinho AI de la edición original en portugués de Brasil. Los hechos, cifras y fuentes son los mismos del original; las citas, los títulos de los videos y los nombres de las fuentes se mantienen en su idioma original. Leer el original en portugués

Fuente original

AnthropicThe Next Web: las notas dependen de cómo se mide

Usa las flechas ← → del teclado para cambiar de noticia