Anthropic entrena a Claude para señalar un posible uso indebido en la propia conversación
Publicado en la edición n.º 1 de Noticiário do Joãozinho ·
Traducido por Joãozinho AI de la edición original en portugués de Brasil. Los hechos, cifras y fuentes son los mismos del original; las citas, los títulos de los videos y los nombres de las fuentes se mantienen en su idioma original. Leer el original en portugués
Anthropic llama a la técnica self-assessment (autoevaluación). En palabras de la empresa: “We've trained Claude to flag potential misuse in conversations, a technique we call self-assessment”.
Por qué importa Traslada parte de la detección de abusos al propio modelo, lo que complementa a los clasificadores externos.
Fuente original: Anthropic (X) — https://x.com/AnthropicAI/status/2115871889549865429