RegulaciónImportancia alta

Anthropic advierte en su folleto que podría estar cerca del umbral de “progreso drásticamente acelerado por la IA” de su política de seguridad

Entre los riesgos enumerados en el S-1/A, Anthropic escribió que sus estimaciones internas y sus expectativas sobre modelos futuros, y no sobre los actuales, indican que la empresa “podría alcanzar en breve” la definición de “progreso drásticamente acelerado atribuible a la IA” de su Responsible Scaling Policy (RSP). Dice que ningún modelo actual ha sido clasificado por encima de ese umbral, que sigue evaluando los datos y que está estudiando las implicaciones de alcanzar el umbral de capacidad de investigación y desarrollo de IA, con nuevos informes en el futuro. El texto también admite que su capacidad para medir esa aceleración es limitada y que podría notarse solo después de que ocurra.