RegulaçãoAlta importância

Anthropic avisa no prospecto que pode estar perto do limiar de “progresso dramaticamente acelerado pela IA” da sua política de segurança

Entre os riscos listados no S-1/A, a Anthropic escreveu que suas estimativas internas e suas expectativas sobre modelos futuros, e não sobre os atuais, indicam que a empresa “pode atingir em breve” a definição de “progresso dramaticamente acelerado atribuível à IA” da sua Responsible Scaling Policy (RSP). Ela diz que nenhum modelo atual foi classificado acima desse limiar, que continua avaliando os dados e que está estudando as implicações de atingir o limiar de capacidade de pesquisa e desenvolvimento de IA, com novos relatórios no futuro. O texto também admite que a capacidade de medir essa aceleração é limitada e que ela pode só ser notada depois de acontecer.