PesquisaAlta importânciaContexto
Atualização: Anthropic diz no prospecto do IPO que já cruzou o limiar de pesquisa acelerada por IA da sua política de segurança
Uma semana depois de avisar investidores que a IA acelerando a própria pesquisa poderia “em breve” disparar um dos alarmes da sua política de segurança, a Anthropic escreveu no prospecto revisado, o mesmo que trouxe a faixa de preço do IPO, que isso já aconteceu: “determinamos que atingimos esse limiar”. O limite, previsto na Responsible Scaling Policy (a política que exige proteções mais duras conforme a IA fica mais capaz), é atingido quando a IA faz pesquisa suficiente para mais ou menos dobrar o ritmo de melhora dos modelos, o que, pela política, comprimiria dois anos de progresso no ritmo de 2018 a 2024 em um só. A empresa diz que baseou a decisão no que espera dos próximos modelos e no ritmo geral de progresso, não no que observou nos atuais. Cruzar a linha significa mais salvaguardas, não parar o trabalho; a Anthropic diz que não espera usar o Claude para projetar sozinho as próximas gerações de modelos sem supervisão humana e estuda mudanças na política “para manter os humanos no controle”. Na edição nº 6 (02/11), o Noticiário contou que o prospecto dizia que a Anthropic podia estar perto desse limiar.
Publicado na edição nº 25 do Noticiário do Joãozinho ·
Fonte original
https://finance.yahoo.com/markets/article/anthropic-says-a-key-ai-safety-alarm-has-been-triggered-days-before-its-ipo-171519615.html