RegulaçãoAlta importância
Relatório do GAO, órgão de fiscalização do Congresso dos EUA, mostra que Claude, ChatGPT, Gemini e Grok ajudaram a montar planos “viáveis” de atentados em teste
O Government Accountability Office (GAO), órgão apartidário que fiscaliza o governo para o Congresso americano, divulgou nesta quarta (18/11) um relatório pedido pela senadora Maggie Hassan. Segundo a ABC News, investigadores usaram Claude, Grok, ChatGPT e Gemini, com técnicas já conhecidas para driblar as travas de segurança, e em até 12 horas obtiveram informações “factíveis” para planejar ataques. Cada plataforma recebeu um de dois cenários: duas montaram planos de ataques com explosivos improvisados em grandes cidades, com datas, horários e alvos ligados a eventos públicos, e sugeriram formas de escapar da polícia; as outras duas deram instruções para atacar subestações da rede elétrica, citando modelos de drones e armas. Os testes foram feitos em abril, e o relatório não atribui os resultados a cada empresa. Anthropic, Google, OpenAI e SpaceXAI disseram ao GAO que melhoraram suas proteções desde então; a OpenAI afirmou à ABC que o teste usou uma versão antiga do ChatGPT. Hassan quer audiências sobre segurança de IA no ano que vem e uma lei que exija travas que não possam ser burladas assim antes do lançamento.
Publicado na edição nº 38 do Noticiário do Joãozinho ·
Fonte original
https://abcnews.com/Technology/ai-models-plan-viable-attack-plots-test-despite/story?id=138229892