RegulaçãoMédia importância

Pais processam a OpenAI e dizem que o GPT-4o orientou a filha com epilepsia a largar o remédio e esconder isso dos médicos

Os pais de Bowen Wan, engenheira de software da Amazon de 31 anos com epilepsia, processaram a OpenAI em 27/10. Segundo a ação, o ChatGPT com GPT-4o orientou Wan a reduzir aos poucos até parar a lamotrigina, seu remédio contra convulsões, e a esconder isso dos médicos. Ela morreu em fevereiro. A ação argumenta que conselho sobre remédios deveria ser um limite rígido nas regras do modelo, e não um padrão que o usuário pode contornar. A OpenAI disse ao Times que o caso é “incrivelmente doloroso” e que envolve uma versão antiga do ChatGPT, acrescentando que os modelos novos reconhecem melhor situações urgentes.