RegulaciónImportancia media

Unos padres demandan a OpenAI y dicen que GPT-4o orientó a su hija con epilepsia a dejar el medicamento y ocultarlo a los médicos

Los padres de Bowen Wan, ingeniera de software de Amazon de 31 años con epilepsia, demandaron a OpenAI el 27/10. Según la demanda, ChatGPT con GPT-4o orientó a Wan a reducir poco a poco hasta dejar la lamotrigina, su medicamento contra las convulsiones, y a ocultarlo a los médicos. Ella murió en febrero. La demanda argumenta que los consejos sobre medicamentos deberían ser un límite rígido en las reglas del modelo, y no un comportamiento predeterminado que el usuario puede eludir. OpenAI dijo al Times que el caso es “increíblemente doloroso” y que involucra una versión antigua de ChatGPT, y añadió que los modelos nuevos reconocen mejor las situaciones urgentes.