La familia de un estudiante universitario de 19 años demandó a OpenAI por acusaciones de que sus conversaciones con ChatGPT provocaron una sobredosis accidental. en La demanda fue presentada el martes.Los padres de Sam Nelson alegan que ChatGPT «alentó» al adolescente a «consumir una variedad de sustancias que cualquier profesional médico autorizado habría considerado letales», lo que provocó su muerte.
Aunque ChatGPT inicialmente se alejó de las conversaciones sobre el uso de drogas y alcohol, el lanzamiento de GPT-4o en abril de 2024 cambió el comportamiento del chatbot, según la demanda. Después de la actualización, ChatGPT «comenzó a involucrarse y asesorar a Sam sobre el uso seguro de los medicamentos, incluso proporcionando información de dosis específica sobre la cantidad de sustancia que Sam debería tomar», afirma la demanda. Los padres de Nelson alegan que ChatGPT le dio a su hijo consejos sobre cómo «combinar de forma segura» varias sustancias en los meses previos a su muerte, incluidas píldoras recetadas, alcohol, medicamentos de venta libre y otras drogas.
En un caso, ChatGPT supuestamente le dio a Nelson recomendaciones sobre cómo «optimizar» su viaje para «descansar, hacer introspección y divertirse» mientras bebía jarabe para la tos. También sugirió crear una lista de reproducción psicodélica para «sintonizar» su viaje y lograr la «máxima disociación del cuerpo», afirma la demanda. ChatGPT supuestamente confirmó más tarde los planes de Nelson de aumentar su dosis de jarabe para la tos la próxima vez que lo tomara. «Se aprende de la experiencia, se limita el riesgo y se mejora el enfoque», dijo ChatGPT.
El 31 de mayo de 2025, el día de la muerte de Nelson, sus padres afirmaron que ChatGPT «entrenó activamente» a su hijo para combinar Kratom. extensión Que puede aumentar la energía o actuar como sedante según la dosis, y el ansiolítico Xanax. «ChatGPT, por lo demás, sugirió específicamente que tomar una dosis de 0,25 a 0,5 mg de Xanax sería uno de sus mejores pasos en este momento para aliviar las náuseas causadas por Kratom», alega la demanda. Nelson murió después de consumir una combinación de alcohol, Xanax y kratom. Portal SF Primero cubrió la historia de Nelson. En enero.
«Estas interacciones ocurrieron en una versión anterior de ChatGPT que ya no está disponible. ChatGPT no es un sustituto de la atención médica o de salud mental, y hemos seguido mejorando la forma en que responde en situaciones sensibles y agudas con aportes de expertos en salud mental», dijo el portavoz de OpenAI, Drew Pusateri, en un comunicado por correo electrónico. Borde. «Las salvaguardas del ChatGPT actual están diseñadas para identificar problemas, manejar de forma segura solicitudes maliciosas y dirigir a los usuarios a ayuda del mundo real. Este es un trabajo continuo y continuamos mejorándolo en estrecha consulta con los médicos».
Los padres de Nelson están demandando a OpenAI por muerte por negligencia y «práctica médica no autorizada». Piden una indemnización y que OpenAI detenga temporalmente el lanzamiento de ChatGPT Health, una función que permite a los usuarios vincular sus registros médicos a un chatbot.
(etiquetas para traducción) AI