La compañía xAI de Elon Musk está demandando a un hombre de Carolina del Sur que supuestamente utilizó el software de chat Grok AI de la compañía para crear material de abuso sexual infantil (CSAM). en pleito mencioné antes antes ReutersxAI alega que Terry Wayne Harwood «usó Grok a sabiendas e intencionalmente para eludir las salvaguardias, alterar imágenes no consensuadas y crear y distribuir material de abuso sexual infantil», en violación de las políticas de la empresa.
harwood el fue arrestado En febrero fue acusado de posesión y distribución de armas químicas y enfrenta ocho cargos penales. La demanda alega que «algunas» de las imágenes relacionadas con los cargos penales de Harwood fueron «creadas o al menos alteradas» con Grok, y que Harwood excedió las salvaguardias de Grok y «hizo mal uso de la herramienta para convertir imágenes no sexuales en imágenes sexualmente explícitas» sin el consentimiento de los sujetos.
xAI afirma que las supuestas acciones de Harwood expusieron a la empresa a «importantes riesgos legales y daños a la reputación». Pidió al tribunal que ordenara a Harwood pagar a XAI por los daños y perjuicios, así como por los “gastos razonables incurridos al defenderse en cualquier acción legal iniciada por una víctima de la conducta del acusado”. xAI también quiere que un juez prohíba a Harwood crear una cuenta xAI o usar Grok.