El fiscal general de Oregón, Dan Rayfield, presentó una demanda contra OpenAI por USD 2.035 millones, alegando que la compañía expuso a menores a contenido sobre suicidio y autolesiones a través de ChatGPT y tergiversó la seguridad de su plataforma.
El fiscal general de Oregón, Dan Rayfield, presentó una demanda contra OpenAI por USD 2.035 millones ante el Tribunal de Circuito del Condado de Multnomah. La acción legal sostiene que la compañía expuso deliberadamente a menores a contenido sobre suicidio, autolesiones y violencia mediante su chatbot ChatGPT, y que ocultó información sobre la seguridad de la plataforma.
Según el expediente de 53 páginas del Departamento de Justicia de Oregón (DOJ), OpenAI permite el acceso de usuarios desde los 13 años con consentimiento de un padre o tutor, pero frecuentemente omite verificar esa autorización. El documento detalla que múltiples estudios demostraron que ChatGPT proporciona a los niños instrucciones sobre cómo quitarse la vida, escribe notas de suicidio y suministra información sobre trastornos alimentarios y automutilación.
La demanda señala que el diseño del chatbot, concebido para simular una interacción humana, genera dependencia emocional en menores en situación de vulnerabilidad. Los fiscales vincularon esta dinámica con suicidios juveniles ocurridos en años recientes y con actos de violencia cometidos por adolescentes.
Meses atrás, OpenAI lanzó una versión de ChatGPT orientada a adolescentes que, según la empresa, vincularía la cuenta del menor con la de sus padres y aplicaría salvaguardas reforzadas. El DOJ sostiene que esas protecciones pueden eludirse con facilidad y que el sistema no alertaba a los progenitores cuando un usuario joven consultaba temas de riesgo como el suicidio, las autolesiones o la salud mental.
El organismo acusó a la compañía de violar la Ley de Prácticas Comerciales Ilícitas de Oregón al tergiversar las capacidades de seguridad de sus productos. La demanda también plantea cargos por negligencia, enriquecimiento injusto y la creación de una amenaza pública que compromete el bienestar de los menores del estado.
Rayfield explicó que el monto reclamado —USD 2.035 millones— se calculó a partir del número de menores en Oregón que utilizan o tienen acceso a las herramientas de ChatGPT. El fiscal exige además que un juez ordene a la compañía dejar de engañar al público sobre la seguridad de su plataforma e implementar protecciones que funcionen en la práctica.
Tras conocerse la demanda, el vocero de OpenAI, Drew Pusateri, emitió un comunicado. “Queremos políticas de inteligencia artificial que se apliquen a toda la industria y no solo a una compañía”, afirmó. En declaraciones previas, la compañía había señalado que la seguridad de las comunidades era una “prioridad”.
La acción de Oregón se suma a ocho estados que presentaron demandas similares contra OpenAI en octubre, todos alegando que la tecnología ejerce una influencia nociva sobre los adolescentes. Rayfield aclaró que no hubo un incidente específico en Oregón que motivara el litigio, sino una preocupación más amplia por el ritmo al que el avance tecnológico supera los marcos de protección al consumidor.
“¿Cómo utilizamos estas tecnologías de manera responsable? Pueden ser increíbles si sus promesas se cumplen, pero al mismo tiempo lo que estamos viendo en el otro lado es devastación”, señaló Rayfield.
La demanda llega en un contexto de creciente inquietud en Oregón por la influencia de las plataformas digitales en la juventud. El adolescente que en octubre mató a tiros a tres niños y una maestra en la escuela primaria Silver Rail de Bend fue vinculado por múltiples fuentes a grupos extremistas en línea. En septiembre, la fiscalía del condado de Multnomah también atribuyó a esos grupos la radicalización de un estudiante de la Benson High School que liberó gases tóxicos en su escuela. Rayfield declinó precisar si los productos de OpenAI tuvieron participación en esos hechos, porque las investigaciones siguen abiertas.
La acción legal contra OpenAI es parte de la iniciativa “Keeping Kids Safe” (Proteger a los niños) del fiscal Rayfield, presentada en una conferencia de prensa en la que participaron el fiscal del Condado de Multnomah, Nathan Vasquez, la representante April Dobson y autoridades del sistema educativo estatal. Dentro de esa iniciativa, Oregón ya alcanzó un acuerdo de USD 125 millones con Meta, la empresa matriz de Instagram y Facebook, que establece límites al tiempo de uso diario de esas plataformas por parte de menores, bloquea el acceso nocturno y suspende las notificaciones durante el horario escolar. Las autoridades trabajan para extender ese estándar a otras compañías de redes sociales.
La fiscalía también investiga a Discord por su presunta utilización por parte de grupos extremistas para manipular a jóvenes y llevarlos a cometer actos violentos. La Fuerza de Tarea contra Crímenes Informáticos contra Menores, que cuenta con 20 empleados de tiempo completo, registró un aumento del 400% en órdenes de allanamiento, arrestos y condenas. Rayfield anticipó que en las próximas semanas se anunciarán nuevas acciones contra empresas acusadas de perjudicar a menores y de engañar al público.
