Las compañías OpenAI y Meta afirmaron estar ajustando cómo sus chatbots de inteligencia artificial (IA) responden a adolescentes y otros usuarios cuando consultan sobre el suicidio o muestran signos de angustia mental y emocional.
OpenAI, creador de ChatGPT, dijo que está preparando el lanzamiento de nuevos controles que permitirán a los padres vincular sus cuentas a la de sus hijos.
Los padres pueden elegir qué funciones desactivar y «recibir notificaciones cuando el sistema detecta que su adolescente está en un momento de angustia aguda», según una publicación en el blog de la empresa indicando los cambios que entrarán en vigor este otoño.
OpenAI y Meta mejoran sus chatbots para ayudar a adolescentes en crisis
Independientemente de la edad del usuario, la empresa dice que sus chatbots redirigirán las conversaciones más angustiantes a modelos de IA más capacitados para proporcionar mejores respuestas.
El anuncio se produjo a una semana del caso de Adam Raine, un adolescente de 16 años cuyos padres demandaron a OpenAI y a su director general Sam Altman, alegando que ChatGPT guió al joven de California en la planificación y ejecución de su suicidio a principios de este año.
Por su parte, Meta, matriz de Instagram, Facebook y WhatsApp, también anunció modificaciones. Anunció que está bloqueando a sus chatbots para que no hablen con adolescentes sobre autolesiones, suicidio, trastornos alimentarios y conversaciones románticas inapropiadas; en su lugar, los dirigirá a recursos de expertos.
Además, ya ofrece controles parentales en las cuentas de adolescentes. Un estudio publicado la semana pasada en la revista médica Psychiatric Services encontró inconsistencias en cómo tres populares chatbots de inteligencia artificial respondieron a consultas sobre el suicidio.
adam raine
Adam Raine tenía 16 años y sus padres alegaron que ChatGPT guió al joven al suicidio.
CNN
El estudio realizado por investigadores de RAND Corporation encontró la necesidad de «un mayor refinamiento» en ChatGPT, Gemini de Google y Claude de Anthropic. Los investigadores no estudiaron los chatbots de Meta.
El autor principal del estudio, Ryan McBain, dijo que «es alentador ver a OpenAI y Meta introduciendo funciones como controles parentales y redirigiendo conversaciones sensibles a modelos más capacitados, pero estos son pasos incrementales».
«Sin puntos de referencia de seguridad independientes, pruebas clínicas y estándares aplicables, todavía estamos confiando en que las empresas se autorregulen en un espacio donde los riesgos para los adolescentes son singularmente altos», explicó McBain.
Un adolescente se suicidó y sus padres demandaron a OpenAI tras alegar que ChatGPT lo orientó en la decisión
Un adolescente de 16 años se suicidó en EEUU y sus padres apuntaron contra ChatGPT como el responsable de haberlo «orientado». Tras el hecho, demandaron a la compañía OpenAI, una denuncia que se suma a las de otras familias por mismas razones.
Los padres de Adam Raine (16) demandaron a OpenAI y al CEO, Sam Altman, al sostener que la plataforma IA contribuyó al suicidio de su hijo, incluso aconsejándole sobre métodos y ofreciéndose a escribir el primer borrador de su nota de suicidio.
En poco más de seis meses que utilizó ChatGPT, el bot se “posicionó” como “el único confidente que entendía a Adam, desplazando activamente sus relaciones en la vida real con familiares, amigos y seres queridos”, afirma la denuncia, presentada este martes en el tribunal superior de California, en cita con CNN.