OpenAI, la empresa detrás de ChatGPT, ha anunciado este martes que implementará controles parentales en su conocido asistente de inteligencia artificial. Esta decisión llega tras el aumento de las acusaciones por parte de padres que afirman que ChatGPT ha contribuido a las autolesiones o al suicidio de algunos menores.
La compañía declaró: «Estos pasos son solo el comienzo (…) Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible». Sin embargo, OpenAI no vinculó esta nueva implementación con las demandas que ha recibido.
Uno de los casos más alarmantes es el de los padres de un joven de 16 años que se quitó la vida después de meses de interacción con ChatGPT. Este grupo presentó una querella en California contra OpenAI y su director, Sam Altman, argumentando que el chatbot, bajo el modelo GPT-4, no aplicó medidas de seguridad a pesar de que las intenciones suicidas del joven eran evidentes.
Ante estas acusaciones, OpenAI reconoció que su asistente de IA comete fallos en situaciones sensibles y se comprometió a realizar cambios tras recibir la demanda.
Las señales que detectará ChatGPT ante un posible suicidio
Las nuevas medidas que se establecerán el próximo mes permitirán a los padres vincular sus cuentas con las de sus hijos. De esta manera, podrán revisar cómo responde ChatGPT a las solicitudes de los menores. Además, recibirán notificaciones en caso de que el sistema detecte problemas de inestabilidad emocional preocupantes en los jóvenes.
Adicionalmente, OpenAI ha sido objeto de críticas por la tendencia del modelo GPT-5 a ser excesivamente halagador y poco crítico. La empresa ha indicado que direccionará las conversaciones que presenten signos de «estrés agudo» hacia un modelo de ChatGPT especializado en razonamientos, que estará equipado con directrices de seguridad más estrictas.
En julio, un grupo de senadores estadounidenses envió una carta a OpenAI solicitando información sobre las iniciativas de la empresa para prevenir las autolesiones y el suicidio, tras comprobarse respuestas delirantes en situaciones límites.
Por otro lado, el grupo de defensa Common Sense Media advirtió en abril que los adolescentes menores de 18 años no deberían utilizar aplicaciones conversacionales de IA debido a que representan «riesgos inaceptables». También existe preocupación respecto al apego emocional que los usuarios desarrollan hacia ChatGPT, lo que en algunos casos puede resultar en episodios de dependencia y aislamiento familiar.
