La tecnológica OpenAI, matriz de ChatGPT, anunció este martes que lanzará controles parentales en su conocido chatbot después de que hayan aumentado las acusaciones de padres apuntando a que el famoso asistente de inteligencia artificial contribuyó a las autolesiones o al suicidio de sus hijos.
“Estos pasos son solo el comienzo. Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”, detalló la empresa en un comunicado sin vincular la nueva implementación con las demandas que ha recibido.
Entre otras, la de los padres de un adolescente de 16 años de edad que se quitó la vida tras meses de interactuar con ChatGPT y quienes se querellaron en California contra OpenAI y su dueño, Sam Altman, argumentando que el chatbot, bajo el modelo GPT-4o, no aplicó medidas de seguridad pese a quedar claras las intenciones suicidas del joven.
La empresa aceptó entonces que su asistente de IA comete fallos en casos “sensibles” y prometió cambios tras recibir la demanda.
Padres podrán ver las respuestas de ChatGPT a sus hijos
Las medidas anunciadas, que se aplicarán desde octubre pero sin fecha exacta aún, permitirán a los progenitores vincular su cuenta con las de sus hijos -pudiendo revisar cómo responde ChatGPT a sus peticiones- y que, entre otras funciones, reciban una notificación cuando el sistema detecte que los menores están pasando por algún problema de inestabilidad emocional aparentemente preocupante.
Además, OpenAI, ampliamente criticada porque el modelo GPT-5 era excesivamente halagador y poco crítico, dijo que dirigirá las conversaciones con signos de “estrés agudo” a un modelo del mencionado ChatGPT especializado en razonamientos provisto por directrices de seguridad más específicas y estrictas.
En julio, senadores estadounidenses escribieron una carta a la compañía exigiendo información sobre sus iniciativas para prevenir las autolesiones y el suicidio, después de constatarse registros de respuestas delirantes en situaciones límite.
El grupo de defensa Common Sense Media declaró en abril que los adolescentes no deberían poder usar aplicaciones conversacionales de IA porque representan “riesgos inaceptables”.
Y también ha aumentado la preocupación por el apego emocional que los usuarios generan con ChatGPT, lo que en algunos casos resulta en episodios de depedencia y aislamiento familiar.
EFE
