OpenAI anunció el martes planes para aliviar las restricciones de su chatbot ChatGPT, para entregar contenido erótico a usuarios adultos verificados.
El plan hace parte de lo que la compañía llama el principio de «tratar a los usuarios adultos como adultos».
El director general de OpenAI, Sam Altman, dijo en su cuenta de X que restricciones más fuertes sobre la IA para abordar preocupaciones de salud mental han hecho que ChatGPT sea «menos útil o disfrutable para muchos usuarios que no tienen problemas de salud mental».
Los controles más estrictos llegaron después de que el adolescente Adam Raine, de California, se suicidara a principios de este año. En una demanda, sus padres aseguraron que ChatGPT le dio consejos específicos sobre cómo quitarse la vida.
La Comisión Federal de Comercio (FTC)de Estados Unidos también lanzó una investigación contra varias compañías de tecnología, incluyendo OpenAI, sobre cómo los chatbots afectan potencialmente de manera negativa a niños y adolescentes.
«Dada la seriedad de este asunto queremos hacer esto bien», dijo Altman el martes. Aseguró que las nuevas herramientas de seguridad de OpenAI permitirán a la empresa aliviar las restricciones mientras siguen abordando riesgos graves de salud mental.
Los planes de OpenAI incluyen el lanzamiento de una versión actualizada de ChatGPT que permitirá a los usuarios adaptar la personalidad de su asistente de IA, incluyendo opciones para respuestas más humanas, uso intensivo de emojis o comportamiento amistoso.
El cambio más significativo llegará en diciembre cuando OpenAI planea implementar un control de edad más exhaustivo para llevar contenido erótico a adultos verificados.
OpenAI no proporcionó detalles inmediatamente sobre los métodos de verificación de edad o controles adicionales de seguridad a la hora entregar contenido solo para adultos.
En septiembre, lanzó una experiencia de ChatGPT para menores de 18 años redirigiéndolos a contenido apropiado para su edad que bloquea material gráfico y sexual.
También dijo que estaba desarrollando una tecnología de predicción basada en la edad que estima si un usuario es mayor o menor de 18 años y en cómo interactúa con ChatGPT.
