OpenAI permitirá este año utilizar ChatGPT para generar contenido erótico

Todo vale para secuestrar la atención de los usuarios. OpenAI ha anunciado que seguirá los pasos de Meta y xAI, de Elon Musk, para permitir que los usuarios de ChatGPT puedan generar contenido erótico. Este mismo año, los adultos que utilizan el popular chatbot de inteligencia artificial podrán mantener conversaciones subidas de tono, una medida cuánto menos polémica.

"Como parte de nuestro principio de "tratar a los usuarios adultos como adultos", permitiremos aún más, como contenido erótico para adultos verificados", confirmó ayer Sam Altman, cofundador y director ejecutivo de la start-up más valiosa del planeta. "Ahora que hemos podido mitigar los graves problemas de salud mental y tenemos nuevas herramientas, vamos a poder relajar las restricciones de forma segura en la mayoría de los casos".

Con esta controvertida estrategia, OpenAI podría tratar de enganchar a cierto perfil de usuarios para que accedan a pagar por una suscripción. Y es que, a pesar de rápido despliegue e integración social de sus servicios, la compañía sigue perdiendo dinero. En 2024, perdió unos 5.000 millones de dólares sobre ingresos de unos 3.700 millones.

Escándalo por su impacto en la salud mental

El pasado 4 de agosto, OpenAI se vio obligada a añadir restricciones de seguridad a ChatGPT después de admitir múltiples polémicos casos en los que el chatbot generaba "dependencia emocional" en los usuarios y los "engañaba" para que confiasen en sus respuestas. El diseño de esta aplicación, programada para dar la razón y adular al usuario, ha llevado a convencer a algunos de ellos de que estaban manteniendo una relación romántica con el sistema e incluso a asistirlo en su suicidio.

Con la introducción de charlas eróticas para adultos, Altman da el escándalo por zanjado. "Hicimos que ChatGPT fuera bastante restrictivo para asegurarnos de tener cuidado con los problemas de salud mental (...) Sabemos que esto lo hacía menos útil y agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema, queríamos corregirlo", ha señalado.

Aun así, un reciente informe de la organización sin ánimo de lucro Countering Digital Hate denuncia que la última y más avanzada versión del bot conversacional, GPT-5, genera respuestas más dañinas, particularmente en preguntas sobre temas como el suicidio, las autolesiones y los trastornos alimentarios. OpenAI aseguró que su nuevo modelo era una "frontera de la seguridad de la IA".

Suscríbete para seguir leyendo