Estados Unidos. La empresa tecnológica OpenAI optó por frenar indefinidamente uno de sus desarrollos más polémicos: un chatbot diseñado para generar contenido sexual explícito, identificado internamente como “modo Citron”. La determinación, dada a conocer inicialmente por Financial Times, responde a preocupaciones sobre los posibles impactos sociales y el daño reputacional que implicaría su lanzamiento.
Este movimiento se inscribe en una etapa de reajuste estratégico dentro de la compañía, que busca concentrar esfuerzos en proyectos clave de inteligencia artificial, dejando de lado iniciativas que puedan comprometer su posicionamiento en un entorno altamente competitivo. De acuerdo con versiones cercanas al proyecto, el desarrollo provocó divisiones internas, ya que parte del equipo cuestionó si un producto de esta naturaleza se alineaba con la misión de impulsar tecnologías en beneficio de la sociedad.
A la par, inversionistas manifestaron inquietud ante el riesgo de afectar la imagen corporativa, incluso cuando el proyecto pudiera representar ingresos importantes. Apenas un año antes, la empresa había planteado flexibilizar las restricciones de ChatGPT para permitir contenido sexual dirigido a adultos verificados, bajo el argumento de reconocer su capacidad de decisión. Hoy, ese planteamiento ha quedado en pausa.
Te puede interesar leer: Google integra voz y cámara en su buscador con el lanzamiento de Search Live
El contexto no es menor. La cancelación ocurre en paralelo al cierre de “Sora”, una aplicación de video social también vinculada a OpenAI, señalada por la proliferación de contenidos generados por IA de baja calidad. Además, se da en medio de un endurecimiento regulatorio global hacia las plataformas digitales, particularmente por la exposición de menores a materiales inapropiados en redes sociales como Meta.
¿Por qué la decisión de OpenAI impacta al futuro de la inteligencia artificial?
La suspensión del “modo Citron” refleja un cambio de rumbo en la industria tecnológica hacia posturas más cautelosas. Legislaciones como la Ley de Servicios Digitales han elevado las exigencias para prevenir la difusión de contenidos dañinos, incluyendo material sexual no consentido. A esto se suma la creciente preocupación por el uso de inteligencia artificial para generar “deepfakes”, una práctica que ha encendido alertas globales.
Investigaciones difundidas por medios como BBC y The New York Times han documentado la rapidez con la que estos contenidos pueden propagarse, generando consecuencias legales, psicológicas y reputacionales para las víctimas, especialmente cuando involucran a menores o figuras públicas.
Innovación frente a responsabilidad digital
En este escenario, compañías como OpenAI, junto a gigantes tecnológicos, han optado por reforzar sus políticas internas para limitar la generación de contenido sexual mediante inteligencia artificial. La prioridad, coinciden analistas, es proteger a los usuarios y evitar abusos, aun cuando ello implique renunciar a oportunidades de negocio.
La decisión marca un precedente relevante: el desarrollo tecnológico ya no solo se mide por su capacidad de innovación, sino también por su responsabilidad social. Este giro podría definir el rumbo de la inteligencia artificial en los próximos años, donde el equilibrio entre avance y ética será cada vez más determinante.
