Culiacán, Sin.- La inteligencia artificial ha llegado al alcance de todas y todos y, aunque se ha consolidado como una herramienta de gran utilidad, también se ha convertido en un riesgo cuando se usa para transgredir la integridad de grupos vulnerables. De acuerdo con especialistas, el principal problema no es la tecnología en sí, sino la falta de regulación y de leyes claras sobre su uso y finalidad.
Este viernes 23 de enero de 2026, durante la tercera emisión de Línea Directa, en la mesa de análisis estuvo presente Heber Martínez, consultor y especialista en tecnología, quien abordó el tema “Fotos falsas de mujeres reales: ¿la inteligencia artificial fuera de control?”. En su participación, expuso detalles sobre aplicaciones que han rebasado los límites éticos, como el caso de Grok, asistente de inteligencia artificial vinculado a la red social X, propiedad de Elon Musk.
Dicha aplicación tiene la capacidad de generar imágenes sexualizadas de cualquier persona, lo que ha cobrado relevancia en las últimas semanas debido a su uso para crear contenido falso de mujeres, personas famosas y, de manera alarmante, de niñas, niños y adolescentes, a quienes se les manipula digitalmente para aparentar desnudez o situaciones de carácter sexual.
Te podría interesar: Empresas ya usan inteligencia artificial en Sinaloa; en México un 60% experimenta con IA generativa
Como parte del análisis, se expuso que el jueves 22 de enero el Centro para Contrarrestar el Odio Digital publicó un estudio sobre el impacto de estas imágenes generadas con inteligencia artificial a través de Grok. De acuerdo con el informe, tan solo del 29 de diciembre al 8 de enero se produjeron imágenes sexualizadas de mujeres de manera constante, pero también de menores de edad, con una frecuencia aproximada de una imagen cada 41 segundos.
El estudio estima que durante ese periodo se generaron alrededor de tres millones de imágenes con contenido sexual explícito, de las cuales al menos 23 mil representaban a menores de edad, lo que da cuenta de la magnitud y gravedad del problema.
Este fenómeno ha crecido al traspasar barreras de respeto y dignidad, afectando no solo a mujeres y menores de edad, sino también a hombres. Ante este panorama, surge la interrogante sobre la necesidad de una regulación legal que limite el uso de este tipo de programas tecnológicos.
“El problema se acrecentó porque también se podía hacer esto con niñas o con menores de edad. Entonces, pues este fue el inicio de un gran problema o la punta del iceberg porque es algo que ya estaba sucediendo. Y ahorita apenas la gente se está dando cuenta de las posibilidades de la inteligencia artificial” afirmó Martínez.
En ese contexto, Heber Martínez explicó que en algunos países incluso se ha llegado a prohibir el uso de la red social X, debido a que esta problemática se ha salido de control. Como respuesta, la empresa responsable de esta inteligencia artificial ha implementado ciertas restricciones; sin embargo, estas solo aplican para usuarios sin suscripción de pago, lo que mantiene vigente el riesgo, ya que quienes pueden pagar continúan teniendo acceso a estas funciones.
Heber Martínez, consultor y especialista en tecnología. Foto: Línea Directa
Se trata de una situación amplia que requiere una solución urgente. Sin embargo, el especialista destacó que en México existe un avance importante con la Ley Olimpia, la cual, aunque presenta vacíos legales y no cubre todos los riesgos asociados a la inteligencia artificial, representa un respaldo jurídico que no todos los países poseen, colocando al país un paso adelante en la materia.
Aun así, coincidió en que una aplicación capaz de vulnerar la integridad de cualquier persona necesita reglas claras, límites estrictos y, sobre todo, sanciones legales. Una conclusión que cada vez más usuarios de internet comparten y que podría llegar próximamente a los congresos y palacios legislativos de diversos países.
¿Qué es Grok?
Grok es un asistente de inteligencia artificial desarrollado por xAI e integrado a la red social X, capaz de generar respuestas y crear imágenes, cuyo uso ha generado controversia por permitir la elaboración de contenidos falsos y sexualizados de personas reales, lo que ha abierto el debate sobre la necesidad de regulación y límites legales.
