En una de las columnas pasadas se habló de los modelos de lenguaje de inteligencia artificial (IA). En esta ocasión se pretende visibilizar los riesgos que implica este campo de la informática en materia de derechos humanos a nivel internacional.
Uno de los brazos fundamentales es la falta de entendimiento en cuanto a ¿cómo funcionan estos modelos de lenguaje?, hasta para quienes están trabajando en el desarrollo de estos.
El otro es la gran tarea pendiente para los gobiernos, la academia y para quiénes formulan políticas públicas, buscando el desarrollo de metodologías con estándares muy rigurosos para evaluar la calidad y el respeto a los derechos humanos, incluyendo el contexto donde se va utilizar la aplicación.
¿En qué consiste la complejidad de los modelos de lenguaje de Inteligencia Artificial?
Cuando se habla de la complejidad de los modelos de lenguaje de IA, se refiere al costo que se requiere para medir a quienes compromete, saber cuáles de esos datos están involucrados, lo que no es fácil medir antes de ponerlos en marcha, pero es necesario el diagnóstico para evitar riesgos.
Incluso se sabe que algunos de los desarrolladores conocen los riesgos y se aprovechan de los usuarios que no conocen o no tienen visibilidad completa.
¿Qué pasa con los derechos humanos?
Los Derechos Humanos y los modelos de lenguaje de IA, contienen graves riesgos en cuanto a la privacidad, el tema de equidad, la seguridad, la protección. La Inteligencia Artificial responde a indicaciones que le dan y los datos que los usuarios proporcionan, y en ocasiones se incluye datos personales que pueden generar reclamos, reglas de propiedad, idioma, incluso los modelos de lenguaje de IA pueden llegar a discriminar u obtener información confidencial que atenta contra los derechos fundamentales.
¿Existe la manipulación en la red?
La manipulación de opiniones puede llegar a crecer, incluso los errores por la desinformación que existe, el impacto que tiene en valores democráticos y como hemos expresado antes, la facilidad de difundir noticias falsas, incluso el lenguaje manipulado que puede verse reflejado en la democracia de cada país y por ende en la confianza que se tiene en las instituciones.
¿Qué se puede hacer ante este panorama?
Los avances tecnológicos llegaron para quedarse, han transformado y dan comodidad a las personas que las utilizan, sin lugar a dudas. Un aspecto fundamental es el diálogo y la investigación de todas las personas interesadas para poder mitigar riesgos de estos modelos complejos lingüísticos. Asimismo, continuar investigando para comprender los modelos y proponer soluciones para el futuro.
Desde los gobiernos es necesario formar servidores públicos capacitados para afrontar estos modelos de lenguaje. La academia y el sector público crean las nuevas habilidades para aportar a las instituciones lo mejor de la era digital, en entornos nuevos, desafiantes y muy cambiantes.
La educación también necesita transformar sus habilidades con nuevos modelos educativos de la mano de estos modelos de lenguaje de IA. Nadie puede quedar fuera de estos avances y por lo menos estar informados para tomar las mejores decisiones, poniendo en el centro los derechos humanos, la seguridad y la protección de las personas y sus entornos, aunque sean entornos digitales.
La Cooperación Internacional es clave para construir lenguajes de inteligencia artificiales confiables sin limitar su desarrollo y adopción, pero sí advirtiendo y sancionando por el uso indebido de estos modelos.
Fuente:
