La inteligencia artificial ha dejado de ser una tecnología del futuro para convertirse en una herramienta que ya está transformando la forma en que operan los gobiernos. Su incorporación en la gestión pública abre oportunidades para mejorar la toma de decisiones, pero también plantea nuevos retos en materia de regulación, ética y protección de los derechos fundamentales.
Las administraciones que incorporen la inteligencia artificial en sus instituciones y en la formulación y ejecución de políticas públicas, tendrán que entrenar y preparar a sus funcionarias y funcionarios públicos para la era algorítmica.
Es importante dejar en claro que, dentro de las responsabilidades de las y los funcionarios públicos en los nuevos marcos jurídicos y reglamentos, estará definir las funciones en caso de utilizar inteligencia artificial, bajo principios de ética, seguridad, protección de los derechos fundamentales y transparencia.
En ningún momento el funcionario será responsable de desarrollar herramientas de inteligencia artificial, pero sí tendrá que formular proyectos, preparar a sus equipos, dar seguimiento a los riesgos que se puedan presentar y rendir cuentas sobre el proceso y su ejecución.
Las administraciones y los gobiernos tendrán que fortalecer sus marcos jurídicos y crear los llamados “ecosistemas responsables de inteligencia artificial”, donde la responsabilidad de los gobiernos tenga como base la creación de marcos jurídicos éticos que permitan proteger y garantizar los derechos fundamentales.
En el caso de la academia, es prioritario impulsar investigaciones que midan el impacto de la inteligencia artificial mediante auditorías a los algoritmos. El sector privado deberá realizar evaluaciones que permitan medir esos impactos con transparencia. Desde la participación ciudadana, será necesario defender los derechos y participar en la evaluación de las políticas públicas relacionadas con el uso de la inteligencia artificial.
Si los gobiernos incorporan inteligencia artificial deberán fortalecer sus marcos normativos y éticos para proteger los datos personales y regular los algoritmos, siempre poniendo en el centro a las personas.
Los gobiernos también tendrán que destinar mayores recursos para crear infraestructura digital con plataformas que fortalezcan la gestión pública e introduzcan sistemas que protejan frente a futuros riesgos de ciberseguridad; generar confianza en los registros digitales, además de fortalecer la capacitación y el trabajo en equipo en áreas de estadística, innovación y liderazgo, con personas capaces de tomar mejores decisiones.
Sin capacidades digitales, ética, conocimientos en inteligencia artificial y trabajo en equipo será difícil avanzar. Un reciente estudio de la OCDE analizó 200 casos de gobiernos. Entre sus conclusiones destaca que la inteligencia artificial es una de las principales prioridades para los gobiernos; sin embargo, los esfuerzos para su implementación aún resultan insuficientes.
Entre las tendencias identificadas en el estudio destaca la distribución desigual de la inteligencia artificial entre las distintas funciones gubernamentales, con un uso especialmente enfocado en la atención al público y en las operaciones internas.
Las administraciones que utilizan inteligencia artificial pueden obtener grandes beneficios. La OCDE señala, a partir de los 200 casos analizados, que también existen riesgos operativos, de exclusión y de resistencia pública cuando estos sistemas no se diseñan de manera confiable. Entre los principales riesgos se encuentran la falta de transparencia, la escasa explicabilidad de los algoritmos y el uso indebido de la inteligencia artificial, ya sea de forma involuntaria o intencional, lo que puede generar afectaciones a la privacidad y la seguridad.
El reto para las administraciones públicas y el funcionariado se amplía a medida que la inteligencia artificial evoluciona, mientras aún no existen marcos jurídicos suficientemente sólidos que garanticen la debida protección de los derechos de las personas.
Las preguntas obligadas son: ¿se puede avanzar en políticas públicas eficaces mediante la inteligencia artificial, y al mismo tiempo retroceder en la protección de los derechos humanos? O, por el contrario, ¿serán los derechos humanos la columna vertebral de los nuevos marcos jurídicos sobre inteligencia artificial para garantizar la protección del ser humano?
Lee más columnas de Araceli Tirado en la sección especial de Línea Directa
