Según el Informe 2023 de la Organización para la Cooperación y Desarrollo Económico (OCDE) titulado “IA Language models technological, socio-economic and policy considerations”, los modelos de lenguaje de Inteligencia Artificial son aquellos que tienen cierto número de parámetros con precisión.
La OCDE estableció un marco para la clasificación de Sistemas de Inteligencia artificial y lo define como “un modelo computacional, con representación que suma procesos, objetos, ideas, personas e interacciones”.
Estos modelos pueden variar en tamaño y en los idiomas que se manejan. Si se habla de parámetros, puede ser el valor, que el modelo cambia de forma independiente, una vez que ha tenido entrenamiento, en este caso para una tarea en particular.
Algunos ejemplos de modelos de lenguaje es el traductor de google que utiliza el aprendizaje automático y también modelos de redes neuronales profundas, entrenados con una gran cantidad de datos de diversas fuentes, como la ONU.
En el 2017 se les da la arquitectura “Transformer”, la cual significó un gran avance que permitió un desarrollo significativo, más eficiente que el anterior, conocido como Recurrent Neural Networks.
Con una reducción en el tiempo de capacitación, aquí entran otros ejemplos de modelos de lenguaje como: OpenAI, Deepmind, Meta, Baidu, Amazon, Face, Yandex entre otros.
Con la arquitectura “Transformer” los desarrolladores pudieron diseñar modelos más grandes, con un mayor número de parámetros, más completos en su naturaleza y en su desempeño.
¿Cuál es el riesgo de los modelos de lenguaje de IA?
El peligro de algunos modelos de lenguaje que funcionan mediante un entrenamiento previo, es que puede generar lo que se conoce como alucinaciones, que consiste en inventar información si no se encuentra una respuesta correcta con base en el entrenamiento que se tuvo antes. Estos modelos aún requieren asistencia humana para su vigilancia y funcionamiento correcto.
Se presentan algunos otros desafíos como la ética, el desarrollo ambiental, el tema de la seguridad. De ahí la importancia de analizar y continuar investigando el impacto de los modelos de lenguaje de inteligencia artificial
Aún estamos a tiempo de revertir el daño que puede causar en la sociedad sobre todo en el tema de protección, seguridad en datos personales y el respeto a los derechos humanos.
Son temas que deben continuar explorando, dialogando y debatiendo en todos los sectores con los Organismos Internacionales, nacionales, gobiernos y con la iniciativa privada y que seguiremos abordando en esta columna.
¿Y tú qué opinas?
Fuente:
