“Hay que regular el proceso completo”: Héctor Morales pide controlar datos y modelos de IA (por Isaac Rosales de Astillero Informa)

El académico advirtió que los verificadores no avanzan al mismo ritmo que los modelos y llamó a establecer controles sobre su entrenamiento, los datos utilizados y la validación de sus acciones

Isaac Rosales | Astillero Informa

La regulación de la inteligencia artificial no debería limitarse al comportamiento de los modelos una vez que son puestos en operación, sino abarcar todo el proceso de su desarrollo, desde los datos utilizados para entrenarlos hasta la verificación de sus resultados, planteó el académico Héctor Morales Fajardo.

Durante una entrevista con Julio Astillero en Astillero Informa, Morales sostuvo que los gobiernos deben establecer marcos de gobernanza que permitan conocer cómo se entrenan los modelos, qué información utilizan y quién verifica su funcionamiento.

“Hay que regular el proceso completo, no solamente de cómo usamos la inteligencia artificial, sino cómo la entrenamos, qué datos usamos, quién lo verifica, cómo se valida”, afirmó.

El académico señaló que uno de los principales problemas actuales es que la capacidad de evaluación no crece al mismo ritmo que los modelos. “No estamos haciendo verificadores a la misma velocidad que estamos generando modelos”, advirtió, al plantear la necesidad de supervisar de manera continua lo que estos sistemas hacen.

“Necesitamos tener ojos” sobre los modelos

Morales cuestionó además que las propias empresas desarrolladoras sean quienes evalúen y validen sus sistemas sin supervisión externa. A su juicio, la autorregulación llegó a un límite y es necesario incorporar evaluadores independientes capaces de observar el comportamiento de los modelos desde fuera de los laboratorios.

“La regulación aquí solamente va a ser el volante, pero no es la solución final. Necesitamos tener ojos, necesitamos tener controles alrededor de los modelos”, sostuvo.

El académico también insistió en que el ser humano debe permanecer en el centro de las decisiones relacionadas con estos sistemas y contar con herramientas capaces de supervisarlos a la velocidad a la que operan.

Para Morales, el desafío no consiste simplemente en detener el desarrollo de la inteligencia artificial, sino en establecer mecanismos que permitan gobernarla, controlarla y alinearla mientras sus capacidades continúan aumentando.