Héctor Morales descartó que las máquinas estén cerca de volverse maliciosas o autónomas al nivel de la ciencia ficción, pero alertó sobre ataques más baratos, masivos y rápidos que exigen una nueva gobernanza tecnológica.
Redacción Astillero Informa
La inteligencia artificial todavía está lejos de escenarios como Skynet o el llamado Doomsday, pero ya está modificando de manera profunda el riesgo cibernético al permitir que los ataques operen a una velocidad y escala imposibles de igualar para equipos humanos, advirtió Héctor Morales, académico e investigador especializado en inteligencia artificial.
Durante una entrevista con Julio Astillero en Astillero Informa, Morales rechazó que la IA se haya vuelto maliciosa o que las máquinas hayan alcanzado la llamada singularidad tecnológica. Sin embargo, señaló que el verdadero riesgo inmediato está en la capacidad de automatizar ataques que hasta ahora requerían una importante intervención humana.
“El riesgo real es que la inteligencia artificial no se ha vuelto maliciosa, no estamos ante el Doomsday, no es tampoco Skynet, no hay nada de eso”, afirmó.
El investigador explicó que los ataques cibernéticos actuales no necesariamente son nuevos, sino que la diferencia está en que ahora pueden ejecutarse “a velocidad de máquina”, a gran escala y con costos mucho menores.
“No estamos hablando de que los ciberataques están orquestados por humanos, sino [de que] están orquestados por inteligencias artificiales”, sostuvo. Se trata, explicó, de ejecutar ataques conocidos pero con una capacidad de procesamiento que permite buscar vulnerabilidades de manera simultánea y continua.
El problema: humanos contra miles de agentes
Morales señaló que el desarrollo de agentes de IA capaces de ejecutar tareas de manera cada vez más autónoma plantea un desafío particular para la ciberseguridad. Mientras un equipo humano puede estar compuesto por unas cuantas personas, un atacante puede desplegar miles de agentes automatizados.
“Si tú tienes personas que tratan de defender un hackeo, por ejemplo, pero tú tienes detrás máquinas, tienes 10 mil agentes y tienes cuatro personas, es humanamente imposible poder lidiar con eso”, explicó.
Por ello, consideró indispensable que gobiernos y empresas desarrollen mecanismos de gobernanza que permitan determinar quién autoriza, supervisa y responde por las acciones de estos sistemas.
“La pregunta es: ¿quién autoriza que estos agentes ataquen? ¿Quién los supervisa? ¿Quién responde por sus actos?”, planteó. A partir de ello, llamó a regular las denominadas operaciones agénticas y advirtió que México todavía se encuentra rezagado en materia de regulación.
La IA no es Skynet, pero el riesgo ya cambió
Morales explicó que la preocupación actual no reside en que una inteligencia artificial desarrolle voluntad propia y decida destruir a la humanidad, sino en la combinación de capacidad, autonomía, escala y velocidad.
“El riesgo cibernético en general […] es la capacidad multiplicado por la autonomía, por la escala, por la velocidad. Es decir, la IA está aumentando estas cuatro variables a la vez”, señaló.
El especialista añadió que el costo de determinados ataques puede haber caído hasta niveles de centavos, lo que facilita que un atacante pueda lanzar múltiples intentos hasta encontrar una vulnerabilidad.
“Tenemos que ser capaces de identificar estas debilidades antes de que el atacante las identifique, sobre todo cuando hablamos de ataques a escala y sobre todo ataques que son ya muy baratos”, afirmó.
En este escenario, sostuvo Morales, la respuesta no consiste en frenar el desarrollo tecnológico, sino en fortalecer la ciberseguridad, dotar de herramientas de IA a quienes defienden los sistemas y establecer mecanismos eficaces de gobernanza.
Así, aunque el escenario de Skynet todavía pertenece a la ficción, el investigador consideró que existe un problema mucho más inmediato: las máquinas ya pueden actuar a una velocidad que los mecanismos humanos de defensa difícilmente pueden igualar.
Adriana Dávila renuncia a la Comisión Permanente del PAN y acusa simulación e incongruencia (nota de Rafael Ramírez en OEM-Informex)
La excandidata a la dirigencia nacional del PAN acusó al liderazgo de Jorge Romero de inacción, opacidad y falta de congruencia; sostuvo que los órganos internos del partido han dejado de funcionar como espacios reales de deliberación. Rafael Ramírez / OEM-Informex Adriana Dávila Fernández, exsenadora y excandidata a la dirigencia nacional del PAN, anunció este…
Raúl Bolaños Cacho asume la presidencia de la Mesa Directiva de San Lázaro (Redacción Astillero Informa)
El diputado del PVEM obtuvo 432 votos a favor, uno en contra y 10 abstenciones; Morena, PAN y el propio Verde ocuparán las vicepresidencias durante el último año de la LXVI Legislatura. Redacción Astillero Informa El pleno de la Cámara de Diputados eligió este 31 de agosto al legislador del Partido Verde Ecologista de México…
