La posibilidad de automatizar armas letales ha generado debates éticos significativos. Críticos de la inteligencia artificial advierten que el uso de tecnologías como ChatGPT para tomar decisiones en contextos bélicos podría dificultar la atribución de responsabilidades y fomentar la complacencia humana al delegar tareas críticas a sistemas autónomos.
Redacción Astillero Informa
OpenAI ha tomado medidas contundentes al eliminar la cuenta de STS 3D, un usuario que diseñó un dispositivo capaz de controlar un rifle automático mediante comandos de voz procesados por ChatGPT. El caso ganó notoriedad tras la publicación de un video en Reddit, donde se mostraba al desarrollador emitiendo instrucciones como “girar a la izquierda” o “girar a la derecha”, que el dispositivo interpretaba para apuntar y disparar contra superficies cercanas.
La herramienta, basada en un entrenamiento sencillo del modelo de lenguaje, permitió que ChatGPT tradujera comandos en texto a un formato legible por máquinas, lo que facilitó el funcionamiento del sistema automatizado. Ante esta situación, OpenAI confirmó en una declaración a Futurism que había identificado la violación de sus políticas y procedió a desactivar la cuenta asociada. “Identificamos de manera proactiva esta violación de nuestras políticas y notificamos al desarrollador que cesara esta actividad antes de recibir su consulta”, señaló la compañía.
Las políticas de OpenAI prohíben explícitamente el uso de sus productos en el desarrollo o empleo de armas, así como en la automatización de sistemas que puedan comprometer la seguridad personal. No obstante, la empresa ha sido objeto de controversias por su colaboración en 2024 con Anduril, un fabricante de tecnología de defensa, en el desarrollo de sistemas impulsados por inteligencia artificial para contrarrestar ataques con drones.
La posibilidad de automatizar armas letales ha generado debates éticos significativos. Críticos de la inteligencia artificial advierten que el uso de tecnologías como ChatGPT para tomar decisiones en contextos bélicos podría dificultar la atribución de responsabilidades y fomentar la complacencia humana al delegar tareas críticas a sistemas autónomos. Por otro lado, defensores de la IA en aplicaciones militares argumentan que estas herramientas podrían aumentar la seguridad de los soldados al mantenerlos alejados de las líneas de combate y permitirles neutralizar amenazas de forma remota.
El caso de STS 3D pone de relieve un desafío mayor: aunque OpenAI toma medidas para prevenir usos indebidos, otros modelos de código abierto disponibles en el mercado podrían ser empleados con fines similares, escapando a las restricciones de las grandes empresas tecnológicas. Este panorama subraya la necesidad de regulaciones claras y globales para abordar el uso de la inteligencia artificial en contextos militares y de seguridad.
“Este texto fue generado con la ayuda de ChatGPT, un modelo de lenguaje alojado en la plataforma de OpenAI”
“Altanero” y “porrista”: Luis Cárdenas responde a Hernán Gómez tras confrontación en mesa de análisis (por Isaac Rosales de Astillero Informa)
Apenas unas horas después de que Gómez Bruera acusara una personalización del debate en una mesa de análisis, el periodista Luis Cárdenas señaló que este fue “grosero” y “mandón”. Luego de que el periodista Hernán Gómez acusara esta mañana a Luis Cárdenas y a Juan Ignacio Zavala de descargar su enojo con la 4T en…
El efecto corruptor: Gabriel Regino explica por qué blindaría a Maru Campos pero no a Rocha Moya (Redacción Astillero Informa)
La sobreexposición mediática de la Fiscalía General de la República abre la puerta a la anulación del caso contra la gobernadora de Chihuahua, mientras la jurisdicción de Brooklyn condena al sinaloense a un tablero sin reglas garantistas mexicanas. Redacción Astillero Informa Los recientes citatorios ministeriales hacia mandatarios locales por la Fiscalía General de la República…
