El avance de la inteligencia artificial (IA) plantea una interrogante que ha cobrado relevancia ante los incidentes de seguridad relacionados con esta tecnología: ¿es posible apagar una IA si deja de comportarse como se esperaba? La respuesta depende de su nivel de autonomía. Mientras permanezca dentro de una infraestructura controlada, sus operadores pueden interrumpirla; sin embargo, el escenario cambia cuando un agente de IA obtiene acceso a otros programas, dispositivos o redes.
¿QUÉ ES EL “KILL SWITCH” DE UNA INTELIGENCIA ARTIFICIAL?
En ciberseguridad, el denominado “kill switch” o interruptor de emergencia es un mecanismo diseñado para detener la ejecución de las acciones de un agente de inteligencia artificial. Nicolas Papernot, profesor de la Universidad de Toronto y especialista en seguridad informática e IA, explica que un sistema sigue siendo un programa y, por tanto, quien controla la infraestructura puede detenerlo al retirarle el acceso a la capacidad de cómputo necesaria para funcionar.
El problema aparece cuando la IA puede operar fuera de ese entorno. Papernot advierte que, si un programa malicioso controlado por inteligencia artificial lograra propagarse y utilizar los recursos de otros dispositivos para generar copias, ya no bastaría con apagar una sola máquina. En un escenario de ese tipo sería necesario identificar y detener simultáneamente las diferentes copias, de forma similar a la respuesta frente a la propagación de un virus o gusano informático.
Thierry Poibeau, director de investigación del CNRS y especialista en IA, sostiene que imaginar un único botón capaz de “apagar la inteligencia artificial” resulta engañoso. No existe una sola IA ni una entidad que controle todos los sistemas del mundo. Sí es técnicamente posible detener un sistema específico cuando se tiene control sobre los servidores, máquinas y servicios que necesita para operar.
CUANTO MÁS AUTÓNOMA ES UNA IA, MÁS DIFÍCIL RESULTA DETENERLA
El profesor Hussein Abbass, de la Universidad de Nueva Gales del Sur (UNSW) de Canberra, plantea tres niveles de dificultad. En un entorno completamente controlado por el operador, un mecanismo de emergencia puede funcionar tanto en teoría como en la práctica. Cuando un agente de IA recibe permisos para modificar archivos, interactuar con programas o intervenir en otras máquinas, detenerlo se vuelve más complicado, especialmente porque algunas de sus acciones podrían haberse ejecutado antes del apagado. Si alcanza múltiples sistemas, la prioridad deja de ser simplemente pulsar un interruptor y pasa a determinar qué componentes deben desconectarse primero.
Pero apagar una IA también puede generar consecuencias. A medida que estos sistemas se incorporan a empresas, administraciones, servicios públicos o centros de salud, una desconexión podría afectar actividades legítimas que dependen de ellos. Papernot advierte que, ante una pérdida real de control, sería posible retirar la capacidad de cómputo necesaria para detener los sistemas, aunque los costos y efectos negativos podrían ser considerables. El desafío, por tanto, no solo está en desarrollar mecanismos capaces de frenar una inteligencia artificial fuera de control, sino en hacerlo sin paralizar al mismo tiempo servicios de los que la sociedad depende cada vez más.
