Kill-switch y human-in-the-loop, explicados para un director no técnico
Dos mecanismos de control sobre la IA, sin jerga. Qué son, por qué tu comité de compras los va a pedir y cómo se ven en la práctica.
Si diriges una empresa y no eres técnico, hay dos términos que vas a oír cada vez más cuando se hable de usar IA con cabeza: kill-switch y human-in-the-loop. Conviene entenderlos, porque son la diferencia entre una IA que controlas y una que te controla a ti.
Sin jerga.
Kill-switch: el botón de parada
Un kill-switch es exactamente lo que parece: un mecanismo para detener la IA al instante. Si un sistema automatizado empieza a comportarse de forma rara —responde mal, toma decisiones que no debería, procesa algo que no toca— alguien puede pararlo en seco, sin esperar a que un técnico “lo apague desde dentro”.
La clave no es solo que exista el botón. Es que, cuando se pulsa, quede registrado: quién lo paró, cuándo y por qué. Eso convierte un susto en una decisión documentada.
Piensa en él como el paro de emergencia de una máquina de planta. No esperas usarlo nunca. Pero no operarías sin él.
Human-in-the-loop: la persona en el bucle
“Human-in-the-loop” (HITL, persona en el bucle) significa que las decisiones sensibles pasan por una persona antes de ejecutarse. La IA no actúa sola en lo que importa: propone, y un humano aprueba.
No todo necesita aprobación humana —sería volver al trabajo manual—. La gracia está en elegir bien: las acciones rutinarias y reversibles van solas; las sensibles o irreversibles pasan por una persona. Un reembolso pequeño, automático. Una decisión que afecta a un cliente importante o a un dato regulado, con visto bueno humano.
Por qué tu comité de compras los va a pedir
Cuando vendes a una empresa industrial o regulada, su comité de compras y su responsable de cumplimiento tienen una preocupación legítima: ¿qué pasa si vuestra IA se equivoca y nos afecta? El AI Act europeo va en la misma dirección y exige supervisión humana para los usos de alto riesgo.
Responder “confíe en nosotros” no basta. Responder “aquí está el kill-switch, aquí el registro de quién supervisa cada decisión” sí basta. Esa es la diferencia entre cerrar el contrato o no.
Cómo se ve en la práctica
En AI Guardian, estos dos mecanismos no son una promesa de la propuesta comercial: son funciones que se ven y se demuestran. Kill-switch, supervisión humana, y un registro auditable de todo lo que la IA hace.
¿Tu sector te lo va a exigir? Hablémoslo en un diagnóstico.