Nadella pide un freno de emergencia para los agentes de IA
Nadella pide freno de emergencia para los agentes de IA: qué cambia para las empresas mexicanas que ya los usan y cómo preparar los controles clave hoy.
Satya Nadella, consejero delegado de Microsoft, pidió el 10 de octubre de 2026 que los agentes de inteligencia artificial incorporen un freno de emergencia que una persona autorizada pueda accionar mientras trabajan, según TechCrunch. El planteamiento mueve la responsabilidad de la seguridad del laboratorio que crea el modelo a la empresa que lo despliega.
CNBC reportó que Nadella publicó la propuesta en X y que pidió tratar los modelos fronterizos, cerrados y de pesos abiertos, como riesgos internos en lugar de confiar en las garantías del proveedor. El punto de partida es un cambio de naturaleza: un asistente que responde preguntas devuelve texto, mientras que un agente que consulta archivos, usa herramientas y ejecuta tareas puede alterar sistemas en producción. En México la adopción ya no es marginal. Según datos del Banco de México publicados el 10 de septiembre de 2026, el 48.5% de las empresas de más de 100 trabajadores usó herramientas de IA en junio de 2026, frente al 24.3% de septiembre de 2025, y el 64.8% anticipa usarlas en los próximos tres años.
La parte técnica tiene tres piezas. Primero, separar el modelo del sistema que orquesta su trabajo, de modo que los permisos y los límites queden fuera del modelo y este no pueda modificarlos ni certificar que los respetó. Segundo, que cada acción relevante deje un registro legible para humanos y resistente a manipulación, para que una auditoría posterior reconstruya qué hizo el agente. Tercero, controles y auditorías independientes del modelo auditado, más diversidad de proveedores en decisiones críticas. La exposición es desigual por tamaño: la Encuesta Mensual de Actividad Económica Regional del Banco de México registró 69.9% de adopción en empresas de más de mil trabajadores y 43.7% en las de 101 a 250.
Para un equipo que ya corre agentes sobre datos de clientes, la pregunta operativa deja de ser si el sistema responde bien y pasa a ser qué puede tocar, quién lo detiene y cómo se demuestra. Un inventario de herramientas con permiso de escritura, credenciales propias por agente y un responsable con botón de pausa son verificables esta semana.
Esta nota fue redactada con asistencia de inteligencia artificial a partir de fuentes verificadas y revisada por un editor humano antes de publicarse.