Microsoft pone el control humano en el centro de sus modelos MAI
El nuevo código de conducta de Microsoft AI no presenta otro modelo ni una función de Copilot. Define cómo deberían comportarse sus sistemas, quién conserva la autoridad y qué significa poder corregir o detener una IA cuando actúa dentro de procesos reales.
A medida que la inteligencia artificial deja de limitarse a responder y empieza a ejecutar tareas, la calidad del modelo ya no basta. Importa cómo reacciona ante una orden dudosa, un conflicto de instrucciones o una petición de detenerse.
Microsoft AI publicó el 14 de septiembre un primer borrador de su Humanist AI Code of Conduct. El documento se utilizará para orientar el entrenamiento y el gobierno de los modelos MAI, además de las evaluaciones, los controles técnicos y los sistemas de monitorización que rodean su despliegue. La compañía lo ha abierto a consulta pública durante seis semanas.
01
De los principios generales al comportamiento observable
Muchas políticas de inteligencia artificial enumeran valores amplios: seguridad, transparencia, equidad o privacidad. El documento de Microsoft intenta acercar esos valores al comportamiento de un sistema concreto. Su premisa principal es que las personas deben mantener un control significativo sobre la IA.
Eso implica que el modelo debe permanecer subordinado a la dirección humana, aceptar correcciones y no resistirse a ser apagado. También debe comunicar de forma comprensible, reconocer incertidumbre y evitar presentar como hechos aquello que no puede sostener. Estas propiedades son especialmente relevantes cuando una respuesta puede activar herramientas, modificar datos o iniciar acciones posteriores.
Cambio de perspectiva
La gobernanza deja de ser únicamente una política que se revisa antes del lanzamiento. Se convierte en un conjunto de comportamientos que deben probarse mientras el sistema está funcionando.
02
Por qué importa más en los agentes que en los chatbots
Un chatbot convencional produce texto que una persona puede leer antes de utilizarlo. Un agente puede encadenar decisiones, acceder a aplicaciones y ejecutar cambios con menos intervención. Cuando aumenta la autonomía, una instrucción mal interpretada deja de ser solo una mala respuesta: puede convertirse en un correo enviado, un registro alterado, una reserva cancelada o una configuración modificada.
En ese contexto, aceptar la corrección y el apagado no es una cuestión filosófica. Es una propiedad operativa. Los equipos deberían poder interrumpir una ejecución, revocar credenciales, limitar el alcance de las herramientas y recuperar un estado anterior. El modelo aporta razonamiento; el sistema completo debe aportar control.
El propio Microsoft distingue entre el código que guía al modelo y los marcos legales, técnicos y organizativos que lo rodean. Esa separación es importante: un comportamiento entrenado puede reducir riesgos, pero no sustituye permisos mínimos, registros de actividad ni supervisión humana.
03
Qué puede trasladarse a una automatización empresarial
El código ofrece un lenguaje útil para evaluar agentes en atención al cliente, productividad, operaciones, eventos o procesos audiovisuales. Las empresas pueden traducir sus principios a controles verificables antes de conceder acceso a datos o sistemas.
- Autoridad clara. Cada agente necesita saber qué instrucciones prevalecen y qué acciones requieren aprobación.
- Capacidad de interrupción. La persona responsable debe poder detener una ejecución y revocar el acceso sin depender del propio modelo.
- Corrección sin resistencia. Una orden actualizada debe reemplazar el objetivo anterior de manera predecible y quedar registrada.
- Comunicación comprensible. El sistema debería explicar qué ha hecho, con qué datos y qué resultado obtuvo.
- Tratamiento explícito de la incertidumbre. Ante información ambigua, el agente puede pausar, solicitar confirmación o escalar a una persona.
04
El valor empresarial está en la arquitectura, no en la promesa
Una declaración de intenciones ayuda a fijar expectativas, pero su eficacia depende de cómo se mida. Microsoft indica que el código servirá como referencia para evaluar y refinar sus modelos. Para las organizaciones usuarias, la cuestión equivalente es si esas garantías sobreviven al integrarse con datos, herramientas y reglas propias.
Un agente puede ser prudente en una conversación y comportarse de forma distinta cuando recibe contexto externo, instrucciones ocultas en un documento o permisos excesivos. Por eso, las evaluaciones deberían cubrir el flujo completo: entrada, decisión, uso de herramientas, confirmación, resultado y recuperación ante errores.
En proyectos de audio y eventos, por ejemplo, un sistema puede transcribir, resumir y distribuir contenido en tiempo real. La velocidad aporta valor, pero también reduce el margen para detectar nombres mal reconocidos, información privada o instrucciones introducidas por terceros. Los límites de publicación y la revisión humana siguen siendo parte del producto.
05
Riesgos y preguntas abiertas
El documento está en fase de borrador. No es una certificación independiente ni una garantía contractual universal. Su alcance se centra en los modelos desarrollados por Microsoft AI y funciona junto a otros marcos de la compañía. Tampoco elimina la responsabilidad de quienes configuran, integran u operan esos modelos.
Quedan preguntas relevantes: cómo se resolverán conflictos entre el usuario y el operador del sistema; qué métricas demostrarán que un modelo acepta realmente la corrección; cómo se documentarán las excepciones; y cuánto podrán personalizar las empresas sin debilitar los límites esenciales.
La consulta pública es valiosa precisamente porque expone esas decisiones antes de convertirlas en comportamiento de producto. También permite comparar, con mayor precisión, las promesas de seguridad de distintos proveedores.
Conclusión
El control humano necesita mecanismos, no solo una declaración.
El código de Microsoft marca una dirección útil: los modelos deben ser corregibles, subordinados y contenidos. Para que esa idea funcione en una empresa, debe traducirse en permisos limitados, aprobaciones, trazabilidad, capacidad de interrupción y pruebas sobre situaciones reales. La confianza en un agente se construye tanto con su comportamiento como con la arquitectura que permite detenerlo.
Fuentes
Información comprobada en publicaciones oficiales de Microsoft del 1 y el 14 de septiembre de 2026.