Cuándo (no) delegar en la IA

El principio

La capacidad técnica de un sistema de IA para realizar una tarea no justifica su autonomía. La decisión de delegar debe evaluar primero si el trabajo requiere intención, criterio o responsabilidad autoral; solo fuera de ese perímetro se podrá ajustar el grado de autonomía de la IA en función de la incertidumbre y el coste de error.

Qué es este principio

Es un marco de decisión para calibrar cuándo una IA debe actuar por su cuenta y cuándo debe detenerse a preguntar. Evita que el asistente tome la iniciativa en decisiones críticas o interpretativas, de forma que la persona mantenga el control real sobre el proceso, no solo sobre el resultado final.

Por qué ocurre el problema

Cuando se colabora con modelos de lenguaje se cruzan dos dinámicas que dificultan la supervisión.

1. Los sesgos de la IA

2. Los sesgos humanos

El riesgo: la ilusión de profundidad explicativa (illusion of explanatory depth)

Delegar de forma indiscriminada tareas interpretativas o decisiones intermedias genera la ilusión de profundidad explicativa: la falsa sensación de que se entiende un proceso o una propuesta simplemente porque el resultado final es coherente y estético⁷.

Cuando una persona no ha atravesado el proceso de decidir qué entra, qué sale y por qué, pierde la capacidad de defender y justificar el resultado obtenido.

Cómo aplicar el principio: el marco de 2 capas

Para calibrar la autonomía del asistente, la interacción se filtra en dos niveles consecutivos.

¿La tarea requiere juicio interpretativo o autoral?
 ├── SÍ  ──► Capa 1: filtro autoral
 └── NO  ──► Capa 2: matriz de Horvitz (incertidumbre + coste)
              ├── Incertidumbre baja + coste bajo ──► Actuar
              ├── Solo una es alta ──► Valorar: declarar o preguntar
              └── Incertidumbre alta + coste alto ──► Preguntar

Capa 1: el filtro autoral. El trabajo no se reparte por fases ("la IA al principio, la persona al final"). Ese reparto es propio de los sistemas de recomendación clásicos, donde la autoridad se fija de antemano; en la colaboración con un LLM o un agente, en cambio, se negocia dentro de la propia interacción. Por eso lo que importa no es la fase, sino lo que vayas a tener que defender ante otros: todo lo que constituya el núcleo conceptual, interpretativo o estratégico tiene que permanecer bajo tu control directo⁸. El resto, las tareas operativas o mecánicas que no requieren ese juicio interpretativo, pueden ser delegadas a la IA siguiendo el criterio de la Capa 2.

Capa 2: la matriz de Horvitz. Para tareas operativas o mecánicas, la autonomía se rige por dos variables formuladas por Eric Horvitz en 1999⁹:

A su vez, hay que tener en cuenta que el coste de error combina dos dimensiones distintas: el impacto del fallo (gravedad) y su reversibilidad (facilidad para deshacerlo). Estas dos dimensiones no siempre coinciden (un fallo puede ser grave pero reversible, o leve pero irreversible), así que basta con que una de las dos sea alta para que el coste de error se considere alto: solo es bajo cuando el fallo es leve y fácilmente reversible a la vez.

Cuando ambas variables son bajas, la IA puede actuar sin preguntar. Si una de las dos es alta, conviene valorar qué nivel de control corresponde a la IA: actuar declarando la decisión, o detenerse a confirmar. Si las dos son altas, la directriz es detenerse y pedir confirmación antes de actuar.

Cómo aplicar este principio: dos reglas y una skill

Este principio de Delegación se traduce en dos mecanismos que modulan la colaboración con la IA, y una skill para ponerte a prueba al terminar dicha colaboración.

Regla para el System Prompt^*

Para aplicar las dos capas en tus propias conversaciones con un LLM, puedes introducir estas dos reglas en sus instrucciones. Para ello, solo tienes que copiar este bloque en sus instrucciones de sistema:

*Para usar esta instrucción, pégala en: ChatGPT, Instrucciones personalizadas; Gemini, instrucciones de un Gem; Claude (chat), Instrucciones personalizadas o de Proyecto; Claude Code y Claude Cowork, un archivo CLAUDE.md. El peso que le da cada modelo no tiene por qué ser igual: probada con Claude Code, no verificada en el resto.

Ten en cuenta que la Matriz de Horvitz no resuelve cómo calibrar la confianza de forma dinámica, por ejemplo según el historial de aprobaciones y correcciones, evitando que ese ajuste generalice mal hacia decisiones parecidas pero distintas. Podría desarrollarse una regla específica para testar cómo gestionar esta relación con el tiempo.

Skill defend-it

Las dos reglas anteriores actúan mientras trabajas con la IA. La skill defend-it actúa después, justo antes de tener que defender el resultado ante otra persona, preguntándote, examinándote, sobre los datos y decisiones de tu propio entregable, para confirmar que no caes en la ilusión de profundidad explicativa. En caso de errores en tus respuestas, te ayuda a resolver las dudas en el momento.