La extensión agéntica de la tesis

Ninguna de las ocho corrientes del capítulo anterior vio un agente de IA: Tavistock es de 1951, Latour de 2005, la difusión de Rogers de los años sesenta. El libro viene sosteniendo que la tesis no envejece con la tecnología, pero hasta acá lo afirmaba sin construir qué se desplaza cuando el sistema técnico deja de ser un artefacto que se usa y pasa a ser un actor que decide y ejecuta por su cuenta. Este capítulo construye esa extensión. No corrige las ocho corrientes de Autores y corrientes: las relee bajo agencia. Lo que agrega —que es casi todo— son constructos del paradigma, no atribuibles a ningún autor.

Del artefacto que se usa al actor que decide

La tesis del puente se construyó sobre una imagen implícita de la tecnología: un artefacto que una persona usa, opera o consulta. Un sistema de facturación, un ERP, incluso un modelo predictivo, no deciden: registran, ordenan, sugieren. La decisión —y con ella la responsabilidad— queda siempre del lado humano. El modelo predictivo marca a un cliente en riesgo; es el vendedor quien decide llamar. Esa frontera —el humano como último filtro de cada caso— es el supuesto silencioso sobre el que descansa todo el método.

La capa agéntica rompe ese supuesto. Es el peldaño de la escalera de adopción en que el software deja de sugerir y pasa a decidir y ejecutar de punta a punta: aprueba un reembolso, deriva un reclamo, prioriza un expediente, dispara una acción, sin que nadie mire cada caso. No es un salto de potencia del modelo; es un salto de rol. El sistema técnico deja de ser algo que se usa y pasa a ser algo que actúa.

Aquí aparece el hueco que ninguna de las ocho corrientes llena del todo. La teoría del actor-red ya trataba a los no-humanos como actores —un rompeolas, un badén, una llave actúan en la red, enrolan a otros, resisten—.¹ Pero los no-humanos de Latour actúan sin decidir: hacen lo que su inscripción material les fijó, no eligen entre cursos de acción según un criterio que evalúan en el momento. La teoría da un vocabulario para el no-humano que hace; no tiene uno para el no-humano que decide.

Lo que el paradigma nombra actor decisor llena ese hueco: el agente de IA es un actor en el sentido de la teoría del actor-red —participa en la red, enrola, produce efectos—, pero de una clase que esa teoría no tipificó, porque decide entre alternativas y ejecuta su decisión sin un humano que la filtre caso por caso. No tiene intereses ni intención —no es un sujeto—, pero sí ejerce una discreción delegada: opera dentro de un margen de elección que un humano le confió. El problema sociotécnico deja de ser “¿la gente adopta este artefacto?” y pasa a ser “¿quién responde por lo que este actor decide, y con qué reglas decide?”. Es una decisión conceptual, no un hallazgo: extender el vocabulario de actor conserva la simetría que hace potente a la teoría —humanos y no-humanos en la misma red— y le suma solo lo que falta, el margen de decisión.

La tesis: no se rompe, se desplaza

Frente a la capa agéntica, la tentación es declarar la obsolescencia del método: si el sistema decide solo, ¿para qué la lectura humana, el control, la optimización conjunta? La respuesta de esta extensión es la contraria, y es su tesis. Lo que el paradigma llama desplazamiento del control: ni la optimización conjunta de Tavistock ni la traducción de Latour se rompen cuando el actor decide; se desplazan un nivel hacia arriba. El control humano deja de ejercerse sobre cada decisión y pasa a ejercerse sobre las reglas con que el agente decide —qué resuelve por su cuenta, cuándo está obligado a escalar a una persona, qué deja registrado, cómo se lo revoca—. Es el paso de gobernar la decisión a gobernar el gobierno de la decisión. La primacía del humano no desaparece: cambia de objeto.

La tesis estaba latente, dispersa, en tres lugares del método —el cuarto eslabón (“el control humano se corre un peldaño más arriba, de la decisión al gobierno de la decisión”), el concepto criterio en el diseño, no en cada transacción y la dimensión de potencial de IMIA—. Los tres dicen lo mismo desde tres ángulos; nombrarlo como desplazamiento del control lo vuelve el eje de la extensión.

Queda precisar qué se conserva. La optimización conjunta decía que el subsistema social y el técnico se optimizan juntos o fracasan juntos. Bajo agencia, el subsistema técnico ahora decide dentro del social: la interdependencia no se afloja, se intensifica, porque un agente mal acoplado a la trama humana no produce una herramienta que nadie usa —el fracaso clásico, recuperable—, sino decisiones efectivamente tomadas que hay que deshacer. Y la traducción incluye ahora traducir el criterio humano a reglas que el agente ejecute, un acto que es él mismo sociotécnico, porque decide qué juicio se delega y qué no.

Cada corriente, releída bajo agencia

Actor-red. La traducción en carne y hueso sostenía que es una persona, no un documento, quien alinea a los actores de una organización. La capa agéntica suma un actor —el decisor— y, con él, una vuelta de tuerca: el agente no solo es enrolado, también enrola. Cuando prioriza expedientes, los funcionarios reorganizan su trabajo alrededor de su orden; cuando aprueba reembolsos, el área de fraude ajusta sus controles a lo que el agente deja pasar. Ese enrolamiento agéntico es la traducción leída al revés: no solo traducimos el mundo al agente dándole reglas; el agente, una vez operando, nos traduce a nosotros —fija el ritmo, el formato y el reparto del trabajo humano que queda a su alrededor—. De ahí que la lectura sociotécnica no termine cuando el agente entra en producción: el agente cambia la organización que se había leído.

IA centrada en el humano. Shneiderman sostiene que alta automatización y alto control humano no son un trade-off.² La capa agéntica parece desmentirlo —si el agente decide solo, ¿no baja el control por definición?—, y la respuesta es que no, si se entiende dónde se ejerce. “Alto control humano” deja de significar “una persona revisa cada decisión” —que a escala sería imposible o la volvería un sello de goma— y pasa a significar que una persona diseña, audita y puede revocar las reglas con que el agente decide. El cuadrante de Shneiderman se sostiene; lo que se mueve es el punto de aplicación del control: del caso a la regla. Y Dignum y O’Neil entran con más fuerza, no menos. La rendición de cuentas era importante cuando el modelo sugería, y es estructural cuando el agente decide, porque ya no recae sobre la persona que apretó el botón: no la hubo.³ El daño a escala que documenta O’Neil cambia de naturaleza: un modelo opaco que sugiere mal produce sugerencias que un humano todavía puede descartar, mientras que un agente que decide mal produce decisiones ya ejecutadas.⁴

Difusión. La escalera de adopción ya ubica la capa agéntica en su peldaño más alto; la relectura agrega un matiz sobre dos de los atributos percibidos de Rogers.⁵ La observabilidad se invierte: cuanto mejor funciona un agente, menos se lo ve —decide bien, en silencio, sin pedir nada—, de modo que el atributo que Rogers contaba como motor de adopción se vuelve un problema de gobernanza, porque lo que no se ve no se audita. Y la trialabilidad —probar de a poco— se complica cuando lo que se prueba ejecuta: un piloto agéntico no es inocuo como uno que sugiere, ya actúa. El uso descriptivo y no normativo de Rogers que el método sostiene se vuelve más filoso bajo agencia: difundir rápido un agente sin gobierno es difundir un actor que decide mal a la velocidad de la curva en S.

Conocimiento tácito. Aquí la extensión toca su nervio más delicado. El desplazamiento del control supone traducir el criterio humano a reglas, pero la paradoja de Polanyi —“sabemos más de lo que podemos decir”— dice que el núcleo del juicio experto es tácito e incodificable del todo.⁶ Si es cierto, no todo criterio se puede pasar a reglas: lo que no se codifica es lo que hace experto al experto. De ahí lo que el paradigma llama la frontera de delegación: el límite, móvil y siempre parcial, entre el juicio que sí puede trasladarse a reglas auditables —umbrales, criterios explícitos, casos tipificados— y el que no, porque es tácito, contextual o está cargado de valores en conflicto que ninguna regla resuelve sin decidir por nosotros. La frontera no es técnica sino sociotécnica: definir qué cae de cada lado es la lectura humana de la capa agéntica, y diseñar un agente es, sobre todo, decidir bien dónde ponerla —y obligarlo a escalar a una persona todo lo que cae del lado tácito—. Weick agrega el filo final: si la organización enactúa las categorías con que mide el mundo, un agente que decide sobre esas categorías no solo reproduce los puntos ciegos del sentido construido, los ejecuta y, decidiendo, los refuerza, porque sus decisiones se vuelven el dato de mañana.⁷

La gobernanza sube con la autonomía

De todo lo anterior se sigue una regla: lo que el paradigma llama la regla de proporcionalidad. La exigencia de gobernanza que un sistema requiere es proporcional al margen de decisión que se le delega. Automatizar una tarea de reglas fijas —un reporte, una carga, un cálculo— pide poca gobernanza: no decide, ejecuta lo prescripto. Un actor que decide entre alternativas exige gobernanza alta: políticas de uso, gestión de riesgos, reglas auditables, vías de escalamiento y de revocación. La autonomía sin gobernanza proporcional no es oportunidad: es delegación a ciegas.

Esto no redefine IMIA; lo funda. Su dimensión de potencial ya distingue la automatización por reglas fijas de la agéntica y afirma que el componente agéntico sube la vara de la dimensión de gobernanza; la regla de proporcionalidad es el principio del que esa distinción es un caso. Por eso “potencial agéntico alto sobre gobernanza baja no es oportunidad, es riesgo” no es una advertencia suelta, y el gate de gobernanza —no se alcanza el nivel de integración con la gobernanza por debajo del piso— es la proporcionalidad vuelta restricción dura: cuanto más arriba en la escalera, más alto el piso de gobernanza para que el salto cuente como madurez y no como exposición.

Tres riesgos propios

La capa agéntica no agrava de modo gradual los riesgos conocidos: introduce tres que no existen mientras el humano filtra cada caso. El primero es la ejecución a escala sin testigo: el humano en el bucle no solo filtraba, veía —cada decisión pasaba por una mirada—; cuando el agente decide solo, esa mirada desaparece de la transacción y nadie es testigo de la decisión individual. El riesgo no es la velocidad, que ya la nombraba automatizar el error más rápido, sino la ausencia de testigo, y la gobernanza tiene que reponer con registro, muestreo y auditoría el testigo que el flujo perdió. El segundo es el error que se repite solo: un humano que se equivoca tiende a notarlo y corregir; un agente que decide mal por una regla mal trazada repite el mismo error en cada caso idéntico, sin fatiga ni duda, hasta que alguien interviene sobre la regla —por eso la auditoría de la capa agéntica vigila la regla, no el caso—. Y el tercero es la dilución de la rendición de cuentas: cuando nadie decidió cada caso, el riesgo es que a la pregunta de quién responde la respuesta sea “nadie” —ni el agente, que no es sujeto, ni quien lo diseñó, ni quien lo operó—. El antídoto es la otra cara del desplazamiento del control: si el control se corre de la decisión a la regla, la rendición de cuentas se corre con él —responde quien diseñó, auditó y mantiene la regla—, y por eso esas reglas deben ser explícitas, auditables y atribuibles a una persona. La autonomía no diluye la responsabilidad humana: la reubica, y obliga a hacerla explícita justo donde antes venía implícita en el gesto de decidir.

Por qué la tesis no envejece

El libro venía afirmando que la tesis del puente no envejece con la tecnología; esta extensión lo vuelve argumento. La capa agéntica no deja sin trabajo a la lectura sociotécnica: le mueve el objeto y le sube la apuesta. La optimización conjunta y la traducción se desplazan hacia arriba; el control de Shneiderman cambia de punto de aplicación; el juicio tácito de Polanyi no se vuelve codificable, se vuelve la frontera que hay que saber trazar; la rendición de cuentas de Dignum no se disuelve, se reubica y hay que hacerla explícita. Cada peldaño de la escalera vuelve más cara la omisión de la lectura humana, y el agéntico es el más caro de todos: arriba, un proceso que nadie comprendió no se ejecuta más lento —se ejecuta solo, a escala, en serie y sin testigo—. El puente no es un activo que la IA con agencia vuelve obsoleto: es, exactamente, lo que esa autonomía vuelve indispensable.

Ver también: Autores y corrientes · La tesis del puente · Conceptos propios · IMIA, el instrumento de madurez · Bibliografía