El puente aplicado al sector público

En el Estado, lo que está en juego deja de ser una cuenta de resultados. Detrás de cada trámite hay un ciudadano que espera, y detrás de cada decisión automatizada hay alguien cuya salud, cuya escuela o cuyo derecho dependen de que el sistema haya sido bien pensado. Por eso el puente, llevado a lo público, se vuelve a la vez más difícil y más necesario. Este capítulo expone cómo opera en la modernización cívica sin perder de vista a la persona que está del otro lado del mostrador.

Por qué el Estado es un caso aparte

La diferencia con la pyme no es de grado, es de naturaleza. En la pyme, una IA mal aplicada cuesta dinero, y el dinero se recupera. En el Estado, una decisión algorítmica opaca sobre salud, educación, seguridad o asignación de recursos cuesta derechos, y los derechos no se recuperan con un balance del trimestre siguiente. Además, el ciudadano no eligió ese sistema y no puede irse a otro proveedor: está cautivo de la calidad con que el Estado haya diseñado lo que decide sobre él. Esa asimetría es la que eleva la vara —lo que en la pyme es buena práctica, en el Estado es requisito: auditabilidad, equidad, transparencia, rendición de cuentas—.

El riesgo, además, no es teórico, y la investigación lo nombró antes de que la IA generativa existiera: los modelos opacos que deciden a escala sobre la vida de las personas tienden a esconder sus sesgos justamente donde más se los necesitaría auditar, y a producir daño sistemático bajo una apariencia de objetividad matemática.¹ El Estado es el terreno donde ese riesgo es máximo, porque es donde una regla automatizada puede repetirse sobre millones sin que nadie la mire. La advertencia que el método trae de los fundamentos —que en la capa agéntica un proceso que nadie entendió no se ejecuta más lento, se ejecuta solo, a escala y sin testigo— se vuelve, en lo público, su versión más grave: un agente que prioriza expedientes, asigna un subsidio o deriva un caso según un criterio que nadie se detuvo a auditar. → La tesis del puente.

El Estado concentra, por otra parte, los tres males clásicos que la IA puede aliviar o agravar según se la aplique: la burocracia y los tiempos de espera que desgastan la relación cívica; los silos de datos entre organismos que impiden políticas integrales; y la desconfianza que crece cada vez que un algoritmo decide de forma que nadie puede explicar. Los tres son, en el fondo, el mismo problema sociotécnico: sistemas que se pensaron sin leer a la gente —ciudadanos y funcionarios— a la que tenían que servir.

Lo que el método se niega a proponer

Como en la pyme, el puente en el Estado se define tanto por lo que rehúsa como por lo que ofrece, y cada negativa desactiva una forma habitual de fracasar en lo público. No se propone “instalar sistemas”: se propone rediseñar la acción estatal desde la óptica del ciudadano, porque un sistema prolijo montado sobre un trámite que sobra solo digitaliza el desperdicio. No se propone reemplazar al empleado público: se propone liberar su capacidad de gestionar y atender, con la IA como extensión de su criterio, no como sustituto. No se propone comprar software: se propone fortalecer las capacidades institucionales que permiten usar bien cualquier software, porque sin ellas la mejor herramienta queda sin quien la sostenga. Y no se proponen cajas negras: en el Estado, un modelo que no se puede auditar no se puede usar, y esto no es una preferencia de diseño sino la línea que separa una política legítima de una arbitrariedad automatizada.

El método, en clave pública

Los cuatro eslabones, bajados al Estado, conservan su lógica y cambian de exigencia: cada tramo carga ahora con el peso de los derechos que toca.

Tres principios en clave pública

Esa práctica se ordena en tres principios que, en lo público, dejan de ser buenas intenciones y se vuelven condiciones de legitimidad. El primero pone al ciudadano en el centro: el trámite se rediseña desde la experiencia de quien lo sufre, no desde el organigrama de quien lo administra. El segundo trata la IA como extensión del funcionario: no se reemplaza el criterio público, se lo amplifica con evidencia, de modo que el empleado decida mejor y más rápido, no menos. Es la traducción directa de la investigación en IA centrada en el humano —alta automatización y alto control humano no son un trade-off, sino el cuadrante que de verdad funciona—. → Autores y corrientes.

El tercero hace de la auditabilidad una condición, no un adorno: en decisiones sobre derechos, lo que no se puede auditar no se puede usar. Y esto, lejos de frenar la modernización, es su motor. La gobernanza —la trazabilidad, el control humano, la explicabilidad— es lo que hace que un funcionario y un ciudadano confíen en un sistema lo suficiente para usarlo. Un sistema que no se puede explicar no se adopta: se tolera, y a la primera duda se abandona o se sortea por izquierda.

El marco de gobernanza

Esa exigencia de gobernanza no es retórica ni invención local: se apoya en los marcos que hoy estructuran la IA responsable en el mundo. El AI Risk Management Framework del NIST ordena el trabajo en cuatro funciones —Govern, Map, Measure, Manage— y coloca a Govern como transversal por diseño, atravesando a las otras tres.² El EU AI Act, ya vinculante y con aplicación escalonada, clasifica los sistemas por nivel de riesgo y exige trazabilidad y supervisión humana en los de alto riesgo —que es, precisamente, la categoría donde caen las decisiones públicas sobre personas—.³ El puente no inventa su exigencia de auditabilidad: la toma de la arquitectura de los estándares globales y la baja a la medición concreta a través del IMIA, el instrumento que mide si un organismo está listo para que la IA le sume antes de instalar nada.

El Estado es, además, donde la llegada de los agentes —software que ya no sugiere sino que decide y ejecuta solo— vuelve esta vara ineludible. Un agente que prioriza un expediente, deriva un caso social o asigna un turno por su cuenta no admite a un funcionario revisando caso por caso; el control humano se ejerce sobre el diseño y la auditoría de sus reglas —qué resuelve solo, cuándo escala a una persona, qué deja registrado—. En decisiones sobre derechos, una regla que el agente aplica solo y que nadie puede auditar ni revocar no es eficiencia administrativa: es delegación a ciegas de poder público. Por eso, cuanto más autónoma la IA, más alta la exigencia de gobernanza, no más baja —que es, exactamente, lo que el gate de gobernanza del IMIA convierte en condición y no en consejo—.

La tesis de fondo

Hay una afirmación que ordena todo lo anterior: la modernización del Estado en América Latina no se compra, se construye. No es un paquete de software que se licita e instala, sino una capacidad institucional que se fortalece —procesos que se entienden, datos que se gobiernan, funcionarios cuyo criterio se amplifica en vez de jubilarse—, con el ciudadano en el centro de cada decisión de diseño.⁴ Es la tesis del puente sin una sola concesión: un problema que se trata como técnico —“compremos el sistema”— cuando es, de punta a punta, sociotécnico —“rediseñemos la acción estatal y a quién sirve”—. La diferencia entre las dos lecturas, en lo público, se mide en derechos.

Ver también: El puente aplicado a las pymes · IMIA, el instrumento de madurez · La tesis del puente · Autores y corrientes · Bibliografía