--- title: "Robodebt: 1.800 millones devueltos por deudas que un cálculo automático inventó" description: "El esquema Robodebt reclamó deudas inexistentes a cientos de miles de personas y cerró con 1.800 millones devueltos. El fallo de proceso no fue automatizar." slug: "gobierno-gobierno-federal-de-australia-robodebt" url: "https://catalizadora.ai/blog/gobierno-gobierno-federal-de-australia-robodebt" cluster: "casos-ia" author: "Pablo Estrada" published_at: "2026-08-26T22:39:39.563+00:00" updated_at: "2026-08-27T16:06:06.364281+00:00" read_minutes: "7" lang: "es" --- # Robodebt: 1.800 millones devueltos por deudas que un cálculo automático inventó > El esquema Robodebt reclamó deudas inexistentes a cientos de miles de personas y cerró con 1.800 millones devueltos. El fallo de proceso no fue automatizar. ## Qué pasó El gobierno federal de Australia puso a funcionar un esquema automatizado para recuperar pagos de asistencia social. Se le conoció como Robodebt. El sistema calculaba por su cuenta cuánto creía que cada persona debía y le enviaba el cobro. Muchas de esas deudas no existían. Cientos de miles de beneficiarios recibieron reclamos por dinero que nunca debieron. El desenlace fue un acuerdo de 1.800 millones de dólares australianos y una comisión real que revisó cómo se había llegado hasta ahí; sus conclusiones las publicó [ABC News](https://www.abc.net.au/news/2023-07-07/robodebt-royal-commission-findings-revealed/102531450) en julio de 2023. Esa cifra no es una multa simbólica. Es lo que costó devolver un cobro que un cálculo automático generó y que la organización sostuvo durante años. ## Los números - **2.030** — personas murieron tras recibir la carta de cobro, entre julio 2016 y octubre 2018 - **663** — de esos fallecidos estaban clasificados como «vulnerables» por el propio Estado - **1.800M A$** — el acuerdo judicial que el Estado australiano tuvo que pagarle a las víctimas - **470.000** — deudas ilegales anuladas o devueltas, a más de 370.000 personas afectadas *Verificado contra [abc.net.au](https://www.abc.net.au/triplej/programs/hack/2000-people-died-after-receiving-centrelink-robodebt-notice/10821272).* ## Por qué pasó La automatización no fue el problema. Un cálculo hecho por software no es distinto, en su naturaleza, de un cálculo hecho en una hoja de cálculo: puede estar bien o puede estar mal. Lo que decide si el error se corrige o se convierte en política son otras dos cosas, y en Robodebt las dos estaban invertidas. La primera es la carga de la prueba. El sistema emitía la deuda y era la persona quien tenía que demostrar que no la debía, muchas veces con papeles de años anteriores que ya no conservaba. Cuando quien emite no tiene que probar nada, el error deja de costarle a quien lo comete y pasa a costarle a quien lo recibe. En ese momento el sistema pierde el incentivo para corregirse. La segunda son las advertencias internas. En cualquier operación de este tamaño alguien ve el patrón temprano: los reclamos que llegan, las cifras que no cuadran, los casos que se repiten. La diferencia entre un incidente y un desastre está en si esas señales entran a un canal que obliga a responderlas o si se neutralizan. Aquí se blindaron. Un cálculo que nadie verifica no es automatización. Es una afirmación sin respaldo, emitida a escala y con la firma de una institución. ## Dónde te puede pasar a ti Cualquier sistema que emita un juicio sobre una persona y lo ejecute sin que nadie lo revise repite la misma estructura, aunque el monto sea otro: - Cobranza automática que genera saldos cruzando dos sistemas que no cuadran igual. - Un modelo de riesgo que niega un crédito o encarece una póliza sin dejar un motivo legible. - Suspensión automática de cuentas, vendedores o repartidores a partir de una señal de fraude. - Recargos, multas o intereses calculados por un proceso nocturno que nadie mira hasta que llega el reclamo. - Un agente de IA que emite notas de cobro a partir de lo que «entendió» de un contrato. La pregunta útil no es si el cálculo puede fallar. Es qué ocurre las veces que falle, y quién carga con el costo mientras se aclara. ## Cómo se evita 1. **Muestreo obligatorio antes de emitir.** Un porcentaje fijo de los casos se revisa a mano cada ciclo. Si el error del muestreo supera un umbral, el envío se detiene solo. No depende de que alguien se acuerde de revisar. 2. **La carga de la prueba se queda del lado del emisor.** Antes de reclamarle algo a una persona, el sistema tiene que poder mostrar de dónde salió la cifra, en lenguaje entendible, sin pedirle documentos al otro. 3. **Un canal de objeción con registro.** Quien opera el sistema debe poder levantar una alerta que quede escrita, con fecha y con destinatario obligado a responderla. Una advertencia que solo existe en un correo no es un mecanismo. 4. **Reversibilidad.** Todo cobro, bloqueo o penalización automática necesita un botón de deshacer y una persona con autoridad para apretarlo el mismo día, sin escalar a nadie. Con esos cuatro candados, el mismo cálculo automático sigue corriendo. Lo que cambia es que un error se queda en incidente en lugar de convertirse en 1.800 millones. ## Cómo lo hacemos en Catalizadora En los sistemas que construimos, ningún proceso automático emite un cobro, un bloqueo o una penalización sin dejar la traza de cómo llegó a esa cifra, visible desde la ficha del contacto. Los envíos masivos pasan por una cola con revisión previa y un umbral de error que los detiene. Y toda acción de ese tipo es reversible desde el panel, por una persona, sin tocar la base de datos. ## Preguntas frecuentes ### ¿Qué fue el esquema Robodebt? Un programa del gobierno federal de Australia que calculaba de forma automática deudas de beneficiarios de asistencia social y les enviaba el cobro. Muchas de esas deudas no existían. ### ¿Cuánto costó el error? El caso terminó en un acuerdo de 1.800 millones de dólares australianos devueltos, además de una comisión real que revisó públicamente cómo se llegó hasta ahí. ### ¿Se puede automatizar una cobranza sin repetir este fallo? Sí. La diferencia no está en automatizar o no, sino en tres cosas: que un muestreo humano revise antes de emitir, que la carga de la prueba se quede del lado de quien reclama, y que cada cobro sea reversible el mismo día. ### ¿Qué señal de alerta debería buscar en mi propia operación? Que nadie pueda explicar en lenguaje entendible de dónde salió una cifra que ya se le envió a un cliente, y que la única forma de discutirla sea que el cliente demuestre lo contrario. --- Source: https://catalizadora.ai/blog/gobierno-gobierno-federal-de-australia-robodebt Author: Pablo Estrada — AI Catalysts, LLC (catalizadora.ai)