计算机可以让我们的生活更美好、更高效。但盲目地使用计算机解决问题并不能保证比手动操作更好的结果。两者都必须根据其优缺点进行评估……我不敢相信我们竟然要指出这一点，但合法性问题依然存在。
澳大利亚的“Robodebt”丑闻就是一个悲剧的例子。Robodebt丑闻是由我们前保守党政府执政期间实施的（你大概能看出这事儿会发展成什么样子），旨在自动检测和追收政府超额支付的社保金。它试图解决的“问题”被大大夸大了，但话说回来，政府踢开弱势群体比解决系统性问题更容易。不过我跑题了。
Robodebt 的电子狂妄论调背后，隐藏着一系列关于受害者收入的基本假设，这些假设会被推算到受害者全年的收入水平。然后，系统会计算出其中的差额，并向社保受益人收取费用。
如果你注意到我说的“假设”有问题，恭喜你！你比澳大利亚政府部门还聪明。系统输出的数字完全是胡扯；他们甚至没有一个可以归咎于“幻觉”数据的“人工智能”工具。但它的受害者都太真实了，即使是澳大利亚历史上最大的集体诉讼的赔偿金来得太晚，也救不了其中一些人。
我尽量用轻松的心态来看待这些话题，但这确实是一个可怕的骗局，所有参与其中的人都应该彻夜难眠。我内心的愤世嫉俗者会说，这才是关键所在：Robodebt 是一个惩罚性系统，旨在惩罚那些需要社会保障才能生存的人。我认为，向一个帮助那些比我机会更少或运气不佳的人的体系纳税是公民义务，也是一种荣幸……没错，这其中也包括那些可能获得额外补助的人。我们竟然还在争论这个问题，这简直荒唐；我们有更重要的事要做。
我希望澳大利亚政府未来能以更成熟、更负责任的方式实施这些系统，即使出于自私，也是为了避免赔偿损失。随着“人工智能”工具越来越根深蒂固，这一点只会变得更加重要。
作者： Ruben Schade ，悉尼，2025 年 9 月 6 日。
原文： https://rubenerd.com/robodebt-and-australias-largest-class-action/