正文
此次泄漏事件引发了人们对公共部门过度使用 AI 的不满。
“我在一家严重依赖人工智能的公司工作。每周都会有人多次找我，去解决他们因为盲目遵循大模型指示而搞砸的事情，这让我很震惊。”有网友在看到泄露消息后说道，可以看出其对 AI 处理工作的不信任。
联邦政府最近正大力宣传对 AI 技术的应用。相较于拜登政府，特朗普政府对 AI 的监管更加宽松，并试图取消各州一级监管，同时加大了对本土 AI 厂商的支持。
此外，特朗普政府及 DOGE 效率部积极推动 AI 应用，政府部门也越来越多采用 AI 来取代在大规模裁员中被裁撤的人手，甚至开始依靠 AI 进行关键决策。尽管马斯克最近离开了政府，并与特朗普“撕”了一场，但 AI.gov 项目表明，DOGE 的影响力仍在延续。然而，大力推行 AI 的 DOGE 此前在使用 AI 处理政府事务时就被公众质疑。
今年在特朗普政府准备取消退伍军人事务部（VA）的一些合同时，DOGE 团队里，直接让没有任何医疗或政府经验的软件工程师 Sahil Lavingia 开发了一个 AI 工具，用来识别哪些来自私营公司的服务是“非必要”的，这些合同会被标记为 “MUNCHABLE”。
使用结果就是错误百出。它会臆造合同金额、经常错误读取甚至夸大合同价值。比如，大模型认定有超过一千份合同的金额为 3400 万美元，而实际上其中有些合同仅值 3.5 万美元。
该 AI 工具最终将 2000 多份合同列为“MUNCHABLE”。外媒 ProPublica 从知情人士手中获得了这段 AI 代码及其标记的合同清单，并找了六位 AI 与政府采购方面的专家进行评价。所有专家一致认为该脚本存在严重缺陷。
专家表示，代码中出现的至少部分错误，是由于使用的 OpenAI 模型版本过旧，这些模型不具备处理复杂任务的能力。更严重的是，这个工具背后的指令本身就存在重大缺陷。记录显示，Lavingia 让 AI 系统只依据每份合同前几页的内容（大约 2500 个词）做出复杂判断，而这些内容往往只是概括性的摘要。
Lavingia 表示自己在入职第二天就完成了该工具的第一个版本，并使用 AI 辅助编写代码。他在 DOGE 工作了近两个月，本人也承认代码存在缺陷。“我可以肯定地说，确实有错误出现了。总是会有错误的。我绝不会建议任何人直接运行我的代码并照做。就像美剧《办公室》那一集，Steve Carell 因为谷歌地图指示要‘开进湖里’，他就真开进去了。‘不要开进湖里’。”
当时，许多人批评使用 AI 来主导 VA 预算削减的做法。“AI 完全不适合做这类事，”曾在奥巴马政府担任财政部 IT 合同监管员的 Waldo Jaquith 表示， “AI 经常会给出看起来很有说服力但其实错误的答案。这种工作必须由人来完成。”
据悉，今年 2 月，在 404 Media 获得了一段泄露的会议录音中，Shedd 告诉他的团队，他们将开发“AI 编码代理”，为整个政府编写软件，并表示他希望利用 AI 来分析政府合同。当时受访的一些政府雇员表示，Shedd 的计划在内部遭到“几乎一致反对”，彼时指出的多种可能出现的问题后来在实行中也出现了。
此外，公众担心的另一个问题是：“把一堆数据整合打包在一起，难道不会让黑客攻击的破坏性更大吗？”有网友列举了除此次泄露事件之外的其他案例：
国防部长（SecDef）的办公室里有一台未加密的私人电脑，连接的是私人、未加密的网络，而且他在上面运行 Signal。而他办公室本身是一个 SCIF（敏感隔离信息设施）——理论上是最应当安全的地方。
还有，如果你曾经使用过 Medicaid（联邦医疗补助），国土安全部（DHS）现在就拥有你的医疗记录，理由嘛……你自己猜。
再看看 DOGE，那边正在积累成一个庞大的“数据老鼠窝”，包括你的社会安全号，甚至一度打算把你的报税信息一并收集过去。这个 DOGE，根本算不上一个真正的政府机构，却由一些人掌控，比如那个现在已经升为 GS-15 级别公务员 的 “Big Balls”，他可是因为向竞争对手泄露商业机密被解雇过的人。
不仅如此，政府现在还雇用了 Palantir 来构建一个包含每个美国人隐私信息的数据库。所以，你完全不用担心了，这届政府正以一种“反向瑞士奶酪模型”（即满是漏洞）的方式来“保障”国家安全，几乎可以确定迟早会出现一场灾难级的安全泄露事件，并以各种方式危及美国人。
而一旦这种事情真的发生，要想弥补造成的伤害，可能就跟“想从大海里把尿提取出来”一样困难。
“他们无法雇佣到能通过忠诚度测试的优秀人才。人工智能是比他们更好的选择。”有网友吐槽道。
