政务系统接入DeepSeek，几个问题不容忽视

正文

请到「今天看啥」查看全文

DeepSeek作为生成式AI模型，其输出结果可能存在不可解释性和“幻觉”问题，即生成的内容看似合理但并不符合实际情况。在政策咨询场景中，如果系统提供的答案存在错误或误导性信息，可能引发公众对政府服务的不信任，甚至导致决策失误。

数据安全与模型可靠性带来的系统性风险。 DeepSeek的应用依赖于海量数据的训练和调用，这可能带来数据泄露、滥用或被恶意攻击的风险。例如，政务数据中涉及大量敏感信息，如果安全防护不到位，可能导致隐私泄露、数据篡改等，进而影响政府公信力和社会稳定。

过度依赖技术导致的系统脆弱性与应急能力不足风险。 如果政府部门过度依赖DeepSeek等人工智能技术，可能导致系统在面对技术故障、网络攻击或突发事件时显得脆弱。例如，一旦DeepSeek系统出现故障，可能直接影响政务服务的正常运行，甚至引发公众对政府应急能力的质疑。

建议对策

针对以上可能的风险与挑战，人民中科研究院从四个方面提出技术对策和建议，如下图所示。

对策建议框架示意图

一是准确评估业务应用场景对模型的需求，避免资源浪费与效率失衡。 在引入DeepSeek之前，政府部门应充分调研和评估实际业务场景的需求，明确技术的适用性和优先级。例如，对于高频、标准化程度高的业务（如政策咨询、信息查询），可以优先引入DeepSeek以提升效率。而对于复杂、涉及重大决策的业务，则需谨慎评估技术的适用性。同时，建议建立统一的建设标准和评估机制，避免各地重复建设，确保资源投入与产出效益相匹配。

请到「今天看啥」查看全文