本地部署DeepSeek模型的风险、成因与应对

（一）常用部署工具

在众多本地部署AI模型的工具中，Ollama因其简化的部署流程和高效的运行环境备受推崇。下面我们先来了解一下Ollama及其优势：

• Ollama是什么？
  Ollama是一款开源的应用程序，主要用于在个人电脑（Windows、Linux、macOS）上本地运行大型语言模型（LLM）。 它采用了容器化技术，能将模型及其运行环境打包在一个“容器”内，从而确保在不同系统上环境一致、安装简便。

  
  

• 为什么选择Ollama？

1. 部署简便 ：Ollama利用容器化技术（主要通过Docker实现），大大简化了复杂模型的安装和配置过程。

   Docker：你可以把Docker看作一个“打包工具箱”，它将应用程序以及所有依赖（代码、库、配置文件等）封装成一个独立的“容器”，保证在不同电脑上运行时环境保持一致。

2. 高效运行 ：容器化技术使得资源利用更高效，启动和运行速度较快，特别适合需要快速响应的AI应用。

3. 易于扩展与定制 ：用户可以在Ollama上根据需求添加或修改配置，使得模型能够更灵活地满足特定场景的需求。

（二）常用部署工具（Ollama）存在的安全风险

尽管Ollama在部署和运行方面具有诸多优势，但其安全防护措施存在不足，主要体现在以下几个方面：

某校信息化服务发布的安全通知

1. 网络端口开放与无鉴权问题

• 网络端口是什么？

  可以将网络端口比作电脑上的“门”，每个门都有一个特定的号码，用来接收和发送数据。Ollama默认在11434端口上提供服务（如下图官方文档所示），相当于打开了一扇门，能让外部请求访问进来。

• 无鉴权问题
  “无鉴权”意味着该服务没有设置密码或身份验证机制，任何知道该端口存在的人都可以直接发送指令操作。 在这个情况下，设备所接入的局域网内所有的其他设备都可以通过扫描11434端口向模型发起API请求。 这样不仅会消耗算力资源，还因为能调用管理员级别的API，对模型和数据安全造成影响。 这种情况在服务暴露于公网时风险尤为严重，因为黑客可以轻易利用这一漏洞进行攻击。

2. 常见的攻击方式

由于以上安全缺陷，Ollama容易成为攻击目标，常见的攻击方式包括：