专栏名称: 阿里云开发者
阿里巴巴官方技术号,关于阿里的技术创新均将呈现于此
目录
相关文章推荐
海外独角兽  ·  Granola:ChatGPT、Notion ... ·  11 小时前  
阿里云开发者  ·  AI Agent 的工程化被低估了 ·  14 小时前  
阿里云开发者  ·  基于Memory ... ·  昨天  
51好读  ›  专栏  ›  阿里云开发者

QwQ-32B一键部署!真正的0代码,0脚本,0门槛

阿里云开发者  · 公众号  · 科技公司  · 2025-03-06 18:00

正文

请到「今天看啥」查看全文



安装步骤

  1. 阿里云系统运维管理控制台[1]中找到 OpenWebUI扩展 点击 安装扩展程序

  1. 请选择想要安装到的ECS实例,并点击创建。

  1. 等待执行几分钟,安装完成后。点击输出->扩展信息。您可以在 配置输出 里面找到已安装好的OpenWebUI的Url(格式为 http://{ECS的公网ip}:3000)。

  1. 点击url链接,根据提示创建账号并登录即可。

注意:


  • 您需要确认安全组入方向3000端口已经开放,详情见附录1。

  • 第一次登陆会比较慢,请在登陆后按照附录2说明,更改配置。下次登陆就会变快。

在Open WebUI部署QwQ-32B本地大模型

当您登陆进入管理界面,您可以直接在对话界面搜索,想要本地部署的模型。本文以部署QwQ-32B模型为例。点击从ollama官网[2]拉取,等待模型下载部署完成后,就可以直接使用啦!您可以在 ollama官网 查看可供下载的大模型。

下载完成后,您可以选择模型并开始对话。

更多信息可以参考 OpenWebUI官方文档 [3]。







请到「今天看啥」查看全文