服务公告

服务公告 > 服务公告 > 零代码部署本地大模型,实现公网访问

零代码部署本地大模型,实现公网访问

发布时间:2025-04-22 09:15

【5 分钟封神】零代码部署本地大模型!小白也能秒变 AI 工程师(附 web 交互全流程)

视频教程地址:
https://www.bilibili.com/video/BV1QT52zNEbi/?share_source=copy_web&vd_source=d96712836012cb60dc49374ffd529e03

 

本教程实现在本地电脑搭建AI大模型,可以通过公网进行访问
无需昂贵的服务器成本,在家也能部署随时随地可以访问的AI模型

关键软件与命令汇总:

1.软件:Ollama 官网:https://ollama.com/download 命令:ollama run [模型名]

2.软件:Anaconda 官网:https://www.anaconda.com/products/distribution 镜像:https://mirrors.bfsu.edu.cn/anaconda/archive/ 命令1:conda create -n llm python=3.11  命令2:conda activate llm 命令3:pip install open-webui==0.2.0 命令4:open-webui serve

3.软件:CPolar 官网:https://cpolar.com/

4.软件:FRP 下载地址:https://github.com/fatedier/frp 服务端命令:frps.exe -c ./frps.ini 客户端命令:./frpc.exe -c ./frpc.ini

5.服务器:腾讯、阿里、华为云等 创游云官网:https://www.playidc.com/

注意事项:

模型选择:Ollama 提供多种模型(如 llama2、mistral 等),可根据需求选择轻量级或高性能模型。

端口冲突:若默认端口(8080、9999 等)被占用,需修改配置文件中的端口号。

依赖更新:Open-WebUI 等工具可能更新较快,建议安装前查看官方文档确认最新版本号。

服务器安全:使用 FRP 方案时,需在云服务器控制台开放对应的公网端口。

已经是第一篇啦!

下一篇: Apache Kafka Connect 漏洞预警

扫一扫访问手机版
30+ 高防云产品
1000+企业的共同选择