服务公告
零代码部署本地大模型,实现公网访问
发布时间:2025-04-22 09:15
【5 分钟封神】零代码部署本地大模型!小白也能秒变 AI 工程师(附 web 交互全流程)
本教程实现在本地电脑搭建AI大模型,可以通过公网进行访问
无需昂贵的服务器成本,在家也能部署随时随地可以访问的AI模型
关键软件与命令汇总:
1.软件:Ollama 官网:https://ollama.com/download 命令:ollama run [模型名]
2.软件:Anaconda 官网:https://www.anaconda.com/products/distribution 镜像:https://mirrors.bfsu.edu.cn/anaconda/archive/ 命令1:conda create -n llm python=3.11 命令2:conda activate llm 命令3:pip install open-webui==0.2.0 命令4:open-webui serve
3.软件:CPolar 官网:https://cpolar.com/
4.软件:FRP 下载地址:https://github.com/fatedier/frp 服务端命令:frps.exe -c ./frps.ini 客户端命令:./frpc.exe -c ./frpc.ini
5.服务器:腾讯、阿里、华为云等 创游云官网:https://www.playidc.com/
注意事项:
模型选择:Ollama 提供多种模型(如 llama2、mistral 等),可根据需求选择轻量级或高性能模型。
端口冲突:若默认端口(8080、9999 等)被占用,需修改配置文件中的端口号。
依赖更新:Open-WebUI 等工具可能更新较快,建议安装前查看官方文档确认最新版本号。
服务器安全:使用 FRP 方案时,需在云服务器控制台开放对应的公网端口。
已经是第一篇啦!