DeepSeek本地部署

1. 下载

ollama下载地址
解压后, 将ollama拖到应用程序即可

2. 下载模型

模型下载匹配

1
ollama run deepseek-r1:14B

3.可视化插件

  • Page Assist(chrome浏览器插件)
    如下图所示:
    img.png
  • Chatbox
  • Docker部署
    • 运行部署OpenWebUI,仓库地址(docker安装不在赘述)

      docker run -d -p 3000:8080 –add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data –name open-webui –restart always ghcr.io/open-webui/open-webui:main

    • 访问: http://127.0.0.1:3000/
      结果如下:
      img.png

4. 构建私有知识库

  • 安装AnythingLLM 下载地址 github地址
  • 配置模型为ollama
    ollama.png
  • 设置邮箱和创建新的工作空间
  • 使用知识库
    • 上传文件
    • 选中文件移动到工作区
    • 钉住文档
    • 新建线程即可