From 087d09d594c3acface5fb2cdf494563ec24f1588 Mon Sep 17 00:00:00 2001 From: wanghe-fit2cloud Date: Fri, 15 Mar 2024 11:22:36 +0800 Subject: [PATCH] =?UTF-8?q?feat:=20=E4=BC=98=E5=8C=96=20Ollama=20=E7=AD=89?= =?UTF-8?q?=E5=BA=94=E7=94=A8=E6=8F=8F=E8=BF=B0=E4=BF=A1=E6=81=AF?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- apps/{open-webui => ollama-webui}/README.md | 0 apps/{open-webui => ollama-webui}/data.yml | 6 +-- apps/{open-webui => ollama-webui}/logo.png | Bin .../main/data.yml | 0 .../main/docker-compose.yml | 0 apps/ollama/README.md | 36 ++++++++++++++++-- apps/ollama/data.yml | 10 ++--- 7 files changed, 40 insertions(+), 12 deletions(-) rename apps/{open-webui => ollama-webui}/README.md (100%) rename apps/{open-webui => ollama-webui}/data.yml (84%) rename apps/{open-webui => ollama-webui}/logo.png (100%) rename apps/{open-webui => ollama-webui}/main/data.yml (100%) rename apps/{open-webui => ollama-webui}/main/docker-compose.yml (100%) diff --git a/apps/open-webui/README.md b/apps/ollama-webui/README.md similarity index 100% rename from apps/open-webui/README.md rename to apps/ollama-webui/README.md diff --git a/apps/open-webui/data.yml b/apps/ollama-webui/data.yml similarity index 84% rename from apps/open-webui/data.yml rename to apps/ollama-webui/data.yml index 0e2e4b591..a4af1e976 100644 --- a/apps/open-webui/data.yml +++ b/apps/ollama-webui/data.yml @@ -1,12 +1,12 @@ -name: Open WebUI +name: Ollama WebUI tags: - AI title: 面向 LLM 的用户友好型 WebUI type: AI description: 面向 LLM 的用户友好型 WebUI additionalProperties: - key: open-webui - name: Open WebUI + key: ollama-webui + name: Ollama WebUI tags: - AI shortDescZh: 面向 LLM 的用户友好型 WebUI diff --git a/apps/open-webui/logo.png b/apps/ollama-webui/logo.png similarity index 100% rename from apps/open-webui/logo.png rename to apps/ollama-webui/logo.png diff --git a/apps/open-webui/main/data.yml b/apps/ollama-webui/main/data.yml similarity index 100% rename from apps/open-webui/main/data.yml rename to apps/ollama-webui/main/data.yml diff --git a/apps/open-webui/main/docker-compose.yml b/apps/ollama-webui/main/docker-compose.yml similarity index 100% rename from apps/open-webui/main/docker-compose.yml rename to apps/ollama-webui/main/docker-compose.yml diff --git a/apps/ollama/README.md b/apps/ollama/README.md index 709b48a64..f36d2545b 100644 --- a/apps/ollama/README.md +++ b/apps/ollama/README.md @@ -2,8 +2,36 @@ **Ollama** 是一个开源的大型语言模型服务，提供了类似 OpenAI 的 API 接口和聊天界面，可以非常方便地部署最新版本的 GPT 模型并通过接口使用。支持热加载模型文件，无需重新启动即可切换不同的模型。 -## 优势： +## 快速开始 -- 提供类似OpenAI的简单内容生成接口，极易上手使用； -- 类似ChatGPT的的聊天界面，无需开发直接与模型聊天； -- 支持热切换模型，灵活多变。 \ No newline at end of file +> 进入 `容器` 列表，找到 Ollama 容器，点击进入终端运行并与 [Llama 2](https://ollama.com/library/llama2) 聊天： + +``` +ollama run llama2 +``` + +## 模型库 + +Ollama 支持 [ollama.com/library](https://ollama.com/library) 上提供的一系列模型 + +以下是一些可以下载的示例模型： + +| Model | Parameters | Size | Download | +| ------------------ | ---------- | ----- | ------------------------------ | +| Llama 2 | 7B | 3.8GB | `ollama run llama2` | +| Mistral | 7B | 4.1GB | `ollama run mistral` | +| Dolphin Phi | 2.7B | 1.6GB | `ollama run dolphin-phi` | +| Phi-2 | 2.7B | 1.7GB | `ollama run phi` | +| Neural Chat | 7B | 4.1GB | `ollama run neural-chat` | +| Starling | 7B | 4.1GB | `ollama run starling-lm` | +| Code Llama | 7B | 3.8GB | `ollama run codellama` | +| Llama 2 Uncensored | 7B | 3.8GB | `ollama run llama2-uncensored` | +| Llama 2 13B | 13B | 7.3GB | `ollama run llama2:13b` | +| Llama 2 70B | 70B | 39GB | `ollama run llama2:70b` | +| Orca Mini | 3B | 1.9GB | `ollama run orca-mini` | +| Vicuna | 7B | 3.8GB | `ollama run vicuna` | +| LLaVA | 7B | 4.5GB | `ollama run llava` | +| Gemma | 2B | 1.4GB | `ollama run gemma:2b` | +| Gemma | 7B | 4.8GB | `ollama run gemma:7b` | + +> 注意：您应该至少有 8 GB 可用 RAM 来运行 7B 型号，16 GB 来运行 13B 型号，32 GB 来运行 33B 型号。 diff --git a/apps/ollama/data.yml b/apps/ollama/data.yml index 38682e64f..8a0d98d3f 100644 --- a/apps/ollama/data.yml +++ b/apps/ollama/data.yml @@ -1,20 +1,20 @@ name: Ollama tags: - AI -title: 启动并运行 Llama 2、Mistral、Gemma 和其他大型语言模型 +title: 本地运行 Llama 2、Mistral、Gemma 和其他大型语言模型 type: AI -description: 启动并运行 Llama 2、Mistral、Gemma 和其他大型语言模型 +description: 本地运行 Llama 2、Mistral、Gemma 和其他大型语言模型 additionalProperties: key: ollama name: Ollama tags: - AI - shortDescZh: 启动并运行 Llama 2、Mistral、Gemma 和其他大型语言模型 - shortDescEn: Get up and running with Llama 2, Mistral, Gemma, and other large language models + shortDescZh: 本地运行 Llama 2、Mistral、Gemma 和其他大型语言模型 + shortDescEn: Locally run Llama 2, Mistral, Gemma, and other large language models type: tool crossVersionUpdate: true limit: 0 - recommend: 0 + recommend: 50 website: https://ollama.com/ github: https://github.com/ollama/ollama document: https://github.com/ollama/ollama/blob/main/docs/README.md