【大模型对话 的界面搭建-Open WebUI】

news/2024/9/27 21:30:27 标签: 人工智能, llama, 语言模型

Open WebUI 前身就是 Ollama WebUI,为 Ollama 提供一个可视化界面,可以完全离线运行,支持 Ollama 和兼容 OpenAI 的 API。

github网址

https://github.com/open-webui/open-webui

安装

第一种 docker安装

如果ollama 安装在同一台服务器上:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果不在同一台服务器上:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果有NVIDIA的GPU:

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

还有一些安装细节,可以参考https://docs.openwebui.com/ 查看

其他安装方法

pip

注意这个有版本要求:
Python 3.11 is required for this method

安装

pip install open-webui

使用:

open-webui serve

从open webui的github repo

要求:

🐰 Node.js >= 20.10
🐍 Python >= 3.11

在linux或者macos

git clone https://github.com/open-webui/open-webui.git
cd open-webui/

# Copying required .env file
cp -RPp .env.example .env

# Building Frontend Using Node
npm install
npm run build

cd ./backend

# Optional: To install using Conda as your development environment, follow these instructions:
# Create and activate a Conda environment
conda create --name open-webui-env python=3.11
conda activate open-webui-env

# Install dependencies
pip install -r requirements.txt -U

# Start the application
bash start.sh

在windows下:

git clone https://github.com/open-webui/open-webui.git
cd open-webui

copy .env.example .env

npm install
npm run build

cd .\backend

# Optional: To install using Conda as your development environment, follow these instructions:
# Create and activate a Conda environment
conda create --name open-webui-env python=3.11
conda activate open-webui-env

pip install -r requirements.txt -U

start.bat

安装完成后, openwebui运行在http://localhost:8080/上了

完全离线安装

上面是比较推荐的方法,如果完全离线可以从python官网下载python,然后官网下载open webui

  • python

https://www.python.org/downloads/
linux版本通常是source 版本 到linux安装

  • open webui
    https://pypi.org/project/open-webui/#files

运行起来后,可以跟chatgpt一样的界面进行对话了,另外WebUI 还天然支持RAG,可以尝试上传资料等
在这里插入图片描述


http://www.niftyadmin.cn/n/5679597.html

相关文章

基于yolov8的游戏人物自动锁定功能

1️⃣加载模型 2️⃣获取屏幕内容 3️⃣获取人物坐标 4️⃣鼠标移动到指定位置 import math import random import time import mss from PIL import Image import pyautogui import torch from pynput.mouse import Controller from ultralytics import YOLO #import win32ap…

python用两类循环嵌套打印正置九九乘法口诀表和倒置九九乘法口诀表

一、正置九九乘法口诀表&#xff1a; 1&#xff09;while循环嵌套&#xff1a; i 1 #定义外层循环控制变量 while i < 9:j 1 #定义内层循环控制变量while j < i:print(f"{j}*{i}{j*i}\t",end ) #内层循环要求打印每个表达式后对…

【Linux第五课-进程上】PCB内部属性、标识符、进程状态、Linux下的进程状态、进程的优先级、Linux进程的调度与切换

目录 体系结构 -- 硬件上操作系统 -- 软件上进程PCB内部属性1、在linux里面看程序2、标识符获取程序的标识符父进程标识符 PPID查看进程的另一种方法通过系统调用创建进程 - fork杀掉一个进程for循环创建多个代码 3、进程状态进程排队 - 队列教程上关于进程状态表述运行阻塞&am…

tomcat 文件上传 (CVE-2017-12615)

漏洞描述&#xff1a; 当 Tomcat 运行在 Windows 主机上&#xff0c;且启用了 HTTP PUT 请求方法 影响范围&#xff1a; Apache Tomcat 7.0.0 - 7.0.79 漏洞复现&#xff1a; 创建vulfocus靶场容器 poc #CVE-2017-12615 POC import requests import optparse import ospar…

服务器的地址如何伪装起来

要伪装服务器的地址&#xff0c;可以通过多种方式来隐藏或改变其实际IP地址&#xff0c;使得外部无法轻易知道服务器的真实位置。这些方法通常用于保护隐私、提高安全性、绕过地理限制或防止攻击。以下是几种常见的伪装服务器地址的方法&#xff1a; 1. 使用代理服务器 概念&…

字节豆包C++一面-面经总结

talk is cheap show me the code lc206&#xff1a;链表反转&#xff1a;给你单链表的头节点 head &#xff0c;请你反转链表&#xff0c;并返回反转后的链表。 class Solution { public:ListNode* reverseList(ListNode* head) {if(headnullptr||!head->next)return head…

Unity角色控制及Animator动画切换如走跑跳攻击

Unity角色控制及 Animator动画切换如走跑跳攻击 目录 Unity角色控制及 一、 概念 1、角色控制 1) CharacterController(角色控制器) 2) CapsuleCollider + Rigidbody(使用物理刚体控制) 2、角色动画-Animation、Animator 1) 旧版动画系统

Efficient DETR: Improving End-to-End Object Detector with Dense Prior

原文链接 [2104.01318] Efficient DETR: Improving End-to-End Object Detector with Dense Prior (arxiv.org)https://arxiv.org/abs/2104.01318 原文笔记 What 1、一种针对DETR的objectquery初始化的方法 2、针对Deformable DETR进行改进&#xff0c;改进之后的模型具有…