天天看點

華為openEuler親測,MaxKB上建構清華智譜AI本地大模型知識庫!五

作者:京小瓷

在數字化時代,特别是對于企業來說,需要考慮資訊安全,企業私有的知識庫顯然不能利用公域的大模型。那麼搭建一套基于本地大模型的個人/企業知識庫是一個很好的解決方案。為了滿足這一需求,小編寫了一篇簡明易懂的教程,旨在指導您如何使用MaxKB和Docker Compose來建構您自己的本地知識庫。

一、初識MaxKB

MaxKB 是一款基于 LLM 大語言模型的知識庫問答系統。MaxKB = Max Knowledge Base,旨在成為企業的最強大腦。

華為openEuler親測,MaxKB上建構清華智譜AI本地大模型知識庫!五
  • 開箱即用:支援直接上傳文檔、自動爬取線上文檔,支援文本自動拆分、向量化,智能問答互動體驗好;
  • 無縫嵌入:支援零編碼快速嵌入到第三方業務系統;
  • 多模型支援:支援對接主流的大模型,包括本地私有大模型(如 Llama 2、Llama 3)、通義千問、OpenAI、Azure OpenAI、Kimi 和百度千帆大模型等。

二、openEuler安裝Docker和MaxKB

  1. openEuler安裝Docker

openEuler上安裝Docker,請看往期,這裡不再詳細​贅述。

  1. Docker上安裝MaxKB

2.1 離線安裝

a.将鏡像離線,生成maxkb的離線包

docker save 1panel/maxkb -o maxkb.tar

b.将第 a 步的離線包上傳至目标伺服器

c. 在目标伺服器加載離線鏡像

docker load < maxkb.tar

2.2 直接線上運作安裝

docker run -d --name=maxkb -p 8090:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

# 使用者名: admin

# 密碼: MaxKB@123..

華為openEuler親測,MaxKB上建構清華智譜AI本地大模型知識庫!五

三、MaxKB應用大模型

  1. 添加智普AI大模型
華為openEuler親測,MaxKB上建構清華智譜AI本地大模型知識庫!五
  1. 建立應用
華為openEuler親測,MaxKB上建構清華智譜AI本地大模型知識庫!五
  1. 建立知識庫
華為openEuler親測,MaxKB上建構清華智譜AI本地大模型知識庫!五

四、智普AI本地大模型效果示範:

華為openEuler親測,MaxKB上建構清華智譜AI本地大模型知識庫!五
華為openEuler親測,MaxKB上建構清華智譜AI本地大模型知識庫!五

繼續閱讀