在數字化時代,特别是對于企業來說,需要考慮資訊安全,企業私有的知識庫顯然不能利用公域的大模型。那麼搭建一套基于本地大模型的個人/企業知識庫是一個很好的解決方案。為了滿足這一需求,小編寫了一篇簡明易懂的教程,旨在指導您如何使用MaxKB和Docker Compose來建構您自己的本地知識庫。
一、初識MaxKB
MaxKB 是一款基于 LLM 大語言模型的知識庫問答系統。MaxKB = Max Knowledge Base,旨在成為企業的最強大腦。
- 開箱即用:支援直接上傳文檔、自動爬取線上文檔,支援文本自動拆分、向量化,智能問答互動體驗好;
- 無縫嵌入:支援零編碼快速嵌入到第三方業務系統;
- 多模型支援:支援對接主流的大模型,包括本地私有大模型(如 Llama 2、Llama 3)、通義千問、OpenAI、Azure OpenAI、Kimi 和百度千帆大模型等。
二、openEuler安裝Docker和MaxKB
- openEuler安裝Docker
openEuler上安裝Docker,請看往期,這裡不再詳細贅述。
- Docker上安裝MaxKB
2.1 離線安裝
a.将鏡像離線,生成maxkb的離線包
docker save 1panel/maxkb -o maxkb.tar
b.将第 a 步的離線包上傳至目标伺服器
c. 在目标伺服器加載離線鏡像
docker load < maxkb.tar
2.2 直接線上運作安裝
docker run -d --name=maxkb -p 8090:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
# 使用者名: admin
# 密碼: MaxKB@123..
三、MaxKB應用大模型
- 添加智普AI大模型
- 建立應用
- 建立知識庫
四、智普AI本地大模型效果示範: