效果秒殺Alpaca
1. 對于精确的推理效果,目前存在一些限制,例如在推薦飲食或者運動方案可能存在誤差。
2. 對多語言支援感到驚喜和滿意
3. 編碼能力有限,達不到編譯的地步,需微調
4. 資料計算能力較弱
5. 中文對話,了解能力還行,可以排憂解難,比其他所謂的LLM強
Vicuna-7B在未進行fine-tuning的情況下已經表現出非常不錯的推理效果和效率,單GPU推理可以做到秒級響應且顯存占用較低,CPU也能跑,就配置高了點。在有足夠的語料庫和進行fine-tuning的情況下,模型的效果還有很大的提升空間。