效果秒杀Alpaca
1. 对于精确的推理效果,目前存在一些限制,例如在推荐饮食或者运动方案可能存在误差。
2. 对多语言支持感到惊喜和满意
3. 编码能力有限,达不到编译的地步,需微调
4. 数据计算能力较弱
5. 中文对话,理解能力还行,可以排忧解难,比其他所谓的LLM强
Vicuna-7B在未进行fine-tuning的情况下已经表现出非常不错的推理效果和效率,单GPU推理可以做到秒级响应且显存占用较低,CPU也能跑,就配置高了点。在有足够的语料库和进行fine-tuning的情况下,模型的效果还有很大的提升空间。