天天看点

这么牛,你不试试吗?开源AI聊天机器人MLCLLM发布,最牛的还不是本地化部署,不需要联网的问题,最牛的是集显的电脑、苹

作者:那年的疯

这么牛,你不试试吗?开源 AI 聊天机器人 MLC LLM 发布,最牛的还不是本地化部署,不需要联网的问题,最牛的是集显的电脑、苹果 iPhone 都能使用!厉害了吧。这么牛的玩意叫做MLC LLM ,是一个完全开源的项目且已在 GitHub 上线。

“MLC LLM 是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上,此外还有一个高效的框架,供每个人进一步优化自己用例的模型性能。一切都在本地运行,无需服务器支持,并通过手机和笔记本电脑上的本地 GPU 加速。

MLC LLM 使用了 Vicuna-7B-V1.1,后者是一种基于 Meta 的 LLaMA 的轻量级 LLM,效果虽然不如 GPT3.5 或 GPT4,但在大小方面比较占优势。

这个必须试试哈,我一会儿整一个瞧瞧,主要看看对中文支持如何吧。

这么牛,你不试试吗?开源AI聊天机器人MLCLLM发布,最牛的还不是本地化部署,不需要联网的问题,最牛的是集显的电脑、苹
这么牛,你不试试吗?开源AI聊天机器人MLCLLM发布,最牛的还不是本地化部署,不需要联网的问题,最牛的是集显的电脑、苹
这么牛,你不试试吗?开源AI聊天机器人MLCLLM发布,最牛的还不是本地化部署,不需要联网的问题,最牛的是集显的电脑、苹
这么牛,你不试试吗?开源AI聊天机器人MLCLLM发布,最牛的还不是本地化部署,不需要联网的问题,最牛的是集显的电脑、苹

继续阅读