天天看点

OPPO交卷!Find X7系列带来行业首个端侧应用70亿参数大模型

OPPO交卷!Find X7系列带来行业首个端侧应用70亿参数大模型

1831年,迈克尔·法拉第发现了电磁感应,造就了发电机。而真正推动电力在人类生活中广泛应用的是,近半个世纪后托马斯·爱迪生发明的能够长久照明的钨丝灯泡。

2022年ChatGPT横空出世,AI大模型对于人类社会的颠覆性变革有目共睹,那么能够推动AI大模型走向普及的“钨丝灯泡”在哪里呢?答案就是智能手机,将大模型装进手机,人人都能触手可及、便捷使用,这才是一个让AI真正走进千家万户的完美方案。

2024年1月8日,OPPO Find X7 系列正式发布,除了强大的硬件配置,堪称封神的移动影像,Find X7 系列更是通过高精度 4bit 量化等模型压缩,AI Boost 推理引擎,以及与芯片平台深度合作的硬件加速方式,第一次为手机端侧带来完全体的70亿参数大模型,彻底变革手机端侧AI的使用方式,正式开启AI手机新时代。

OPPO交卷!Find X7系列带来行业首个端侧应用70亿参数大模型

毫不夸张的说,OPPO 70亿参数大模型将手机应用的发展进入全新的阶段,使得手机成为了一个更智能化的平台,用户可以通过手机享受到更多个性化、智能化的服务。

真正的AI大模型,应该是什么样?

对于用户来说,AI手机是一个既熟悉又陌生的概念,以苹果Siri为代表的手机语音助手,早就不是什么新鲜事物,但是它们能够实现的功能、语音识别的准确率,以及对语言的深度理解都难以让人满意,这些人工智能助手常常被调侃为“人工智障”。

通过将大模型与手机相结合,我们可以打破现有的这种局限及瓶颈。借助手机作为互联网的入口,我们能够更好地理解用户需求,并通过深度学习和自然语言处理技术不断优化大模型的应用。同时,这也使得大模型能够更好地了解市场需求和产品缺陷,从而做出更明智的决策,为每个用户提供个性化的服务。

那么,真正聪明的AI手机、用户触手可及的大模型应该具备什么样的特点呢?它应该拥有自己的个性和智慧,能够准确地理解用户的需求并实现边缘侧的自我学习。这样的AI助手还能够实时获取用户的信息和行为习惯,具备人格和记忆,与用户共享喜怒哀乐。在保障用户隐私安全的前提下,它将带来更快的响应速度、更强的处理能力和更高的生成质量,为用户提供优质的本地AI体验和服务。

然而,大模型对计算基础设施的要求极高,落地手机上也普遍存在模型体积大、算力要求高、安全性不可控等难点,OPPO作为一家领先的智能手机厂商,是如何积极应对这些挑战的呢?

在Find X7系列上,OPPO首次实现端侧应用70亿参数的大语言模型,智慧能力全面提升。而所谓端侧大模型,是直接部署在用户终端,也就是手机上的大模型。OPPO自主训练的、个性专属大模型——AndesGPT 包含了从十亿到千亿级参数的多种版本,知识储备丰富、拥有无限记忆、也善用工具;端云协同的技术架构,可以支撑更加多元化的应用场景,当然也可以拓展更多应用场景。值得一提的是,该大模型可以直接使用手机处理器的算力进行运行,在大部分场景下不需要网络通信,飞行模式下也能使用,相当于用户在购买手机时就获得了大模型,后续使用成本为零。

当前,随着AI大模型走进手机领域,现有手机算力、存储的瓶颈就会逐渐凸显出来,推动大算力芯片,已经成为破解手机端侧大模型落地的关键一步。为保证大模型的高速运转,OPPO首次运用了独家的潮汐架构技术。作为芯片软硬融合技术栈,潮汐架构构建了一套从场景识别、到算力需求、缓存匹配,到算力调度的芯片级的性能解决方案,实现旗舰芯片最大化的能效表现。

手机AI真正成为你的私人助理

OPPO对于大模型的布局,其核心目标是构建和优化智能终端的交互体验,让用户能够获得更加流畅、便捷和人性化的体验,以加速生活方升级。这背后不仅需求强大的硬件支撑,更包括创新软件系统的操作逻辑和创新交互的设计与功能。那么,在实际的用机场景中,OPPO Find X7系列端侧大模型给用户生活带来哪些不同以往的体验呢?

1.AI大模型语音摘要:可自动总结、提取通话中的关键信息,还可以快速查找重要内容,让工作生活更轻松。在生成质量方面,相比于10亿参数模型,AndesGPT 70亿参数大语言模型以更高“智商”的理解能力,为通话摘要能力上带来更完整、更准确的记录。

OPPO交卷!Find X7系列带来行业首个端侧应用70亿参数大模型

2.文章智能摘要:可快捷看稿,让用户日常获得新闻信息更加便捷。相比于同平台其他模型,OPPO AndesGPT 70亿参数大语言模型可以在200字首字生成带来20倍的更快响应,面向2000字首字生成也可以实现2.5倍的更快速度。可以实现最高14000的摘要字数上限,达到了同平台其他模型的3.5倍。

OPPO交卷!Find X7系列带来行业首个端侧应用70亿参数大模型

3.AIGC消除:基于自主训练的AndesGPT生成式视觉模型,带来主体消除与实景重绘的全新功能体验。相比同平台其他云端模型只能支持人体的识别,AndesGPT 不仅支持超过120类主体的识别与分割,还可以实现发丝级的分割以及高达6个的多主体分离,以及超大面积图像的填充与自然生成,极大地拓展了生成式视觉大模型的使用范围与实用性,此外,AndesGPT 生成式视觉模型的端侧应用,也带来相比同平台其他模型 60% 的更短生成时间,以及更高的生成精度,帮助用户更好地处理照片。

OPPO交卷!Find X7系列带来行业首个端侧应用70亿参数大模型

借力大模型拿下高端市场

市场研究机构Canalys发布的报告显示,2023年第三季度,中国智能手机市场出货连续两个季度下跌平缓,同比下滑5%至6670万部。中国手机市场仍整体下滑但已现回暖迹象,并且600美元以上高端手机在中国市场表现依然坚挺。与此同时,业内普遍达成共识,手机厂商们致力打造的涵盖设备、汽车和联网终端的新一代智能生态环境,大模型便是生态底座。所以,面对手机行业发展困局,AI大模型或为最佳突破方向,而AI和终端的融合则被视为新的创新锚点,将带动产业链共振。

毋庸置疑,只有把握前沿、先进的技术,才有更强的竞争力,因此手机品牌只有更好地创新改革,产品才具备更强的竞争力,更好地打进全球高端市场。未来大模型不再是一个营销的话术或者简单套用一层AI外皮的功能,只有像OPPO这样建立真实可用的AI大模型并且不断优化,让AI变得更智能,同时将AI与用户体验和需求紧密结合,才是未来行业的发展方向,更多人将切实感受到AI给生活带来的便利。