“2023世界人工智能年夜会(WAIC)在上海进行。本届年夜会以“智联世界 生成将来”为主题,聚焦AI前沿手艺和财产成长。高通公司持续第六年参会,并介入多场论坛,从手艺研究、利用摆设和财产赋能等多个角度,描画了夹杂AI赋能的智能将来。同期,第二代骁龙8的高通AI引擎取得年夜会最高奖项——SAIL奖(出色人工智能引领者奖);高通还在现场带来了其壮大终端侧AI赋能的生成式AI用例手艺演示。
7月6日至8日,2023世界人工智能年夜会(WAIC)在上海进行。本届年夜会以“智联世界 生成将来”为主题,聚焦AI前沿手艺和财产成长。高通公司持续第六年参会,并介入多场论坛,从手艺研究、利用摆设和财产赋能等多个角度,描画了夹杂AI赋能的智能将来。同期,第二代骁龙8的高通AI引擎取得年夜会最高奖项——SAIL奖(出色人工智能引领者奖);高通还在现场带来了其壮大终端侧AI赋能的生成式AI用例手艺演示。鞭策5G+AI边沿侧立异,夯实智能将来成长根本高通手艺公司首席商务官Jim Cathey在年夜会首日全部会议——财产成长论坛上暗示:“5G对一个加倍智能的世界相当主要。凭仗出色的机能、靠得住性和容量,5G正在向智妙手机以外的更多范畴扩大,实现万物互联,成为数字经济的要害根本举措措施。同时,5G还助力AI扩大至更多边沿侧终端,不但鞭策了智能的范围化扩大,还可以或许使在边沿侧生成的情境相干数据与云端近乎及时地同享。”
作为终端侧AI带领者,高通公司投入AI研发已跨越15年,构建了壮大的边沿侧AI手艺、结构和范围化优势。高通手艺公司全球副总裁兼高通AI研究负责人侯纪磊博士暗示:“凭仗一系列根本研究,和跨AI利用、模子、硬件与软件的全栈终端侧AI优化,我们的延续立异让公司始终处在终端侧AI解决方案的最前沿。”侯纪磊博士特殊指出,高通的AI解决方案旨在供给最好能效,让AI无处不在。高通AI引擎作为公司多年全栈AI优化的结晶,可以或许以极低功耗供给业界领先的终端侧AI机能,赋能当前和将来的用例。另外,可扩大的手艺架构让用户可以或许采取一个高度优化的AI软件栈,便可在分歧终端和模子长进行工作,以壮大的矫捷性和稳健性应对将来的AI手艺成长。
赋能生成式AI范围化扩大,夹杂AI是AI的将来采取夹杂AI或仅在终端侧运行AI,可以或许在全球规模带来本钱、能耗、机能、隐私、平安和个性化优势。跟着生成式AI的飞速普和和计较需求的日趋增加,夹杂处置的主要性空前突显。高通认为,要真正鞭策生成式AI成为主流,并阐扬其最年夜潜能,必需采纳夹杂AI架构。近期,高通公司发布白皮书《夹杂AI是AI的将来》,具体论述了公司的夹杂AI愿景。高通手艺公司产物治理高级副总裁兼AI负责人Ziad Asghar在演讲中暗示:“为实现生成式AI的范围化扩大,AI处置的重心正在向边沿转移。夹杂AI架构在云端和边沿终端之间分派并协同处置AI工作负载,可以或许实现更壮大、更高效且高度优化的AI。我们正在引领夹杂AI愿景的实现,经由过程无线毗连、高效计较和散布式AI融会云端和终端,释放生成式AI的无穷潜力。”
高通的AI能力已赋能一系列普遍的产物,包罗手机、汽车、XR、PC、物联网装备等,搭载骁龙和高通平台的已上市用户终端数目已到达数十亿台。据Ziad介绍,高通正在将更多生成式AI用例向边沿侧迁徙,今朝,参数跨越10亿的AI模子已可以或许在手机上运行,且机能和精度到达与云端类似的程度。不久的未来,具有100亿或更年夜参数的生成式AI模子将可以或许在终端上运行,鞭策生成式AI的普和。手艺哺养行业生态,打造开放元宇宙将来高通作为5G、AI、XR等立异手艺的带领者,致力在以行业领先的软硬件综合解决方案,加快元宇宙和XR生态系统的成长。高通手艺公司高级副总裁程立新在演讲中暗示:“5G、AI和XR,是构建元宇宙的三年夜根本手艺。操纵我们在5G和终端侧AI范畴的壮大手艺优势,高通公司正在加快5G、AI和XR手艺的融会,构建智能网联边沿,鞭策打造更沉醉、更智能的XR世界。”
生成式AI能为元宇宙内容扶植带来庞大前景。生成式AI有潜力在将来普和3D内容创作,好比赋能内容创作者利用如文本、语音、图象或视频等各类类型的提醒,生成3D物体和场景,并终究缔造出完全的虚拟世界。另外,内容创作者将可以或许操纵文本生成文本的年夜说话模子,生成类人对话,这些前进都将变化用户在XR装备上缔造和体验沉醉式内容的体例,构建开放、个性化的元宇宙将来。引领业界AI立异,建立行业手艺新标杆高通以首创性的手艺立异,延续引领终端侧智能体验的成长。第二代骁龙8移动平台的高通AI引擎,荣获了世界人工智能年夜会最高奖项——SAIL奖(出色人工智能引领者奖)。高通AI引擎可以或许为终端侧AI推理加快供给出色机能和能效,并撑持丰硕AI用例立异,晋升用户体验。高通AI引擎实现软硬件一体,硬件侧采取异构计较架构,其要害焦点Hexagon处置器具有一系列立异,如供给专用供电系统,撑持微切片推理、INT4精度、transformer收集加快等。
凭仗高通AI引擎的全栈AI能力和优化手段,高通已率先将生成式AI能力带到了终端侧,并在WAIC长进行了手艺展现,让泛博参会者见证了壮大终端侧AI将若何助力生成式AI在终端侧实现无穷潜力。此中,全球首个运行在Android手机上的Stable Diffusion终端侧演示,可以或许在15秒内履行20步推理,完全在手机上处置跨越10亿参数模子。这是智妙手机上最快的推理速度,媲美云端时延,且用户文本输入完全不受限制。今朝,高通已将这一用例扩大至骁龙计较平台赋能的PC产物。另外,高通还带来了全球最快的手机上的ControlNet终端侧演示,该模子具有15亿参数,在这项演示中,只用不到12秒便可在移动终端上生成AI图象,无需拜候任何云端,便能供给高效、有趣、靠得住且私密的交互式用户体验。
高通手艺公司首席商务官Jim Cathey颁发演讲
高通手艺公司全球副总裁兼高通AI研究负责人侯纪磊博士颁发演讲
高通手艺公司产物治理高级副总裁兼AI负责人Ziad Asghar颁发演讲
高通手艺公司高级副总裁程立新颁发演讲
第二代骁龙8移动平台的高通AI引擎荣获SAIL奖(出色人工智能引领者奖)