高通云人工智能100使用微缩放(Mx)格式将大语言模型推理的速度提高了大约2倍

在对大语言模型(LLM)进行推理时,生成令牌(除了第一个令牌)所需要的DRAM内存带宽远远超过所需要的计算。生成的每一个后续令牌都需要从DRAM内存中读取所有模型权重值。此外,及时处理以及所有先前生成令牌的记忆状态(KV缓存)均必须从DRAM内存中读取。由于这个原因,该类工作负载属于在随后的令牌生成阶段受到严重限制的内存带宽。可用的内存带宽越多,生成速度就越快。

Qualcomm AI

时间:2024-01-19 09:37:55

CES 2024高通中国“汽车朋友圈”亮眼:展示舱驾融合、智能座舱合作成果,共创AI机遇

1月9日,CES 2024盛大开幕,本届消费电子展,高通携手百余家合作伙伴展示了包括汽车、XR、物联网、移动计算等多个领域的创新成果。在汽车领域,已有超过3.5亿辆汽车采用了骁龙数字底盘解决方案。在中国,高通正携手不断扩展的汽车“朋友圈”,利用AI技术推动汽车智能化变革:骁龙数字底盘自2021年起已支持40多家中国汽车品牌推出超100款车型;多代骁龙座舱平台持续赋能中国汽车厂商刷新座舱性能与体验的“天花板”;Snapdragon Ride平台正支持中国合作伙伴加速迈向自动驾驶的未来。

Qualcomm AI

时间:2024-01-17 10:24:05

高通与博世在CES 2024展示支持数字座舱和驾驶辅助功能的全新车载中央计算平台

博世全新座舱与ADAS集成平台基于Snapdragon Ride Flex SoC打造,后者是高通技术公司推出的可通过单颗SoC支持数字座舱和ADAS功能的领先平台,旨在支持混合关键级工作负载。全新平台赋能汽车制造商实现统一的中央计算与软件定义汽车架构,提供从入门级到顶级的可扩展性能。全新车载中央计算平台将在2024年国际消费电子展的博世展台上展出。

Qualcomm AI

时间:2024-01-16 11:32:50

高通在CES 2024上开启出行全新时代

骁龙数字底盘凭借为下一代生成式AI提供赋能的一整套完整产品组合保持强劲增长势头,这些产品组合包括数字座舱、车联网技术、网联服务、先进驾驶辅助与自动驾驶系统。全面的汽车产品组合可为车辆实现优化,提供开放、可编程、多功能和高度定制化等业界领先的特性,并为所有层级的出行平台提供丰富的软件或操作系统的生态支持。至今已有超过3.5亿辆汽车采用骁龙数字底盘解决方案。

Qualcomm AI

时间:2024-01-15 10:57:52

人工智能:推动社会进步的力量

人工智能(AI)可以提高生产力、激发创造力,带来更好的生活体验,我们致力于打造能为社会带来积极变革的AI技术。AI将在以下几个领域让世界变得更美好。

Qualcomm AI

时间:2024-01-11 11:14:23

高通推出第二代骁龙XR2+平台,加速MR体验新浪潮

第二代骁龙XR2+平台支持4.3K单眼分辨率和12路及以上并行摄像头,带来更清晰沉浸的MR和VR体验。三星和谷歌将采用第二代骁龙XR2+平台,打造领先XR体验。

Qualcomm MR VR XR

时间:2024-01-08 10:19:20

Wi-Fi 7终端认证加速,高通Wi-Fi 7端到端解决方案持续引领先进连接体验变革

多年来,高通公司积极参与、推动行业在Wi-Fi领域的频段划分、标准制定,以及技术和应用的革新与演进等工作,通过丰富的解决方案持续引领Wi-Fi创新。数据显示,截至今年6月,高通公司在Wi-Fi产品领域的出货量位居全球第一;过去十年,高通公司在全球出货的Wi-Fi芯片已超过75亿颗,被应用在手机、PC、路由器、物联网设备及网联汽车等广泛领域。

Qualcomm wifi

时间:2024-01-03 14:33:01

CES 2024开幕在即,高通邀您共同迈向AI时代

月9日至12日,CES 2024将在美国举办。高通公司多位演讲人将分享公司在AI、汽车、XR等领域的最新创新成果与合作动态,并从产业赋能、应用场景以及未来发展趋势等层面进行深入解读。

Qualcomm AI

时间:2024-01-02 11:08:27

正在开发 Windows on Snapdragon 项目?查看Microsoft 新的 App Assure 咨询服务

长期以来,我们一直向您介绍,为Windows on Snapdragon®开发Arm兼容应用要比想象得容易得多。而现在,变得更加简单了–Microsoft已经宣布提供App Assure Arm咨询服务,帮助开发人员构建Arm兼容的应用。如果您已经着手开发Windows on Snapdragon项目,然而有一些疑问未得到解决,那么,Microsoft咨询服务就是为您准备的。

Qualcomm

时间:2023-12-29 17:56:55

智能影像跃升,由终端侧AI来助力

利用出色的AI性能进一步提升智能手机的影像能力向来是骁龙的突出优势。第三代骁龙8移动平台,将高性能AI注入整个平台系统,为用户带来前所未有的AI影像体验。

Qualcomm AI

时间:2023-12-28 16:24:19

每页显示 共1073条数据 < 1 2 3 4 ...108 >      到第 GO

Qualcomm 解决方案

 

XR

Qualcomm XR专区是 Qualcomm和CSDN联合建立的聚焦增强现实(AR)、虚拟现实(VR)等技术的技术专区。本专区将为开发者打造一流的开发环境,提供丰富的技术支持,和业界资讯,以及最全面的下载资料。让开发者感受非凡移动体验、带来身临其境的移动享受、感受精彩生活、无限接近逼真视觉提供支持,打造一个全面的移动开发者技术服务社区。

了解更多

SDK 下载

本版块下载 SDK,只需简单注册,就可轻松下载。