Qualcomm AI Engine Direct 使用手册(10)

QNN GPU 后端将根据网络拓扑分析共享 NATIVE 张量内存。当 disableMemoryOptimizations非零时,模型中的每个张量将被分配唯一的内存并且共享被禁用。

Qualcomm AI

时间:2024-01-08 10:16:03

Qualcomm AI Engine Direct 使用手册(9)

QNN HTA 支持运行量化 8 位和量化 16 位网络。QNN HTA Quant 运行时支持的操作列表可以在支持的操作中的后端支持 HTA 列下查看

Qualcomm AI

时间:2024-01-05 13:55:44

Qualcomm AI Engine Direct 使用手册(8)

QNN 使用 QNN 上下文二进制来执行神经网络。图形准备后,“QNN 上下文” 二进制”包含信息和为了更快地推理模型而进行的优化。 “QNN 上下文二进制”具有 与 QNN 模型的尺寸相比,尺寸更大。

Qualcomm AI

时间:2024-01-05 10:40:59

Qualcomm AI Engine Direct 使用手册(7)

由于删除了子操作,总执行时间显着减少。所有操作 也有大量的并行操作执行 - 正如它们各自的重叠时间所证明的那样 数字 - 表明优化良好。 展示模型 2图表说明了模型 与 展示模型 1 中的类似 图表。不同之处在于有一个 div 操作代替了有问题的子操作。

Qualcomm AI

时间:2024-01-04 15:10:10

Qualcomm AI Engine Direct 使用手册(6)

HTP 执行基本分析事件 图表说明了 基本 HTP 执行分析事件以及在推理过程中如何测量它们。

Qualcomm AI

时间:2024-01-04 14:54:56

Qualcomm AI Engine Direct 使用手册(5)

qnn-net-run 实用程序与后端无关,这意味着它只能使用通用 QNN API。后端扩展功能 方便使用后端特定 API,即自定义配置。有关后端扩展的更多文档 可以在qnn-net-run下找到。请注意,QNN 后端扩展的范围是 仅限于 qnn-net-run。

Qualcomm AI

时间:2024-01-03 14:31:57

Qualcomm AI Engine Direct 使用手册(4)

客户端可以调用 QnnDevice_getInfrastruct 加载 QNN HTP 库后,然后调用可用的方法 文件 QnnHtpPerfInfrastruct.h 的程序列表。这些 API 允许客户端控制 CPU 和 HTP 加速器用于性能目的的系统设置。

Qualcomm AI

时间:2024-01-02 14:48:08

Qualcomm AI Engine Direct 使用手册(3)

客户端通过后端与 Qualcomm® 交互AI Engine Direct。一般来说,Qualcomm® AI Engine Direct 后端是一个软件实体 它实现了QNN API,并且通常以 共享库。术语“QNN 后端”和“QNN 后端库”经常互换使用。

Qualcomm AI

时间:2023-12-29 11:07:43

Qualcomm AI Engine Direct 使用手册(2)

本页将概述使用 Qualcomm® AI Engine Direct SDK 所需的设置。 该页面分为 Linux 平台依赖项、Windows 平台依赖项 和 < /span>。环境设置

Qualcomm AI

时间:2023-12-28 16:13:23

Qualcomm AI Engine Direct 使用手册(1)

Qualcomm® AI Engine Direct 是 Qualcomm Technologies Inc. (QTI) 用于 AI/ML 用例的软件架构 关于 QTI 芯片组和 AI 加速核心。

Qualcomm AI

时间:2023-12-27 14:33:46

Qualcomm Cloud AI SDK 用户指南(12)

Session 是这些 API 的入口点。Session 是一个工厂方法,用户需要调用它来创建会话实例。创建会话时默认会编译模型。

Qualcomm AI SDK

时间:2023-12-26 14:08:44

每页显示 共1823条数据 < 1... 20 21 22 ...166 >      到第 GO

高通软件中心

通过集中式门户站无缝管理您的高通®软件和工具

下载软件中心

申请成为“Qualcomm荣誉技术大使”

“Qualcomm荣誉技术大使”是Qualcomm开发者社区对开发者用户技术能力与影响力的认证体现,该荣誉代表Qualcomm社区对用户贡献的认可与肯定。

立即申请

Qualcomm 解决方案

 

高通技术公司推出头戴式AR开发套件骁龙Spaces™ XR开发者平台,助力打造无缝融合现实世界和数字世界边界的沉浸式体验。

为开发者提供实现创意的工具,并将变革头戴式AR的可能性,现已面市!