高能效架构
自研 AI 计算架构，以极致能效比提供澎湃算力，每瓦性能行业领先，让端侧设备在有限功耗下释放最大 AI 性能。
技术概况
全栈高效能 AI 推理系统
高效能 AI 推理系统是临界维度核心技术之一，涵盖硬件高效能计算与模型高效能推理两大方向。通过自研高能效架构、算子融合、内存优化等技术，将模型推理延迟降至毫秒级，为智能硬件提供强大的推理能力。
极致能效 · 即时响应
算子融合
将多个计算算子融合执行，减少内存访问与 kernel 启动开销，大幅提升推理效率。
异构计算
CPU+GPU+NPU 异构协同，根据任务特性智能选择最优计算单元，实现性能与功耗的最佳平衡。
内存优化
智能内存分配与复用策略，最大化利用有限的片上内存资源，支持更大模型运行。
毫秒级延迟
全链路推理优化，从模型加载到结果输出，实现毫秒级响应，提供如直觉般的即时体验。
动态功耗管理
实时监测负载，动态调整频率与电压，在性能与功耗间取得最佳平衡，延长设备续航时间。
技术形态
高效能 AI 推理系统满足从实时交互到批量处理的多样化推理需求
芯片算子级优化
- 算子融合与并行处理
- 循环与指令级优化
- 数学与算法优化
高效推理引擎
- 端到端延迟低于 50ms，实时交互体验
- 支持流式处理，边输入边输出
- 动态批处理，平衡延迟与吞吐量
软硬件临界平衡
- 有限算力下高效模型运算
- 有效平衡算力、功耗、发热