一、 为什么做这次评测？（决策背景）

在目前的智慧工地、明厨亮灶项目招投标中，集成商（SI）面临着一个极度尴尬的“死局”：

• 甲方的要求：要能同时跑火灾检测、安全帽识别、人脸考勤；至少支持 4 路 1080P 视频流；必须要边缘侧分析，不能推流上云。

• 甲方的预算：单点位硬件预算被压到了极致。

• 现实的矛盾：选 NVIDIA Jetson Orin Nano？性能稳但成本高，容易超支。选 瑞芯微 RK3588？纸面算力 6TOPS 看起来很美，但落地开发真的能“平替”吗？

二、 参测选手与测试环境

我们将两款市面上最热门的边缘盒子放在同一起跑线上，搭配同样的算法模型。

• 选手 A（标杆组）：联想/研华 Jetson Orin Nano 8GB 版

• 核心优势：CUDA 生态成熟，开发周期短。

• 理论算力：40 TOPS (INT8) ：40顶（int8）

选手 B（挑战组）：基于 RK3588 的国产工业盒子（以香橙派/Firefly 为代表）

• 核心优势：硬件成本显著低于 Orin 系列，独立 VPU 编解码。

• 理论算力：6 TOPS (INT8)

测试算法：

• 检测：YOLOv10s（转 ONNX/TensorRT/RKNN）

• 识别：ArcFace（人脸特征提取）

输入源：4 路海康威视 IPC 1080P H.265 码流。

三、 核心战况：跨界兼容性实测

1. 推理帧率 (FPS) 与 延迟 (Latency)

注：很多厂商只标“单张图片推理时间”，这是误导。我们测试的是从拉流解码到画框输出的全链路 FPS。

虽然 Orin Nano 的绝对算力更高，但 RK3588 的多媒体处理能力（VPU）是独立的，不占用 NPU 算力。这意味着在处理单纯的视频解码任务时，RK3588 的效率反而极高，且 CPU 负载更低。

2. 72小时压力测试：发热与降频

这是集成商最容易忽视的隐形成本。我们将两台设备放入40℃ 恒温箱（模拟夏季户外弱电箱环境）。

• Orin Nano：在第 4 小时核心温度突破 85℃，触发热保护，推理帧率从 28 FPS 断崖式下跌至 15 FPS。结论：必须加装主动风扇，被动散热不可靠。

• RK3588：全程核心温度维持在 72℃ 左右，未出现明显降频。其 8nm 工艺在能效比上确实优于 Orin Nano 的架构。

四、 避坑指南 (The Pitfalls) —— 选型必看

在你看硬件成本心动之前，必须了解以下“劝退”真相：

1. RK3588 的开发门槛是 Orin 的 3 倍

• 模型转换噩梦：NVIDIA 的 TensorRT 生态极其成熟，GitHub 上资源丰富。而 RK3588 需要使用 rknn-toolkit2 进行模型转换。如果你使用的是 YOLOv10 的某些自定义算子（Custom OP），可能会发现 RKNN 暂时不支持，导致这部分算子回退到 CPU 运行，推理速度直接慢 10 倍。

• 量化精度损失：RK3588 强依赖 INT8 量化。我们在实测中发现，小目标（如远处的未佩戴安全帽）在转为 RKNN 模型后，漏检率上升了 15%。这需要算法工程师具备极强的“量化感知训练”能力才能修复。

2. 内存瓶颈

• 如果你需要运行大模型（如 Llama-3-8B 的边缘量化版），RK3588 的内存带宽会成为瓶颈，Token 生成速度仅为 Orin Nano 的 60%。

3. 供应链隐患

• 虽然 RK3588 芯片国产，但部分核心板配套的 PMIC（电源管理芯片）依然紧缺。下单前务必确认交期，不要被 PPT 上的“现货”承诺误导。

五、 选型建议与配置推荐

不要只看价格，要看你的团队能力和项目属性。

场景 A：项目工期紧（<1个月），算法团队弱

• 结论：无脑选 Jetson Orin Nano。

• 理由：你省下的硬件钱，都会变成加班费和现场调试的差旅费。DeepStream 的生态能保你准时交付。

  
  

场景 B：项目规模大（>100个点位），有资深嵌入式开发，对BOM成本极度敏感

• 结论：坚定选择 RK3588。

• 理由：在大批量部署下，硬件成本优势巨大。只要攻克了模型量化和算子适配的难关，它的性价比无敌。

  
  

六、 立即行动

你的项目适合哪种方案？不要瞎猜。

我们已经将上述测试数据输入到了“解决方案引擎”中。