盘点：强势来袭，引爆边缘AI运算新革命 - DeepX DX-M1 AI加速卡结合Rockchi

addle

在2025年，人工智能(AI) 与边缘计算(Edge Computing) 将迎来一个崭新的里程碑。DeepX 推出了一款革命性的产品 DeepX DX-M1 AI 推理加速卡 采用 PCIe Gen3 M.2 M-Key 接口，具备高达 25 TOPS 的卓越运算性能，以及高准确度、低功耗、低温度等性能表现。在行业专家看来，半导体方案的确有着很大的发展潜力，这更是让很多投资者趋势若骛。大大通还有完善个人的社交系统，关注技术大牛，获取积分，吸引粉丝，获取更高头衔和特别勋章，让工程师可以获得荣誉感、成就感。https://www.wpgdadatong.com.cn/blog/detail/74478

通过结合 Orange Pi 5 Plus(Rockchip RK3588) 与 DeepX AI 加速卡，这套解决方案以极高性价比为基础，能够为工业电脑提供即插即用的便捷体验，并以「平台升级，迎接AI智能时代」为设计理念，助力开发者轻松迈向人工智能领域，为 AI 应用开启了全新篇章。


图1 基于 DeepX AI 加速卡结合 Rockchip RK3588 多路物体检测解决方案势示意图





同时，提供丰富的软件资源与主流深度学习框架 ( 例如 TensorFlow、PyTorch 和 ONNX ) 的全面支持，论是初学者还是专业人士，都能迅速掌握操作技巧，轻松完成 AI 模型的部署，让更多人能够参与其中。人工智能的应用开发中，促使创新变得更加触手可及。



其中 边缘计算(Edge Computing) 与 神经运算处理芯片(Neural Processing Unit, NPU) 将是掀起这项浪潮的关键指标得以将智能设备更贴近人们的日常生活。

AI技术的进一步发展，更多的创新应用将逐步落地，彻底重塑我们的日常应用，于以下领域：

智能监控：通过时目标检测、行为分析与入侵预警，强化城市安全与监控系统。
智慧零售：通过顾客行为分析与智能货架管理，提升购物体验，化销售策略。
医疗影像分析：运用 AI 协助医生进行疾病诊断(如肿瘤检测)，提高医疗准确性。
工业质检：自动化检测产品瑕疵，提高制造业质量管控与生产效率。
高级辅助驾驶系统(ADAS)：通过 AI 视觉技术，分析道路、行人等状况，以现行车安全的目标。
农业监测：监测作物健康状况，检测病虫害，化农业管理，提高产量和品质。
自走车：通过传感器和 AI 算法，自主导航并避开障碍物，应用于物流、巡检等多种场景。
机械手臂：结合 AI 与视觉系统，能精确地执行组装、焊接等任务，提高生产效率和产品质量。
自动送餐系统：外卖平台如 Uber Eats，正在美国多个城市部署由 Serve Robotics 开发的送餐机器人，这些机器人配备 AI 技术，能自主导航至顾客所在地，提供高效的送餐服务。
人机影像分析：AI 驱动的视觉系统使人机能够进行地形物体检测、灾害评估和基础设施检查，提供高效的数据收集和分析。


图2 AI应用方向示意图，出处 ChatGPT 生成





另外，可以通过 DeepX 的卓越运算性能，可以轻松打造 多路(Multi-Streamer) 的物体检测(Object Detection) 应用 论是使用普通 USB 摄像头，还是通过网络流媒体来源，都能完美整合到各种智能场景中。由于目前 Orange Pi 5 Plus 的摄像头极限大约为 16 路 480p 流媒体输入，如果采用更高端的 NVR 作为主平台，更能发挥出 DX-M1 的极限。因此，更能适用于小型商场、停车场、会展中心等商品防盗、车辆安全管控、人流统计等应用中。


图3 多路物件检测解决方案应用示意图，出处 ChatGPT 生成





DeepX：引领智能新浪潮的造势者



在边缘计算浪潮中，DeepX 是韩国的一家初创公司，拥有约 240 多项智能专利[link]。并在 CES 2024 一次荣获嵌入式、机器人、电脑整合项创新奖[link] 等大奖。甚至被美国消费者技术协会 (CTA)评为“必访公司”，成为全球市场的焦点。[link]。



DeepX DX-M1 AI 加速卡强势来袭，能够提供每瓦 5 TOPS 的计算性能，拥有强大的边缘计算能力 (25TOPS) 以及IQ8?(Intelligent Quantization Integer 8) 独有的量化技术，足够媲美 GPU 的准确度，在拥有 INT8 的极点效率的同时也能享受到 FP32 准确度，现与伦比的 AI 精度[link]。



其内置搭配 4 GB 的内存(DDR) 用于访问模块，不会占用主系统的资源，大幅度减轻系统集成的负担。其卓越的性能表现成为智慧监控、智慧医疗、智慧制造等边缘 AI 应用的仅有首选。


图4 DeepX AI 芯片规格示意图





软件持续化更新：打造比较佳用户体验



DeepX 不仅拥有强大的硬件性能，并且打造了一个完整且友好的软件生态系统，为开发者提供全方位的支持。其生态系统包含详细的速入门指南(Quick Start Guide)、功能强大的软件开发工具包(SDK)、丰富的模型资源库(Model Zoo)，以及多样化的示例应用程序。这些资源能有效协助开发者迅速整合并化 AI 模型的运行，缩短开发时间，同时提升应用性能，让 AI 创新变得更加轻松现。



软件由大核心组件构成，分别是量化器(Quantizer)、编译器(DX-COM Compiler) 以及 运行时环境(DX-RT Runtime)，共同驱动旗下的 DeepX AI SoC 系列产品。这些组件相互协作，形成一个高效的人工智能计算平台，为各种应用场景提供强大的支持。以下图示范说明其架构：


图5 DeepX 开发环境示意图，出处官方文件





卓越的AI性能



利用 DeepX DX-M1 芯片运行当前比较热门的 YOLOv5s (640x640) 目标检测算法，可轻松达到每秒约 330 张。


图6 DeepX DX-M1 芯片性能数据表





下列表格是 GPU 与 DX-M1 的准确度分析，其中绿色字体表示 Full Precision 代表 GPU，蓝色字体表示 IQ8 代表 DeepX NPU。


图7 DeepX DX-M1与GPU准确度比较表，出处官方文件





丰富的 AI 应用



DeepX 致力于推动人工智能技术的普及，提供多样化的 AI 示例与教学资源，循序渐进地引导开发者掌握 AI 应用的现过程。通过示例，开发者不仅能深入了解人工智能的核心技术，还能学习如何将其灵活运用于际场景，从而加速创新与技术落地。