🎯 整体架构
EDGE AI OS采用7层分层架构设计:开发者生态层、云端服务层、云边协同层、边端Agent核心层、模型运行时与调度层、数据存储层、硬件设备层。各层职责清晰,松耦合设计,实现Agent与设备深度融合。
👥 开发者生态层
Agents生态:提供Agent模板库和一句话生成功能,零代码快速创建AI应用。开放平台:提供SDK、API和开发工具链。开发者社区:促进经验交流和Agent共享。
☁️ 云端服务层
XCNN Cloud:AI模型全生命周期管理。XLoop Cloud:知识库编辑和云端同步。XCommander:AI Agent快速搭建平台,支持模板库、工作流编排和Agent商店。TMS 3.0:统一设备管理平台,实现AI设备注册、监控、应用分发、OTA升级和远程运维。
⇄ 云边协同层
通过MQTT等协议实现云端与边端实时连接,支持模型同步、知识库同步、配置下发和状态上报,确保边缘设备最新状态,同时支持离线运行。
🧠 边端Agent核心层 - 智能认知闭环
核心亮点:通过记忆模块(时间轴) → 知识库系统 → Agent自规划三位一体,形成完整的"记忆-学习-决策"智能闭环。记忆模块存储交互历史,知识库沉淀结构化知识,自规划引擎基于记忆和知识进行自主决策与优化,让AI设备具备真正的自主智能和持续进化能力。设备管理Edge:统一管理设备接入、消息总线和规则引擎。多模态能力:提供听、说、看、感知、显示、执行六大能力,构建完整的感知-认知-决策-执行体系。
⚡ 模型运行时与调度层
XCNN推理引擎:支持大小模型推理,集成Ascend CANN、MNN、ONNX等第三方引擎,支持NPU/GPU/CPU异构加速。Michael调度器:智能算力调度、多种触发机制(定时/事件/条件)、负载均衡与预测性调度。Uriel执行器:任务执行、应用控制、状态跟踪与异常处理。
💾 数据存储层
采用边缘端轻量化数据库组合:向量数据库支持RAG语义检索,时序数据库存储设备历史数据,SQLite提供本地结构化存储,配合加密、备份功能保障数据安全。
🔧 硬件设备层
支持NPU/APU/MDLA神经网络加速器、GPU图形处理和CPU通用计算。硬件产品包括AI BOX(Lite/Pro/Ultra)、AI Mount壁挂屏、AI Glasses智能眼镜和AI Control控制系统。
🧠 智能认知闭环 - 三角循环体系
核心创新:通过记忆模块(时间轴)、知识库系统和Agent自规划三位一体设计,构建三角循环闭环体系。记忆模块提供时间维度的认知基础,知识库实现经验沉淀与知识推理,自规划引擎基于记忆和知识进行自主决策。三者相互支撑、循环强化,实现从"被动响应"到"主动学习"的技术跨越,让边缘AI设备真正具备自主智能和持续进化能力。
🚀 推理性能优化
量化加速:INT8量化将YOLOv5推理速度从40ms优化至15ms或4ms。DLA格式:大模型转换为DLA格式优化加载和功耗。异构调度:自动选择NPU/GPU/CPU最优硬件加速器。
🤝 Agent与设备融合
将Agent智能与IoT设备管理深度融合,边缘端集成设备接入、消息总线和规则引擎,实现智能设备的自主感知、决策和执行,构建完整的边缘智能体系。
☁️ 云边协同机制
支持模型、知识库和配置的实时同步,确保边缘设备获取最新能力。同时支持离线运行,边缘端可独立完成推理、决策和执行,保障系统稳定性和响应速度。