新闻正文
人工智能应用正从云端延伸至终端与边缘,边缘设备面对的已不只是影像辨识,也包括大型语言模型、Agentic AI及Physical AI等复合工作负载。英特尔今(16)日表示,边缘AI不一定要依赖外置GPU,通过CPU、GPU与NPU组成的异质运算架构,已能支持多种AI应用。根据英特尔测试,Core Ultra X7 358H对比NVIDIA Jetson AGX Orin 64GB,在4项边缘AI工作负载中呈现性能优势,最高达2.5倍。
英特尔边缘运算事业群生态系发展部门总经理杜唯扬表示,英特尔从嵌入式系统、IoT到边缘运算,已有约40年经验。随着电脑视觉、生成式AI及Agentic AI逐步成熟,AI应用正进一步走向Physical AI,让机器人、无人机及其他智能设备具备感知、推理与行动能力。
边缘AI关键不只是模型,而是能否部署
杜唯扬指出,现在市场上的AI模型愈来愈多,企业真正面临的问题,已从模型创建转向模型选择、系统集成及实际部署。
「现在创造新的Model其实不太是大问题,很多时候是Model选择困难症,Model太多了。」他说,模型要真正落地,还需要适合的硬件、软件与运算架构支持。
以传统电脑视觉为例,对象侦测、影像分割与对象追踪等工作,可能由GPU或集成式GPU处理;大型语言模型、视觉语言模型(VLM)及视觉语言动作模型(VLA),则会涉及CPU、GPU与NPU的协同运算。进入Agentic AI后,系统还要负责任务管理、流程协调与外部沟通,CPU仍扮演重要角色。
至于Physical AI,除了模型推论,还要同步处理摄影机、传感器、马达及即时控制。因此,英特尔认为,边缘系统不能只以单一GPU性能衡量,而要依照不同工作负载,在各个运算单元之间进行分工。
Core Ultra系列3对比Jetson Orin,4项测试最高2.5倍
英特尔演示文稿显示,Core Ultra X7 358H与NVIDIA Jetson AGX Orin 64GB的比较测试,涵盖影像分类、LLM延迟、端到-end影像分析及VLA模型。
其中,影像分类性能高出2.5倍;LLM延迟速度快1.7倍;影像分析的每美元性能高出2.2倍;VLA模型性能则快1.5倍。英特尔借此强调,在部分边缘AI应用中,集成式GPU已足以支应实际部署需求,企业不必一开始就配置独立GPU。
不过,上述结果属于英特尔测试数据,实际性能仍会受到模型、软件、功耗与系统配置影响。英特尔官方数据另指出,Core Ultra系列3在其他测试中,LLM性能最高提升1.9倍、端到端影像分析每瓦每美元性能最高提升2.3倍,VLA模型吞吐量最高提升4.5倍;这些测试的比较平台与工作负载,与Jetson Orin测试并不相同。
Core Ultra系列3边缘运算处理器采用Intel 18A制程,并通过嵌入式与工业应用认证,支持较宽广的工作温度范囲及24×7全天候运作。英特尔表示,通过CPU、GPU与NPU集成在单一系统单芯片(SoC)中,可减少额外硬件组件,进而降低功耗、系统复杂度及总持有成本(TCO)。
英特尔边缘运算事业群生态系发展部门总经理杜唯扬。(英特尔提供)
Open Edge Platform串起硬件与软件生态系
除了处理器,英特尔也将Open Edge Platform视为Edge AI策略的内核。杜唯扬表示,Open Edge Platform提供底层平台软件、工具与函数库,以及上层参考应用;Intel AI Edge Systems则提供标准化硬件蓝图、基准测试与验证工具,协助OEM、ODM及解决方案供应商选择适合的系统规模。
英特尔目前已推出6套Edge AI Suites,涵盖城市交通、零售、教育、制造、机器人,以及医疗与生命科学等领域,另于今年7月底推出政府与航太AI开发套件预览版。
开发者可依照Evaluate、Build、Deploy三阶段推进。先以参考应用与基准测试评估系统能力,再利用工具与函数库进行优化,最后将应用部署到商用环境。由于许多开发者原本就以PyTorch为基础,英特尔希望降低既有模型与应用移植到Intel平台的门槛。
英特尔指出,目前已与约63家系统伙伴合作,创建155套系统;应用端则有约125家应用伙伴,完成137项应用。官方媒体数据也指出,英特尔与合作伙伴在全球已完成超过10万个边缘应用案例。
杜唯扬表示,Edge AI的竞争不只是单一芯片或GPU性能,而是系统、软件、应用与合作伙伴能否共同完成商用部署。随着Agentic AI及Physical AI逐步进入产业,英特尔将持续通过开放平台,协助企业把AI从模型推进到实际场域。