新闻笔记 · IDAEO AI News

英特尔揭Edge AI策略!不只拚GPU,Core Ultra系列3胜Jetson Orin,边缘AI性能最高2.5倍,主打降低TCO
#边缘运算

英特尔揭Edge AI策略!不只拚GPU,Core Ultra系列3胜Jetson Orin,边缘AI性能最高2.5倍,主打降低TCO

发布者:

TL;DR · 这代表什么

英特尔宣称其CPU+GPU+NPU异质架构可降低边缘AI部署门槛

相关实体 株式会社蜂盛贵

新闻正文

人工智能应用正从云端延伸至终端与边缘,边缘设备面对的已不只是影像辨识,也包括大型语言模型、Agentic AI及Physical AI等复合工作负载。英特尔今(16)日表示,边缘AI不一定要依赖外置GPU,通过CPU、GPU与NPU组成的异质运算架构,已能支持多种AI应用。根据英特尔测试,Core Ultra X7 358H对比NVIDIA Jetson AGX Orin 64GB,在4项边缘AI工作负载中呈现性能优势,最高达2.5倍。

英特尔边缘运算事业群生态系发展部门总经理杜唯扬表示,英特尔从嵌入式系统、IoT到边缘运算,已有约40年经验。随着电脑视觉、生成式AI及Agentic AI逐步成熟,AI应用正进一步走向Physical AI,让机器人、无人机及其他智能设备具备感知、推理与行动能力。

边缘AI关键不只是模型,而是能否部署

杜唯扬指出,现在市场上的AI模型愈来愈多,企业真正面临的问题,已从模型创建转向模型选择、系统集成及实际部署。

「现在创造新的Model其实不太是大问题,很多时候是Model选择困难症,Model太多了。」他说,模型要真正落地,还需要适合的硬件、软件与运算架构支持。

以传统电脑视觉为例,对象侦测、影像分割与对象追踪等工作,可能由GPU或集成式GPU处理;大型语言模型、视觉语言模型(VLM)及视觉语言动作模型(VLA),则会涉及CPU、GPU与NPU的协同运算。进入Agentic AI后,系统还要负责任务管理、流程协调与外部沟通,CPU仍扮演重要角色。

至于Physical AI,除了模型推论,还要同步处理摄影机、传感器、马达及即时控制。因此,英特尔认为,边缘系统不能只以单一GPU性能衡量,而要依照不同工作负载,在各个运算单元之间进行分工。

Core Ultra系列3对比Jetson Orin,4项测试最高2.5倍

英特尔演示文稿显示,Core Ultra X7 358H与NVIDIA Jetson AGX Orin 64GB的比较测试,涵盖影像分类、LLM延迟、端到-end影像分析及VLA模型。

其中,影像分类性能高出2.5倍;LLM延迟速度快1.7倍;影像分析的每美元性能高出2.2倍;VLA模型性能则快1.5倍。英特尔借此强调,在部分边缘AI应用中,集成式GPU已足以支应实际部署需求,企业不必一开始就配置独立GPU。

不过,上述结果属于英特尔测试数据,实际性能仍会受到模型、软件、功耗与系统配置影响。英特尔官方数据另指出,Core Ultra系列3在其他测试中,LLM性能最高提升1.9倍、端到端影像分析每瓦每美元性能最高提升2.3倍,VLA模型吞吐量最高提升4.5倍;这些测试的比较平台与工作负载,与Jetson Orin测试并不相同。

Core Ultra系列3边缘运算处理器采用Intel 18A制程,并通过嵌入式与工业应用认证,支持较宽广的工作温度范囲及24×7全天候运作。英特尔表示,通过CPU、GPU与NPU集成在单一系统单芯片(SoC)中,可减少额外硬件组件,进而降低功耗、系统复杂度及总持有成本(TCO)。

英特尔边缘运算事业群生态系发展部门总经理杜唯扬。(英特尔提供)

Open Edge Platform串起硬件与软件生态系

除了处理器,英特尔也将Open Edge Platform视为Edge AI策略的内核。杜唯扬表示,Open Edge Platform提供底层平台软件、工具与函数库,以及上层参考应用;Intel AI Edge Systems则提供标准化硬件蓝图、基准测试与验证工具,协助OEM、ODM及解决方案供应商选择适合的系统规模。

英特尔目前已推出6套Edge AI Suites,涵盖城市交通、零售、教育、制造、机器人,以及医疗与生命科学等领域,另于今年7月底推出政府与航太AI开发套件预览版。

开发者可依照Evaluate、Build、Deploy三阶段推进。先以参考应用与基准测试评估系统能力,再利用工具与函数库进行优化,最后将应用部署到商用环境。由于许多开发者原本就以PyTorch为基础,英特尔希望降低既有模型与应用移植到Intel平台的门槛。

英特尔指出,目前已与约63家系统伙伴合作,创建155套系统;应用端则有约125家应用伙伴,完成137项应用。官方媒体数据也指出,英特尔与合作伙伴在全球已完成超过10万个边缘应用案例。

杜唯扬表示,Edge AI的竞争不只是单一芯片或GPU性能,而是系统、软件、应用与合作伙伴能否共同完成商用部署。随着Agentic AI及Physical AI逐步进入产业,英特尔将持续通过开放平台,协助企业把AI从模型推进到实际场域。

数字与意义

2.5倍

Core Ultra X7 358H在影像分类测试中对比NVIDIA Jetson AGX Orin 64GB的性能优势

常见问题(FAQ)

英特爾邊緣AI策略的核心技術是什麼?

整合CPU、GPU、NPU的異質架構,以及透過Open Edge Platform實現的生態系協作。

Core Ultra相比NVIDIA有何優勢?

在特定邊緣AI工作負載中效能最高達2.5倍,具備TCO降低與省電設計優勢。

Open Edge Platform的主要好處為何?

透過硬體與軟體整合支援,加速AI應用的開發與部署。

邊緣AI實用化的關鍵因素是什麼?

除了模型性能,系統整合、可靠性、總持有成本與部署便利性至關重要。

英特爾的邊緣AI導入成果有哪些?

全球超過10萬個導入案例,與125家夥伴共同開發137項應用。

今日小测

英特尔Core Ultra X7 358H在影像分类测试中性能比NVIDIA Jetson AGX Orin高出多少?