Edge AI 落地大不易 场域、夥伴都不可少

随着科技技术与应用需求不断发展,Edge AI 也逐渐成为 AI 领域中的一个关键分支,但实际要落地仍有许多挑战待解。研华研华科技产业云暨影像科技事业群副总经理鲍志伟在 AI EXPO 2024 的演讲上便提到,除了关键的四大要素,生态系的建立与夥伴都是不可少的关键。

研华科技产业云暨影像科技事业群副总经理鲍志伟提到, Edge AI 将是下一波 AI 发展的趋势,也是台湾产业的机会。但是,AI 从技术到落地的过程中,需要考量到许多问题。根据他过去参与各类 Edge AI 专案的经验,Edge AI 虽然已经出现很久,却难以被规模化的原因很多,光是选择硬体的规格就是一个大问题,尤其是边缘装置的计算能力、散热等细节都需要考量。其次,由於 Edge AI 讲求大量部署,也就代表企业必须具有远端管理能力,能将装置串接在一起;再加上 AI 模型必须时时更新,还要稳定提供服务而不间断。

Edge AI 规模化四大要素:场域、平台、协作与 AI 加速

在众多的挑战下,鲍志伟认为, Edge AI 跃升规模化有四大要素,包含场域、平台、协作与 AI 加速。目前已知的边缘运算应用包含农作物、玻璃瓶或金属元件等不规则物件的检测、可依照区域环境与气候进行的无人化农业灌溉,以及得来速系统。美国的得来速系统已有多数是 AI ChatBot,不仅可以对话,还能清楚辨识客户的点单内容,即使背景有噪音也能清楚辨识。

他认为, Edge AI 规模化的关键,在於产业先行者能率先采纳相关应用,并使得产业生态开始改变,才能促使其他企业跟进。例如场域部分不只是表面看来的工业场域、智慧城市如此简单而已,必须有分阶段的实施过程。首先是以政府为主所推动的产业 AI 转型,所产生的领头效应,较为常见的场域如智慧交通,而铁道边坡落石预测就是目前的应用。

第二个阶段则是先进业者积极研发导入,取得先进优势;接下来造成其他业者不得不跟进所带起的群起效应,在此同时,技术推进的速度也会越来越快。而第四个阶段就是创新效应,各领域的开创应用情境百花齐放。他认为目前的产业应该在跟随与创新效应之间,预计在 2025 年将有大幅度的成长,因此,2024 年将是一个好的准备期。

鲍志伟认为,高效能、低耗电运算平台的产生以及低延迟传输且仅耗费十分之一成本两大技术的出现,驱动 Edge AI 智能化的产生,并将带领产业未来十年的发展。从Camera、开发套件、小系统、各垂直领域专用,到 Edge AI 的Server等一系列的平台系统都已经准备并大量部署在在全球各场域中。

Edge AI 并不同於以往的 IPC 产业,更着重在共同的协作。在协作的蓝图中,除了平台的搭建,以及中介软体(Middleware)的合作,更重要的就是如何建立整个系统的生态系。而研华也积极与主要的晶片公司合作,共同推出不同应用效能的运算平台;软体方面的支援,以及技术的整合与协作,生态圈夥伴的数量也逐步增长。较为实际的应用包括针对垂直应用领域,整合 SDK、感测器,以及影片/图像感测,提供一体化解决方案;或是针对区域性应用,与独立软体厂商合作,提供整合的销售解决方案等。

夥伴才是生态系最重要的关键

那麽生成式 AI 是否能在 Edge AI 落地?鲍志伟表示,目前在韩国已有相关的交通场域应用,不只是车流、车牌及交通状况的辨识,透过生成式 AI 的帮助,可以在车祸当下即时产生交通事故报告,并提醒交通事故处理者进行处理。

鲍志伟说,在研华的整个 Edge AI 规模化的蓝图下,除了平台、协作,以及整个产业中的部件,都已经有明确的定义,但更重要的是,在整个生态系里,最重要的还是要有夥伴的共同合作,才是实现 AI 规模化关键要素。

红酒玫瑰花

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
最旧
最新 最多投票
内联反馈
查看所有评论