当前,人工智能已经成为企业数字化转型的核心驱动力。随着5G、物联网等新兴技术的飞速发展,在边缘部署AI已经成为主流技术趋势。Arm物联网事业部业务拓展副总裁马健在近期接受记者采访时表示,物联网的兴起极大推动了边缘计算设备的普及。随着 Transformer 与大模型技术的发展,AI 模型的普适性、多模态支持,以及模型微调效率都有了质的突破,加之低功耗的 AI 加速器和专用芯片被集成到终端设备中,边缘智能正变得越来越自主和强大。
为了满足边缘AI带来的算力需求,Arm推出了新一代 Ethos-U AI加速器及全新物联网参考设计平台,加速推进边缘 AI 发展进程。
边缘AI带来的机遇与挑战
在边缘端部署人工智能应用,将给我们的生活和工作带来无限可能。
本次交流会上,马健从智能家居应用场景出发介绍了边缘AI带来的新机遇。她表示,在智能家居应用中,人们目前大多通过智能手机中的不同应用来手动控制各种电器开关与设置。未来,AI 模型就像一个家庭“大脑”,可以综合家里各类传感器、摄像头,以及外部天气、家人喜好、自然语言命令等多种输入,更安全、更节能地营造个性化的家居环境。
此外,AI 和大模型将使零售业变得更加智能化、个性化和自动化。通过个性化购物体验、智能库存管理、动态定价策略、线上线下无缝整合,以及自动化运营等,带来更高的效率和更卓越的客户体验。AI 和大模型还有望推动工业 4.0 向工业 5.0 的转变,实现智能化生产线、精准的质量控制、个性化定制生产、供应链优化、自主维护与远程监控、人机协作、节能减排,以及新材料和工艺的开发等,为制造业带来一场深刻的变革。
马健强调,虽然边缘AI带来了很多机遇,但同样也面临着很多挑战。
第一,在设计边缘 AI 芯片和系统时,需要在计算能力和能效之间找到合适的平衡。
第二,高性能的处理能力往往伴随着更高的功耗,而边缘设备往往对功耗和成本都有着严格限制。
第三,越来越多的数据在边缘被处理,数据安全和隐私保护变得尤为重要。因此,边缘AI要求芯片设计时必须包含加密和安全功能。
第四,由于边缘AI用例五花八门,为了更好地统一多样化的应用要求,达到规模化效益,软件定义和适于软件移植的标准更是必不可少。
为了帮助用户解决部署边缘AI的各种挑战,Arm在 IP、参考设计和软件标准上持续投入,不但持续推出了高性能低功耗的各类产品,而且还从软件、工具和生态等各个维度入手,用最简单的方式帮助用户应对挑战,推动边缘AI的发展。
重磅发布新一代Ethos-U AI加速器