在边缘部署AI大模型应用，英特尔“让AI无处不在

当前，人工智能已经成为推动企业创新和发展的核心要素。随着技术的不断发展，在边缘部署AI应用已经成为未来的核心趋势，而智能边缘与AI的融合，也将为企业开辟前所未有的机遇。

在近期举办的第十七届英特尔网络与边缘计算行业大会上，英特尔现场展示了基于英特尔边缘AI解决方案在教育、智能制造等垂直领域的最新精彩应用实例。英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在会后接受记者采访时表示，在“让AI无处不在”的愿景下，英特尔以强大的芯片基础、软件定义的简便性以及开放多元的生态系统，帮助企业简化在PC、边缘和数据中心部署AI的复杂流程，助力他们充分释放AI潜力。

推动边缘计算与AI深度融合，让AI无处不在

近年来，生成式AI火爆全球，各种大模型应用层出不穷，如何将大模型与企业业务场景相结合，提高生产效率和创新能力，已经成为很多企业探索的主要方向。IDC数据显示，中国生成式AI投资增长加速，2022到2027年五年的复合年增长率达到86.2%，生成式AI正在成为驱动智能发展的关键技术。

除了在数据中心和云中部署各种大模型应用外，在边缘侧部署大模型应用也成为近年来的热点，实际上，AI PC正是边缘生成式AI应用的重要体现，热度居高不下。据Gartner预测，到2026年，80%的全球企业将使用生成式AI，50%的全球边缘部署将包含AI。

Sachin Katti表示，英特尔一直以来都非常关注如何处理数据、分析数据。我们支持企业进行本地存储，而无需将数据迁移到云端。通过本地化的数据存储，能够帮助企业很好地利用AI智能体。Sachin Katti强调，这个转变已经开始，许多全球企业都已经进行了尝试，预计在未来一到两年内会看到更多智能体的出现。

凭借多样化的芯片产品，包括英特尔®酷睿™处理器、英特尔®酷睿™ Ultra 处理器、专为边缘设计的英特尔锐炫™GPU、英特尔®至强®处理器等，结合高效的软件解决方案，英特尔能够为不同的行业提供定制的垂直解决方案套件，助力客户加速AI在边缘和网络的设计、开发，并迅速扩大其应用范围。

谈到在边缘端部署大模型应用，英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟博士表示，模型的规模并非越大越好，而是应该适合市场应用场景的实际需求。他强调，边缘计算的部署需要考虑很多因素，比如时延要求、可实用性、微观数据的可调优化等要求。我们观察到，市场上有多种类型的模式，许多客户正在构建硬件和软件解决方案，并在通用大模型基础上进行性能优化，这种模式可以推动大模型应用在边缘端的迅速发展。