关于AI与数据中心的七个关键要点

AI正在改变企业，数据中心也不例外。随着公司加大对AI的投入，它们发现传统的数据中心模式已无法跟上发展步伐。电力和冷却系统承受着巨大压力，老旧的网络也造成了数据瓶颈。同样重要的是，领导者必须重新思考人员配置、治理和文化，以跟上AI势不可挡的发展步伐。

我们与多位从业者和IT领导者进行了交流，以了解数据中心需要做出哪些改变来支持未来的AI应用。我们得出了七点见解，可帮助你为AI时代做好数据中心及其支持企业的准备。

1. AI工作负载将电力和冷却系统推向极限

AI数据中心基础设施对水和电力的需求很大，这与其构建和使用方式有关。

斯堪的纳维亚数据中心(Scandinavian Data Centers)的CEO兼创始人斯万特·霍恩(Svante Horn)表示：“AI工作负载消耗大量能源，这不仅是因为所需的计算能力巨大，还因为底层硬件(尤其是GPU)的成本极高，这产生了一种强烈的动机，即尽可能让系统保持运行，这反过来又推动了对电力的巨大需求。”

这种需求在传统数据中心环境中表现不同，NLM光子学公司的CEO布拉德·布斯(Brad Booth)曾在微软和Meta部署AI方面经验丰富，他表示，AI通过将工作负载分布在更多系统上，重塑了计算和网络动态。

“在AI领域，有许多小功能或进程分布在大量GPU或TPU上，”他说，这种转变引入了双网络设计：一种类似于传统数据中心的横向扩展网络，以及一种通过“超高带宽通道”连接密集加速器集群的纵向扩展网络，计算吞吐量的提升和海量数据的移动同时增加了电力使用和网络需求。

即使规模较小，这也是一个挑战，Classroom365董事马克·弗兰德(Mark Friend)在英国教育领域亲眼目睹了这些压力。他说：“在伦敦的一所学院信托机构，我们不得不重新规划整个服务器机房，因为旧的UPS无法支持多个GPU密集型推理工作负载与MIS和CCTV处理并行运行时的电力需求。”他补充说，大多数学校“都没有考虑到AI硬件对电力和冷却的需求”。

在企业中，这转化为基础设施规划的根本性转变，Mission Critical Group的CEO杰夫·德里斯(Jeff Drees)表示：“随着AI工作负载的增加，电力成为新的瓶颈，而非计算能力，这些模型需要更高密度、更高可用性的电力，且电力输送速度更快、更接近机架，同时还要为模块化增长留出空间。”

尽管如此，霍恩还是从这一挑战中看到了机遇。“现代AI服务器通常采用高效的冷却方法，”他说，“这种废热可以重新用于区域供暖或农业应用，如温室。”数据中心能源的未来可能不在于减少使用，而在于更智慧地利用。

2. 网络基础设施跟不上发展步伐

随着企业加大对AI基础设施的投资，许多企业遇到了未曾预料到的限制。“当我们为AI工作负载准备好基础设施时，我们意识到瓶颈不仅在于计算能力，还在于I/O和数据管道，”艾伯森超市(Albertsons)数据分析、数据工程和数据治理技术负责人钱德拉坎特·普利古德拉(Chandrakanth Puligundla)表示。“我见过一些团队购买了昂贵的GPU，却只能闲置，因为他们要等待数据流动或预处理。”