边缘人工智能：分布式计算能否颠覆数据中心热潮？

随着人工智能 (AI) 的应用和复杂程度不断提升，人们经常质疑传统的使用大型集中式数据中心模式的可持续性。如今，超大规模数据中心处理着大多数 AI 工作负载，但它们的能源需求和环境成本很高。

OpenAI 的 Sam Altman 在最近的一篇博客文章中指出，平均一次 ChatGPT 查询会消耗“大约十五分之一茶匙”的水和“约 0.34 瓦时”的电量。将这个数字乘以数十亿次查询，你就会开始看到问题的规模。

但如果有其他方法呢？边缘人工智能 (Edge AI) 无需将数据远距离发送到云端进行处理，而是在更靠近数据来源的地方运行任务，例如在您的手机、汽车或工厂车间。这意味着更快的响应速度、更低的能耗和更高的效率。但鉴于预计到 2030 年，集中式人工智能基础设施的投资将达到 7 万亿美元，关键问题是：边缘人工智能真的能接管一切吗？

集中式人工智能的环境成本

人工智能的能源需求惊人，并且增长迅速。根据劳伦斯伯克利国家实验室的数据，2023 年美国数据中心的耗电量为 176 太瓦时，占美国全国电力消耗的 4.4%。国际能源署 (IEA) 预测，到 2030 年，全球数据中心的能源需求将增长一倍以上，达到约 945 太瓦时，略高于日本目前的用电量。

问题不仅仅在于电力使用。数据中心产生的二氧化碳 (CO2) 排放量约占全球总量的 2%，几乎相当于整个航空业的碳足迹。仅冷却系统就约占总能耗的 40%，这给运营成本和环境目标带来了巨大压力。

边缘 AI 的前景

边缘计算无需将数据发送到远程服务器，而是在本地进行处理。这对于时间敏感的应用（例如自动驾驶汽车或智能工业系统）尤其有价值。

边缘节点可以降低延迟、能耗和网络使用费。它们允许 AI 模型实时运行，而无需持续连接到云端。

以 Waymo 等自动驾驶汽车为例，它们依靠边缘 AI 即时处理雷达和激光雷达等传感器数据进行导航，并对安全隐患做出即时反应。依赖远程服务器和始终在线的互联网连接速度过慢且风险过高。

小型语言模型 (SLM)：边缘 AI 赋能器

小型语言模型 (SLM) 的兴起是推动边缘计算发展的主要驱动力之一。它们设计精简、高效且专为特定目的而设计，无需网络连接即可在本地硬件上运行，这与 ChatGPT 或 Gemini 等需要强大计算能力的大型模型不同。

由于 SLM 结构轻巧，因此可以在更小的芯片上运行，并适用于各种技术，从手机、智能手表到机器内置系统。SLM 运行成本更低，更易于微调，并且功耗显著降低。另一个巨大的优势是隐私保护，因为数据无需离开设备。这些 SLM 为物联网、智能家居、物流、医疗保健等领域开启了新的可能。

边缘数据中心的能源效率

超大规模数据中心需要庞大的冷却系统和备用基础设施，而边缘数据中心往往规模更小、更灵活。它们通常受益于自然冷却（尤其是在较冷的气候条件下）、本地能源管理以及在闲置时自动断电的功能，而超大规模数据中心很少具备这些功能。

例如，动态“休眠模式”允许边缘基础设施在空闲时关闭耗电系统，从而降低能源成本和碳排放。此外，边缘人工智能部署通常使用专用芯片，例如神经处理单元 (NPU) 或专用集成电路 (ASIC)，这些芯片比通用 CPU 或 GPU 更节能。

边缘人工智能的实际应用

在交通运输领域，卡车编队行驶是边缘人工智能应用最明显的例子之一。这使得一组卡车能够组成一个协调一致的车队。通过利用本地传感器和人工智能进行实时通信，卡车保持间距，从而减少风阻，并将燃油效率提高高达 10%。如果没有边缘人工智能 (Edge AI) 支持的车对车通信，这种自动化的实时分析和决策将无法实现。由于需要互联网连接，传统的云处理速度太慢且不可靠。

您可以在智能电网、零售和制造业中看到类似的好处。从杂货店的货架扫描机器人到能够预测自身维护需求的工厂机器，边缘人工智能正在以更智能、更经济、更环保的方式带来改变。

边缘 AI 应用的障碍

尽管边缘 AI 拥有诸多优势，但仍面临诸多挑战：

• 功耗限制：边缘设备通常在功耗受限的环境中运行。即使采用优化的芯片，密集型模型也可能耗尽电池电量或压垮本地基础设施。
• 安全漏洞：边缘 AI 虽然增强了隐私保护，但也带来了新的安全风险。终端节点更容易受到物理和网络攻击。
• 生产模型和专业知识匮乏：研发和工程一直专注于基于云端的 LLM。由于边缘 AI 需要更专业的技能组合，因此缺乏专家和生产模型。