0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

数据中心短缺:人工智能未来的致命阻碍?

test 来源:van 作者:van 2023-10-20 10:32 次阅读

影响人工智能未来的4个数据中心存储挑战

● 建设新数据中心的成本

● 建设新数据中心需要时间

● 现有数据中心空间不足

● 功率限制

训练人工智能模型会产生巨大的资源消耗,需要大量的资本、时间、空间和电力来部署。最终,人工智能的进步可能归结为解决数据中心短缺的问题。

为什么数据中心对人工智能很重要

数据中心在我们的日常生活中发挥着至关重要的作用,但它们常常被视为理所当然或完全被忽视。每当我们浏览社交媒体、发送消息、在淘宝上订购真空吸尘器或通过银行汇款时,都需要依靠数据中心来处理每一项数字操作。它们是我们IT基础设施的基石。

但随着人工智能需求的爆炸式的激增,数据中心的容量正在减少,需求明显超过供应。虽然关于人工智能的讨论主要集中在芯片和ChatGPT上,以及人工智能产品将如何增加数十亿美元的收入,但我们应该关注的是回答这样一个问题,当对人工智能的需求超过我们现有基础设施所能支持的水平时,会发生什么?

答案似乎很简单,通过建设更多能力来克服能力不足。然而,在实践中,这变得更加困难。

数据中心短缺的4大原因

随着人工智能的发展,对计算能力的需求呈爆炸式增长,这需要密集、复杂的计算能力来训练。

数据中心行业已经面临满足现有企业数字化转型和公共云使用需求的压力。由于部署新构建的成本和时间都很高,因此数据中心通常是根据预测的需求即时交付来构建的。除了供应已经紧张之外,人工智能的指数级采用还推动了前所未有的需求。

生成式人工智能需要的能力是传统工作负载的五倍。据说ChatGPT-4的智力明显更好,需要更多的力量来训练。人工智能的发展竞赛归结为四个关键的供应限制:资金、时间、空间和权力。

1、资本

数据中心的建设成本高昂。一座25万平方英尺的中型数据中心建筑,要花费近5亿美元才能完全建成。

预计对人工智能的需求在数百兆瓦到千兆瓦之间,全部价格将达到数百亿美元。这是一大笔资金。当利率高企,资金难以筹集时,数据中心的价格就会上涨,这使得筹集必要的资金和满足需求变得更具挑战性。筹集所需资金也需要更长的时间,这延长了建设时间,进一步拖慢了一切。

最近,许多传统数据中心提供商因重组或破产而分心或陷入停滞,这进一步挑战了容量的及时交付。数据中心运营商仍然可以利用这些资金来为新容量提供资金,只是不会像零利率时代那么容易。赢家将是那些拥有有效部署资本和有效运营记录的人。

2.时间

建设一个数据中心需要24到36个月的时间。当然,提供商可以同时进行多个项目,但大多数项目仍需要数月至数年才能完成。在当前需求猛增之前,许多项目都是基于更为温和的需求预测而建造的。

最重要的是,该行业仍在努力应对供应链挑战,以提供为现代数据中心供电和冷却所需的机械电气和冷却系统。这些时间表已从两年前的12至24周缩短至52至80周。

新容量上线需要时间,而且即使上线也可能不够。然而,拥有数据中心下方的房地产并追求多设施园区战略的运营商将最有能力通过控制土地使用和缩短上市时间来快速扩大规模。

3.空间

整个行业剩余的可用空间所剩无几,特别是在拥有任何额外产能的优先购买权(ROFR)的客户看到需求增长快于供应的情况下,他们现在正在要求这些选择。

目前,GPU驱动的高性能计算(HPC)集群正在被许多企业采用,以训练人工智能应用,但它们并不是数据中心空间需求的唯一驱动因素。超大规模公共云和传统企业技术部署的自然增长也将继续强劲,这将在未来12到18个月内给供应带来更大的压力。如果我们继续沿着这条道路前进,没有任何出人意料的技术创新。

应对这一挑战的解决方案是数据中心提供商设计新设施,以适应从传统的高架地板、风冷企业应用到板式地板和水冷超大规模云或HPC工作负载的工作负载。这确保了无论上线的容量都可以快速适应市场最关键的瓶颈。

4.能源

一切都与电力有关。这些用于人工智能的高性能计算集群中使用的GPU使用的功率是传统工作负载的五倍。

电力已经供不应求,因为我们已经看到主要的数据中心市场宣布限制提供已经承诺的扩展电力。预计这一趋势将持续下去,需求的增加会给电网带来更大的压力,而向可再生能源的过渡需要时间的调整和完善,将产生更多的瓶颈。

智能数据中心提供商通过提高效率,将多设施园区选址在发电源附近,甚至部署自己的分站,走在了前面。

数据中心短缺持续存在会发生什么?

在研究了这四个领域之后,仍然存在一个问题:“如果我们无法克服这些限制,会发生什么?”其影响既深远又容易被忽视。

首先,它可能会阻碍人工智能应用开发人员部署GPU驱动的HPC集群的速度,这些集群需要训练底层大型语言模型(llm),和/或最终的推理阶段,在那里我们看到对基于这些llm构建应用的访问需求。

它还可能会抑制数据中心容量满足云提供商和正在增加现有工作负载企业的需求的能力。如今每个人都已经依赖这些来为SaaS应用、社交媒体、视频流、游戏、电子商务以及现代互联世界的便利提供动力,更不用说未来由人工智能驱动的应用了。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    27

    文章

    3849

    浏览量

    125214
  • 数据中心
    +关注

    关注

    14

    文章

    3684

    浏览量

    69000
  • 人工智能
    +关注

    关注

    1743

    文章

    40956

    浏览量

    227886
收藏 人收藏

    评论

    相关推荐

    人工智能是什么?

    阻碍前行的因素很多,要攻克的技术难点也很多,但这些问题在人工智能领域的专家来看,技术的积累都只是时间问题,对人工智能技术做更进一步剖析的话,其实就是“算法”+“海量数据”。更通俗一点就是:在
    发表于 09-16 15:40

    人工智能会把人类从劳动中解放出来吗

    数据中心人工智能算法的整合。让我们一起来引领人工智能和大数据时代的来临。 在未来大量数据的融入、数据中心和云都面临巨大的变化背景下,FPGA灵活、低迟延、高能效、更强
    发表于 09-15 14:09

    数据人工智能发展的重要性

    数据中心人工智能算法的整合。让我们一起来引领人工智能和大数据时代的来临。 在未来大量数据的融入、数据中心和云都面临巨大的变化背景下,FPGA灵活、低迟延、高能效、更强通用性
    发表于 10-09 15:26

    解读人工智能未来

    人工智能在物联网以及大数据的推动下,实现飞跃式的发展,并且迎来了第三个黄金周期。必优传感今天和大家解读一下关于人工智能未来。自从有了人工智能,引发了人类的各种“未来论”。有人说
    发表于 11-14 10:43

    人工智能医生未来或上线,人工智能医疗市场规模持续增长

    中心教授夏慧敏、加州大学圣地亚哥分校教授张康等专家领衔的医疗数据智能化应用团队,联合人工智能研究和转化机构研发出“辅诊熊”人工智能诊断平台,通过自动
    发表于 02-24 09:29

    人工智能:超越炒作

    未来智能连接设备不仅相互通信,而且他们使用AI代表我们彼此互动。有朝一日这种人工智能事物的全新结构将被称为AIoT,即人工智能。当纯数学开始对现实生活
    发表于 05-29 10:46

    未来数据中心与光模块发展假设

    人工智能和机器学习的应用程序成为其业务差异化因素,唯一有效的方法是呈现在公司数据中心,也促使数据中心光模块向更高速率发展。规模较小数据中心需要
    发表于 08-07 10:27

    如何构建人工智能未来

    人工智能(AI)的未来
    发表于 03-03 07:06

    中国人工智能的现状与未来

    人工智能的现状与未来人工智能是目前最火热的技术领域,也是一门极富挑战性的科学,从事这项工作的人必须懂得计算机知识,数学、心理学,甚至哲学。人工智能是包括十分广泛的科学,它由不同的领域组成,如
    发表于 07-27 06:40

    嵌入式与人工智能关系是什么

    人工智能关系_嵌入式人工智能的发展趋势  所谓嵌入式人工智能,就是设备无须联网通过云端数据中心进行大规模计算去实现人工智能,而是在本地计算,在不联网的情况下就可以做实时的环境感知、人机交互
    发表于 10-27 07:41

    什么叫嵌入式人工智能

    数据中心的大规模的计算去实现人工智能,而是说在本地计算,在不联网的情况下面实时的做环境感知,做人机交互,做决策控制。大家想想看,尤其是在自动驾驶这样一个场景下面,如果突然一个
    发表于 10-28 08:43

    Arm Neoverse NVIDIA Grace CPU 超级芯片:为人工智能未来设定步伐

    数据吞吐量进行优化的服务器和数据中心人工智能和机器学习 (ML) 的需求。否则,人工智能所需的成本、电力和碳将开始超过收益。NVIDIA 率先使用 GPU 来提高数据中心中 HPC 和 AI 的性能
    发表于 03-29 14:40

    人工智能如何改进数据中心设施的性能

    人工智能数据中心能够以创新的方式自动化运营,从而改进数据中心设施的运营状况和性能,同时减少停机时间。
    的头像 发表于 12-14 10:45 2824次阅读

    人工智能对于数据中心存在什么影响

    人工智能在汽车、制造、医疗和国防行业的应用将最为广泛;数据中心和云计算基础设施将成为人工智能训练的主要领域。
    发表于 03-26 09:36 951次阅读
    <b>人工智能</b>对于<b>数据中心</b>存在什么影响

    人工智能对数据中心有什么影响

    人工智能在汽车、制造、医疗和国防行业的应用将最为广泛;数据中心和云计算基础设施将成为人工智能训练的主要领域。
    发表于 04-05 21:47 1117次阅读
    <b>人工智能对数据中心</b>有什么影响