大面试

数据驻留在卓越的人工智能中心

查理boyle.jpg

NVIDIA DGX系统副总裁兼总经理Charlie Boyle向Abigail Opiah描述了卓越的AI中心如何成为企业利用数据的关键

人工智能(AI)是这个时代最强大的技术力量之一,虽然它始于数据中心,但它正在迅速走向边缘。

英伟达(NVIDIA)的查理·博伊尔(Charlie Boyle)表示,该行业正在看到的最大的事情之一——从2020年底开始,加速到2021年——是为公司和机构建立卓越人工智能中心的想法。

“与我们几年前看到的情况相比,现在有了很大的变化。以前,当人们研究人工智能时,它往往从小处开始,得到一些结果,然后随着时间的推移而发展。”

“我们今天接触了很多客户,他们已经意识到,从很小的规模开始,有机增长可能不会在未来几年给他们带来他们需要的结果。以前,一个研究人员或一个小团队可能会采购一两个系统、一点基础设施、一些网络和存储。

“现在,我们看到更多的是在公司内部的战略层面,为了实现基本的结果,管理层意识到需要大量的基础设施来进行实验,以推动他们所需的应用程序。指望从小处开始,最终发展壮大,这并不是真正的目标。”

NVIDIA在许多年前就开始了它的旅程,并看到了同样的事情——公司的个人研究人员获得了自己的基础设施,并将其安装在他们的办公桌下。

“大约五年前,我们做出了一个战略决定,我们将把所有这些数据集中起来,就我们自己的数据中心而言,把它们作为我们整个公司的资源。一年后,我们开始了我们的SATURNV基础设施。最初是125套DGX系统,专门用于我们的内部使用、研究软件和开发。”

“我们很快发现,一旦我们打开它,头几周几乎100%的使用率。今天,我们有成千上万的系统只是为了我们自己的内部使用而运行。我们现在看到我们的客户也在走同样的道路,投入数百万美元建设重要的基础设施,以便为他们的公司建立重心。”

人工智能卓越中心已经在世界各地发展起来,而且不受地域限制——目前在所有国家和领域都有。博伊尔说,无论是在本地还是在托管中心,这都是今年大数据中心的趋势。

去年,NVIDIA在剑桥的Arm总部建立了一个人工智能实验室:强子对撞机或哈勃人工智能望远镜。

“对于人工智能,我们已经看到的一件事是,与过去的其他基础设施趋势不同,无论是计算、存储还是网络,要在人工智能领域做好工作,它不仅仅是一个单一的基础设施,”博伊尔说。

“你必须从非常高速的计算开始,就像我们的DGX和OEM系统一样,但计算是不够的。你必须有高速网络连接所有这些系统,以充分利用它们。与计算机和网络一样重要的是,你必须能够访问数据。这是我们在混合趋势中看到的趋势之一。对于人工智能来说,数据是完成工作的关键。

“许多这样的公司和机构都坐拥大量的数据,这些数据要么在他们的企业中,要么在他们的托管设施中。我们的建议是,建立一个优秀的人工智能中心,尽可能靠近你的数据。如果你的数据已经在云端,我们可以帮助你建立一个基于人工智能云基础设施的卓越中心。”

2020年,英伟达承诺在NVIDIA DGX SuperPOD系统上投资约4000万英镑,该系统能够提供超过400千万亿次的AI性能和8千万亿次的Linpack性能。

他说:“如果你的数据位于托管设施中,或者在预置,我们可以帮助在那里建立卓越中心,因为以极短的延迟高速访问你的数据,真的能让你的数据科学家快速迭代他们的实验,这才是创新的真正来源。”

“现在人们正在谈论许多大型语言模型。比如能够与一个系统对话,让它不仅理解你说的话,而且理解你的意图和潜在的情况。

“其中一些数据科学实验,做一次可能需要一周的时间来计算。如果你只有一个系统,需要一个星期,那么你的周期时间就是一个星期。当你有数百个系统时,你可以同时进行很多实验,以得到最好的结果,这样你就可以提供更好的客户服务。”

需求

NVIDIA有一个计划,该公司与世界各地的主机托管和数据中心提供商合作,以确保他们准备好运行大功率系统。Boyle说,他正在与之交谈的每个托管提供商现在都有容量,他们计划在今年及以后增加容量。万搏体育ap

“基于基础设施和空间的建设正在发生。世界各地都在进行大规模投资。对于这个领域的许多新万博 尤文直播客户来说,好消息是,现在有很多非常有能力的托管提供商,他们更容易接触到这些提供商。”他补充道。

Boyle在十多年前为电信公司运营大型数据中心,他说,对于普通企业客户或教育机构来说,要真正接近托管提供商要困难得多——人们使用的语言非常不同。

他解释道:“我在过去几年看到的是,托管环境不仅变得越来越强大,而且变得更加用户友好,因此从自己的内部it到非常高端的托管环境并不是一个巨大的障碍。”

“每个人都说同样的语言,标准也大致相同,建立一个环境非常容易,即使这是你第一次接触托管,这与在你自己的服务器柜或数据中心安装一个机架没有什么不同。”

创新的预测

过去十年的共同主题是保存你可能拥有的每一点数据,因为它们可能有价值。这导致了大量的数据湖和数据沼泽,因为它只是坐在那里,什么都不做。

博伊尔总结道:“现在的大趋势是,不再只是坐在所有数据上,而是尽可能实时地分析数据,以了解什么对你有价值,什么应该长期保留。”

“我们将见证的大数据趋势之一是所有数据都来自边缘。你能越快地在边缘进行快速分析,并将有用的数据从无用的数据中分离出来,这将是未来的关键。

“无论数据管道的速度有多快,它们总是会被填满,你想要用高价值的数据填充管道,这些数据要么让你的公司更有利可图,要么给客户带来更好的体验。”

他提到,在边缘处理,在边缘进行分析,只发送关键数据将在未来几年到未来十年非常及时,这与混合基础设施相关联,将使边缘云和数据中心中的东西成为可能——所有这些元素都需要协同工作。