Posted by on | Featured

人们对人工智能的兴趣和投资正在飙升，而生成式人工智能正在推动这一趋势。超过三分之一的 CxO 拥有据报道 已在其运营中采用 GenAI，其中近一半准备投资在里面。

这一切的背后是人工智能芯片过去受到的关注较少。截至目前，OpenAI 的 Sam Altman 声称他希望为一个“雄心勃勃的”技术项目筹集最多 7 万亿美元，以提高全球芯片产能。 地缘政治不过，除了哗众取宠之外，请保持关注在人工智能芯片上意味着要意识到今天的障碍和明天的机遇。

根据IMARC 最近的研究预计到2029年，全球AI芯片市场将达到896亿美元。随着时间的推移，AI芯片的需求大幅增长。人工智能技术的发展、消费电子产品中人工智能芯片需求的不断增长以及人工智能芯片的创新都促成了这一预测。

很少有人比 Tony Pialis，Alphawave 首席执行官兼联合创始人 。在一次广泛的对话中，Pialis 分享了他的内部人士对 AI 芯片前景、小芯片的变革性崛起、用于训练和推理的专用硬件、模拟和光学计算等新兴方向等的看法。

 幕后人工智能领导者

Pialis 是一位半导体连续创业者。他此前曾创立并成功出售了两家初创公司：Snowbush MicroElectronics 和 V Semiconductor Inc。V Semiconductor 于 2012 年被英特尔收购，Pialis 曾在英特尔担任数年模拟和混合信号 IP 副总裁。 p>

Pialis 于 2017 年与他人共同创立了 AlphaWave，目标是成为“下一个伟大的半导体公司”。 Alphawave 于 2021 年上市，市值高达 45 亿美元。该公司的核心产品包括为谷歌、微软、亚马逊和 Meta 等主要超大规模客户量身定制的硅 IP、芯片、定制芯片和高速互连技术。

Alphawave 是幕后人工智能领导者，为超大规模企业提供支持，并建立在 Pialis 提出的几个关键前提之上。

这一点得到了 NVIDIA 的 Dave Salvator 的证实。 2023 年最后一次 MLPerf 结果简报 Salvator 表示，NVIDIA 的软件工程师数量是硬件工程师的两倍。正如他所强调的那样，这绝非偶然。
Pialis 认为挑战者的潜力更大推理加速器市场。原因是该领域的标准仍在不断涌现。正如 OctoML 的 Luis Ceze 共享，有vLLM 用于 LLM 服务，< /span>MLC-LLM  对于便携式部署，LoRAX和石榴 用于多路复用微调模型推理。事实上，正如 Pialis 指出的那样，推理是比训练更大的市场。  

“人们非常关注训练、大型模型和训练成本。但在推理方面，这是一种让我们所有人都受益的部署。这需要很大的规模。这需要不同的解决方案。推理端销售的芯片必然会多于训练端。我确信业务计划也会随着数量的增加而改善”，Pialis 说。
像这样的初创公司Groq 和Tenstorrent 正在吸引大量资金，英国、韩国和中国等国家的公司也在努力减少对美国公司的依赖。就超大规模企业而言，Pialis 认为亚马逊和谷歌不相上下，微软表现出强劲的势头，而 Meta 则落后并有传言称其将收购一家规模较小的初创公司。

Chiplet 技术革命 根据 Pialis 的说法，半导体领域正在进行的最大变革之一就是向 小芯片。以前，进步意味着将越来越多的功能集成到单个单片芯片中。但晶体管尺寸现在已降至约 5 个原子宽，即​​使是微小的缺陷也可能毁掉整个芯片。 

Pialis 分享了他自己经历的一件轶事来强调这一点。正如他所说，当他访问 OpenAI 时，他看到一群工程师跪在服务器前祈祷。不是因为他们是“感受 AGI” 而是因为它们不希望他们正在训练的模型崩溃。
我们中的一些人可能是在中美贸易战的背景下第一次听说chiplet这会蔓延到技术领域。 Chiplet 是双方战略的关键要素中国 和美国。

<块引用> 对于 Pialis 来说，“Chiplet 是另一场技术革命，旨在解决上帝所面临的问题”向我们扔来了。” 

纳米尺度物理学的挑战意味着我们可能会达到当前硬件技术的极限。

纳米尺度物理学的挑战意味着我们可能正在达到当前硬件技术的极限。

这听起来像是对超自然现象的疯狂吸引力，但它更多地与纳米尺度物理学的挑战。 

“当我们构建晶体管时，晶体管是任何集成电路的基本构建块，我们’重新堆叠原子。当你堆叠原子时，概率定律、平均定律就会崩溃，因为现在是两个原子，而不是数百个原子和电子。所以你得到的是缺陷”，Pialis 解释道。  

Chiplet 是应对这一纳米级物理挑战的创新解决方案。设计不是一个巨大的芯片，而是分成更小的乐高式小芯片，可以通过先进的封装进行连接。这种模块化可以让芯片制造商避免因一个小缺陷而丢弃整个设备。 Pialis 表示，这些好处对于制造商和买家来说都很重要。 

“硅不再是前沿半导体的基础；这是包裹。硅现在是这种包装上的一个组成部分。关于半导体供应链的讨论很多。现在硅产能很大。 Pialis 指出，封装上的容量仍然很小甚至没有，特别是对于使用小芯片构建的设计。

小芯片作为乐高积木 然而，有一个人工智能硬件公司的杰出例子，尽管它在相反的方式：大脑。 Cerebras 以其晶圆级硬件而闻名。皮亚利斯确信 Cerebras 会遇到与其他人一样的缺陷。与 Cerebras 的区别在于它们有冗余。 

Pialis 指出，晶圆就像一块面板。 Cerebras 甚至没有切割面板。他们所做的是拥有可以解决缺陷的软件。从根本上来说，他们使用硅作为基础而不是封装。它们有多个排列的芯片，但没有被切割。它们只是连接在晶圆上。这绝对是一种不同的方法。 

不过，Pialis 补充道，将事物分割开来也有好处。想象一下像英特尔这样的供应商正在尝试构建不同的单元，例如 CPU、GPU、DPU 或网络设备。通过将事物分解成更小的部分，它们就像乐高积木一样。

因此您可以拥有一个处理器核心小芯片、一个 PCI Express 连接小芯片、一个以太网网络小芯片、 DDR 内存 I/O 小芯片、内存 I/O 小芯片。这些小芯片可以在一个封装中混合和匹配，以构建整个产品组合。 Pialis 认为，从设计复杂性和前期投资的角度来看，这是一个成功的秘诀。
Pialis 看到小芯片的巨大优势，成本降低了 60% 以上，功耗降低了 40% 。这是超大规模数据中心的主要动力。虽然他认为苹果、AMD 和英特尔目前在小芯片领域处于领先地位，但 Pialis 相信小芯片将很快成为任何专注于领先硬件的公司的必备要素。

软件和 Chiplet 模块化、可组合性和可编程性 与软件工程领域进行比较，人们可能会想知道小芯片带来的模块化是如何产生的到表之前并没有占上风。但在硬件方面，到目前为止，获胜者是那些最能集成到单片设备中的人。 

原因是这降低了成本，Pialis 指出这创造了“对一体化。”然而，当我们现在接近单个原子的尺寸时，制造成本超过了集成成本。但即使在软件中，过多的模块化也会产生过多的开销。  

Pialis 预计某些硬件供应商可能会过度采用小芯片方法。如果功能被分解成太多的小部分，那么集成所有这些部分的成本就会受到限制。因此，最终，混合方法将获胜。有两种使用小芯片进行分割的方法。 到目前为止，硬件领域的赢家是那些最能集成到单片设备中的人。但这种情况正在发生变化。”类=“lazyload”数据-src=“https://filedn.com/lAGFqCrfCf9p4SPhvQtCjAf/LDO%20WP%20Images/Posts/2024/Future_of_AI_chips/jumpstory-download20240212-133916.jpg”高度=“481”src=“http： //www.cheeli.com.cn/wp-content/uploads/2024/02/jumpstory-download20240212-133916.jpg

到目前为止，硬件领域的赢家是那些最能集成到单片设备中的人。但这种情况正在改变。

构建小芯片的第一种方法是构建单个乐高积木，一遍又一遍地镜像它功能相同，他们只是互相交谈。这似乎更类似于“传统”方法。然而，人们可能想知道如何合成这些相同的小芯片构建块。答案仍然是软件。

基于相同的小芯片，可以使用软件组合不同的封装来满足不同的需求。例如，1、2、4 或 8 个小芯片的倍数。相同的芯片，只是封装不同，价格不同，并使用不同的软件来利用与这些设备相关的增量计算和内存带宽。 

构建小芯片的另一种方法是通过分割和切割，为不同类型的小芯片创建乐高积木。功能。这会创建小芯片，例如计算乐高块、训练 I/O 乐高块、网络 I/O 乐高块等。 Pialis 看到了这种方法背后的更大动力，因为可重复使用的乐高积木也可以加速其他产品的发展。