苹果的秘密AI秘诀显然跳过了NVIDIAGPU
发布时间:2024-07-31 11:44:05 编辑:成馥筠 来源:
在一份最新研究报告中,苹果详细介绍了其为iPhone和今年发布的其他人工智能产品提供的AI训练能力,该公司似乎选择依赖谷歌的,而不是市场领导者NVIDIA的。NVIDIA之所以能跻身市值链的顶端,是因为其GPU需求强劲,这推动其收入和收益增长了三位数百分比。
然而,苹果在其论文中表示,其27.3亿个参数的苹果基础模型(AFM)依赖于AlphabetInc的谷歌通常提供的v4和v5p张量处理单元(TPU)云集群。
研究论文显示,苹果的AI方法依赖于使用TPU而非GPU
苹果今天早些时候发布的研究报告涵盖了其训练基础设施和人工智能模型的其他细节,这些模型将为今年早些时候在WWDC上宣布的功能提供支持。苹果宣布了设备人工智能处理和云处理,这些人工智能功能的核心是被称为AFM的苹果基础模型。
对于服务器上的AFM,或者将为名为AppleCloudCompute的云AI功能提供支持的模型,Apple表示,它在“8192个TPUv4”上“从头开始”训练了一个6.3万亿个token的AI模型。谷歌的TPUv4以每个由4096个组成的组的形式提供。
苹果补充说,AFM模型(包括设备和云端的)都是在TPUv4和v5pCloudTPU集群上训练的。v5p是谷歌云AI“超级计算机”的一部分,于去年12月发布。
每个v5ppod由8,960个组成,据谷歌称,它提供两倍的每秒浮点运算(FLOPS)和三倍的TPUv4内存,从而使模型训练速度提高近三倍。
上一篇:如何在iPhone上安装iOS18.1Beta并启用AppleIntelligence进行抢先体验
下一篇:微软披露有关WindowsCrowdStrike崩溃的更多详细信息