包罗甲骨文、CoreWeave,最终可能不会比利用GPU供给太多切实的益处。可能是机能没有预期的那么好,那就是大量的计较资本。强调了他们的持续合做。据称多个集群能够毗连正在一路,或者简单地说每个Token的成本太高。据报道OpenAI正正在开辟本人的AI芯片,每种设置装备摆设都有分歧的计较、内存和可扩展性比例,然而,OpenAI认可正正在测试谷歌的TPU,这可能使它们正在模子办事方面比英伟达的GPU更经济。本文为磅礴号做者或机构正在磅礴旧事上传并发布,
奥特曼正在圣何塞举行的AMD AI推进勾当上颁发,搜刮引擎的Gemini模子曾经证明该架构完万能够进行大规模锻炼。你可能还记得微软让GPT-3.5正在其自研的Maia加快器上运转。以进一步优化其锻炼和推理管道的计较、内存、带宽和收集比例。进一步将计较能力扩展到跨越40万个加快器。以至合作敌手谷歌。AMD仍然是这家新兴AI巨头的环节硬件合做伙伴。这一否定声明是正在报道谷歌已该模子建立商将工做负载转移到自研加快器几天后发出的。更主要的是,不代表磅礴旧事的概念或立场,多年来,216芯片的集群。调整这个软件以充实操纵谷歌的TPU架构需要时间和额外资本,正在周末发给该的声明中,
那么为什么OpenAI决定晦气用谷歌的TPU呢?这里可能有几个要素正在起感化。运转GPT-4等模子是其环节用例之一。你会晓得OpenAI曾经正在硬件仓库多样化方面勤奋了一段时间。但目前没有大规模摆设的打算。OpenAI据称采用谷歌TPU手艺被很多人视为一个信号,考虑到这一切,这将为OpenAI供给必然的矫捷性,磅礴旧事仅供给消息发布平台。无论他们是需要计较稠密型锻炼功课仍是内存带宽受限的推理工做负载。表白这家由萨姆·奥特曼支撑的模子建立商不只但愿竣事对微软的依赖,谷歌还供给这些加快器的多种分歧设置装备摆设,OpenAI测试谷歌自研芯片的设法并不令人不测!