最新大客户是字节? 又一科技巨头欲联手博通(AVGO.US)开发AI芯片
智通财经APP获悉,据媒体援引知情人士透露的消息报道称,来自中国的科技巨头字节跳动(ByteDance)正在与全球AI热潮最大赢家之一博通(AVGO.US)合作开发一款先进的定制化AI芯片,在业内被称作专注于AI加速用途的“ASIC芯片”。借助博通在数据高速互联传输技术以及芯片间互联通信领域的绝对技术领导地位,此举或将有助于这家TikTok的所有者在美国芯片制裁重压住下能够确保足够的高端AI芯片供应规模。
知情人士补充表示,这种5nm级别的先进制程芯片是一种AI领域ASIC定制化芯片,将符合美国的芯片出口限制,芯片制造工作将外包给博通最重要芯片代工商——有着“芯片代工之王”称号的台积电(TSM.US)进行芯片制造。
据了解,博通此前已经为字节跳动旗下数据中心提供上一代7nm级别的AI处理器。两家公司现有的业务关系主要围绕服务器和网络设备展开。
台积电目前仍然是苹果公司、英伟达、AMD以及博通等众多无晶圆(Fabless)芯片设计公司最核心的芯片制造商,尤其是为英伟达以及AMD所代工的数据中心服务器端AI芯片,被认为对驱动ChatGPT以及Sora等生成式AI工具背后庞大的人工智能训练/推理系统最为关键的硬件基础设施,且没有之一。
自2022年美国对包括半导体设备以及原材料、AI芯片等尖端半导体产品实施出口管制以来,中美两国企业之间几乎没有公开宣布过涉及5nm及更尖端芯片制造技术的芯片开发合作。知情人士强调,字节跳动与现有的芯片业务合作伙伴博通的合作将有助于削减采购端的成本,并确保高端AI芯片的稳定供应体系。
然而,媒体援引知情人士透露的消息报道称,3nm以及5nm AI芯片产能几乎满负荷运作的台积电预计不会在今年开始生产这种新AI芯片。
知情人士表示,虽然最新AI芯片的设计工作正在顺利进行,但标志着设计阶段即将结束以及芯片制造量产阶段开始的芯片“流片”(tapeout)阶段还没有开始。“流片”通常指代电路架构设计阶段基本结束以后,尝试小规模制造供试用,如果所有的测试顺利通过,台积电等代工厂即可开始大规模生产了。
字节跳动加码布局生成式AI
与微软、谷歌以及亚马逊等全球众多科技巨头一样,字节跳动在全球生成式人工智能领域可谓扮演着重大推动的关键角色,但该公司及亚洲众多科技同行不得不面临美国政府发起的尖端半导体制裁重压。在美国制裁之下英伟达以及AMD等芯片巨头们所开发的高性能AI GPU无法流入这些地区。
据了解,字节跳动和博通至少从2022年开始双方之间就一直是非常重要的商业合作伙伴。博通在公开声明中曾表示,这家中国科技巨头已经购买了博通Tomahawk系列的5nm高性能交换机芯片以及用于AI超级计算机集群的Bailly交换芯片。
确保足够规模的AI芯片供应量,对于字节跳动使其算法能力更强大至关重要。除了TikTok以及国内短视频应用平台抖音,字节跳动还运营着一系列流行的应用,包括一款类似 ChatGPT的AI聊天机器人服务,名为豆包,拥有高达2600万用户。
据了解,豆包APP是字节跳动于2023年6月推出的AI对话助手。目前在苹果APP Store和各大安卓应用市场,豆包APP的下载量在AIGC类应用中排名第一,月度活跃用户突破2600万,智能体创建总数达800万。
而在5月15日,字节跳动在2024春季火山引擎FORCE原动力大会上正式发布“豆包大模型”。同时,字节跳动也公布了大模型的市场定价,豆包主力模型为0.0008元/千Tokens,即0.8厘就能处理1500多个汉字,比行业便宜了99.3%。
知情人士还透露,为了支持其人工智能业务,字节跳动储备了足够规模的英伟达芯片。知情人士表示,其中包括在美国第一轮高端半导体制裁开始前就已上市流通的英伟达 A100和H100 这两款AI GPU,以及英伟达曾经为中国市场量身定做的A800和H800芯片,但后来也受到限制。
知情人士还表示,字节跳动去年拨出大约20亿美元用于购买英伟达芯片。据知情人士透露,字节跳动去年还购买了华为推出的 Ascend 910B芯片。
字节跳动网站上的一些信息显示,该公司目前有数百个半导体相关的职位空缺,其中15个为ASIC芯片设计师岗位。
博通——现在是,未来也将是AI热潮的最大受益者之一
全球AI热潮最大赢家之一博通此前于北京时间6月13日公布截至5月5日的2024财年第二季度财报。博通是苹果公司(AAPL.US)和其他大型科技公司的重要芯片供应商之一,同时也是全球大型AI数据中心以太网交换机芯片以及ASIC定制化芯片的核心供应力量。
在与AI业务相关的芯片产品以及软件产品无比强劲需求的推动之下,该公司最新财报数据和年度预测数据均远超华尔街分析师预期,刺激股价此后暴涨至历史新高。博通最新公布的财报数据显示,不包括一些特殊项目,博通第二财季Non-GAAP每股利润高达10.96美元,相比之下,分析师平均预期为10.80美元,上年同期则为10.32美元。博通第二财季总营收规模则大幅增长至125亿美元,高于121亿美元的分析师平均预期,相比于上年同期更是激增43%。
博通首席执行官Hock Tann预测,2024财年全年与人工智能相关的合计营收规模将超过110亿美元。博通近几年一直低迷的非人工智能芯片业务营收在第二财季也实现了触底反弹。他在与分析师的电话会议上表示,2024财年下半年可能将呈现温和复苏趋势。
博通乃苹果等智能手机端的射频芯片以及有线和无线通信领域领导者。在AI底层硬件方面,博通提供的以太网交换机芯片以及基于博通数据互联传输技术的AI领域ASIC芯片需求无比强劲,传闻谷歌(GOOGL.US)和微软(MSFT.US)等科技公司通常点名要求采购博通以太网技术相关的硬件产品。
更重要的是,凭借在数据高速互联传输技术以及芯片间互联通信领域的绝对技术领导地位,近年来,博通乃AI领域ASIC定制化芯片目前最为重要的参与力量,比如谷歌自研的数据中心服务器高性能AI芯片——TPU AI 加速芯片,博通乃最核心的参与力量,博通与谷歌团队共同参与研发TPU AI 加速芯片。除了芯片设计,博通还为谷歌提供了关键的芯片间互联通信知识产权,并负责了制造、测试和封装新芯片等步骤,同时借助自身强大的芯片供应链网络从而为谷歌拓展新的AI数据中心保驾护航。
以太网交换机芯片,以及与AI密切相关的ASIC定制化芯片的强劲需求在博通2023财年以及2024财年至今持续超预期的强劲营收数据中能够明显看出。尤其是AI 领域ASIC定制化芯片已成为博通愈发重要的营收来源,市场消息显示,媒体报道称美股科技巨头微软与Facebook母公司Meta最新的自研AI芯片都将选择博通作为自研芯片技术的核心合作伙伴,Meta此前与博通共同设计了Meta的第一代和第二代AI训练加速处理器,分析师普遍预计博通将在2024年下半年和2025年加快研发Meta下一代AI芯片 MTIA 3。
根据知名研究机构IDC研报,2022年全球范围内覆盖以人工智能为中心系统的软件、硬件和其他相关服务的人工智能(AI)IT总投资规模仅仅约为1324.9亿美元,但是预计在2027年有望增长至5124.2亿美元,年复合增长率(CAGR)高达31.1%,且将全面聚焦类似ChatGPT的生成式AI(Generative AI)领域。
IDC最新调查显示,预计到 2027 年45% 企业将掌握并使用生成式 AI工具 来共同开发数字产品和服务,从而力争营收规模增长比竞争对手翻一番。IDC还预测,全球生成式AI市场年复合增长率或达85.7%,到2027年全球生成式AI市场规模将接近1500亿美元。这些都意味着在AI核心基础设施之一以太网交换机芯片,以及另一基础设施——AI领域定制化ASIC芯片占据领导者地位的博通,有望在未来几年持续受益于这股史无前例的AI热潮。