![]() |
|
推理计算成为突破口,性价比优势是关键。
英伟达在AI芯片市场的垄断地位,正面临前所未有的挑战。
AMD、亚马逊等科技巨头,以及SambaNova Systems、Groq等初创公司纷纷瞄准大模型推理侧发力,推出各类定制芯片,在可靠性和成本端不断进步。
例如,Meta已开始使用AMD的MI300芯片支持其新AI模型Llama 3.1 405B的推理计算;亚马逊的Trainium 2芯片,得到了包括苹果在内的潜在用户的好评。
市场研究机构Omdia预计,2024年数据中心在非英伟达芯片上的支出将增长49%,达到1260亿美元。
似乎,市场格局的变化已经开始,AI芯片领域的竞争正在进入一个更加多元化的竞争新阶段。
科技巨头纷纷入局,推理计算成为突破口
AMD的MI300芯片在发布首年,就预计创造超50亿美元的销售额。与此同时,亚马逊在奥斯汀北部研发了新一代AI芯片Trainium。
除了传统科技巨头,SambaNova Systems、Groq和Cerebras Systems等初创公司也在积极布局。这些公司声称在推理方面能够提供比英伟达更快的速度、更低的工行和更便宜的价格。
而"推理"阶段,正成为竞争对手突破英伟达垄断的关键。
"真正的商业价值来自于推理,而推理正在开始规模化,"高通 CEO Cristiano Amon表示。Amon称,高通计划使用亚马逊的新芯片执行 AI 任务,“我们开始看到变革的开始”。
在成本方面,英伟达现有芯片售价高达1.5万美元,其新款Blackwell芯片预计将达到数万美元。
相比之下,竞争对手提供了更具性价比的选择。德克萨斯高级计算中心执行主任Dan Stanzione表示,由于功耗和价格优势,该中心计划在使用英伟达Blackwell超级计算机的同时,采用SambaNova的芯片进行推理任务,因为它们的功耗和价格较低。
亚马逊展现雄心
亚马逊在AI芯片领域表现出强烈的进取心,今年已投入750亿美元用于AI芯片等计算硬件。其新款Trainium 2芯片的性能是前代产品的4倍,并已宣布更强大的Trainium 3芯片计划。
旧金山AI初创公司Poolside的CTO Eiso Kant估计,相比英伟达的硬件,Trainium 2在每美元计算性能上提升了40%。更重要的是,亚马逊计划在全球数据中心提供基于Trainium的服务,这对推理任务尤为重要。
值得注意的是,亚马逊还与AI初创公司Anthropic达成合作,将建造一个包含数十万枚新Trainium芯片的巨型AI工厂,其计算能力将是Anthropic此前使用过的任何系统的5倍。
尽管如此,竞争加剧并不意味着 Nvidia 短期就会失去领先地位。英伟达CEO黄仁勋仍然强调,公司在AI软件和推理能力方面具有重大优势,新款Blackwell芯片的需求依然强劲。
在斯坦福大学的一次演讲中,黄仁勋表示:
“我们产品的总拥有成本非常划算,即使竞争对手的芯片是免费的,它们也不够便宜。”
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦![]() |
24小时新闻排行榜 | 更多>> |
1 | 重磅!川普放话,关税大消息 |
2 | 空姐坦白:机组人员在飞行中 这样“发生性 |
3 | 习近平8月下台?美前外交官细数可疑迹象 |
4 | 马尔代夫快破产了!栽在中国手里 |
5 | 川普承认对中国采取这项行动:这是个肮脏的 |
48小时新闻排行榜 | 更多>> |
1 | 比恒大还多1.14万亿的巨头,倒了 |
2 | 普京沉痛宣布:我们被骗了 |
3 | 北京出了啥事?美前顶级情报头子发话 |
4 | 4年倒闭5万多家 中国最暴利行业 要彻底消 |
5 | 刚刚!美联储,突传重磅 |
6 | 哈梅内伊又装了一回,代价也来了 |
7 | 重磅!川普放话,关税大消息 |
8 | “全国一盘棋”重演?习近平的新时代 |
9 | 黄石公园野牛遭活活烫死 许多游客亲眼目睹 |
10 | 震惊愤怒 美国国务院下周大裁员 |
一周博客排行 | 更多>> |
1 | 空前绝后:24岁的中共总书记及 | 赵大夫话室 |
2 | 俺吃错过药 | 阿妞不牛 |
3 | 人养金毛犬,我养白眼狼:伊朗 | 高伐林 |
4 | 回国避坑:既不能评论国内好坏 | aoe2 |
5 | 中美空军相差多远?看运-20和C | 弓长贝占郎 |
6 | 走出中国城,走活中国人 | 解滨 |
7 | 人死后灵魂还在吗? | 骆驼 |
8 | 共产革命之前的上海和伊斯兰革 | 陈家梁子 |
9 | 为何黄左反川甚于反共? | 蛇形刁手 |
10 | 习大大唱独角戏,听床师们情何 | 蛇形刁手 |
一周博文回复排行榜 | 更多>> |
1 | 人死后灵魂还在吗? | 骆驼 |
2 | 俺吃错过药 | 阿妞不牛 |
3 | 文明、优雅、格局 | 体育老师 |
4 | 为何黄左反川甚于反共? | 蛇形刁手 |
5 | 走出中国城,走活中国人 | 解滨 |
6 | 奇袭伊朗.高法裁决.外交内政. | 木秀于林 |
7 | 2024回国:海南环岛游 | 马黑 |
8 | 人养金毛犬,我养白眼狼:伊朗 | 高伐林 |
9 | 相信固执己见可以治愈 | 施化 |
10 | 再反转:B-2只炸了个皮毛? | 北栖 |