万维读者网 > 数码科技 > 正文  

上万张英伟达A100 微软为ChatGPT打造专用超算

www.creaders.net | 2023-03-16 15:51:25  量子位 | 0条评论 | 查看/发表评论

上万张英伟达A100 微软为ChatGPT打造专用超算

△图源:微软

上万张英伟达A100 微软为ChatGPT打造专用超算

微软砸下大几亿美元,专门为训练ChatGPT打造了一台超算——

上万张英伟达A100芯片

打造,甚至专门为此调整了服务器架构,只为给ChatGPT和新必应AI提供更好的算力。

不仅如此,微软还在Azure的60多个数据中心部署了几十万张GPU,用于ChatGPT的推理。

有网友感慨:果然还是得靠钱生钱啊~

还有网友调侃,微软数据中心服务器终于多了个新用途:

虽然不是真的,不过想象微软数据中心的某些服务器用途,可能一半是Xbox的xCloud,另一半是ChatGPT。

微软为什么打造这个超算?

事实上,这台超算并非最近才开始打造。

据微软表示,他们给OpenAI提供这台超算已经有3年之久,而ChatGPT也正是基于这台超算提供的算力训练的。

上万张英伟达A100 微软为ChatGPT打造专用超算

这是因为,OpenAI在最初商量与微软合作时,曾经就算力方面的事情进行过协商。

OpenAI认为,如果微软想给自己提供算力,就必须在Azure云计算平台上“腾出”一部分巨大的算力单独给它们使用,且确保它们不与Azure提供的其他服务产生冲突。

微软答应了这一条件,特意给OpenAI提供了一台超算,用于各种大模型训练。

上万张英伟达A100 微软为ChatGPT打造专用超算

△图源:微软

当然,微软也不是白白给OpenAI提供超算服务的,背后肯定有自己的考量。

其一,吸引更多企业来使用Azure训练自己的大模型。微软执行副总裁Scott Guthrie表示:

虽然它是OpenAI的定制版,但同样具备某种通用性,任何企业都可以基于这种方式来训练自己的大语言模型。

其二,直接在Azure中提供OpenAI模型服务(Azure OpenAI Service)。

此前包括GPT-3、Codex和DALL·E 2等模型,都已经接入Azure。

至于纳德拉1月份立的“要把ChatGPT加入Azure服务”flag,目前也已经实现。

上万张英伟达A100 微软为ChatGPT打造专用超算

官网还特意给ChatGPT相关服务贴了个高亮标签:

上万张英伟达A100 微软为ChatGPT打造专用超算

这波属实是微软用ChatGPT,再次宣传了一波自己的云服务(手动狗头)。

当然,基于英伟达A100打造的超算也不是微软Azure的最新技术。

据微软表示,他们还将基于英伟达H100和网络技术,推出Azure最新的AI虚拟机产品。

国内ChatGPT云厂商现状?

那么,国内云厂商是否会因为ChatGPT被带动起来一波?

事情并不如想象中简单。

目前来看,国内公开表示拥有1万张英伟达A100的企业只有幻方量化。

据幻方官网显示,2022年3月由于需要发展量化金融业务,他们构建了一个名为萤火二号的AI集群,拥有一万张英伟达A100。

至于其他企业,据《财经十一人》介绍,国内GPU持有量超过1万张的企业不超过5家,即使规模最大的企业也不超过5万枚,而且这里面有不少都是英伟达中低端数据中心芯片。

显然,相比微软能给ChatGPT投入大量算力、或是像Facebook和谷歌一样动辄能采购几千上万张GPU,算力是国内厂商做ChatGPT的另一大难点。

在以ChatGPT为代表的大模型技术上,软硬件都还有不少难关要攻克。

   0


24小时新闻排行榜 更多>>
1 习两会对赵乐际震怒敲桌 传因报告泄露这机
2 北京发生罕见大规模汽车冲撞机车及行人事件
3 习公开敲打桌子 病根找到了
4 一代国乒名将奉献一生 养老院孤独离世
5 机密太多! 解放军官方让她晒勋章 官方急下

48小时新闻排行榜 更多>>
1 新敏感点出现了!他这句话让习无地自容
2 闭门造车 习又沦为笑柄
3 香港快被买爆仓了
4 日本突传重磅消息
5 田院士被抓,开创三个第一
6 我在美帝的同学都躺平了
7 习两会对赵乐际震怒敲桌 传因报告泄露这机
8 这次,李嘉诚又预判到了什么?
9 中国人,是该偷着哭还是偷着乐?
10 中国货币洪水有多猛
热门专题
1
中共两会
6
台湾大选
11
火箭军悬案
2
中美冷战
7
李克强猝逝
12
台海风云
3
以哈战争
8
中国爆雷
13
战狼外交
4
乌克兰战争
9
李尚福出事
14
普里戈津
5
万维专栏
10
秦刚失踪
15
涿州水灾
一周博客排行 更多>>
1 1364 (图文)红二代披露助毛泽 范学德2
2 风云无定日月有常:中美关系实 阿妞不牛
3 何与怀:沉沦神州的血祭者 万维网友来
4 莫言现象:中国知识分子的宿命 万维网友来
5 中国梦未来五年,十年和三十年 文庙
6 杀一个无辜的人而救更多的人, 平等性
7 辛峰:保守党大幅领先 搭顺风 万维网友来
8 中文的突围,从打字机到人工智 思芦
9 所谓照片的“历史在场”与“有 湮灭之城
10 抹杀个体不仅意味着消沉更是灾 施化
一周博文回复排行榜 更多>>
1 风云无定日月有常:中美关系实 阿妞不牛
2 遇到万维又一个奇葩人物 右撇子
3 从方孝孺与布鲁诺被惨杀看东西 安博
4 人才流失才是中国的命门/勒索7 秋念11
5 俄乌战争:俄罗斯打持久战的四 随意生活
6 巴以冲突引发的讨论 不合群
7 科学不是真理,实践不是检验真 骆驼
8 好文分享:美国真的没有改变中 艺萌
9 西方文明与中华文明相比较,到 爪四哥
10 美国为tiktok立法 白草
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.