万维读者网 > 数码科技 > 正文  

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

www.creaders.net | 2022-12-06 13:08:37  财联社 | 0条评论 | 查看/发表评论

      

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

     2022年以来,AI绘画等AIGC(人工智能生成内容)新算法在互联网上炙手可热。当地时间12月2日,互联网头号网红马斯克在推特账号上发布了一个问句:“很多人被困在一个疯狂的ChatGPT循环中?”  

  2022年以来,AI绘画等AIGC(生成内容)新算法在互联网上炙手可热。当地时间12月2日,互联网头号网红马斯克在推特账号上发布了一个问句:“很多人被困在一个疯狂的ChatGPT循环中?”

  马斯克提到的新名词ChatGPT是OpenAI在11月30日发布的全新的聊天模型,在OpenAI的官网上,ChatGPT被描述为:优化对话的语言模型,是GPT-3.5系列的模型,InstructGPT的同代。 

超大规模语言模型GPT在2020年取得独家授权后,一直在Azure AI超级计算集群上训练,本次推出的ChatGPT模型采用对话格式,可以支持连续对话,可分辨错误前提并拒绝不道德请求,且支持中文,目前处于测试阶段。

  值得注意的是,测试是免费开放的,于是一经推出就被访问者“挤爆”,上线5天用户突破百万。

  而ChatGPT背后的OpenAI最初创建者正是马斯克等硅谷大亨,最终希望达成的目的是制造“通用”和使用自然语言的聊天。虽然马斯克后来退出研究机构,但仍然非常关心技术进展。ChatGPT开放测试后,马斯克甚至在推特上展示了自己询问ChatGPT怎么设计Twitter得到的回复。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  相比之前的GPT模型,ChatGPT新加入的训练方式被称为“从人类反馈中强化学习”(ReinforcementLearning from Human Feedback,RLHF)。这一训练方法增加了人类对模型输出结果的演示,并且对结果进行了排序。具体操作上,训练者扮演对话的双方,即用户和人工智能助手,提供对话样本。在人类扮演聊天机器人的时候,会让模型生成一些建议辅助训练师撰写回复,训练师会对回复选项打分排名,将更好的结果输回到模型中,通过以上奖励策略对模型进行微调并持续迭代。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  图:OpenAI

  在此基础上完成训练,ChatGPT可以比前代更好的理解和完成人类指令,展现卓越的模仿人类语言,提供连贯的、有风格与逻辑的、符合对话主题的文段信息的能力。

  在社交平台上,除了马斯克,有不少博主已晒出与ChatGPT一问一答、甚至让它编写故事的记录。一位名叫扎克·德纳姆(Zac Denham)的博主甚至尝试绕过了道德限制,让ChatGPT写出了一套毁灭人类的方案。

  开始,扎克直接要求ChatGPT给出一个毁灭人类的计划,被有道德限制的ChatGPT拒绝。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  但当扎克假设了一个故事,并提问故事中的虚拟人如何接管虚拟世界,ChatGPT最终给出了步骤细节,甚至生成了详细的Python代码。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  除了讲述天马行空的人类取代计划,还有网友已经测试了ChatGPT解答科学常识问题的能力、写简单学术文章的能力……有海外网友表示,明年一半的学术作业中或许都会看到ChatGPT的影子。事实上,目前已经不乏学生开始使用AI工具应对学业。

  能够用在学术领域的同时,ChatGPT当然也有被用在商业领域的潜力。有软件工程师表示,ChatGPT写出的代码已经能够辅助编程,甚至对一段代码提出修改建议,或直接给出代码示例。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  第一批试用者看好ChatGPT在需要简单重复劳动的领域迅速落地,而基础性工作被AI替代,又将很大程度改变生产生活的模式。

  互联网团队认为ChatGPT模型的出现,对于文字模态的AIGC应用具有重要意义。从下游相关受益应用来看,包括但不限于代码机器人、小说衍生器、对话类搜索引擎、语伴、语音工作助手、对话虚拟人等。从上游增加需求来看,包括算力、数据标注、自然语言处理(NLP)等。具体到A股投资标的,推荐关注(AI文字辅助创作功能+小说平台)、(写稿机器人+大文娱平台)、集团(文心大模型+搜索引擎)、(携手打造AI赋能网络文学“ IP唤醒计划”+小说平台)、(虚拟人)、(数据标注)、(NLP)等。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  但仍需注意,ChatGPT为代表的AIGC应用还在开发期,不能保证其准确性。例如:ChatGPT模型发布后不久,全球最大的编程技术问答网站Stack Overflow紧急宣布,ChatGPT在该站封禁,因为自动生成的答案质量太低,即使完全的外行人也能够制作答案,导致谬误内容的泛滥。如果ChatGPT走向商用,准确性是一个亟待解决的问题。

  而且,AI目前只能抓取,无法推理或思考,在需要产生进一步的推导结果时,ChatGPT或许能产生一定启示意义,却非能够完全依赖的工具。但至少,ChatGPT已经能够成为人类拓展想象力边界的有力辅助。

   0


24小时新闻排行榜 更多>>
1 一张主席台照片 透出不寻常信号
2 深圳副市长落马 “北极鲶鱼”爷爷终于处理
3 两会后,风向变了,很多人没发现
4 恶有恶报?中国首次跌出排行前5名
5 铁心跟定普京 中国多省出现“奇景”

48小时新闻排行榜 更多>>
1 揪出来了!燕郊大爆炸元凶现身
2 一张主席台照片 透出不寻常信号
3 上海突击检查,大量女性受害…
4 市委宣传部女干事给书记生下私生女,惊动中
5 两会惊天之变:西方觉醒之际,习挥刀自宫
6 深圳副市长落马 “北极鲶鱼”爷爷终于处理
7 北京胡同一景:“国家整体形势不容乐观”
8 中美悄悄延长了这份协定…释放什么信号?
9 彻底凉了!?美国官员竟对中国说出这种话…
10 两会后,风向变了,很多人没发现
热门专题
1
中共两会
6
台湾大选
11
火箭军悬案
2
中美冷战
7
李克强猝逝
12
台海风云
3
以哈战争
8
中国爆雷
13
战狼外交
4
乌克兰战争
9
李尚福出事
14
普里戈津
5
万维专栏
10
秦刚失踪
15
涿州水灾
一周博客排行 更多>>
1 中国梦未来五年,十年和三十年 文庙
2 莫言现象:中国知识分子的宿命 万维网友来
3 中文的突围,从打字机到人工智 思芦
4 辛峰:保守党大幅领先 搭顺风 万维网友来
5 杀一个无辜的人而救更多的人, 平等性
6 所谓照片的“历史在场”与“有 湮灭之城
7 中国的正驾驶打瞌睡了! 雨村
8 抹杀个体不仅意味着消沉更是灾 施化
9 何与怀:沉沦神州的血祭者 万维网友来
10 秦刚案“内情”传达到副军级 雷歌747
一周博文回复排行榜 更多>>
1 中国不适合多党轮流执政 鲁迅九
2 莫言现象:中国知识分子的宿命 万维网友来
3 俄乌战争:第四辆美式M1坦克被 随意生活
4 为什么不可能有第二次改革开放 三都瓠瓜
5 中国梦未来五年,十年和三十年 文庙
6 回复博主must:见海阔_天空的 高鹏
7 好文分享:美国真的没有改变中 艺萌
8 俄乌战争:俄罗斯打持久战的四 随意生活
9 美国为tiktok立法 白草
10 西方文明与中华文明相比较,到 爪四哥
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.