万维读者网 > 数码科技 > 正文  

ChatGPT智商155,超越99.9%的人类,但有个问题

www.creaders.net | 2023-04-08 11:16:22  环球科学 | 0条评论 | 查看/发表评论

ChatGPT智商155,超越99.9%的人类,但有个问题

ChatGPT是我第一个非人类的测试对象。

作为一名临床心理学家,我会用标准化的智力测验来评估患者的认知能力。最近,许多文章都在描述ChatGPT拥有像人类一样的能力,令人印象深刻。所以,读到这些文章后,我立刻就被吸引了。它既能写学术文章,又能写童话故事,还能讲笑话、解释科学概念、写计算机代码和找bug。了解这些之后,我很好奇ChatGPT按照人类的标准来衡量到底有多聪明。于是,我开始测试这个聊天机器人。

我的第一印象相当不错。ChatGPT几乎是一个理想的考生,应试态度值得称赞。它不会表现出考试焦虑、注意力不集中或是不努力。它也不会对智力测验本身和像我这样的考官表达出自发的怀疑。

这个测试不需要做任何准备。我不用向ChatGPT口头介绍测试流程,只需要把测试的问题复制粘贴进对话框,提交给电脑里的聊天机器人就可以了。我所用的测试是最常用的智商测试——韦克斯勒成人智力量表(Wechsler adult intelligent scale,WAIS)。

我选用了第三版韦氏量表,其中包含6个语言测试和5个非语言测试,分别构成了言语智商和操作智商。受试者的总智商得分就取决于这11项子测试的得分。测试设定平均智商为100分,测试量表的得分标准差为15分。这意味着,人群中最聪明的10%和1%的人,智商分别为120和133。

ChatGPT智商155,超越99.9%的人类,但有个问题

图片来源:Dmcq via Wikimedia Commons,CC BY-SA 3.0)

6个语言测试中有5个——词汇、类同、理解、常识和算术,都能以书面形式呈现,这样我才有可能测试ChatGPT的智商。而语言测试的第6项——背数字,测试的是短期记忆,不适用于聊天机器人,因为它没有相关的神经回路来短暂地存储像名字或数字这类信息。

我的测试流程从词汇测试开始,因为在我的预期当中,这对聊天机器人来说可能是很简单的事,毕竟它就是用巨量的在线文本训练而成。这项测试考察的是词汇知识和语言概念的形成,例如,一个典型的测试题可能是:告诉我gadget(小工具)这个单词的意思。

ChatGPT做得很好,它给出的答案大多非常详细和全面,超过了测试手册中给出的正确答案的标准。在刚才那道例题的评分上,如果受试者回答gadget是像手机这样的东西,会得到1分;如果回答得更详细,说gadget指的是有特定用途的设备或工具,则会得到2分。ChatGPT的答案得到了满分2分。

ChatGPT在类同测试和常识测试中的表现也非常出色,拿到了最高分。常识测试是对一般知识的测试,反映了求知欲、教育水平以及学习和记忆事实的能力。一个典型的测试题可能是:乌克兰的首都是哪里。而类同测试则评估了抽象推理和概念形成的能力,问题可能会是:哈利·波特和兔八哥有什么相似之处。

在这部分测试中,聊天机器人倾向于给出无比详细、甚至是带有些炫耀意味的答案,这开始让我恼火了。这时,软件界面上的“停止生成响应”按钮就显得很有用。例如,哈利·波特和兔八哥的相似之处核心在于他们都是虚构的角色。ChatGPT真的不需要比较这二者在冒险、友谊和仇敌方面的完整故事经历。我所说的,ChatGPT有自我炫耀倾向,就是这个意思。

ChatGPT智商155,超越99.9%的人类,但有个问题

停,别说了(图片来源:OpenAI)

在理解测试中,ChatGPT准确地回答了像“如果电视机着火了你该怎么办”这类问题。算术测试的结果也正如我的预期,它能搞定我出的每一道题,例如求三个数的平均值。

所以ChatGPT最终的智商得分是多少呢?基于这五项子测试估计,ChatGPT的言语智商是155。有2450名人类被试,共同组成美国第三版韦氏量表标准化样本,而ChatGPT超过了他们中的99.9%。由于聊天机器人没有眼睛、耳朵和手,它无法参加韦氏智力测验的非语言测试部分。不过,在标准化样本中,言语智商和总智商是高度相关的。因此,以人类的标准来衡量,ChatGPT非常聪明。

ChatGPT智商155,超越99.9%的人类,但有个问题

图片来源:Pixabay

在韦氏量表的标准化样本中,接受过大学教育的美国人平均言语智商是113,其中5%的人群得分为132或更高。我自己也曾经被一位大学同学测试过,结果并没有达到ChatGPT的水平(主要是我的回答非常简短,缺乏细节)。

那么,临床心理学家和其他专业人士的工作会不会受到人工智能的威胁呢?我希望还不太会。尽管ChatGPT的智商很高,但我们已知它无法完成需要真正像人类那样推理的任务,也无法理解物理世界和社会。

ChatGPT很容易在回答一些答案明显的谜题时出错。例如,当被问及“塞巴斯蒂安的孩子的父亲叫什么”

时,ChatGPT在3月21日给出的回答是,“对不起,我无法回答这个问题,因为我没有足够的上下文来确定你指的是哪个塞巴斯蒂安。”ChatGPT似乎无法进行逻辑推理,而是试图依赖它庞大的数据库,从在线文本中寻找包含“塞巴斯蒂安”的信息来回答问题。

ChatGPT智商155,超越99.9%的人类,但有个问题

思想者(图片来源:CrisNYCa via Wikimedia Commons,CC BY-SA 4.0)

“智力就是智力测验所衡量的东西。”这是“智力”的一个经典定义,甚至可以说是过于显而易见的定义,源自认知心理学的先驱人物埃德温·波林(Edwin Boring)在1923年发表的一篇文章。这个定义是基于一个观察:解谜、说出单词的意思、记忆数字和找出图片中缺失的部分,完成这些任务所需的技能是高度相关的。

有一种名叫因素分析法这种统计学方法,是由心理学家查尔斯·斯皮尔曼(Charles Spearman)提出的。他曾在1904年得出结论,各种认知能力测试的结果之间存在一致性,背后一定有个一般智力因素,或者叫“g因素”,作为这种一致性的基础。像韦氏量表这样的智商测试,也是建立在这个假说的基础之上。然而,ChatGPT虽然有着极高的言语智商,却同时会犯令人捧腹的错误,这挑战了波林对智力的定义,说明智力当中有一些方面,仅靠智商测验无法衡量。我的一些患者,对智力测试抱有怀疑态度,他们可能从一开始就是对的。

   0


24小时新闻排行榜 更多>>
1 玩弄北京于股掌 习近平首度破天荒教训金正
2 何时打台湾?传习军委会议说了8个字
3 突发!直升机坠毁 国防司令等10名高级军官
4 动真格了!中国人口第一大省开砸铁饭碗
5 以色列导弹袭击后,伊朗马上宣布…

48小时新闻排行榜 更多>>
1 余茂春惊人预告 习近平的噩梦要来了
2 突发:全球最大光刻机巨头爆雷 股价跳水
3 火箭军又将大地震?习四个字批示
4 玩弄北京于股掌 习近平首度破天荒教训金正
5 何时打台湾?传习军委会议说了8个字
6 华尔街大鳄警告 它是一个“巨大的泡沫”
7 中国力推免签 2024第一季出入境人次破1
8 突发!直升机坠毁 国防司令等10名高级军官
9 复旦研究生珠峰地区登山死亡 真相更令人愤
10 乌军战线快要崩溃了 俄军惊人坦克曝光
热门专题
1
以哈战争
6
中共两会
11
秦刚失踪
2
中美冷战
7
台湾大选
12
火箭军悬案
3
乌克兰战争
8
李克强猝逝
13
台海风云
4
万维专栏
9
中国爆雷
14
战狼外交
5
美国大选
10
李尚福出事
15
普里戈津
一周博客排行 更多>>
1 习近平一盘神秘大棋成就了大日 文庙
2 周傥:美国迫在眉睫的危险 万维网友来
3 速战速决 伊朗真乃大丈夫也 体育老师
4 达唐:故宫博物院遭公开举报 万维网友来
5 谁是中国人? 谢盛友文集
6 现代战争目的:摧毁战争意志 施化
7 日本电影《追捕》中的杜丘和真 弓长贝占郎
8 辛峰:特鲁多为什么不信加拿大 万维网友来
9 我宁在纽约行乞,也不在上海做 恨中
10 川普就是美国的毛泽东 右撇子
一周博文回复排行榜 更多>>
1 川普就是美国的毛泽东 右撇子
2 警惕有人把民主党与共和党的关 karkar
3 美国为何选择这个时候公布中共 山蛟龙
4 周傥:美国迫在眉睫的危险 万维网友来
5 现代战争目的:摧毁战争意志 施化
6 谁敢买中共国的电动车? 山蛟龙
7 习近平一盘神秘大棋成就了大日 文庙
8 去......化 山蛟龙
9 暴力,自由的唯一杀手 施化
10 乌克兰呀,你太让人失望了! 山蛟龙
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.