万维读者网 > 数码科技 > 正文  

千万别信ChatGPT给出的癌症治疗方案

www.creaders.net | 2023-08-27 20:33:57  IT之家 | 0条评论 | 查看/发表评论

   千万别信ChatGPT给出的癌症治疗方案

OpenAI 的聊天机器人 ChatGPT 虽然风靡全球,但一项新的研究表明,它在一个关键领域还远不能取代人类专家。美国哈佛医学院附属的布里格姆妇女医院的研究人员发现,ChatGPT 生成的癌症治疗方案充满了错误。

这项研究发表在《美国医学会肿瘤学杂志》上,研究人员向 ChatGPT 提出了各种癌症病例的治疗方案,结果发现三分之一的回答中包含了不正确的信息。研究还指出,ChatGPT 倾向于将正确和错误的信息混合在一起,因此很难识别哪些信息是准确的。

该研究的合著者 Danielle Bitterman 博士称,他们“对错误信息与正确信息混合在一起的程度感到震惊,这使得即使是专家也很难发现错误。”她补充说,“大型语言模型经过训练可以提供听起来非常有说服力的回答,但它们并不是为了提供准确的医疗建议而设计的。错误率和回答的不稳定性是临床领域需要解决的关键安全问题。”

ChatGPT 于 2022 年 11 月推出后一夜成名,两个月后就达到了 1 亿活跃用户。尽管 ChatGPT 取得了成功,但生成型人工智能模型仍然容易出现“幻觉”,即自信地给出误导性或完全错误的信息。

IT之家注意到,将人工智能融入医疗领域的努力已经在进行中,主要是为了简化管理任务。本月早些时候,一项重大研究发现,使用人工智能筛查乳腺癌是安全的,并且可能将放射科医生的工作量减少近一半。哈佛大学的一位计算机科学家最近发现,最新版本的模型 GPT-4 可以轻松通过美国医学执照考试,并暗示它比一些医生具有更好的临床判断力。

尽管如此,由于 ChatGPT 等生成型模型存在准确性问题,它们不太可能在近期取代医生。《美国医学会肿瘤学杂志》上的研究发现,ChatGPT 的回答中有 12.5% 是“幻觉”,并且在被问及晚期疾病的局部治疗或免疫疗法时,最有可能给出错误的信息。

OpenAI 已经承认 ChatGPT 可能不可靠,该公司的使用条款警告说,他们的模型并非旨在提供医疗信息,也不应该用于“为严重的医疗状况提供诊断或治疗服务”。

   0


24小时新闻排行榜 更多>>
1 老习等不及了!传三中全会再次修宪
2 大批华人被逮捕!美国土安全部宣布“红钩计
3 朱令父亲突然亮剑 致信最高检要求重启调查
4 习走上不归路 中国著名学者温铁军视频热传
5 机场厕所惊见弃婴 所有女乘客遭逼脱内裤

48小时新闻排行榜 更多>>
1 凄惨!中共最担心的事儿发生了
2 时代的灰终于落到公务员头上
3 老习等不及了!传三中全会再次修宪
4 张玉凤发声明 澄清她与毛泽东的多个传闻
5 此人忽然死亡 震惊外界 习近平怎么看
6 习家军内部出大案 堪比林彪事件
7 谷歌女员工抖音炫耀公司福利 结果半夜就被
8 刚刚 温庆运被执行死刑
9 三位院士:99%血栓无征兆,记住一字,一生
10 火箭军模范女战士泄露国家机密 将习放在火
热门专题
1
以哈战争
6
中共两会
11
秦刚失踪
2
中美冷战
7
台湾大选
12
火箭军悬案
3
乌克兰战争
8
李克强猝逝
13
台海风云
4
万维专栏
9
中国爆雷
14
战狼外交
5
美国大选
10
李尚福出事
15
普里戈津
一周博客排行 更多>>
1 周傥:美国迫在眉睫的危险 万维网友来
2 速战速决 伊朗真乃大丈夫也 体育老师
3 达唐:故宫博物院遭公开举报 万维网友来
4 谁是中国人? 谢盛友文集
5 现代战争目的:摧毁战争意志 施化
6 辛峰:特鲁多为什么不信加拿大 万维网友来
7 周傥:理性反省和重新认识乌克 万维网友来
8 川普就是美国的毛泽东 右撇子
9 美国为何选择这个时候公布中共 山蛟龙
10 乌克兰呀,你太让人失望了! 山蛟龙
一周博文回复排行榜 更多>>
1 川普就是美国的毛泽东 右撇子
2 警惕有人把民主党与共和党的关 karkar
3 美国为何选择这个时候公布中共 山蛟龙
4 在言论管控大搞一言堂方面,中 爪四哥
5 乌克兰呀,你太让人失望了! 山蛟龙
6 周傥:美国迫在眉睫的危险 万维网友来
7 海一代选民:多少人视民主党为 随意生活
8 现代战争目的:摧毁战争意志 施化
9 亚洲的乌克兰其实不是台湾,而 随意生活
10 一只小鸟的咏叹 木桩
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.