万维读者网 > 数码科技 > 正文  

千万别信ChatGPT给出的癌症治疗方案

www.creaders.net | 2023-08-27 20:33:57  IT之家 | 0条评论 | 查看/发表评论

   

OpenAI 的聊天机器人 ChatGPT 虽然风靡全球,但一项新的研究表明,它在一个关键领域还远不能取代人类专家。美国哈佛医学院附属的布里格姆妇女医院的研究人员发现,ChatGPT 生成的癌症治疗方案充满了错误。

这项研究发表在《美国医学会肿瘤学杂志》上,研究人员向 ChatGPT 提出了各种癌症病例的治疗方案,结果发现三分之一的回答中包含了不正确的信息。研究还指出,ChatGPT 倾向于将正确和错误的信息混合在一起,因此很难识别哪些信息是准确的。

该研究的合著者 Danielle Bitterman 博士称,他们“对错误信息与正确信息混合在一起的程度感到震惊,这使得即使是专家也很难发现错误。”她补充说,“大型语言模型经过训练可以提供听起来非常有说服力的回答,但它们并不是为了提供准确的医疗建议而设计的。错误率和回答的不稳定性是临床领域需要解决的关键安全问题。”

ChatGPT 于 2022 年 11 月推出后一夜成名,两个月后就达到了 1 亿活跃用户。尽管 ChatGPT 取得了成功,但生成型人工智能模型仍然容易出现“幻觉”,即自信地给出误导性或完全错误的信息。

IT之家注意到,将人工智能融入医疗领域的努力已经在进行中,主要是为了简化管理任务。本月早些时候,一项重大研究发现,使用人工智能筛查乳腺癌是安全的,并且可能将放射科医生的工作量减少近一半。哈佛大学的一位计算机科学家最近发现,最新版本的模型 GPT-4 可以轻松通过美国医学执照考试,并暗示它比一些医生具有更好的临床判断力。

尽管如此,由于 ChatGPT 等生成型模型存在准确性问题,它们不太可能在近期取代医生。《美国医学会肿瘤学杂志》上的研究发现,ChatGPT 的回答中有 12.5% 是“幻觉”,并且在被问及晚期疾病的局部治疗或免疫疗法时,最有可能给出错误的信息。

OpenAI 已经承认 ChatGPT 可能不可靠,该公司的使用条款警告说,他们的模型并非旨在提供医疗信息,也不应该用于“为严重的医疗状况提供诊断或治疗服务”。

   0


24小时新闻排行榜 更多>>
1 三中全会召开之际,网传习近平中风且不乐观
2 北大毕业典礼 教授突然叫板中南海
3 疯传习中风?虚虚实实让人无限遐想
4 党媒捧习闹出大笑话 全网围观
5 新华社捧习文章突然下架… 三中全会出事了

48小时新闻排行榜 更多>>
1 传中国第四季将解除禁令
2 三中全会召开 立刻传来一个坏消息
3 三中全会召开之际,网传习近平中风且不乐观
4 北大毕业典礼 教授突然叫板中南海
5 这消息如果是真的 那就太劲爆了!
6 关键5分钟发生了什么?更多惊人的信息流出
7 被美国禁止的10种中国食品 原因公开了
8 疯传习中风?虚虚实实让人无限遐想
9 三中全会开幕当天 习被冠上新头衔
10 党媒捧习闹出大笑话 全网围观
热门专题
1
美国大选
6
中美冷战
11
中国爆雷
2
三中全会
7
乌克兰战争
12
李尚福出事
3
巴黎奥运
8
中共两会
13
秦刚失踪
4
万维专栏
9
台湾大选
14
火箭军悬案
5
以哈战争
10
李克强猝逝
15
台海风云
一周博客排行 更多>>
1 死于“三个自信”的齐奥赛斯库 阿妞不牛
2 先声夺人、千里摄敌、不战而胜 万维网友来
3 天佑老川,美国必将伟大! 流岛
4 何与怀:他一生短暂,却是世间 万维网友来
5 子弹飞过的瞬间 沐浴神恩 川 雷歌747
6 中美对比:房贷断供后 马黑
7 天恐诗词中断落, 故留嘉莹在人 玉质
8 冬天的童话一㨗克篇(五 野狼巴克
9 恰如预测,杀死川普是最后备案 透視鏡
10 为什么第二次简化字失败了? 乐维
一周博文回复排行榜 更多>>
1 北约正式开启亚太扩容 随意生活
2 来到美利坚的,请珍惜投票的手 阿妞不牛
3 惊醒川普拜登的这一枪 阿妞不牛
4 死于“三个自信”的齐奥赛斯库 阿妞不牛
5 是阴谋,还是 水蛇
6 黔驴技穷的谋杀 石头村
7 中美对比:房贷断供后 马黑
8 政客们把美国变成人间喜剧 巴黎老高
9 中国目前的人口状况 jingchen
10 川普遇刺!差1cm就成烈士.高呼 must
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. Creaders.NET. All Rights Reserved.