万维读者网 > 数码科技 > 正文  

千万别信ChatGPT给出的癌症治疗方案

www.creaders.net | 2023-08-27 20:33:57  IT之家 | 0条评论 | 查看/发表评论

   千万别信ChatGPT给出的癌症治疗方案

OpenAI 的聊天机器人 ChatGPT 虽然风靡全球,但一项新的研究表明,它在一个关键领域还远不能取代人类专家。美国哈佛医学院附属的布里格姆妇女医院的研究人员发现,ChatGPT 生成的癌症治疗方案充满了错误。

这项研究发表在《美国医学会肿瘤学杂志》上,研究人员向 ChatGPT 提出了各种癌症病例的治疗方案,结果发现三分之一的回答中包含了不正确的信息。研究还指出,ChatGPT 倾向于将正确和错误的信息混合在一起,因此很难识别哪些信息是准确的。

该研究的合著者 Danielle Bitterman 博士称,他们“对错误信息与正确信息混合在一起的程度感到震惊,这使得即使是专家也很难发现错误。”她补充说,“大型语言模型经过训练可以提供听起来非常有说服力的回答,但它们并不是为了提供准确的医疗建议而设计的。错误率和回答的不稳定性是临床领域需要解决的关键安全问题。”

ChatGPT 于 2022 年 11 月推出后一夜成名,两个月后就达到了 1 亿活跃用户。尽管 ChatGPT 取得了成功,但生成型人工智能模型仍然容易出现“幻觉”,即自信地给出误导性或完全错误的信息。

IT之家注意到,将人工智能融入医疗领域的努力已经在进行中,主要是为了简化管理任务。本月早些时候,一项重大研究发现,使用人工智能筛查乳腺癌是安全的,并且可能将放射科医生的工作量减少近一半。哈佛大学的一位计算机科学家最近发现,最新版本的模型 GPT-4 可以轻松通过美国医学执照考试,并暗示它比一些医生具有更好的临床判断力。

尽管如此,由于 ChatGPT 等生成型模型存在准确性问题,它们不太可能在近期取代医生。《美国医学会肿瘤学杂志》上的研究发现,ChatGPT 的回答中有 12.5% 是“幻觉”,并且在被问及晚期疾病的局部治疗或免疫疗法时,最有可能给出错误的信息。

OpenAI 已经承认 ChatGPT 可能不可靠,该公司的使用条款警告说,他们的模型并非旨在提供医疗信息,也不应该用于“为严重的医疗状况提供诊断或治疗服务”。

   0


24小时新闻排行榜 更多>>
1 气数已尽 噩梦将至
2 信号来了,房子应该没机会了
3 这是中国的最好武器?网友:这是自杀
4 中国经济困境根源何在?
5 北上广深又惊现尴尬一幕

48小时新闻排行榜 更多>>
1 习的贺信曝光 他断然拒绝了北京
2 中国赶超美国恐已遥不可及
3 气数已尽 噩梦将至
4 “出生在美国就像中彩票!”巴菲特公开遗嘱
5 突发快讯:直接命中!美军基地遭精准袭击
6 信号来了,房子应该没机会了
7 社死!她在海滩自慰被捕,视频公布网友怒怼
8 中南海惊现大凶之兆?
9 这是中国的最好武器?网友:这是自杀
10 中国经济困境根源何在?
热门专题
一周博客排行 更多>>
1 中共深陷经济危机,将重操计划 秀峰真人曾
2 再指点一下习老大,立刻回归胡 renweida
3 《足迹…》第七章奔向自由(198 晚成
4 老谢 南来客
5 老钱:美国乱象之根源 老钱
6 毛四代、蒋四代、金四代比较 赵大夫话室
7 新冠病毒中的跨物种、跨生物界 苦难与荣耀
8 吕洪来谈科学养生之十:科学养 老陆
9 哈马斯+巴勒斯坦组织=哈巴狗犬 hechun
10 基辛格:愚蠢的农夫和可耻的政 karkar
一周博文回复排行榜 更多>>
1 美国的格局:该不该有挺川建制 不合群
2 老钱:美国乱象之根源 老钱
3 为何中共的病毒总是爆发在台湾 山蛟龙
4 基辛格的“功过” 远方的孤独
5 为基辛格驾鹤西去烧张冥币 阿妞不牛
6 中美关系台湾问题不要弯弯绕啦 阿妞不牛
7 上海交响乐团指挥陆洪恩哼着《 体育老师
8 陈寅恪:与鲁迅同窗两年,为何 弓长贝占郎
9 老妖终于死了 山蛟龙
10 缅怀胡耀邦 墨明
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2023. CyberMedia Network/Creaders.NET. All Rights Reserved.