聊天神器ChatGPT还有这本事:撰写论文摘要竟能骗过专家:环球快资讯
据预印本平台bioRxiv12月底发布的一份预印报告显示,一篇由人工智能(AI)聊天机器人写出的研究论文摘要,甚至最终能骗过专家审核。这一报告一经发出就受到人们的广泛关注,研究人员对该AI机器人的影响力有着巨大争议。
聊天机器人ChatGPT的所有者是一家位于旧金山的软件公司OpenAI,该公司于11月30日发布了这款AI工具,并提供了免费试用。
ChatGPT可以根据用户的提示创建实际且智能的文本。它是一个“大型语言模型”,是一个基于神经网络的系统,通过消化大量现有的人类生成的文本来学习并执行任务。
(资料图片仅供参考)
上周,有消息称,美国科技巨头微软计划向OpenAI投资高达100亿美元,目前尚处于谈判阶段。
难以区分
自从它发布以来,由于该机器人的大部分输出内容就很难与人工书写出的文本进行区分,研究人员一直在努力解决围绕其使用的伦理问题。
现在,伊利诺斯州西北大学Catherine Gao领导的一个小组已经开展了一项研究:使用ChatGPT生成研究论文摘要,以测试科学家是否能发现它们。
研究人员要求ChatGPT根据发表在四大医学顶刊《美国医学会杂志》、《新英格兰医学杂志》、《英国医学杂志》、《柳叶刀》以及《自然》子刊《自然医学》上的精选文章,撰写50篇医学研究摘要。
随后该小组通过抄袭检测系统和人工智能输出检测器,将这些摘要与原始摘要混在一起匿名比较,要求一组医学研究人员找出由ChatGPT输出的摘要。
结果显示,ChatGPT生成的摘要顺利通过了抄袭检查:其原创性平均得分为100%,这表明没有检测到抄袭。人工智能输出检测器发现了66%的由ChatGPT生成的摘要。
而人工审阅者错误地将32%的生成摘要识别为原始摘要。
重大争议
Gao和他的同事在预印本报告中写道,ChatGPT确实写出了可信的科学摘要,不过使用大型语言模型来帮助科学方面的写作,其道德界限和可接受程度仍有待商榷。
英国牛津大学技术和监管领域学者Sandra Wachter不是此次研究的参与者,但是她对此表示非常担心。她补充道,“如果我们现在处于连专家都无法判断真假的情况下,那么我们就不会再看到那些能够在复杂话题中指导我们的论文摘要。”
Wachter提醒道,如果由ChatGPT生成的论文内容无法确定是否正确,那可能会有“可怕的后果”。这不光会给研究人员带来重大问题,因为他们阅读的研究是被捏造出来的;而且对整个社会也有影响,因为科学研究在社会中扮演着重要角色。
Wachter警告,更严重的或许导致基于研究的政策决定出现失误。
新泽西州普林斯顿大学的计算机科学家Arvind Narayanan认为,“任何严肃的科学家都不太可能使用ChatGPT来生成摘要。”
他补充道,“问题在于,该工具能否生成准确而令人信服的摘要。若是不能,那它的缺点是显著的。”
Narayanan还表态,此类问题的解决方案不在ChatGPT本身,而是应该集中在导致这种行为的不良动机上,例如招聘和晋升审查时只看论文的量、而不看质。
人工智能公司Hugging Face研究人员Irene Solaiman则认为,“这些AI模型是根据过去的信息进行训练的,而社会和科学的进步往往来自于与过去不同的思维,或开放思维。”
Solaiman补充说,在医学等关键领域,假信息可能危及人类的安全,所以一些期刊必须采取更严格的方法来验证信息的准确性。
该预印报告的研究小组建议,那些评估科学传播的人士应该制定政策,杜绝使用人工智能生成的文本。而要是机构选择允许在某些情况下使用该技术,他们应该就披露建立明确的规则。
相关推荐:
最新新闻:
- 聊天神器ChatGPT还有这本事:撰写论文摘要竟能骗过专家:环球快资讯
- 12月经济发展有何边际变化?:天天新动态
- 数十万中国玩家挤爆服务器!《鹅鸭杀》现象级爆火
- 当前看点!福利延续!购七彩虹显卡及整机送穿越火线限定礼包
- 国家能源集团谏壁贞观山灰场光伏电站项目成功并网
- 回顾2022拼搏足迹 添可将引领用户奔赴更广袤世界
- 世界快资讯丨业界呼吁:中国数字产业须重视IP地址自主控制权
- 全球百事通!暴雪网易彻底谈崩,暴雪将于 1 月 23 日中止国服游戏服务
- 网友称吃火锅遇蓝环章鱼:有剧毒!还好提前发现
- 好好的电瓶车,怎么突然就烧了?
- 建造模拟游戏《新星岛物语》Steam发售 未来将更新更多内容
- 焦点速讯:暴雪官方旗舰店将正常运营:游戏关服周边照卖
- 《皇牌空战7 未知空域》发售四周年 官方公布贺图:环球新动态
- 定金立减500元 攀升暴风龙P3轻薄本预售:快讯
- 环球动态:Pure Storage最新调查指出IT对全球环境可持续发展倡议带来重大影响
- 腾讯公关回应提前退租15层楼:正常的办公楼调整-今日精选
- 天天热推荐:大厂不抢春晚红包
- 天天热讯:大众中国CEO:大众电动车会像燃油车一样成功
- Xbox版《怪物猎人:崛起》预载开启!XGP免费玩
- 【全球播资讯】英国亚马逊上架《DYSCHRONIA》等两款PSVR2游戏
- CW电视台DC新剧《哥谭骑士》发布全新正式预告:环球快消息
- AI+云=?微软要把ChatGPT放到云端!|环球热点
- 世界视点!2023春节天津历史文化旅游路线推荐
- 特斯拉改款Model3路测谍照曝光 老款降价迎新款?
- 全球头条:坡县纸贵!新加坡房租预计今年继续暴涨
- 侵害录音录像制作者权 《羊了个羊》开发商被起诉侵权-全球今日报
- 美国男子蹲监狱获整洁冠军 出狱年薪百万:开清洁公司
- 《曼达洛人》第三季正式预告 3月1日Disney+开播
- 《原神》新角色迪希雅和米卡立绘 沙漠女儿很奔放
- AI换脸小视频泛滥网络 日本人出手:用AI识别真伪 世界快报
- 推出已有四个月:用户反映iOS16系统仍存大量Bug!:世界速读
- 首发 379 元,中兴 Z4 Pro 机顶盒上架:支持 4K60P 短讯
- 比亚迪海鸥申报图曝光,或成比亚迪最便宜车型:今热点
- 当前热议!黑鲨游戏手机就此坠落?黑鲨科技裁员比例达 80%
- 今日快讯:三星 S23 Ultra 主摄?2 亿像素三星 ISOCELL HP2 传感器发布
- 抓紧时间!PS节日优惠仅剩最后一天:低至2折 热头条
- GSAS《仙剑奇侠传》赵灵儿粘土人手办 今日开订
- 贵人与门徒
- 天天快看点丨《寄梦远方》将于1月31日发售 公布最新预告片
- 《火焰纹章:结合》媒体评分今晚解禁 均分能超越前作吗?
- 新款Mac要来了?曝苹果将发布开年首波新品 当前消息
- iOS16更新四个月仍存大量Bug iPhone用户狂吐槽
- 桌面图标怎么变透明了?桌面图标变透明了的解决方法
- 我的文档位置在哪?我的文档被删除了怎么恢复?
- XP怎么设置自动关机?分享windows XP实现自动关机的方法
- smtp服务器是什么意思?smtp服务器怎样搭建?
- 如何配置可交换显示卡?配置可交换显示卡不见了怎么办?
- DELL PRECISION想找挚友聊聊天
- win7系统出现蓝屏提示igdpmd64.sys文件出错该怎么办?蓝屏提示igdpmd64.sys文件出错解决方法
- qq应用管理器在哪?qq应用管理器怎么添加应用?
- 笔记本无线WIFI怎样设置共享?路由器怎么设置共享wifi?
- 系统分区表丢失问题怎么解决?分区表丢失解决步骤
- 如何快速保存QQ聊天记录?msg2.0.db使用方法介绍
- netcfg.hlp文件是什么?netcfg.hlp文件丢失找回步骤
- lol怎么更新游戏?更新失败该如何解决?LOL自动更新失败的几个修复方法
- ravbin是什么文件?ravbin文件能够删除吗?
- 今日播报!著名武术家于海去世 曾与李连杰出演《少林寺》
- 近距离看女主!《光明记忆:无限》推出第三人称模式 天天百事通
- win10系统百度云离线下载错误36000怎样解决?百度云离线下载错误36000解决方法
- 如何进行MD5验证?验证MD5的方法步骤
- 天天热议:模拟经营游戏《学园构想家》试玩版上线 流程约1小时
- 像素风校园模拟经营新作《学园构想家》免费试玩 晒愿望单赢Steam礼品卡 今日关注
- 今日快讯:模拟建造游戏《二战重建者》在Steam发售 支持中文
- 学以致用 《建造师模拟器》steam页面上线 焦点速看
- 附件精灵有什么作用?附件精灵如何下载并安装?
- 怎么更新无线网卡驱动?无线网卡驱动异常怎么修复?
- 蓝屏代码0x000008e出现的原因是什么?原因分析及解决方法
- 黑屏提示0xc000025错误怎么办? 提示0xc000025错误的解决步骤
- 10年烧光1000亿,视频平台还要底线吗?|天天热闻
- “新财富五连冠”董广阳:消费行业已处于完全没有泡沫、中低位水平,全年两波行情-今日热门
- 硬盘分区表丢失怎么恢复?详解硬盘分区表损坏修复方法
- 2023杭州烟花秀哪里可以看?
- 慎更!iOS 16用户在发布几个月后继续报告大量Bug-当前快报
- 天天看点:性能炸裂!英特尔酷睿i9-13980HX移动处理器跑分曝光
- iPhone15 Ultra后摄大幅升级!-环球热门
- 新年福利活动火热持续中!买耕升3060及以上显卡送CF礼包
- 今日要闻!4499 元,索尼 PS VR2 国行来了,已开启预订
- 《明日方舟》回应被抄袭 未授权已进行侵权取证
- 大作云集!PS公布2023年游戏阵容宣传片-今日热门
- 《方舟:生存进化》将迎来虚幻5复刻?
- 《曼达洛人》第三季首曝正式海报 3月1日开播|天天观热点
- 传闻:《塞尔达传说:王国之泪》空战方式多样 甚至可发射火球
- 当前聚焦:英国新一周实体游戏销量榜 《FIFA 23》重新登顶
- 盯上阿里!“知名激进投资者”要推高回购,曾主导知名妖股GME和3B家居
- 翻版华莱士,火一把就凉?