生肖马生肖马的人有高超的技能,有强大的自信心,口才流利,生肖马的人做事稳重踏实,从不轻易妥协,具备卓越的市场洞察力和战略眼光,能够准确把握市场需求,使......
最近,OpenAI 发布了一款工具,可以检测一段文本是否是由其人工智能系统 ChatGPT 生产的。但是,如果你认为这样就可以高枕无忧,恐怕现实会让你失望了。
一些教育工作者、记者和创作者认为,在没有任何方法来检测 ChatGPT 产生的文字的情况下,OpenAI 仍选择将其发布是欠考虑的。因此,OpenAI 发布了这款工具作为回应。然而,这仍然是一项正在进行中的工作,而且它是非常不可靠的。OpenAI 表示,其人工智能文本检测器的准确识别率仅有 26%。
虽然 OpenAI 在改进工具方面还有很多的工作要做,但它能做的其实很有限。想要做出一个能以 100% 准确率发现人工智能生成文本的工具,几乎是不可能的。
加拿大英属哥伦比亚大学研究自然语言处理和机器学习的穆罕默德·阿卜杜勒-马吉德()教授表示,检测人工智能生成的文本真的很难,因为人工智能语言模型追求的就是生成流畅和类人化的文本,模型就是在模仿人类创建的文本。
补充说,我们正在进行一场军备竞赛,以建立能够与最新、最强大的模型相抗衡的检测方法。新的人工智能语言模型更强大,更擅长生成流畅的语言,这很快就会使我们现有的检测工具过时。
(来源:STEPHANIE ARNETT/MITTR)
OpenAI 通过创建一个类似于 ChatGPT 的全新人工智能语言模型来构建它的检测器,该模型被训练得可以检测像它自己这样的语言模型所输出的文本。尽管披露的技术细节很少,但该公司显然会用人工智能生成的文本和人类写出来的文本来训练该模型,然后要求它分辨哪些文本是人工智能生成的。我们希望获得更多信息,但 OpenAI 没有回应。
上个月,我写了另一种检测由人工智能生成的文本的方法:水印。这些水印信号存在于人工智能产生的文本中,可以被当作一种秘密信号,允许计算机程序检测到它。
马里兰大学的研究人员开发了一种巧妙的方法,将水印应用到人工智能语言模型生成的文本中,他们已将相关技术免费开放。这些水印可以让我们几乎完全确定地指出哪些文本是人工智能生成。
问题是,这种方法要求人工智能公司从一开始就在其聊天机器人中嵌入水印。OpenAI 正在开发类似的系统,但还没有任何产品中加入它们。其中一个原因可能是,为人工智能生成的文本加上水印,并不是一个完美的方法。
最有可能用到 ChatGPT 的一个产品是电子邮箱,它可以作为一种帮助人们撰写电子邮件的工具,或者作为一个更好用的拼写检查器。这种用途没什么问题,但对所有人工智能生成的文本加入水印并进行相关检测,则会自动标记这些文字内容,并可能导致错误的或有误导性的指控。
OpenAI 推出的人工智能文本检测器只是众多工具中的一个,在未来,我们可能不得不使用一系列工具来识别人工智能生成的文本。
另一个名为 GPTZero 的新工具测量了文本段落的随机程度。人工智能生成的文本倾向于使用更多相同的单词,而人类写出来的文字有更多的变化。说,与医生的诊断一样,在使用人工智能检测工具时,使用两种甚至三种工具是个好主意。
ChatGPT 带来的最大变化,可能是我们评估书面文本的方式的转变。人工智能初创公司 Lightning AI 的人工智能研究员塞巴斯蒂安·拉奇卡()表示,在未来也许学生不会再从零开始写东西,而将重点放在提出原创的想法。当人工智能系统的“想法“耗尽时,ChatGPT 生成的论文和文本最终会变得极其相似,因为它受到其代码和训练集中数据的限制。
拉奇卡说:“写出语法正确的文本变得更容易了,但原创性不会变得容易。”
支持:Ren
原文:
https://www.technologyreview.com/2023/02/07/1067928/why-detecting-ai-generated-text-is-so-difficult-and-what-to-do-about-it/
【文/道哥说车听风吟】3月23日晚,广汽丰田全新换代雷凌(参数丨图片)上市,新车共推出混动版3款车型和燃油版6款车型,混动版售价区间为13.38万~14.88万元;燃......
从古早的没品图、日式冷吐槽到现在经常出现的熊猫头和梗图在帮我们传递信息和情绪的能力上远远超过了文字有时候不知道回什么的时候一个表情就能轻轻松松帮你解围......
生肖鸡生肖鸡的人有组织能力,善于总结经验,终会幸福,生肖鸡的人凡事看好的一面,不轻言放弃,不畏艰难,好事连连不断,爱情收获甜蜜。十分喜欢交朋友,他们经......
生肖羊生肖羊的人为人踏实,有灵活性,口才流利,生肖羊的人具有高度的自信和自尊,能够坚定地面对挑战和批评,具备卓越的创新和创造力,能够不断推陈出新,使事......
生肖虎生肖虎的人有独立思考的能力,善于开拓创新,值得深交,生肖虎的人可以调整自己的心态,不让会复杂的事情扰乱自己的情绪,通过不断学习和提升,成为职场中......
生肖虎生肖虎的人性格好,善于做好事,有丰富的人生经验,生肖虎的人勇于尝试新事物,不断创新,聚财聚福,吃喝不愁,只要肯努力,生活会越来越好。坚韧毅力和乐......
生肖马生肖马的人有高超的技能,有强大的自信心,口才流利,生肖马的人做事稳重踏实,从不轻易妥协,具备卓越的市场洞察力和战略眼光,能够准确把握市场需求,使......
生肖虎生肖虎的人爱情开花结果,有洞察力,细心周到,生肖虎的人具备良好的团队协作和合作精神,能够有效地与他人合作,具备卓越的团队合作和领导能力,能够有效......
朝鲜各地火热开展农家肥生产竞赛,旨在提升农田肥力
龙芯打印驱动引擎登陆统信、麒麟商店,打印机支持率超 95%
龙芯2K2000通用SOC芯片详细信息公布:集成自研LG120 GPU核
龙芯 3A6000 PC 处理器预计上半年流片,明年大批量出货
龙芯 2K1500 流片成功:自研双核 1GHz、功耗仅 2.8W
龙腾光电:预计 2022 年净利润同比减少 75.29% 到 71.45%
龙头大佬撑腰、业绩暴增?这家锂电公司成为“出货王”,即将上市!
齐鲁二号等卫星将搭乘长征二号丁遥71火箭“一箭十四星”拼车发射
鼠标传感器大厂原相 2 月营收增长 16%,第一季度有望止跌回升
鼎桥行业终端新增华为 Mate50 系列,集成安全定制科技
黑龙江一处旧房发现神秘动物骨架,专家:很可能是猞猁
黑鲨冰封制冷背夹 3 标准版发布,首发价 99 元
黑曜石发布《天外世界:太空人之选版》游戏,整合全部 DLC
黑客攻击频繁,澳大利亚计划全面修订网络安全规则,
黄陂为什么叫黄陂?火爆全球的ChatGPT,为武汉黄陂作诗一首!
黄金玉器等传统首饰春节热销,兔元素最受宠
黄石长江码头油库举行实战式消防演练
黄石文旅“烟火气”升腾,春节假期游客量同比增长两成
黄石3个文旅重点项目签约,阳新仙云山旅游区打造“仙湖之眼”
黄河 Huanghe 2250 V4 服务器发布
黄晓明点赞的技术公益创造营到底是什么?
黄冈文旅市场强劲回暖,春节假期旅游总收入同比增三成
黄冈回应法拉第未来中国总部落户:正接洽合作事宜
黄冈6个文旅重点项目签约,将围绕东坡文化打造超级IP