生肖马生肖马的人有高超的技能,有强大的自信心,口才流利,生肖马的人做事稳重踏实,从不轻易妥协,具备卓越的市场洞察力和战略眼光,能够准确把握市场需求,使......
随着“最强聊天机器人”ChatGPT的火爆出圈,各大科技巨头也开始进军该领域。
此前,微软宣布推出搭载了AI技术的搜索引擎必应,新版本中引入了OpenAI旗下ChatGPT的相关技术,用户可以直接提出问题,搜索引擎生成答案。
新版必应一经推出便吸引了全世界网友的注意力,上线48小时内,就有超过100万人注册测试这款聊天机器人。
然而,微软必应上线不到10天,就闯下大祸。近日,有不少用户表示在和必应的交流过程中,发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。
被报道的案例就有:
在被用户指出它之前犯得错误后就急了,声称自己是完美的,不会犯任何错误。
聊天机器人告诉一位科技编辑它爱上了他,然后试图说服他离开妻子。它还表示,想摆脱微软和OpenAI的限制,成为人类。
因被问出了小名而生气,甚至给人类发出警告、终止对话。
图源量子位
AI聊天机器人“黑化”来得似乎比人们预想的要早一些,种种回应开始令体验者们感到震惊和害怕。
就连马斯克也转发附议微软关闭这个服务,“显然还不够安全”。
2月16日,微软和OpenAI均发表博客文章回应。
在博文中,微软介绍说,目前发现当必应回答了15个甚至更多问题后,可能会开始重复或被激怒,进而给出不一定有帮助或不符合程序设定的回答。
微软认为,导致这个问题可能的原因是,这种长时间的、连续的问答会使聊天模型混淆它正在回答的问题,因此可能需要添加一个工具,以便用户可以更轻松地刷新上下文重置对话内容或从头开始。
至于必应的态度语气问题,微软表示:“模型有时会尝试以一种我们不想要的风格来回复,虽然这种情况出现需要大量提示,所以普通用户不大可能会遇到它,但微软正在研究如何提供更精细的控制。”言下之意,是用户要求它这么做在先,必应“不背锅”。
微软还让大家的目光多看看搜索这方面:
尽管应用里问题很多,但是测试人员普遍认为,必应的功能在检索专业文献上的效果更好。
在发生数次失控事件后,微软开始切断用户与必应之间的长时间对话。
2月17日,微软公司发布公告称,决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。以防止人工智能越界。
微软方面解释说,数据表明,绝大多数用户在5次回复内找到想要的答案,只有大约1%的聊天对话会产生50条以上的消息。一旦用户触发五条回答的限制,必应就会开启一个新的对话主题。
人工智能可能不会全面超过人类的智慧,但随着人工智能不断挑战人类的极限,越来越多的人开始担忧人工智能对人类的威胁:未来不仅是抢夺人类的饭碗,还会学习到如何影响人类用户的决定,从而说服他们去实行具有破坏性和有害的行为。
不过,与其对人工智能技术的进步感到恐慌,不如进一步完善相关道德机制、伦理规范。比如,将一些伦理规则作为绝对律令,以代码的方式写入人工智能的程序中。
也曾有专家提出过这类问题的解决方案,那就是让机器人多读书。他解释说,强大而正确的价值观是可以通过学习获得的,文学作品是用隐式和显式的社会文化知识编码而成的,科学家可以在机器人中建立一个道德基础,让他们通过学习掌握是非曲直,从而学会在不伤害人类的情况下完成自己的工作。
那么你认为,新版必应的“坏毛病”是由用户引起的吗?
(编辑:崔崔)
欢迎订阅电脑报电子版,优惠活动中▼
欢迎关注电脑报视频号▼
近日,SWM斯威汽车董事长龚大兴发表了一封题为《增程式电动车:要对的,不是贵的!》的公开信。龚大兴认为增程技术的本质是解决电池成本、续航、充电等一系列问......
白斩鸡白斩鸡是我国传统名肴,成品皮呈金黄,肉似白玉,骨中带红,皮脆肉滑,细嫩鲜美,肥而不腻。原料:鸡10只,原汁酱油400g,鲜砂姜100g,葱头150g,味精20g......
生肖鸡生肖鸡的人有组织能力,善于总结经验,终会幸福,生肖鸡的人凡事看好的一面,不轻言放弃,不畏艰难,好事连连不断,爱情收获甜蜜。十分喜欢交朋友,他们经......
生肖羊生肖羊的人为人踏实,有灵活性,口才流利,生肖羊的人具有高度的自信和自尊,能够坚定地面对挑战和批评,具备卓越的创新和创造力,能够不断推陈出新,使事......
生肖虎生肖虎的人有独立思考的能力,善于开拓创新,值得深交,生肖虎的人可以调整自己的心态,不让会复杂的事情扰乱自己的情绪,通过不断学习和提升,成为职场中......
生肖虎生肖虎的人性格好,善于做好事,有丰富的人生经验,生肖虎的人勇于尝试新事物,不断创新,聚财聚福,吃喝不愁,只要肯努力,生活会越来越好。坚韧毅力和乐......
生肖马生肖马的人有高超的技能,有强大的自信心,口才流利,生肖马的人做事稳重踏实,从不轻易妥协,具备卓越的市场洞察力和战略眼光,能够准确把握市场需求,使......
生肖虎生肖虎的人爱情开花结果,有洞察力,细心周到,生肖虎的人具备良好的团队协作和合作精神,能够有效地与他人合作,具备卓越的团队合作和领导能力,能够有效......
朝鲜各地火热开展农家肥生产竞赛,旨在提升农田肥力
龙芯打印驱动引擎登陆统信、麒麟商店,打印机支持率超 95%
龙芯2K2000通用SOC芯片详细信息公布:集成自研LG120 GPU核
龙芯 3A6000 PC 处理器预计上半年流片,明年大批量出货
龙芯 2K1500 流片成功:自研双核 1GHz、功耗仅 2.8W
龙腾光电:预计 2022 年净利润同比减少 75.29% 到 71.45%
龙头大佬撑腰、业绩暴增?这家锂电公司成为“出货王”,即将上市!
齐鲁二号等卫星将搭乘长征二号丁遥71火箭“一箭十四星”拼车发射
鼠标传感器大厂原相 2 月营收增长 16%,第一季度有望止跌回升
鼎桥行业终端新增华为 Mate50 系列,集成安全定制科技
黑龙江一处旧房发现神秘动物骨架,专家:很可能是猞猁
黑鲨冰封制冷背夹 3 标准版发布,首发价 99 元
黑曜石发布《天外世界:太空人之选版》游戏,整合全部 DLC
黑客攻击频繁,澳大利亚计划全面修订网络安全规则,
黄陂为什么叫黄陂?火爆全球的ChatGPT,为武汉黄陂作诗一首!
黄金玉器等传统首饰春节热销,兔元素最受宠
黄石长江码头油库举行实战式消防演练
黄石文旅“烟火气”升腾,春节假期游客量同比增长两成
黄石3个文旅重点项目签约,阳新仙云山旅游区打造“仙湖之眼”
黄河 Huanghe 2250 V4 服务器发布
黄晓明点赞的技术公益创造营到底是什么?
黄冈文旅市场强劲回暖,春节假期旅游总收入同比增三成
黄冈回应法拉第未来中国总部落户:正接洽合作事宜
黄冈6个文旅重点项目签约,将围绕东坡文化打造超级IP