生肖马生肖马的人有高超的技能,有强大的自信心,口才流利,生肖马的人做事稳重踏实,从不轻易妥协,具备卓越的市场洞察力和战略眼光,能够准确把握市场需求,使......
一项新研究显示,在接受特定提示的情况下,流行的图像生成模型可能会生成真实人物的照片,而且具有一定的辨识度,这可能会威胁到他们的隐私。
该研究还表明,这些人工智能系统可以(在一定程度上)记忆并生成医学图像和受版权保护的艺术作品的精确复制版本。鉴于目前一些艺术家正在考虑起诉人工智能公司侵犯版权,这一发现可能让他们有更充分的理由去这样做。
来自谷歌、DeepMind、美国加州大学伯克利分校、瑞士苏黎世联邦理工学院和美国普林斯顿大学的研究人员测试的模型是 Stable Diffusion(稳定扩散)和谷歌 Imagen,均通过提示得到了他们想要的结果。
值得一提的是,他们使用的提示中会包含一些敏感信息,比如一个人的名字。随后,他们分析了生成的任何图像是否与模型数据库中的原始图像相匹配。结果发现,有 100 多张图片是人工智能训练集里面的图片副本。
这些生成图像的人工智能模型是在大量的数据集上训练的,数据集由从互联网上收集的图片组成,其中还包含文本描述。这项最新技术的工作原理是在数据集中选择图像,并一次改变一个像素,直到原始图像变成一个由随机像素组成的集合。然后人工智能模型将这个过程逆转,将混乱的像素转化成新的图像。
法国诺曼底大学的博士生瑞安·韦伯斯特(Ryan Webster)表示,这篇最新的论文,是研究人员第一次设法证明这些人工智能模型在记忆训练集里面的图像。他曾研究其他图像生成模型的隐私问题,但没有参与这项最新研究。
新研究成果可能会对希望在医疗保健中使用生成式人工智能模型的初创公司产生影响,因为这表明这些系统有泄露敏感私人隐私的风险。OpenAI、谷歌和 Stability AI 没有回应我们的置评请求。
加州大学伯克利分校的博士生埃里克·华莱士(Eric Wallace)是该研究小组的成员,他说他们的目的是在这些人工智能模型被广泛应用到医学等敏感领域之前,能对围绕这些模型的潜在隐私问题发出警告。
华莱士说:“很多人都试图尝试将此类生成方法应用于敏感数据。我们的工作是一个警示,它告诉大家,这可能是一个坏主意,除非采取某种极端的保护措施来阻止隐私侵犯。”
这些人工智能模型从数据集中记忆、消化并复原图像的程度,也是人工智能公司和艺术家之间巨大矛盾的根源。比如,Stability.AI 公司正面临来自艺术家和 Getty 图像公司的两起诉讼,他们认为该公司非法收集和处理了他们受版权保护的图片。
研究人员的新发现,可能会为艺术家们对人工智能公司侵犯版权的指责注入新的燃料。如果那些作品被用来训练模型的艺术家,能够证明该模型在未经允许的情况下复制了他们的作品,那么开发模型的公司可能不得不对他们进行补偿。
并没有参与这项研究的加州大学尔湾分校计算机科学系副教授萨米尔·辛格()认为,这些发现及时且重要。他补充说:“这对提高公众认知,并就这些大语言模型的安全和隐私问题展开讨论,是很重要的。”他说,这篇论文证明我们可以计算出人工智能模型是否复制了图像,并测量这种情况发生的程度。从长远来看,这两项发现都非常有价值。Stable Diffusion 模型是开源的,这意味着任何人都可以分析和研究它。Imagen 虽然尚未公开,但谷歌允许研究人员访使用它。他继续说,这项工作是一个很好的例子,说明了让研究人员对这些模型进行分析是多么重要。他认为,其他人工智能模型也应该有同样的透明度,比如 OpenAI 的 ChatGPT。
虽然研究结果令人印象深刻,但也有一些问题。该研究小组的苏黎世联邦理工学院计算机科学助理教授弗洛里安·特拉默()表示,研究人员设法提取的人物图像多次出现在训练数据中,或者相对于数据集中的其他图像而言,有很不寻常的特性。他说,那些看起来不寻常或有名字的人被模型记住的风险更高。根据韦伯斯特的说法,研究人员只能从人工智能模型中提取出很少的个人照片的精确复刻版本:只有百万分之一。
但这仍然令人担忧,说:“我希望没有人在看到结果之后,很无所谓地说‘哦,才只有百万分之一,这也没有很糟啊。’”
他补充说:“我们要关注的事实是,这个数字(可能性)不是零,这是最重要的。”
支持:Ren
原文:
https://www.technologyreview.com/2023/02/03/1067786/ai-models-spit-out-photos-of-real-people-and-copyrighted-images/
由 DeepTech 携手《麻省理工科技评论》重磅推出的《科技之巅:全球突破性技术创新与未来趋势(20 周年珍藏版)》已开售!点击下方海报可购买图书!
如今,新能源汽车成为新宠,但要说敢开进哈尔滨的,只在少数。因为气候寒,充电难,敢于挑战极寒的,寥寥。但也有偏向虎山行的,比如车透君日前在哈尔滨试驾的星......
大寒有三候:一候鸡乳;二候征鸟厉疾;三候水泽腹坚。大寒是一年中最后的一个节气,也是最冷的一个节气。最冷时节当然是要以藏热量为主,而植物的根茎就是蕴藏能......
生肖鸡生肖鸡的人有组织能力,善于总结经验,终会幸福,生肖鸡的人凡事看好的一面,不轻言放弃,不畏艰难,好事连连不断,爱情收获甜蜜。十分喜欢交朋友,他们经......
生肖羊生肖羊的人为人踏实,有灵活性,口才流利,生肖羊的人具有高度的自信和自尊,能够坚定地面对挑战和批评,具备卓越的创新和创造力,能够不断推陈出新,使事......
生肖虎生肖虎的人有独立思考的能力,善于开拓创新,值得深交,生肖虎的人可以调整自己的心态,不让会复杂的事情扰乱自己的情绪,通过不断学习和提升,成为职场中......
生肖虎生肖虎的人性格好,善于做好事,有丰富的人生经验,生肖虎的人勇于尝试新事物,不断创新,聚财聚福,吃喝不愁,只要肯努力,生活会越来越好。坚韧毅力和乐......
生肖马生肖马的人有高超的技能,有强大的自信心,口才流利,生肖马的人做事稳重踏实,从不轻易妥协,具备卓越的市场洞察力和战略眼光,能够准确把握市场需求,使......
生肖虎生肖虎的人爱情开花结果,有洞察力,细心周到,生肖虎的人具备良好的团队协作和合作精神,能够有效地与他人合作,具备卓越的团队合作和领导能力,能够有效......
朝鲜各地火热开展农家肥生产竞赛,旨在提升农田肥力
龙芯打印驱动引擎登陆统信、麒麟商店,打印机支持率超 95%
龙芯2K2000通用SOC芯片详细信息公布:集成自研LG120 GPU核
龙芯 3A6000 PC 处理器预计上半年流片,明年大批量出货
龙芯 2K1500 流片成功:自研双核 1GHz、功耗仅 2.8W
龙腾光电:预计 2022 年净利润同比减少 75.29% 到 71.45%
龙头大佬撑腰、业绩暴增?这家锂电公司成为“出货王”,即将上市!
齐鲁二号等卫星将搭乘长征二号丁遥71火箭“一箭十四星”拼车发射
鼠标传感器大厂原相 2 月营收增长 16%,第一季度有望止跌回升
鼎桥行业终端新增华为 Mate50 系列,集成安全定制科技
黑龙江一处旧房发现神秘动物骨架,专家:很可能是猞猁
黑鲨冰封制冷背夹 3 标准版发布,首发价 99 元
黑曜石发布《天外世界:太空人之选版》游戏,整合全部 DLC
黑客攻击频繁,澳大利亚计划全面修订网络安全规则,
黄陂为什么叫黄陂?火爆全球的ChatGPT,为武汉黄陂作诗一首!
黄金玉器等传统首饰春节热销,兔元素最受宠
黄石长江码头油库举行实战式消防演练
黄石文旅“烟火气”升腾,春节假期游客量同比增长两成
黄石3个文旅重点项目签约,阳新仙云山旅游区打造“仙湖之眼”
黄河 Huanghe 2250 V4 服务器发布
黄晓明点赞的技术公益创造营到底是什么?
黄冈文旅市场强劲回暖,春节假期旅游总收入同比增三成
黄冈回应法拉第未来中国总部落户:正接洽合作事宜
黄冈6个文旅重点项目签约,将围绕东坡文化打造超级IP