广州蓄电池回收服务网 10 月 26 日报导:随着人工智能（AI）技术的快速发展，其训练数据的获取和使用变得日益首要，但也呈现了滥用现象。为了抵御这种滥用，一款名为「Nightshade」的新工具应运而生，为创作者供应了一种保护他们翻新作品不被无授权用于 AI 模型训练的方法。
Nightshade 工具使得用户或然将其附加到他们的更始作品上，从而在使用该作品进行训练时「毒化」AI 模型的数据。通过对数字艺术作品的像素进行不能见的修改，Nightshade 或然在作品被 AI 模型训练时利用安全漏洞对模型造成混淆。例如，它可以让模型不可辨认汽车图像，反而辨别为牛的图像。最终，这种毒化数据允许破坏诸如 DALL-E、Stable Diffusion 和 Midjourney 等 AI 艺术平台的未来模型，剥夺其生成图像的能力。 《麻省理工学院科技评论》报告称，芝加哥大学教授兼 Nightshade 的成立者之一 Ben Zhao 期待通过这款工具，改变眼前 AI 企业借助侵权数据训练模型的现状。Nightshade 的商酌论文指出，文本至图像的 AI 模型很容易受到这种攻击的作用。 创作者可经过上传他们的作品到 Nightshade 创办者开发的另一款工具 Glaze 中，保护其艺术形状不被模仿。比如，Glaze 可以将通常的现实主义绘图转变为立体主义模样。将来，Nightshade 将被集成到 Glaze 中，让用户选择是否使用「毒丸」，或满足于模型不可抄袭他们的艺术姿势。 Nightshade 的成立者在论文中提议，应将 Nightshade 及类似工具算作保护创作者免受不遵守退出规则的网络爬虫侵害的「最终防线」。 而今，围着 AI 生成内容和训练数据的版权问题在缺乏相关章程的情况下如故是一个灰色地带。许多与版权侵权战斗的诉讼仍在法庭上进行。同时，防备网络爬虫未经许可获取数据的方法也受到了限制。Adobe 企业计划使用标记来标识是否为 AI 生成的内容，同时发现图像的所有者。 最初针对生成性 AI 平台的一些诉讼集中在版权材料被无授权用于模型训练上，极度是在文本至图像平台方面。今年 1 月，三名艺术家分手起诉了 Stable Diffusion、Midjourney 和艺术网站 DeviantArt，声称其模型未经许可使用了他们的艺术作品。Getty Images 也在构建本身的基于许可图像训练的 AI 图像生成器之前，对 Stable Diffusion 提起了诉讼。 谷歌和微软表态，倘或客户在使用他们的生成性 AI 产品时因侵犯版权而被起诉，他们愿意承担法律责任。然而，有不少这些产品都是基于文本的。 （投诉） (责任编辑：admin) |
