YouTube 正在与创意艺术家代理机构 (CAA) 合作测试一种新工具，该工具旨在使用人工智能生成的名人图像或声音来检测和管理内容。这项技术将于 2025 年首先在演员、运动员和其他媒体人物身上进行测试，然后再扩展到平台上的创作者。
与 CAA 合作规范人工智能的使用
面对深度造假和数字模仿的兴起，希望为公众人物提供一种控制自己形象的方法。由于这种合作伙伴关系，我们将开发工具来通过人工智能识别模仿面部或声音的内容。这些工具还允许您举报这些视频，以便请求将其删除。 CAA 已经管理着一个名为 CAAVault 的数据库来存储其客户的数字指纹，在这方面发挥着重要作用。
逐步向创作者延伸
最初，只有体育、电影和音乐领域的知名人士才能使用这项技术。但 YouTube 计划将其扩展到其他合作伙伴，例如该平台上最有影响力的创作者。其想法是让每个人都能更好地控制自己图像的使用，同时保护用户免受可能的人工智能相关滥用。
使用人工智能来创造这并不新鲜。最近的例子，例如乔·罗根的声音模仿或汤姆·克鲁斯的深度伪造，凸显了滥用的风险。有些内容被用于未经授权的广告或政治操纵。因此，YouTube 希望依靠其之前的工具（例如用于检测版权侵权行为的 Content ID）来规范这些做法。
道德和财务问题
除了滥用之外，这些工具还引发了很多问题。一些可以选择以受控的方式将他们的形象或声音货币化。例如，出售未来项目使用其形象的权利可能会变得司空见惯，前提是这些用途受到监管并获得报酬。
通过此次合作，YouTube 希望通过支持创作者和艺术家，为负责任地使用人工智能奠定基础。该公司仍然非常谨慎：该技术仍处于测试阶段，其有效性必须得到证实。
