欧盟即将出台首部AI法案：强调以人为本，AIGC需标明训练数据版权

　　经过了半年的酝酿之后，全球首部AI法案终于在上周末形成了初步协议。

　　12月9日，欧盟委员会成员Thierry Breton在社交媒体称，“欧洲成为首个清晰敲定了AI使用法规的大陆，AI法案(AI Act)不只是一个规则手册，它是欧洲初创公司和调研者引领全球AI竞赛的发射台。”

　　据路透社报道，欧盟国家和欧洲议会成员在经历了接近15个小时的谈判之后终于达成了协议，此前一天还进行了将近24小时的辩论。双方还将在未来几天敲定细节，最终立法还有可能会变化。

　　对于游戏业内较为关心的版权归属问题，法案给出的规定是必须让用户有知情权（即告知用于他们在使用或者与AI内容互动），还必须明确标出受版权保护的数据摘要，意味着AIGC内容版权需要视训练数据的版权归属决定。

全球首个AI法案初步成型

　　作为最近一年多来红遍全球的创新技术，AI的优势和争议都很明显。业内已经有不少公司开始通过生成型AI进行创意迭代或者提升研发效率，甚至还被越来越多地运用到手游买量领域。然而，对于版权的担忧，以及可能引发的行业裁员，也是这项技术被怀疑、被特定行业抵制的原因之一。

　　欧盟想要监管AI以确保这项创新技术更好的研发和使用条件。AI可以创造很多利益，比如更好的意料、更安全和整洁的交通、更有效率的制造，以及更廉价和更可持续的能源。在2021年4月份，欧盟委员会提出了首个欧盟AI监管框架，该框架表示，可以用于不同应用的AI系统将根据其对用户构成的风险进行分析和分类。不同的风险水平将意味着或多或少的监管，一旦获得批准，这将是世界上第一条关于AI的监管规则。

　　欧盟在AI法案介绍的时候提到，“鉴于这些技术的快速发展，AI监管已经成了欧盟的核心政策问题，政策制定者承诺制定‘以人为本’的AI法案，以确保欧洲人能够从先进的新技术中受益，并根据欧盟的价值观和原则运作。”

　　欧盟议会的首要任务是确保欧盟使用的AI系统是安全、透明、可追踪、非歧视和环保的。AI系统应该由人来监督，而不是由自动化来监督，以防止有害的结果。这个法案要求ChatGPT这样的基础模型和通用AI系统在投放到市场之前遵守透明度义务。这些包括起草技术文件、遵守欧盟版权法以及传播有关训练内容的详细摘要等。

　　简而言之，就是，带有系统性风险的高影响力基础模型必须进行模型评价、评估和减轻系统性风险，进行对抗性测试，向欧盟委员会报告严重事件，确保网络安全，并报告其能源效率。存在系统性风险的通用AI可能会依据行业准则来遵守新法规。

　　Thierry Breton告诉媒体称：“欧盟将自己定位为先驱者，理解其作为全球标准制定者角色的重要性，我相信，今天是具有历史意义的一天”。

　　AI法案还对不同风险程度做出了差异化的规定，主要分为不可接受的风险等级、高风险和有限风险。

　　不可接受的风险AI系统指的是被认为会给人们带来威胁的系统，而且将被封禁，它们包括：

　　1)对人或特定弱势群体的认知行为操纵：例如，鼓励儿童危险行为的声控玩具;

　　2)社会评分：根据行为、社会经济地位或个人特征对人进行分类;

　　3)实时和远程生物识别系统，如面部识别。

　　一系列例外情况是被允许的：例如，“后”远程生物识别系统，如果在重大延迟后进行识别将被允许用于起诉严重犯罪，但仅在法院批准后才能进行。

　　高风险指的是对安全或基本权利产生负面影响的AI系统将被视为高风险系统，并将分为两类：

　　1)在欧盟产品安全立法范围内的产品中使用的AI系统，这包括玩具、航空、汽车、医疗设备和电梯。

　　2)AI系统分为8个必须在欧盟数据库中注册的特定领域：自然人的生物识别和分类;重要基础设施的管理和运营;教育和职业培训;就业、工人管理和自主创业机会;获得和享受基本私人服务、公共服务和福利;法律执行;移民、庇护和边境管制管理;法律解释和法律适用里的协助。

　　所有高风险AI系统将在投放市场之前，包括在它们的生命周期之中，都要进行评估。

　　对于ChatGPT这样的生成型AI，法案的规定是必须遵守透明度要求：公布内容由AI生成；设计模型以防止非法内容生成；发布用于训练数据的受版权保护的数据摘要。

　　法案还规定，有限风险的AI系统应符合最低透明度要求，允许用户做出明智的决策。在与应用程序交互之后，用户可以决定是否继续使用它。当用户与AI交互时，应让他们中调，这包括生成或操作图像、音频或者视频内容的AI系统，例如深度伪造(deepfake)。

　　一旦双方正式批准，该法案预计将于明年初生效，并应在两年后正式施行。消费者有权对AI技术应用提出投诉并得到有意义的解释，而违规罚款数额将从750万欧元(810万美元)或营业额的1.5%到3500万欧元或全球营业额的7%不等。

AI圈的担忧：不能因为有风险就因噎废食

　　对于“突如其来”的监管，欧洲很多公司同样表达了担忧，甚至有开发者借机暗讽欧盟“管太宽”，导致欧洲的AI技术落后于世界其他地区。

　　比如有同行专门对Thierry Breton之前发的一张全球AI法案分布图进行对比，指出AI可能是唯一一个没有AI发展的大陆。

　　法国AI公司Mistral CEO Arthur Mensch说，“我们不能对缺乏使用的发动机进行监管，我们并没有因为C语言可以研发恶意软件就封禁它，而是禁止恶意软件。”

　　隐私权集团European Digital Rights也对此持批评态度，其高级政策咨询师Ella Jakubowska说，“很难对一项在欧盟首次实施、使整个欧盟的实时公共面部识别合法化的法律感到兴奋。尽管议会努力限制其损害，但生物识别监控和特征分析的整体方案充其量只是不冷不热。”

　　对于隐私，法案规定政府只能在公共场所对某些犯罪的受害者进行实时生物识别监测，防止真正的、当前的或可预见的威胁，如恐怖袭击，以及搜查涉嫌严重犯罪的人。该协议禁止认知行为操作、无针对性地从互联网或闭路电视录像中抓取面部图像，社交评分和生物识别分类系统来推断政治、宗教、哲学信仰、性取向和种族。

　　企业集团DigitalEurope批评该规定和其最近的立法一样，是给企业增加的另一个负担。其总干事Cecilia Bonefeld-Dahl表示，“我们有了一个协议，但代价是什么?我们完全支持对AI安全使用的方式，而不是技术本身，但最新的监管尝试将本末倒置了。”

VIA:http://www.gamelook.com.cn/2023/12/533508