目前，许多司法辖区在处理利用人工智能生成的深度伪造内容案件时，主要依赖保护数据隐私、打击网络犯罪方面的现行法律。下文将阐述罗思国际所涉部分主要业务市场在这个领域的法律发展现状。
中国
中国方面在制定人工智能监管框架时的考虑因素，与其在制定线上内容整体监管框架时的考虑因素相同。也即，人工智能及相关技术不应危害公共安全和个人隐私，不应损害个人数据的完整性。
2019 年，一款名为“ZAO – 逢脸造戏”换脸应用在中国上市，瞬间火爆全网。这款应用的用户可以利用深度伪造技术，将自己的脸覆盖到 30 秒电影片段中的明星脸上。“ZAO – 逢脸造戏”迅速登上苹果应用商店榜首。
“ZAO – 逢脸造戏”收集了大量个人数据的事实被曝光以后，引发了人们的普遍担忧。用户向该应用授予了对其图像及创作内容的广泛使用权。这引发了对数据安全和人工智能伦理的关注，随后“ZAO – 逢脸造戏”修订了其用户协议。
2023 年，中国《互联网信息服务深度合成管理规定》施行。该法要求深度合成技术服务提供者确保技术的使用不违反法律，也不对公众造成危害。该法要求对深度伪造内容进行标记，以遏制虚假信息的传播。
欧盟
深度伪造内容的提供者和管理者须遵循 《数字服务法案》和新出台的 欧盟《人工智能法案》。
根据欧盟《人工智能法案》，生成或合成图像、音频或视频内容的系统必须符合最低透明度标准。服务提供者须向用户告知他们正在与人工智能系统互动，除非这种情况不言自明。人工生成或深度伪造的内容也必须符合透明度标准。
《数字服务法案》规定，管理用户生成内容（包括深度伪造内容）的服务提供者必须保持管理规则和执行机制的公开透明，同时还须提供通知下架程序。 The GCC Region
海合会地区
阿联酋法律禁止未经个人明示同意而使用其个人信息和肖像。因此，人格相关权益可以得到有效保护，包括在深度伪造技术领域也是如此。数字福利委员会颁布了《深度伪造技术指南》，区分了对视频的“浅层”基本编辑和利用先进人工智能技术替换脸部和声音的“深度”编辑。
相关法律框架还包括 《个人数据保护法》（ 2021 年第 45 号联邦法令），该法禁止在未征得明示同意的情况下处理个人数据。阿联酋有关网络犯罪的法律则打击以诽谤或侮辱为目的修改或传播个人信息的行为，这些规定同样适用于深度伪造技术。
沙特阿拉伯是另一个已制定法律来规范深度伪造技术使用的国家。网络犯罪法律广泛列出了违反法律和侵犯他人隐私的行为。同时，法律针对那些被认为违反公序良俗和宗教价值观的犯罪行为，规定了相应的惩罚措施。
沙特阿拉伯还制定了适用于所有用户的《生成式人工智能指导原则》。这些指导原则特别强调，所有用户以及有关个人和组织应遵守数据保护和知识产权相关法律。生成式人工智能系统的设计者、提供者、采购者、所有者和使用者均应各负其责，对系统造成的负面影响承担道德和法律上的责任。
东南亚
泰国和印度尼西亚均未制定深度伪造技术方面的专项法律。不过，这两个国家的现行法律机制足够强大，足以应对前述技术可能被滥用的问题。
以印度尼西亚为例， 《刑法》、《电子信息和交易法》和《数据保护法》均禁止使用深度伪造技术来传播虚假信息、制作虚假色情内容或实施诽谤。这些法律对深度伪造内容的制造者和传播者都规定了明确的处罚。
越南现行法律通过保护个人权利以及禁止传播虚假信息来规范深度伪造技术的使用。这方面的刑事指控可能涉及非法传播保密信息、诽谤和侮辱。 另外，利用深度伪造技术从事网络犯罪（如网络钓鱼、恶意软件攻击等）可能带来数据泄露
在营销中使用深度伪造技术的最佳做法
公开透明：向用户告知哪些内容是人工智能生成的或深度伪造的，并在内容上做出相应标记。明确说明内容的性质及合成方式。
确保不侵犯现有权利：明确人工智能训练数据的来源，避免产生版权纠纷。例如无意中生成了与名人或其他受保护图像（包括享有版权、商标权或外观设计权的图像）相似的图像。在使用人工智能生成的内容之前，先进行尽职调查并通过审批。对人工智能用户进行培训，以便其了解相关风险并据以采取行动。
与网红合作：包括通过协议约定使用人工智能生成他们的肖像，明确规定双方对这类内容享有的所有权和使用权。这将有助于减少可能的冲突。
遵守数据和隐私法律：在如何对个人数据进行收集、使用、存储及在适当情况下如何进行跨境数据传输等方面需多加考虑。
与可靠的人工智能服务提供者合作：建立完善的风险管理和缓解流程。
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.
