在上一篇文章("")中，我们讨论了流行的ChatGPT，分析了它的技术本质、应用场景和法律风险。在最近的《流浪地球》电影中，“虚拟数字人”的概念引起了人们的注意。这让我想起了另一个流行的概念，“DeepFake”和“AI变脸”。
深度合成技术
事实上，“虚拟数字人”的构建离不开包括伪造技术在内的深度合成技术，ChatGPT就是深度合成领域的一种模型。深度合成本身是一个中性概念，泛指借助深度学习算法模型等智能方案，自动生成文本、图像、语音、视频等数据内容的一系列处理技术。由于其强烈的字符特征，文本只需要满足空的合理性即可，与视音频数据的处理思路略有不同。
在ChatGPT这样的大型语言模型中，有两个部分:前期训练和下游任务训练。在预训练阶段，模型从大量数据中学习复杂的上下文关联，并对这些关联进行量化。下一个标记预测和屏蔽语言建模是预训练语言模型的核心技术。在第一种方法中，模型被给定一个单词序列作为输入，并被要求预测该序列中的下一个单词，而在第二种方法中，其输入句子中的一些单词被特殊标记替换，例如
在图像和音频的深度伪造模型中，生成网络或生成器负责制作原始数据集特征的合成数据，如图片、录音、视频等。，并制作“深度构图”；鉴别网络或鉴别器负责鉴别合成数据，检测视频是否伪造。通过反复的无监督学习，生成网络对“深度构图”进行制作和修改，直到识别网络无法再检测到该构图已经被“深度合成”，最终形成高保真的信息内容。
总的来说，随着计算能力的发展，基于深度学习的数据合成技术正逐渐从研究型向应用型转变，主要应用于文本合成、视觉合成、听觉合成等三大领域，遵循数据采集、模型训练、内容伪造等核心步骤，创建虚拟数字人及其生态环境。
恶搞相关应用产品快速迭代。一方面，数据深度合成的前向应用广泛应用于创建的文本段落、虚拟角色、声音模拟、视频渲染等。到社交、娱乐文化等诸多场景。，提高信息处理效率，增强现场体验。另一方面，深度合成内容难以准确及时识别，部分主体传播虚假信息，操纵受众反应，严重威胁整个社会的安全体系和保障机制。因此，迫切需要建立和完善大规模的监管体系。
《互联网信息服务深度融合管理规定》解析
2022年11月3日，中国国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部通过了《互联网信息服务深度融合管理规定》(以下简称《规定》)，该规定基于深度融合应用的定性和风险评估，并由此提出了包括内容标记、主体备案、用户实名登记制度、内容审核机制、救济机制、个人信息保护和数据安全等监管措施。
内容标记
深度合成服务提供者(以下简称“服务提供者”)应当采取技术措施，添加不影响用户使用其服务生成或者编辑的信息内容的明显标志，防止公众产生混淆和误认。
课题申报和用户实名登记制度
具有舆论属性或社会动员能力的服务提供者和技术支持者，按照《互联网信息服务算法推荐管理规定》办理备案手续，在网站和应用上公示，并按照国家有关规定进行安全评估(相关合规程序仍在探索中)；服务提供商需要对深度合成服务的用户的真实身份信息进行认证。撒姐团队认为，未来深度合成内容会有专门的备案程序。
内容审查机制和救济机制
服务提供商应加强对深度合成内容的管理。通过技术或人工手段对输入数据和合成结果进行审核，建立健全识别违法和不良信息的特征数据库，完善入库标准、规则和流程，记录保存相关网络日志。
服务商应建立和完善辟谣机制。发现深度合成服务制作、* *发布、传播虚假信息的，应当及时采取措施辟谣，保存相关记录，并向网信部门和相关主管部门报告。
个人信息保护和数据安全
服务提供者和技术支持者应当加强对培训数据的管理，采取必要措施确保培训数据的安全。如果数据集中包含个人信息，则需要遵循《人身保险法》的相关规定和配套标准。
算法安全性评估
《规定》要求合成服务提供者和技术支持者应当加强技术管理，定期对生成合成算法的机制进行审查、评估和验证，并强调需要对含有生物特征信息、可能涉及国家信息的模型和模板进行安全评估，但未明确要求相关审查和评估机制。撒姐团队认为，由于企业对核心技术披露的限制，以及目前评估技术的局限性，这种评估很难。
写在最后
深度合成说到底是人工智能技术，尤其是计算能力发展的产物。其独特的创造性注定要逐步进入生产生活，因此监管体系和合规体系的建设是必经之路。
深度合成技术的特殊性要求我们一方面要制定和完善深度合成的配套法律法规和标准，让企业逐步探索出一条合规之路，另一方面要投入深度合成检测跟踪技术的研发和应用，为改善产业发展环境提供重要基石，最终促进整个行业的健康发展。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信，我们会及时处理和回复。
原文地址"试水ChatGPT 切不可以身家试法"：http://www.ljycsb.cn/qukuailian/247542.html。
微信扫描二维码投放广告
▲长按图片识别二维码
