来源:
作者:郑
图片来源:工具生成。
Tik Tok今天发布了关于人工智能生成内容的平台规范和行业倡议。
提出所有生成式人工智能技术的提供者都应明确标识生成的内容，以供公众判断。同时用统一的人工智能生成内容数据标准或元数据标准，方便其他内容平台识别。
具体来说，对于创作者、主播、用户、商家、广告主等平台生态参与者，Tik Tok提出，在Tik Tok应用生成式人工智能技术时，应遵循以下规范:
1)发布者应当明确标识人工智能生成的内容；
2)发布者应对人工智能生成的内容的相应后果负责；
3)虚拟人需要在平台注册，虚拟人技术用户需要实名认证；
4)禁止利用生成式人工智能技术创作和发布侵权内容；
5)禁止利用生成式人工智能技术创作和发布违背科学常识、弄虚作假、散布谣言的内容。
Tik Tok表示，该平台还将提供统一的人工智能生成内容识别能力，帮助创作者进行标记，方便用户区分。
鉴于此，Tik Tok发布了《人工智能生成的内容识别水印和元数据规范》。
其中，logo水印规范旨在帮助AI生成工具和创作者使用统一的样式和位置来提示用户内容是由AI生成的；Logo元数据规范是对人工智能生成的内容的元数据格式进行规范，将信息写入相关图片和视频的元数据中，以达到行业内通用的识别效果。
政策方面，国家网信办近日就《生成式人工智能服务管理办法》公开征求意见，这也是国家首次针对生成式AI行业发布规范性政策。
其中规定了使用生成式人工智能产品提供聊天和文字、图像、声音生成等服务的组织和个人的责任；同时还提出，对于生成式人工智能产品，提供者需要按照《互联网信息服务深度融合管理规定》对生成的图片、视频等内容进行标识。
▌AI生成的内容急需监管。
日前，甘肃省平凉市公安局网安大队成功侦破一起利用人工智能技术制造虚假新闻案，抓获犯罪嫌疑人洪某弟。这也是1月10日《互联网信息服务深度融合管理规定》颁布实施以来，该省查处的首例案件。
随着大模型AI的发展，ChatGPT等类似应用越来越普及，由生成式人工智能引发的社会问题也开始显现。因此，AI监管的覆盖面不断扩大，监管技术不断升级，监管主体逐步国际化:
除了上面提到的中国《生成性人工智能服务管理办法》，白宫本月刚刚公布了首个AI监管计划，政府承诺发布指导方针草案，确保人工智能的使用保障“美国人民的权利和安全”；欧盟也表示希望AI生成的内容具有强制性。人工智能生成的一切，无论是文字还是图像，都有义务告知他们是人工智能完成的。
安信证券认为，目前对AI生成内容的识别主要可以通过两种技术途径来完成:1)通过算法识别AI生成内容的特征，从而识别对应内容是否为AI生成。2)通过在AI生成的内容中添加特定的logo，可以区分对应的内容是否是AI生成的。
值得一提的是，数字水印也有望成为一种有效的解决方案。数字水印将一些识别信息直接嵌入到数字载体中，但不影响原始载体的使用价值，不易被人类感知系统感知或注意到。通过隐藏在载体中的信息，我们可以确认内容的创作者和购买者，传输秘密信息或判断载体是否被篡改。
OpenAI还表示，会考虑在ChatGPT中加入水印，以减少模型滥用带来的负面影响。
据科技创新板报不完全统计，在a股布局AI生成内容识别的公司有:
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信，我们会及时处理和回复。
原文地址"抖音出手规范AI生成内容！全球监管呼声四起,数字水印会是一剂良方吗？"：http://www.ljycsb.cn/qukuailian/221364.html。
微信扫描二维码投放广告
▲长按图片识别二维码
