今天来聊聊ChatGPT背后的深度合成技术

ChatGPT聊天机器人

这段时间，风靡全网，刷新了人们对于聊天工具的认知。但是大家知道吗?关于这项聊天工具的背后，其实就是深度合成技术在现实生活中的具体应用。

什么是深度合成技术？

深度学习、虚拟现实等

指利用生成合成类算法制作网络信息的技术。近日，国家互联网信息办公室、工业和信息化部、公安部联合发布，也从规范深度合成服务出发开创了新兴算法治理的先河。

一

深度合成技术包括什么？

(资料图)

文本技术

篇章生成、文本风格转换、问答对话

等对文本内容进行生成或者编辑的技术。例如等。

语音技术

随着技术的不断积累、迭代，人工智能有望推动经济社会发展，释放发展红利，赋能美好未来。

文本转语音、语音转换、语音属性编辑

等生成或者编辑语音内容的技术。例如等。

非语音技术

音乐生成、场景声编辑

等生成或编辑非语音内容的技术。例如等。

生物特征技术

人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控

等生成或者编辑图像、视频内容中生物特征的技术。例如等。

非生物特征技术

图像生成、图像增强、图像修复

等生成或编辑图像、视频内容中非生物特征的技术。例如等。

数字

三维重建、数字仿真

等生成或者编辑数字人物、虚拟场景的技术。例如等。

二

哪些行为不得做？

01

不得制、复、发、传

禁止

制作、复制、发布、传播

任何组织和个人不得利用深度合成服务法律、行政法规禁止的信息。

02

不得从事法律、法规禁止的活

动

危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益

任何组织和个人不得利用深度合成服务从事等法律、行政法规禁止的活动。

03

不得制、复、发、传虚假新闻

信息

制作、复制、发布、传播虚假新闻信息

深度合成服务提供者和使用者不得利用深度合成服务。

三

哪些行为必须做？

01

信息安全主体责任、管理制度

、

信息安全主体责任

深度合成服务提供者应当落实，建立健全用户等管理制度，具有安全可控的技术保障措施。

02

管理规则、平台公约等一般性

要求

应当制定和公开管理规则、平台公约

深度合成服务提供者，完善服务协议，依法依约履行管理责任，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。

03

真实身份信息认证

移动电话号码、身份证件号码、统一社会信用代码

深度合成服务提供者应当基于或者等方式，依法对深度合成服务使用者进行，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

04

信息内容审核义务

加强深度合成内容管理

深度合成服务提供者应当，采取或者方式对深度合成服务使用者的输入数据和合成结果进行审核。

05

构建识别违

、对违法不良信息的处置措施

建立健全用于识别违法和不良信息的特征库

深度合成服务提供者应当，完善入库标准、规则和程序，记录并留存相关网络日志。深度合成服务提供者发现违法和不良信息的，应当;对相关深度合成服务使用者依法依约采取等处置措施。

06

建立健

应当建立健全辟谣机制

深度合成服务提供者，发现利用深度合成服务的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。

07

便利用户投诉、举报义务

投诉、举报入口

深度合成服务提供者应当设置便捷的用户申诉和公众，公布处理流程和反馈时限，及时受理、处理和反馈处理结果。

08

应用程序分发平台的安全管理

落实上架审核、日常管理、应急处置等安全管理责任

互联网应用商店等应用程序分发平台应当，核验深度合成类应用程序的安全评估、备案等情况;对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。

09

训练数据和生物识别信息安全管理要求

训练数据管理

深度合成服务提供者和技术支持者应当加强，采取必要措施保障训练数据安全;训练数据包含个人信息的，应当遵守个人信息保护的有关规定。深度合成服务提供者和技术支持者提供等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

10

技术管理要求

审核、评估、验证

深度合成服务提供者和技术支持者应当加强技术管理，定期生成合成类算法机制机理。深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估：(一)生成或者编辑等生物识别信息的;(二)生成或者编辑可能涉及的特殊物体、场景等非生物识别信息的。

11

“隐式标识”义务

采取技术措施添加不影响用户使用的标识

深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当，并依照法律、行政法规和国家有关规定保存日志信息。

12

“显著标识”义务

智能对话、智能写作

深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：(一)等模拟自然人进行文本的生成或者编辑服务;(二)等语音生成或者显著改变个人身份特征的编辑服务;(三)等人物图像、视频生成或者显著改变个人身份特征的编辑服务;(四)等生成或者编辑服务;(五)其他具有的服务。深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供，并提示深度合成服务使用者可以进行显著标识。来源：公安部网安局

关键词：