图书内容简介

本书聚焦生成式人工智能，系统梳理其技术机理和最新行业发展态势，以《生成式人工智能服务管理暂行办法》为核心，以人工智能企业研发周期为视角，系统提供人工智能研发、部署与运营等各个环节的合规要点。同时结合欧美英日韩新等国的最新监管动态与合规实践，从比较法视野梳理域外主要司法辖区的合规要点。本书是国内首本聚焦生成式人工智能合规要点的实务类书籍。本书系统梳理了近年来生成式人工智能领域最新的域内外立法成果，深入总结人工智能合规在不同场景、不同行业、不同研发和部署阶段中的实践经验，建立起具有强烈实践导向的企业人工智能合规“规范—体制—机制”一体化的指引体系。本书面向人工智能企业，旨在为其提供详细系统的合规指引，契合我国人工智能市场的爆发式增长态势。

图书目录

"目 录

第一编　生成式人工智能的技术机理与产业发展

第一章 生成式人工智能的前世今生 / 003

一、生成式人工智能与人工智能生成内容的定义 / 003
二、生成式人工智能的发展历程 / 005
（一）前深度学习时代（20世纪50年代—20世纪80年代） / 006
（二）深度学习时代（20世纪80年代至今） / 006
三、生成式人工智能的技术原理 / 008
（一）芯片层 / 009
（二）深度学习框架层 / 010
（三）模型层 / 011
（四）应用层 / 012
四、生成式大模型的技术特点 / 014
（一）生成式大模型以海量数据为学习基础 / 014
（二）生成式大模型以深度神经网络为学习架构 / 016
（三）人类可以对大模型进行一定程度的干预 / 017
（四）生成式大模型是基于概率预测生成内容 / 018
五、生成式人工智能的应用 / 019
（一）从一个例子看人工智能在应用中发挥的重要作用 / 019
（二）从应用场景看人工智能原生应用 / 021
（三）从投融资角度看人工智能原生应用 / 023
六、AIGC产业发展情况和展望 / 024
（一）MaaS打造AIGC新业态 / 026
（二）AIGC应用从to-B和to-C两端构建生态 / 027
（三）聊天机器人应用场景多样化 / 027
（四）多模态、跨模态 / 028
（五）AI Agent（智能体）将获得更广阔的角色价值与发展空间 / 028

第二章 生成式人工智能的风险 / 029

一、硬件层：人工智能芯片短缺风险 / 029
二、数据层 / 031
（一）数据质量风险 / 032
（二）数据安全风险 / 035
（三）使用版权数据做预训练的侵权风险 / 037
（四）数据爬取导致的不正当竞争风险 / 040
（五）数据孤岛与数据交易不足风险 / 041
三、算法层 / 043
（一）算法安全风险 / 048
（二）算法公平风险 / 050
（三）算法透明度风险 / 052
（四）算法归责风险 / 054
四、应用层 / 055
（一）内容安全风险 / 055
（二）著作权法律风险 / 058
（三）新型不正当竞争和垄断风险 / 061
（四）侵犯人格权、肖像权等风险 / 063
（五）伦理风险 / 065

第二编　生成式人工智能技术和产品合规要点

第三章 生成式人工智能产品准备阶段的合规要点 / 073

一、训练数据集合规要点 / 073
（一）数据来源合规 / 073
（二）数据集的预处理工作 / 091
（三）数据安全 / 099
二、算法/模型合规要点 / 104
（一）准入类资质 / 104
（二）算法备案 / 110
（三）算法机制机理审核研究 / 117
（四）安全评估 / 125
（五）科技伦理审查 / 131

第四章 生成式人工智能模型训练阶段的合规要点 / 138

一、训练阶段 / 138
（一）预训练 / 139
（二）优化训练 / 141
二、训练阶段的合规要点 / 146
（一）采取完善的数据治理措施 / 147
（二）编制技术文件 / 148
（三）日志记录和保存义务 / 148
（四）解释说明的义务 / 149
（五）管理优化训练中的标注人员 / 149
（六）模型的安全性测评 / 150
三、内容输出阶段 / 151
（一）知识产权合规要点 / 151
（二）信息发布审核 / 153
（三）平台内容管理 / 154
（四）标识要求 / 156
（五）协助监管 / 158
（六）生态治理 / 158

第五章 生成式人工智能的基准和评估 / 161

一、安全性评估标准 / 161
（一）评估“模型欺骗”或“模型出逃”的风险 / 161
（二）评估被“滥用”的风险 / 164
（三）安全评估的方法及要求 / 165
二、合规评估标准 / 167
（一）算法备案的合规标准 / 167
（二）欧盟“高风险人工智能系统”的合规标准 / 171

第六章 生成式人工智能部署环节的合规 / 180

一、大模型垂直部署 / 180
（一）保证数据质量的义务 / 180
（二）全周期的内容评估义务 / 181
（三）大模型开发者的提示义务 / 181
二、基于API调用的部署 / 182
（一）开源合规 / 184
（二）数据合规 / 185
（三）安全评估和算法合规 / 188
（四）内容合规 / 189
三、基于插件模式的部署 / 190
（一）插件模式下反馈信息的合规问题 / 190
（二）生成式人工智能基于插件模式调用第三方程序合规问题 / 193
四、“一站式”大模型集成平台 / 195
（一）内容管理 / 195
（二）用户管理 / 196
（三）应急处理 / 199

第三编　生成式人工智能域外合规要览

第七章 欧盟生成式人工智能合规框架 / 206

一、欧盟生成式人工智能合规监管体系概述 / 206
（一）欧盟生成式人工智能技术产业现状 / 206
（二）欧盟生成式人工智能治理的基本原则 / 209
（三）主要监管部门及职责 / 212
二、主要规定与历史沿革 / 216
（一）监管法律及其历史沿革 / 216
（二）主要监管及激励措施 / 218
三、合规要点 / 221
（一）高风险人工智能系统的合规要求 / 221
（二）有限风险人工智能系统的合规要求 / 233
（三）通用人工智能模型提供者的合规要求 / 235

第八章 美国生成式人工智能合规框架 / 237

一、美国生成式人工智能合规监管体系概述 / 237
（一）美国生成式人工智能治理的基本原则 / 237
（二）主要治理主体及职责 / 241
二、主要规定与历史沿革 / 251
（一）美国生成式人工智能联邦监管立法及政策概述 / 251
（二）《人工智能基础模型透明法案》重点制度框架 / 254
三、合规要点 / 256
（一）生成式人工智能大模型训练数据合规 / 256
（二）知识产权保护合规 / 259
（三）产品准入及前置程序合规 / 263
（四）内容安全及伦理安全 / 265

第九章 英国生成式人工智能合规框架 / 267

一、英国生成式人工智能合规监管体系概述 / 267
（一）英国生成式人工智能治理的基本原则 / 267
（二）主要监管部门及职责 / 268
（三）监管框架思路、依据、风险 / 269
二、主要规定与历史沿革 / 271
（一）《国家人工智能战略》提出的未来立法监管规划 / 271
（二）英国生成式人工智能监管规则概览 / 274
三、英国治理体系特征 / 276
（一）秉承去中心化监管理念，以行业自主治理为主 / 276
（二）重点行业治理特点与制度 / 279
四、合规要点 / 283
（一）确定适用的人工智能监管规范与范围 / 283
（二）追踪主管行业立法与监管措施 / 285
（三）关注持续性合规义务与成本 / 285
（四）关注人工智能训练数据的版权合规 / 286

第十章 日本生成式人工智能合规框架 / 288

一、日本生成式人工智能合规监管体系概述 / 288
（一）日本生成式人工智能治理的基本原则 / 288
（二）主要治理主体以及职责 / 289
二、主要法律规定与监管文件 / 290
（一）《日本AI法》 / 290
（二）日本生成式人工智能治理的现有法律适用 / 291
（三）日本生成式人工智能现有监管体系 / 292"