一、《AI业务指南》的制定背景及效力

（一）对现有原则及指南的整合更新

在此指南之前，日本已经基于《以人为中心的人工智能社会原则》[2]先后制定了《面向国际讨论的人工智能开发指南》[3]、《人工智能活用指南》[4]及《实施人工智能原则的治理指南》[5]。

2023年5月七国集团（G7）广岛峰会上，七国首脑决定启动“广岛AI进程”（Hiroshima AI Process）作为协调制定人工智能监管国际规则的平台，后形成了《广岛进程组织开发先进人工智能系统的国际指导原则》（Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems）和《广岛进程组织开发先进人工智能系统的国际行为准则》（Hiroshima Process International Code of Conduct for Organizations Developing Advanced AI Systems），确立了全生命周期监管、透明度与问责机制、信息共享和披露机制、安全风险管理机制、数字水印技术、国际技术标准制定、保护个人数据和知识产权以及应对全球性挑战等11项指导原则。

《AI业务指南》是对前述政策性文件的整合和细化，并提供了实践性的指引。

（二）促进产业界自主治理的软法

《AI业务指南》属于软法，没有强制约束力，其作为规范AI产业的指导性文件，目标是促进产业界自主强化风险对策，便于产业界据此制定相关规则和标准。

日本之所以倾向于“软法范式”主要还是考虑到支持人工智能技术的发展和应用，避免由于过分严苛的监管扼杀创新。尤其在新一轮人工智能技术发展的早期阶段，政府对于技术发展和应用的了解也存在局限性，往往很难制定非常明确的监管规定。因此，“软法范式”在新兴技术发展早期较为有效。

根据《AI业务指南》序言部分的表述，采取软法模式的目的在于，鼓励各方自愿减少AI的社会风险并促进创新和AI的使用，以应对AI研发原则在实际中遇到的“法律制定与技术发展之间的时间滞后”“规则性法规可能抑制创新”等挑战。《AI业务指南》实际上提供了一种管理工具，支持日本AI企业的自愿性努力，作为参与人工智能业务的AI企业在其业务交易中广泛共享的材料，并通过利益相关者之间就人工智能原则的实施达成共识。

《AI业务指南》为在日开展人工智能业务的企业划定了清晰可行的合规框架，虽然属于软法，但可以预见日本AI产业界将普遍遵循其设定的原则及方法。值得注意的是，指南作为日本人工智能治理的统一指导原则，其适用范围也将延伸至两类外国主体：一是在日本境内设立分支机构或子公司的外国企业（例如中资在日法人），二是通过跨境服务向日本市场提供AI产品、系统或解决方案的境外企业（如中国AI技术供应商）。这意味着，无论中国企业以实体入驻还是远程服务模式进入日本市场，只要其AI技术涉及日本用户数据或商业场景，均应当遵循该指南中关于数据治理、算法透明性及风险防控的核心要求，构建相应的合规体系，以避免潜在的合规争议。

二、《AI业务指南》的框架及基本内容

（一）Why-What-How的基本结构

《AI业务指南》总体框架贯彻Why-What-How的基本逻辑，文件分为正文和附录两部分，正文阐述了本指南所涉及“AI开发者”“AI提供者”“AI使用者”三类主体应考虑的基本理念（=why）以及基于这些理念制定的AI相关行动指南（=what）。每个主体在实现指南时需要确定具体的方法并付诸实践，因此在指南的附录中，提供了与实践相关的参考信息（=how）[6]。

正文共分为五部分，第一部分为“定义”，以用语定义的介绍为核心，帮助读者更好理解《指南》；第二部分题目为“借助人工智能实现的社会愿景以及各行为主体应采取的事项”，细分“A.基本理念B.原则C.共同准则D.高级人工智能系统运营商的共同准则E.人工智能治理的构建”五个子命题，描述通过AI使用所追求的社会目标、基本理念和原则，以及AI业务行动者之间的共同指导原则，同时讨论了实施共同指导原则所需的治理结构；第三部分至第五部分分别就人工智能研发者、人工智能提供者、人工智能商业使用者的行为准则进行规定。

（二）敏捷治理的治理理念

《AI业务指南》贯彻“敏捷治理”（agile governance）的治理理念，根据不断变化的条件和目标，不断修改解决方案，以确保其最优性[7]。

在该理念指导下，政府和企业可以合作制定标准以及其他“软规则”，以支持企业实施敏捷治理。《AI业务指南》本身也应根据敏捷治理的流程进行持续评估、修订和更新，并作为政府和企业合作创建的动态文档进行持续维护和引用，成为一种灵活的工具来应对人工智能的发展。

也是出于敏捷治理理念，日本政府计划在2025年3月底前对《AI业务指南》进行更新，增加有关尖端技术风险及注意点的内容，以应对不仅能生成文字还能处理图像及视频等各种信息的生成式AI的出现[8]。

（三）全生命周期的主体分类

《AI业务指南》采用主体分类，为不同的人工智能相关主体提出了具体的要求，考虑到AI的全生命周期，将AI的运营活动归纳为“AI开发者”“AI提供者”和“AI商业使用者”三个主体，但适用对象不包括“数据提供者”和“非商业使用者”。

1. AI开发者[9]

AI开发者指开发AI系统的业务运营者，包括进行AI研究的业务运营者。他们负责开发AI模型和算法，并通过数据收集（包括购买）、数据预处理、数据训练等活动，促进包括AI模型、基础系统以及输入/输出功能在内的AI系统的构建。

2. AI提供者[10]

AI提供者指将AI系统整合到应用、产品或现有系统中，并提供给AI商业用户，甚至非商业用户作为服务的业务运营者。他们负责验证AI系统、将AI系统与其他系统集成、提供AI系统和服务、为AI商业用户提供AI系统的正常运行操作支持，或执行AI服务操作本身。AI提供者可能需要与各种利益相关方沟通，以确保AI服务的顺利提供和运营。

3. AI商业使用者[11]

AI商业用户指在其业务中使用AI系统或AI服务的业务运营者。他们按照AI提供者的意图适当使用AI系统或AI服务，与AI提供者共享环境变化等信息，维持正常运营，并在必要时操作提供的AI系统。此外，如果非商业用户可能受到AI使用的影响，AI商业用户也有责任努力防止AI对这些非商业用户造成意外不利影响，并最大化AI的好处。

4. 其他非适用对象[12]

《AI业务指南》不适用于非商业用户，但包含了那些为非商业用户服务的商业行为者在开发、提供或使用AI时需要考虑的必要点。

《AI业务指南》同样也不适用于纯粹的数据提供者，指南假定那些开发、提供或使用AI的人作为数据持有者，对这些数据负责。

本文重点针对该指南就AI开发者涉及的数据和算法治理规范进行介绍。AI业务的主体应参照这些规范和指南对自身AI开发和使用的过程进行规范，落实相应的治理要求，持续保持和更新记录。同时，也可以在受到监管部门和社会公众的问询、调查甚至是质疑的时候，有充分的准备，稳妥处理可能的监管风险和法律风险。

三、《AI业务指南》开发者数据及算法训练治理规范

日本《AI业务指南》第三部分是专门对于AI开发者的指导，包括与AI开发者有关的重要事项以及共同指导原则的落地要求，针对数据处理和训练阶段、AI开发期间、AI开发后分别提出了要求，尤其对AI系统使用数据和数据治理的过程提出了规范性的要求与具体方法。尽管该指南附录中推荐的具体做法不唯一，但对于行业实践及企业合规管理仍具有很强的指导作用。

本部分内容结合《AI业务指南》与附录[13]的解释和举例展开，对其中开发者使用数据及数据治理、模型管理的重点内容进行解析。

（一）恰当数据训练[14]

1. 基本要求

在数据预处理和训练期间，AI开发者需要通过隐私设计等方法正确收集训练数据，并确保包含第三方个人数据、需要关注知识产权等的数据在整个AI生命周期中依法合规处理。

在训练前后实施适当的保护措施，例如考虑部署任何控制数据访问的数据管理和限制功能。

2. 具体方法示例

3. 小结

该部分重点一方面在于要求AI开发者规范数据获取方式、合规处理相关数据。为此AI开发者应当检验数据中是否存在个人数据、机密信息、权利或法律保护的利益，并对受保护的数据采取加密、添加噪声等手段，允许提供个人数据的人决定是否提供个人数据、撤回同意等；另一方面在于要求AI开发者保证数据质量，通过时间戳、数据血统（Data lineage）[15]等方式确保数据准确性、完整性。

（二）数据中存在偏见的处理[16]

1. 基本要求

在数据预处理和训练期间，AI开发者需要采取合理措施控制数据质量，注意训练数据和AI模型的学习过程中可能存在的偏见（包括训练数据中未显现的潜在偏见）。

基于训练数据过程中偏见无法完全消除的事实，确保AI模型使用适当代表性的数据集进行训练，并检查AI系统假设无偏见。

2. 具体方法示例

（1）训练前

（2）训练期间

（3）训练后

3. 小结

该条重点在于要求AI开发者在数据预处理和训练过程中应采取措施，以确保数据的公正性、代表性。可采用的方法包括在训练前选择合适的特征和数据、避免偏见属性的学习、审查标签数据、重构数据和确保数据代表性；在训练期间，可通过引入公平性约束、优化技术和基于人类反馈的强化学习来减少偏见；训练后则需监控数据质量，定期调整算法，并确保数据存储和访问符合信息安全标准。

（三）对模型算法中偏见的处理[17]

1. 基本要求

在开发AI时，AI开发者需要考虑AI模型中的算法等技术元素可能导致的偏见（由AI业务用户或非业务用户输入的提示、AI模型用于推理的参考信息和协作外部服务等）。

确保AI模型使用适当代表性的数据集进行训练，并且基于偏见无法完全从AI模型中消除的事实，确保AI系统对偏见采取有针对性的处理。

2. 具体方法示例

3. 小结

该部分重点在于要求AI开发者特别关注算法和技术元素可能引起的偏见，确保使用具有代表性的数据集并对各类偏见采取有效的处理措施。可采用的方法包括关注AI用户输入的提示和外部服务信息以监测偏见、审查特征并排除敏感属性、通过调整预测结果和消除敏感属性以保障个体公平和群体公平，以及使用逆概率加权（Inverse Probability Weighting）等方法来实现机器学习模型中的公平性。此外，特别是在面对高不确定性或对特定群体有重大影响时开发者还应基于社会背景和合理期望作出判断。

四、对《AI业务指南》合规路径的几点思考

根据《AI业务指南》，相关AI开发和应用企业可以根据自身情况决定治理目标，有很大的自主性。企业治理目标政策不仅包括该指南第二部分中的七项原则在内的人工智能政策，还包括涵盖其他要素的实践性建议，例如数据使用政策、模型风险管理政策等。

AI企业应通过开展治理差距分析来比较AI治理目标和自身的现实情况，以明确管理体系中需要更改的地方，并通过记录差距分析过程、采取适当行动提高管理流程和控制措施的有效性，努力达到可解释AI管理系统的建设目标。

在应用控制上，AI企业应监控和记录AI系统初步乃至全面运行的状态，以便持续实施对单个AI系统在各类运行中的差距分析。在不断完善治理规则的基础上，监控和管理应对发现的问题和挑战进行重点关注，对风险应对和管理的方式和效果进行记录分析，形成对AI开发和应用的良性反馈。

在合规和法律风险管理上，企业的AI合规管理团队应做好与技术科技团队的有效配合。在理解AI开发与应用过程的基础上，将合规要求融入开发应用的过程并做好记录与监控，强调实施情况的可解释、可控制、可追溯要求，同时为各类监管报告的准备和提交积累原始证据和参考资料。

同时，AI企业应当积极参与行业标准乃至政府标准或其他“软规则”的制定，促进标准、规则跟上技术的发展，推动行业监管规则的完善。