《科技伦理审查办法(试行)》是我国第一部覆盖各领域的综合性、通用性科技伦理审查规定,由科学技术部会同教育部、工业和信息化部、农业农村部、国家卫生健康委、中国科学院、中国社会科学院、中国工程院、中国科协、中央军委科技委十部门联合印发(国科发监〔2023〕167号),2023年10月8日发布、自2023年12月1日起施行,现行有效,共5章56条并附《需要开展伦理审查复核的科技活动清单》。它把“开展生命科学、医学、人工智能等科技活动”统一纳入伦理审查框架,规定哪些单位必须设立科技伦理(审查)委员会、审查走什么程序、哪些高风险活动要经专家复核并登记。对AI研发主体而言,这是一部必须先读的合规前置规范:只要研究涉及以人为研究参与者、处理个人信息数据与生物特征信息,或做出“具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统”,就落入本办法的审查范围,未经审查擅自开展即属违规。
- 发布机关:科学技术部、教育部、工业和信息化部、农业农村部、国家卫生健康委、中国科学院、中国社会科学院、中国工程院、中国科协、中央军委科技委
- 文号:国科发监〔2023〕167号
- 公布日期:2023年10月8日
- 施行日期:2023年12月1日
- 官方原文:中华人民共和国科学技术部
解读要点
- 审查范围以“科技活动类型”划界(第二条):涉及以人为研究参与者(含利用人类生物样本、个人信息数据)、涉及实验动物,以及虽不直接涉及人或动物但可能对生命健康、生态环境、公共秩序、可持续发展带来伦理风险挑战的科技活动,都要做伦理审查——AI 训练用到人脸、语音、行为等个人信息与生物特征数据的,属第一类。
- 谁必须设委员会有明确门槛(第四条):高校、科研机构、医疗卫生机构、企业是本单位伦理审查的责任主体;从事生命科学、医学、人工智能等科技活动且研究内容涉及伦理敏感领域的单位,“应设立”科技伦理(审查)委员会,委员不少于7人(第七条)——这是强制义务,不是可选项。
- 审查程序分三档(第三章):一般程序采会议审查、到会委员不少于5人、审查决定须到会委员三分之二以上同意(第十四、十六条),一般30日内出结论(第十七条);风险不高于最低风险等情形可走简易程序(第二十二条);纳入清单的高风险活动还要过专家复核(第二十五至三十四条)。
- 高风险活动实行清单管理、须专家复核(第二十五条+附件):附件7类清单里,第6项“具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发”、第5项“人机融合系统”、第7项“高度自主能力的自动化决策系统”直接指向AI——做这三类AI的单位,通过本单位初审后还要报地方或行业主管部门组织专家复核。
- 伦理高风险活动要登记、要报告(第四十三至四十五条):设立委员会后30日内登记、清单内活动获批准后30日内登记、每年3月31日前报送上年度工作报告,全部通过国家科技伦理管理信息登记平台完成——这是可追溯、可追责的监管抓手。
- 违规有实体后果(第四十七条):弄虚作假骗取审查批准、未过审查或专家复核擅自开展清单内活动、超范围开展科技活动等,由有管辖权的机构依法处罚,造成损害的承担民事责任,构成犯罪的追究刑事责任——伦理审查不是走过场的形式,是有牙齿的前置门槛。
法规全文
第一章 总则
第一条 为规范科学研究、技术开发等科技活动的科技伦理审查工作,强化科技伦理风险防控,促进负责任创新,依据《中华人民共和国科学技术进步法》《关于加强科技伦理治理的意见》等法律法规和相关规定,制定本办法。
第二条 开展以下科技活动应依照本办法进行科技伦理审查:
(一)涉及以人为研究参与者的科技活动,包括以人为测试、调查、观察等研究活动的对象,以及利用人类生物样本、个人信息数据等的科技活动;
(二)涉及实验动物的科技活动;
(三)不直接涉及人或实验动物,但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动;
(四)依据法律、行政法规和国家有关规定需进行科技伦理审查的其他科技活动。
条款解读:本条是全办法的入口,判断的是“科技活动的类型”,不是学科名称。对AI研发主体,最容易踩到的是第(一)项——只要研究“利用人类生物样本、个人信息数据”,就构成“以人为研究参与者的科技活动”。用人脸、声纹、步态、健康、行为轨迹等数据训练模型,用真人做产品测试、问卷调查、用户观察,都在射程内。
第(三)项是兜底:即使不直接采集个人数据,只要可能对公共秩序、可持续发展带来伦理风险,也要审查——具有社会影响力的大模型、推荐算法、自动决策系统很难说与公共秩序无关。第(四)项则把散落在各专门法规里的伦理审查要求一并收进来,与《生成式人工智能服务管理暂行办法》《个人信息保护法》的相关义务形成叠加。
实务上先做三步判断:
- 研究是否采集或利用了人的样本、个人信息、生物特征数据——落第(一)项。
- 是否用到实验动物——落第(二)项。
- 前两项都不沾,但成果可能影响生命健康、生态、公共秩序、可持续发展——落第(三)项。三步只要中一步,就要按本办法申请伦理审查。
第三条 开展科技活动应坚持促进创新与防范风险相统一,客观评估和审慎对待不确定性和技术应用风险,遵循增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明的科技伦理原则,遵守我国宪法、法律法规和有关规定以及科技伦理规范。
科技伦理审查应坚持科学、独立、公正、透明原则,公开审查制度和审查程序,客观审慎评估科技活动伦理风险,依规开展审查,并自觉接受有关方面的监督。涉及国家安全、国家秘密、商业秘密和敏感事项的,依法依规做好相关工作。
第二章 审查主体
第四条 高等学校、科研机构、医疗卫生机构、企业等是本单位科技伦理审查管理的责任主体。从事生命科学、医学、人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会。其他有科技伦理审查需求的单位可根据实际情况设立科技伦理(审查)委员会。
单位应为科技伦理(审查)委员会履职配备必要的工作人员、提供办公场所和经费等条件,并采取有效措施保障科技伦理(审查)委员会独立开展伦理审查工作。
探索建立专业性、区域性科技伦理审查中心。
条款解读:本条给出的是“设委员会”的强制门槛,两个要件缺一不可:一是从事生命科学、医学、人工智能等科技活动,二是研究内容涉及科技伦理敏感领域。两个要件同时满足,用的是“应设立”——法定义务,不设即违规。做核心算法研发、涉个人信息与生物特征的AI企业,基本都落在这条里。
企业自建委员会有硬约束:人数不少于7人、需有伦理和法律背景专家、须有非本单位委员和不同性别委员(第七条),还要配人员、经费、场所并保障其独立性(本条第二款)——挂个名义机构、由业务部门兼任是不达标的。
达不到自建条件也不是无路可走:单位委员会无法胜任审查,或未设委员会、无单位人员开展科技活动的,可书面委托其他合格的科技伦理(审查)委员会开展审查(第十三条),本条第三款还提出探索建立区域性、专业性审查中心。对暂无能力自建委员会的初创AI团队,委托审查是现实的合规路径。
第五条 科技伦理(审查)委员会的主要职责包括:
(一)制定完善科技伦理(审查)委员会的管理制度和工作规范;
(二)提供科技伦理咨询,指导科技人员对科技活动开展科技伦理风险评估;
(三)开展科技伦理审查,按要求跟踪监督相关科技活动全过程;
(四)对拟开展的科技活动是否属于本办法第二十五条确定的清单范围作出判断;
(五)组织开展对委员的科技伦理审查业务培训和科技人员的科技伦理知识培训;
(六)受理并协助调查相关科技活动中涉及科技伦理问题的投诉举报;
(七)按照本办法第四十三、四十四、四十五条要求进行登记、报告,配合地方、相关行业主管部门开展涉及科技伦理审查的相关工作。
第六条 科技伦理(审查)委员会应制定章程,建立健全审查、监督、保密管理、档案管理等制度规范、工作规程和利益冲突管理机制,保障科技伦理审查合规、透明、可追溯。
第七条 科技伦理(审查)委员会人数应不少于7人,设主任委员1人,副主任委员若干。委员会由具备相关科学技术背景的同行专家,伦理、法律等相应专业背景的专家组成,并应当有不同性别和非本单位的委员,民族自治地方应有熟悉当地情况的委员。委员任期不超过5年,可以连任。
第八条 科技伦理(审查)委员会委员应具备相应的科技伦理审查能力和水平,科研诚信状况良好,并遵守以下要求:
(一)遵守我国宪法、法律、法规和科技伦理有关制度规范及所在科技伦理(审查)委员会的章程制度;
(二)按时参加科技伦理审查会议,独立公正发表审查意见;
(三)严格遵守保密规定,对科技伦理审查工作中接触、知悉的国家秘密、个人隐私、个人信息、技术秘密、未公开信息等,未经允许不得泄露或用于其他目的;
(四)遵守利益冲突管理要求,并按规定回避;
(五)定期参加科技伦理审查业务培训;
(六)完成委员会安排的其他工作。
第三章 审查程序
第一节 申请与受理
第九条 开展科技活动应进行科技伦理风险评估。科技伦理(审查)委员会按照本办法要求制定本单位科技伦理风险评估办法,指导科技人员开展科技伦理风险评估。经评估属于本办法第二条所列范围科技活动的,科技活动负责人应向科技伦理(审查)委员会申请科技伦理审查。申请材料主要包括:
(一)科技活动概况,包括科技活动的名称、目的、意义、必要性以及既往科技伦理审查情况等;
(二)科技活动实施方案及相关材料,包括科技活动方案,可能的科技伦理风险及防控措施和应急处理预案,科技活动成果发布形式等;
(三)科技活动所涉及的相关机构的合法资质材料,参加人员的相关研究经验及参加科技伦理培训情况,科技活动经费来源,科技活动利益冲突声明等;
(四)知情同意书,生物样本、数据信息、实验动物等的来源说明材料等;
(五)遵守科技伦理和科研诚信等要求的承诺书;
(六)科技伦理(审查)委员会认为需要提交的其他材料。
条款解读:本条把伦理审查的启动动作前移到“风险评估”:不是所有活动都自动送审,而是先做风险评估,评估落入第二条范围的才由活动负责人申请审查。这意味着每家单位都得先有一套书面的风险评估办法,判断哪些项目要送审——评估环节漏判,等于把违规风险留在了单位内部。
对AI项目,申请材料里最实的是第(四)项:知情同意书、生物样本与数据信息的来源说明。训练数据的授权链、个人信息处理的合法性基础在这里被要求以书面材料形式固定下来,与《个人信息保护法》的单独同意、《生成式人工智能服务管理暂行办法》第七条的训练数据合规要求相互印证——数据来源台账事前建好,送审才拿得出材料。
第十条 科技伦理(审查)委员会应根据科技伦理审查申请材料决定是否受理申请并通知申请人。决定受理的应明确适用的审查程序,材料不齐全的应一次性完整告知需补充的材料。
第十一条 科技伦理审查原则上采取会议审查方式,本办法另有规定的除外。
第十二条 国际合作科技活动属于本办法第二条所列范围的,应通过合作各方所在国家规定的科技伦理审查后方可开展。
第十三条 单位科技伦理(审查)委员会无法胜任审查工作要求或者单位未设立科技伦理(审查)委员会以及无单位人员开展科技活动的,应书面委托其他满足要求的科技伦理(审查)委员会开展伦理审查。
第二节 一般程序
第十四条 科技伦理审查会议由主任委员或其指定的副主任委员主持,到会委员应不少于5人,且应包括第七条所列的不同类别的委员。
根据审查需要,会议可要求申请人到会阐述方案或者就特定问题进行说明,可邀请相关领域不存在直接利益关系的顾问专家等提供咨询意见。顾问专家不参与会议表决。
会议采用视频方式的,应符合科技伦理(审查)委员会对视频会议适用条件、会议规则等的有关制度要求。
第十五条 科技伦理(审查)委员会应按照以下重点内容和标准开展审查:
(一)拟开展的科技活动应符合本办法第三条规定的科技伦理原则,参与科技活动的科技人员资质、研究基础及设施条件等符合相关要求。
(二)拟开展的科技活动具有科学价值和社会价值,其研究目标的实现对增进人类福祉、实现社会可持续发展等具有积极作用。科技活动的风险受益合理,伦理风险控制方案及应急预案科学恰当、具有可操作性。
(三)涉及以人为研究参与者的科技活动,所制定的招募方案公平合理,生物样本的收集、储存、使用及处置合法合规,个人隐私数据、生物特征信息等信息处理符合个人信息保护的有关规定,对研究参与者的补偿、损伤治疗或赔偿等合法权益的保障方案合理,对脆弱人群给予特殊保护;所提供的知情同意书内容完整、风险告知客观充分、表述清晰易懂,获取个人知情同意的方式和过程合规恰当。
(四)涉及实验动物的科技活动,使用实验动物符合替代、减少、优化原则,实验动物的来源合法合理,饲养、使用、处置等技术操作要求符合动物福利标准,对从业人员和公共环境安全等的保障措施得当。
(五)涉及数据和算法的科技活动,数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等符合国家数据安全和个人信息保护等有关规定,数据安全风险监测及应急处理方案得当;算法、模型和系统的设计、实现、应用等遵守公平、公正、透明、可靠、可控等原则,符合国家有关要求,伦理风险评估审核和应急处置方案合理,用户权益保护措施全面得当。
(六)所制定的利益冲突申明和管理方案合理。
(七)科技伦理(审查)委员会认为需要审查的其他内容。
条款解读:第(五)项是专门为数据和算法类科技活动设的审查标准,也是AI项目送审的核心检查表,两条主线:数据侧要符合国家数据安全和个人信息保护规定、有数据安全风险监测与应急方案;算法侧要遵守“公平、公正、透明、可靠、可控”原则,有伦理风险评估、应急处置和用户权益保护措施。
这套标准与《网络数据安全管理条例》《个人信息保护法》的数据合规要求同频,也与算法治理的“透明可控”导向一致。做AI合规审查时,我把第(五)项当成事前自查清单逐条对:数据来源合法性、个人信息保护措施、算法公平性与可解释性、用户权益保护方案,四块都要有书面留痕,送审才站得住。
第十六条 科技伦理(审查)委员会对审查的科技活动,可作出批准、修改后批准、修改后再审或不予批准等决定。修改后批准或修改后再审的,应提出修改建议,明确修改要求;不予批准的,应说明理由。
科技伦理(审查)委员会作出的审查决定,应经到会委员的三分之二以上同意。
第十七条 科技伦理(审查)委员会一般应在申请受理后的30日内作出审查决定,特殊情况可适当延长并明确延长时限。审查决定应及时送达申请人。
条款解读:本条给了确定的时限预期:一般受理后30日内出结论,特殊情况可延长但要明确延长时限。做研发项目排期时,伦理审查这一环要预留至少一个月,落入清单的高风险活动还要叠加专家复核时间(第三十一条另有30日),起步阶段就把审查时间算进项目节点,比临上线才发现卡在审查上从容得多。
第十八条 申请人对审查决定有异议的,可向作出决定的科技伦理(审查)委员会提出书面申诉,说明理由并提供相关支撑材料。申诉理由充分的,科技伦理(审查)委员会应按照本办法规定重新作出审查决定。
第十九条 科技伦理(审查)委员会应对审查批准的科技活动开展伦理跟踪审查,必要时可作出暂停或终止科技活动等决定。跟踪审查间隔一般不超过12个月。
跟踪审查的主要内容包括:
(一)科技活动实施方案执行情况及调整情况;
(二)科技伦理风险防控措施执行情况;
(三)科技伦理风险的潜在变化及可能影响研究参与者权益和安全等情况;
(四)其他需要跟踪审查的内容。
根据跟踪审查需要,科技伦理(审查)委员会可以要求科技活动负责人提交相关材料。
第二十条 因科技活动实施方案调整、外部环境变化等可能导致科技伦理风险发生变化的,科技活动负责人应及时向科技伦理(审查)委员会报告。科技伦理(审查)委员会应对风险受益情况进行评估,提出继续实施、暂停实施等意见,必要时,重新开展伦理审查。
第二十一条 多个单位合作开展科技活动的,牵头单位可根据实际情况建立科技伦理审查协作与结果互认机制,加强科技伦理审查的协调管理。
第三节 简易程序
第二十二条 有下列情形之一的可以适用简易程序审查:
(一)科技活动伦理风险发生的可能性和程度不高于最低风险;
(二)对已批准科技活动方案作较小修改且不影响风险受益比;
(三)前期无重大调整的科技活动的跟踪审查。
科技伦理(审查)委员会应制定适用简易程序审查的工作规程。
条款解读:简易程序是给低风险活动的“快速通道”,与一般程序的会议审查相区分:由主任委员指定两名以上委员承担审查(第二十三条),不必开全体会议。触发条件是风险不高于“最低风险”,或对已批方案作不影响风险受益比的小改动,或前期无重大调整的跟踪审查。
但简易不等于放松:审查中一旦出现否定性意见、对内容有疑义、委员意见不一致或有委员提出,就要转回会议审查、适用一般程序(第二十四条)。所谓“最低风险”,办法第五十二条界定为“日常生活中遇到的常规风险或与健康体检相当的风险”——多数涉个人信息、涉算法社会影响的AI项目达不到这个低风险门槛,别想当然套简易程序。
第二十三条 简易程序审查由科技伦理(审查)委员会主任委员指定两名或两名以上的委员承担。审查过程中,可要求申请人就相关问题进行说明。审查决定应载明采取简易程序审查的理由和依据。
采取简易程序审查的,科技伦理(审查)委员会可根据情况调整跟踪审查频度。
第二十四条 简易程序审查过程中出现下列情形之一的,应按规定调整为会议审查,适用一般程序:
(一)审查结果为否定性意见的;
(二)对审查内容有疑义的;
(三)委员之间意见不一致的;
(四)委员提出需要调整为会议审查的。
第四节 专家复核程序
第二十五条 建立需要开展专家复核的科技活动清单制度,对可能产生较大伦理风险挑战的新兴科技活动实施清单管理。清单根据工作需要动态调整,由科技部公开发布。
条款解读:本条建立的清单制度是本办法对高风险科技活动的核心抓手:清单内的活动,除本单位委员会审查外,还要额外过一道由地方或行业主管部门组织的专家复核(第二十六条)。清单不是一成不变,由科技部根据工作需要动态调整、公开发布——做新兴技术研发要定期回看清单是否更新。
现行清单见本办法附件,共7类,直接与AI相关的有三项:第5项“对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发”、第6项“具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发”、第7项“面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发”。做这三类AI的单位,要预判自己是否落入清单、提前规划专家复核。
针对AI领域的伦理审查,2025年科技部等部门另行出台了《人工智能科技伦理审查与服务办法》作为专项细化规则,与本通用办法配套适用——AI主体应两部一起看。
第二十六条 开展纳入清单管理的科技活动的,通过科技伦理(审查)委员会的初步审查后,由本单位报请所在地方或相关行业主管部门组织开展专家复核。多个单位参与的,由牵头单位汇总并向所在地方或相关行业主管部门申请专家复核。
条款解读:本条把清单内高风险活动的审查设计成“两道关”:先过本单位委员会初审,再由本单位报请地方或行业主管部门组织专家复核,两关都过才能开展。这与普通科技活动“本单位审查即可”形成明显区别——高风险活动的最终把关权上收到了主管部门层面。
复核专家组由科技活动相关领域的同行专家及伦理学、法学专家组成、不少于5人,且本单位委员会委员不得参与本委员会审查活动的复核(第二十八条),复核意见须经全体复核专家三分之二以上同意(第三十条),主管部门一般30日内反馈(第三十一条)。对做上述三类AI的企业,这意味着上线前的合规链条要多留出报请复核的时间和材料。
第二十七条 申请专家复核的,科技活动承担单位应组织科技伦理(审查)委员会和科技人员按要求提交以下材料:
(一)本办法第九条所列材料;
(二)科技伦理(审查)委员会初步审查意见;
(三)复核组织单位要求提交的其他相关材料。
第二十八条 地方或相关行业主管部门组织成立复核专家组,由科技活动相关领域具有较高学术水平的同行专家以及伦理学、法学等方面的专家组成,不少于5人。科技伦理(审查)委员会委员不得参与本委员会审查科技活动的复核工作。
复核专家应主动申明是否与复核事项存在直接利益关系,严格遵守保密规定和回避要求。
第二十九条 复核专家组应按照以下重点内容和标准开展复核:
(一)初步审查意见的合规性。初步审查意见应当符合我国法律、行政法规、国家有关规定和科技伦理要求。
(二)初步审查意见的合理性。初步审查意见应当结合技术发展需求和我国科技发展实际,对科技活动的潜在伦理风险和防控措施进行全面充分、恰当合理的评估。
(三)复核专家组认为需要复核的其他内容。
第三十条 复核专家组采取适当方式开展复核,必要时可要求相关科技伦理(审查)委员会、科技人员解释说明有关情况。
复核专家组应当作出同意或不同意的复核意见,复核意见应经全体复核专家的三分之二以上同意。
第三十一条 地方或相关行业主管部门一般应在收到复核申请后30日内向申请单位反馈复核意见。
第三十二条 单位科技伦理(审查)委员会应根据专家复核意见作出科技伦理审查决定。
第三十三条 单位科技伦理(审查)委员会应加强对本单位开展的纳入清单管理的科技活动的跟踪审查和动态管理,跟踪审查间隔一般不超过6个月。
科技伦理风险发生重大变化的,应按照本办法第二十条规定重新开展伦理审查并申请专家复核。
第三十四条 国家对纳入清单管理的科技活动实行行政审批等监管措施且将符合伦理要求作为审批条件、监管内容的,可不再开展专家复核。审批、监管部门和科技活动承担单位应严格落实伦理监管责任,防控伦理风险。
第五节 应急程序
第三十五条 科技伦理(审查)委员会应制定科技伦理应急审查制度,明确突发公共事件等紧急状态下的应急审查流程和标准操作规程,组织开展应急伦理审查培训。
第三十六条 科技伦理(审查)委员会根据科技活动紧急程度等实行分级管理,可设立科技伦理审查快速通道,及时开展应急审查。应急审查一般在72小时内完成。对于适用专家复核程序的科技活动,专家复核时间一并计入应急审查时间。
第三十七条 应急审查应有相关专业领域的委员参会。无相关专业领域委员的,应邀请相关领域顾问专家参会,提供咨询意见。
第三十八条 科技伦理(审查)委员会应加强对应急审查的科技活动的跟踪审查和过程监督,及时向科技人员提供科技伦理指导意见和咨询建议。
第三十九条 任何单位和个人不得以紧急情况为由,回避科技伦理审查或降低科技伦理审查标准。
第四章 监督管理
第四十条 科技部负责统筹指导全国科技伦理监管工作,有关科技伦理审查监管的重要事项应听取国家科技伦理委员会的专业性、学术性咨询意见。地方、相关行业主管部门按照职责权限和隶属关系负责本地方、本系统科技伦理审查的监督管理工作,建立对纳入清单管理科技活动的专家复核机制,加强对本地方、本系统发生的重大突发公共事件应急伦理审查的协调、指导和监督。
第四十一条 高等学校、科研机构、医疗卫生机构、企业等应履行科技伦理管理主体责任,健全本单位科技伦理监管机制和审查质量控制、监督评价机制,经常性开展单位工作人员科技伦理教育培训,加强对纳入清单管理的科技活动的动态跟踪和伦理风险防控。
国家推动建立科技伦理(审查)委员会认证机制,鼓励相关单位开展科技伦理审查认证。
第四十二条 科技部负责建设国家科技伦理管理信息登记平台,为地方、相关行业主管部门加强科技伦理监管提供相应支撑。
第四十三条 单位应在设立科技伦理(审查)委员会后30日内,通过国家科技伦理管理信息登记平台进行登记。登记内容包括科技伦理(审查)委员会组成、章程、工作制度等,相关内容发生变化时应及时更新。
条款解读:本条起的三条(第四十三至四十五条)构成本办法的登记与报告制度,是监管能“看得见”的信息化基础,对应三个动作、三个时点:
- 设委员会后30日内,登记委员会组成、章程、工作制度(第四十三条)。
- 清单内科技活动获伦理审查批准后30日内,登记活动实施方案、审查与复核情况(第四十四条)。
- 每年3月31日前,报送上一年度委员会工作报告、清单内活动实施情况报告(第四十五条)。
三项都通过国家科技伦理管理信息登记平台完成,且内容变化要及时更新。做清单内AI活动的企业,登记不是可选的行政手续,是把伦理审查从“内部程序”变成“可追溯、可追责”记录的关键一环——漏登记本身就落入第四十七条的违规情形。
第四十四条 单位应在纳入清单管理的科技活动获得伦理审查批准后30日内,通过国家科技伦理管理信息登记平台进行登记。登记内容包括科技活动实施方案、伦理审查与复核情况等,相关内容发生变化时应及时更新。
第四十五条 单位应于每年3月31日前,向国家科技伦理管理信息登记平台提交上一年度科技伦理(审查)委员会工作报告、纳入清单管理的科技活动实施情况报告等。
第四十六条 对科技活动中违反科技伦理规范、违背科技伦理要求的行为,任何单位或个人有权依法向科技活动承担单位或地方、相关行业主管部门投诉举报。
第四十七条 科技活动承担单位、科技人员违反本办法规定,有下列情形之一的,由有管辖权的机构依据法律、行政法规和相关规定给予处罚或者处理;造成财产损失或者其他损害的,依法承担民事责任;构成犯罪的,依法追究刑事责任。
(一)以弄虚作假方式获得科技伦理审查批准,或者伪造、篡改科技伦理审查批准文件的;
(二)未按照规定通过科技伦理审查和专家复核擅自开展纳入清单管理的科技活动的;
(三)未按照规定获得科技伦理审查批准擅自开展科技活动的;
(四)超出科技伦理审查批准范围开展科技活动的;
(五)干扰、阻碍科技伦理审查工作的;
(六)其他违反本办法规定的行为。
条款解读:本条是本办法的责任条款,采转致模式:由有管辖权的机构依照法律、行政法规和相关规定处罚或处理,造成损害的承担民事责任,构成犯罪的追究刑事责任。办法自身没有单列罚款数额,但把违规行为的后果接到了上位法和刑法链条上。
六种情形里,第(二)(三)(四)项对AI主体最贴近实务:未过审查或专家复核就擅自开展清单内活动、未获批准擅自开展科技活动、超范围开展——这三种都是“程序没走完就上马”的典型。它划出的合规底线很清楚:伦理审查是前置门槛,不是事后补票;把审查当形式、想着先干后审,一旦造成损害或触及刑责边界,转致上位法后的代价并不轻。这也是我提醒AI客户把伦理审查排进项目节点、别压到临上线的原因。
第四十八条 科技伦理(审查)委员会、委员违反本办法规定,有下列情形之一的,由有管辖权的机构依据法律、行政法规和相关规定给予处罚或者处理;造成财产损失或者其他损害的,依法承担民事责任;构成犯罪的,依法追究刑事责任。
(一)弄虚作假,为科技活动承担单位获得科技伦理审查批准提供便利的;
(二)徇私舞弊、滥用职权或者玩忽职守的;
(三)其他违反本办法规定的行为。
第四十九条 高等学校、科研机构、医疗卫生机构、企业等是科技伦理违规行为单位内部调查处理的第一责任主体,应及时主动调查科技伦理违规行为,依法依规追责问责。
单位或其负责人涉嫌科技伦理违规行为的,由其上级主管部门调查处理,没有上级主管部门的,由其所在地的省级科技行政管理部门负责组织调查处理。
第五十条 地方、相关行业主管部门按照职责权限和隶属关系,加强对本地方、本系统科技伦理违规行为调查处理的指导和监督,组织开展对重大科技伦理案件的调查处理。
第五十一条 科技伦理违规行为涉及财政性资金设立的科技计划项目的,由项目管理部门(单位)按照项目管理有关规定组织调查处理。项目承担(参与)单位应按照项目管理部门(单位)要求,主动开展并积极配合调查,依据职责权限对违规行为责任人作出处理。
第五章 附则
第五十二条 本办法所称科技伦理风险是指从伦理视角识别的科学研究、技术开发等科技活动中的风险。最低风险是指日常生活中遇到的常规风险或与健康体检相当的风险。
本办法所称“以上”“不少于”均包括本数。本办法涉及期限的规定,未标注为工作日的,为自然日。
本办法所称“地方”是指省级地方人民政府确定的负责相关领域科技伦理审查和管理工作的省级管理部门,“相关行业主管部门”是指国务院相关行业主管部门。
第五十三条 地方、相关行业主管部门可按照本办法规定,结合实际情况制定或修订本地方、本系统的科技伦理审查办法、细则等制度规范。科技类社会团体可制定本领域的科技伦理审查具体规范和指南。
第五十四条 相关行业主管部门对本领域科技伦理(审查)委员会设立或科技伦理审查有特殊规定且符合本办法精神的,从其规定。
本办法未作规定的,按照其他现有相关规定执行。
第五十五条 本办法由科技部负责解释。
第五十六条 本办法自2023年12月1日起施行。
附件 需要开展伦理审查复核的科技活动清单
对人类生命健康、价值理念、生态环境等具有重大影响的新物种合成研究。
将人干细胞导入动物胚胎或胎儿并进一步在动物子宫中孕育成个体的相关研究。
改变人类生殖细胞、受精卵和着床前胚胎细胞核遗传物质或遗传规律的基础研究。
侵入式脑机接口用于神经、精神类疾病治疗的临床研究。
对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发。
具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。
面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。
本清单将根据工作需要动态调整。
条款解读:这份7类清单是本办法与AI研发关系最直接的部分,第5、6、7项踩在人工智能的核心地带:
- 第5项人机融合系统——脑机接口消费级产品、情绪陪伴与心理干预类AI,落在“对人类主观行为、心理情绪和生命健康具有较强影响”的表述里。
- 第6项算法模型——“具有舆论社会动员能力和社会意识引导能力”的大模型、内容生成与推荐系统,与《生成式人工智能服务管理暂行办法》里“具有舆论属性或者社会动员能力”的备案门槛口径呼应,做有社会影响力的AI应用两头都要顾。
- 第7项自动化决策系统——面向安全、人身健康风险场景的高度自主决策系统,自动驾驶、医疗辅助决策、工业安全控制类AI要重点对照。
判断自己是否落入清单,是清单内活动合规的第一步:一旦落入,本单位委员会审查之外还要过主管部门组织的专家复核(第二十六条),并履行获批后30日内登记(第四十四条)。这三类AI的研发主体,应把“是否属于清单活动”作为立项即需回答的问题,并结合专项的《人工智能科技伦理审查与服务办法》做进一步核对。
参考来源
- 《科技伦理审查办法(试行)》官方全文,中华人民共和国科学技术部
- 推动科技向善 把好伦理“方向盘”——科技部有关负责人解读《科技伦理审查办法(试行)》,中华人民共和国科学技术部
- 案例检索:经过中国裁判文书网检索,本办法系行政与机构内部程序性规范,未直接作为裁判依据形成公开诉讼判例;检索到的“伦理审查”相关生效案件均系依据《民法典》第一千零八条及《涉及人的生物医学研究伦理审查办法》等规范审理的医疗、临床试验类纠纷,与本办法规制的科技伦理审查程序无直接对应,故本页不附案例注,以官方全文与政策解读为准。