【数智化生态专场】中国汽车技术研究中心有限公司首席专家、中国汽车战略与政策研究中心副总工程师秦孔建：人工智能技术应用、风险与监管

　　由中国汽车技术研究中心有限公司、中国汽车工程学会、中国汽车工业协会、中国汽车报社联合主办，天津经济技术开发区管理委员会特别支持，日本汽车工业协会、德国汽车工业协会、中国汽车动力电池产业创新联盟、新能源汽车国家大数据联盟、中国人工智能产业发展联盟、欧洲汽车工业协会联合协办的第二十一届中国汽车产业发展（泰达）国际论坛（以下称“泰达汽车论坛”）将于2025年9月11日至9月14日在天津市滨海新区举办。本届泰达汽车论坛将围绕“增动能 启新篇 向全球”的年度主题，邀请重磅嘉宾展开深入研讨。

　　在9月12日“数智化生态专场：汽车行业AI大模型应用实践与趋势”中，中国汽车技术研究中心有限公司首席专家、中国汽车战略与政策研究中心副总工程师秦孔建发表题为“人工智能技术应用、风险与监管”的演讲。

中国汽车技术研究中心有限公司首席专家、中国汽车战略与政策研究中心副总工程师秦孔建

以下为演讲实录：

　　 非常荣幸能在此与大家分享我们关于汽车人工智能技术应用、风险挑战及安全治理的思考。

　　 我的报告包含三部分内容。首先，向大家介绍我们所认为的人工智能与汽车融合的核心应用。本月，汽车人工智能技术应用领域迎来一项重磅事件，国务院印发《关于深入实施人工智能行动的意见》。该意见共部署6项重点任务，其中2项与汽车相关：其一，在“人工智能+产业发展”任务中，明确提出培育智能原生新模式、新形态。正如陈院所言，当前行业大力发展的智能网联汽车、组合辅助驾驶汽车，既是最具前景且典型的具身智能应用，也是智能原生技术层面的典型代表；其二，提出工业全要素智能化，目前已有不少企业，尤其是各大央企展开实践，在汽车行业智能制造领域进行了诸多探索，通过人工智能赋能新型工业化，汽车行业在这一进程中走在前列；其三，在“人工智能+消费提质”任务中，明确提及大力发展智能网联汽车、人工智能手机、电脑等新一代智能终端，将智能网联汽车置于突出位置，为行业发展指明方向。众所周知，近两年来促消费政策重点向新能源领域倾斜，未来促消费政策有望进一步向智能化领域发力，为行业发展提供支撑。

　　 除重点任务外，意见还提出八方面基础支撑保障措施。其中，前三项算力、算法、数据属于技术内在支撑需求；环境、生态、人才、政策环境、安全能力及政策法规跟进则是重要保障。这意味着，在大力推进人工智能与汽车融合发展的同时，需高度重视产品技术及行业发展的安全问题。以上为报告开篇内容。

　　 具体到人工智能与汽车产业的融合，我们认为最典型的三大应用场景如下：一是产品层面的驾驶自动化，涵盖辅助驾驶及L3、L4级组合辅助驾驶，目前头部企业正逐步向人工智能技术方案过渡；二是智能座舱，从行业发展现状来看，已实现大面积应用与布局；三是智能制造，这三大场景已为行业广泛熟知。

　　 从驾驶辅助领域来看，其人工智能应用并非局限于单一环节，而是贯穿感知、决策、执行及云端训练全流程。在多模态感知融合方面，感知识别环节已运用各类神经网络提升识别性能；路径规划与决策环节，尤其是端到端技术演进，成为众多组合辅助驾驶开发企业重点布局的方向；此外，智能底盘控制技术不断升级，底盘智能化水平持续提高，大幅提升了车辆驾乘舒适性。

　　 当前，驾驶自动化正处于端到端技术开发范式迭代的关键时期。行业内，部分企业采用一段式端到端方案，更多企业则从两段式端到端向一段式端到端演进，甚至向VLA 、VLM技术范式迈进。

　　 除组合辅助驾驶开发外，云端同样存在丰富的人工智能应用，包括高质量数据集处理、4D标注、数据合成与仿真、算法训练、测试及模型车端部署适配等关键技术环节，这些均是车云迭代模式下人工智能技术应用的核心内容。

　　 在座舱领域，据行业统计，已有众多企业的车型产品接入Deepseek等大模型，主要应用于智能语音及主动个性化服务，可更好满足用户个性化需求。

　　 从AI大模型座舱应用趋势来看，主要呈现三大特征：一是多模态融合能力持续增强；二是AI智能体能力不断进化，向更主动、更精准、更智能方向发展，在与驾乘人员交互过程中进一步提升交互体验；三是AI座舱大模型与车控系统的融合集成不断深化，未来智能座舱大模型与驾驶自动化车控系统大模型有望实现深度融合，这是总体技术发展方向。

　　 在智能制造，即汽车行业制造场景中，依托央企数字化转型车企平台，我们对智能制造领域的人工智能应用场景进行了梳理，共统计出239个“AI+制造”场景。其中，研发设计类场景30余个、生产制造类场景100余个、供应链类场景40余个，并对这些场景开展了详细分析与分类。从场景应用成熟度来看，研发领域场景专业性强、开发难度大；生产制造领域场景应用范围广，垂类小模型占比高，定制化需求也更为突出。因此，不同环节的应用成熟度存在差异。

　　 综上，我们对人工智能与汽车行业深度融合应用的全场景技术图谱进行了梳理。从通用技术资源、关键技术到场景应用各维度分析，当前国内行业在AI芯片、AI开发工具等方面仍存在明显短板与差距。此次梳理是我们为支撑部委“人工智能+汽车”课题研究开展的工作，未来在部委主导下，将推进重点支持类项目与工程，加快提升行业相关能力。

　　 从场景应用成熟度来看，智能客服、智能座舱、智能营销等领域已具备成熟应用条件，目前已实现大范围推广，而辅助驾驶场景因对安全性要求极高，技术成熟度仍有待进一步突破，应用难度相对较大。基于上述分析，我们还需识别并应对人工智能与汽车行业深度融合应用过程中潜在的风险。

　　 人工智能作为通用赋能技术，受其技术特性影响，存在系统内生性风险与应用衍生风险两类风险。系统内生性风险主要体现在算法、数据、系统层面：算法层面，人工智能技术的算法透明度、可解释性、可靠性、鲁棒性等均可能引发技术内生风险；数据层面，过度采集数据、数据包含敏感信息及数据自身安全性等问题，也存在潜在技术内生风险。应用衍生风险影响范围更广，可能对个人安全、产业秩序及社会公平产生不利影响。

　　 结合汽车领域具体情况，算法与伦理是汽车人工智能技术应用中新问题、新风险的集中爆发点。从技术内生风险来看，主要体现在四个方面：一是基于深度神经网络的技术本身具有复杂性，复杂结构导致决策过程难以追溯，“黑箱”特性增加了AI系统的不可预测性；二是传感器易受干扰，微小输入变化可能导致系统输出结果不稳定，即人工智能技术应用的鲁棒性问题，这也是当前端到端技术作为组合辅助驾驶系统性能评价的重点关注内容；三是存在系统性失效风险；四是面临功能安全验证挑战。

　　 从应用衍生风险来看，以下几方面需重点关注：一是决策偏差风险，根源在于高质量数据量不足，导致系统在应对少见或稀少场景时易出现决策偏差，可能对特定人群或对象造成安全隐患；二是责任归属难题，未来人工智能应用于高级别组合辅助驾驶，实现完全组合辅助驾驶功能后，基于人工智能的组合辅助驾驶车辆责任归属问题，涉及诸多伦理层面风险亟待解决；三是内容失控风险，智能座舱中，大语言模型的内容生成功能需符合意识形态要求及个人隐私保护要求，相关风险需妥善应对；四是汽车作为高速移动交通工具，无论载人还是运货，安全风险一旦发生，将直接严重危害人身及财产安全，其风险程度远高于消费电子领域，且单一风险可能引发连锁反应，因此汽车领域人工智能技术应用需更加重视安全风险防控。

　　 对此，企业与政府需共同积极应对。企业层面，一是在技术开发与产品开发过程中，充分做好可靠性验证；二是构建与AI技术产品开发相匹配的研发能力体系，当前众多企业，尤其是中小企业在这方面面临较大挑战。政府层面，需加强对新技术的监管，从企业能力与产品层面给予指导与监管。另外社会层面，需制定相应措施，应对AI大规模应用普及可能对就业及社会公平带来的影响。

　　 基于上述风险分析，我们对未来车用人工智能安全发展的布局展开思考。

　　 当前，人工智能技术发展主要集中于美国、中国、欧洲，各国人工智能治理原则存在差异。美国方面，今年7月发布《美国人工智能行动计划》，核心是“赢得竞赛”，通过监管松绑为全球AI技术竞赛创造宽松发展环境，明确聚焦加速人工智能创新、建设人工智能基础设施和推广人工智能技术外交三大方向。欧洲方面，虽高度重视法规与监管，在AI技术发展初期便出台《人工智能法案》，但目前已意识到该法案可能对技术创新发展产生阻碍，正逐步调整。中国始终坚持人工智能发展与安全并重，从顶层设计、法律制度及相关主管部门规章三个层面，逐步完善AI技术治理体系。

　　 汽车领域是人工智能技术应用的重点治理领域。2023年以来，相关政策加快布局，政策体系不断完善、细化。近期，科技部及标准制定相关部门出台一系列措施，包括标准体系建设、技术研发伦理指引等，为组合辅助驾驶，尤其是AI组合辅助驾驶开发企业提供了重要参考。

　　 分领域来看，驾驶辅助领域AI技术应用中，L2、L3级监管政策已搭建基本框架。组合辅助驾驶作为新技术应用，同样面临人工智能应用的不确定性风险，因此，当前从能力体系、技术参数备案、事后监管、监测平台等方面构建的政策框架逻辑，同样适用于未来人工智能技术产品监管模式。

　　 在座舱领域，网信办等部门围绕人工智能服务与内容开展了具体管理实践，提出相关要求，如今年备受关注的《人工智能生成内容标识办法》，对智能座舱大模型部署作出明确规定，相关企业需严格遵循。

　　 企业研发场景中，科技部等部门加强管理实践与审查，未来企业开发融合人工智能技术的车辆产品，无论是座舱还是驾驶自动化相关产品，均需在内部研发流程中建立技术伦理相关的流程管控机制。

　　 基于此，我们对未来发展作出展望。针对车用AI驾驶自动化产品，预计将先行开展车用人工智能技术参数统一备案工作，加快出台车用人工智能安全管理细则及车用人工智能技术研发能力指南。此前科技部发布的指南以原则性内容为主，实施细则仍需进一步细化明确，这将是驾驶自动化产品领域的重点推进工作。

　　 面对AI技术应用风险，需构建车用人工智能风险全周期应对策略框架，系统覆盖整体策略、技术风险应对及应用风险应对。整体策略方面，管理部门未来将从车用人工智能安全性定期评估、风险场景分类分级管理入手；技术风险应对方面，将涉及数据合规与安全管理（包括大模型训练数据管理）、可信人工智能技术审查评估及人工智能技术安全检测体系建设；应用风险应对方面，需建立应急处理机制、安全冗余与回退机制及AI服务追溯管理制度。

　　 这些管理措施的实施需依托完善的标准体系。目前，通用人工智能标委会与汽标委已着手相关工作，汽标委组建的车用人工智能标准工作组，正从基础要素、基础共性、基础平台、产品应用技术及安全规范等方面搭建车用人工智能标准体系，在此欢迎各位专家与企业积极关注、参与。

　　 以上是我的汇报，谢谢大家！