苗圩：机器驾驶存在一些安全挑战

10月16日，在2025世界智能网联汽车大会上，第十四届全国政协常委、经济委员会副主任苗圩表示，与人驾驶相比，机器驾驶在在反应速度、规则执行等方面具备一定的优势，但机器驾驶也存在着安全挑战。

一是应对“长尾场景”的能力不足，所谓“长尾场景”，指的是面对训练数据中未充分涵盖的罕见场景，机器的决策系统可能因缺乏先验知识而失效，构成潜在的安全隐患。

二是感知与认知存在固有局限，机器对驾驶环境的感知依赖传感器数据与预设的算法，易受到恶劣天气、传感器噪声、模型偏差等因素的影响，可能影响驾驶决策的准确性。

三是“黑箱效应”带来的不可控风险，尤其是端到端等基于深度学习的驾驶系统，其决策过程不透明，可能导致行为逻辑难以追溯，责任难以认定，可能在出现错误时缺乏有效的干预与控制手段。