以神经元脉冲阈值重新诠释安全阈值
摘要
本文提出了一种受生物学启发的代理安全度量阈值重新解释方法,利用脉冲神经网络,使其与人类制动行为对齐,从而在自动驾驶中架起客观与主观安全感知之间的桥梁。
arXiv:2605.30368v1 Announce Type: cross
摘要:代理安全度量(SSMs)被广泛应用于自动驾驶环境下的交通风险评估。然而,多数基于SSM的评估采用固定阈值,未能捕捉人类对持续临界状态的响应,或对短暂高风险峰值的反应。本文提出了一种受生物学启发的SSM阈值重新解释方法。这被建模为泄露积分激发(LIF)神经元的脉冲阈值,多个SSM输入组合成一个脉冲神经网络(SNN)。该SNN经过训练,使其发射的脉冲与人类制动起始点对齐。训练数据来源于使用3D-CoAutoSim平台(基于CARLA/Unreal和六自由度运动平台)进行的受控跟车实验,实验中生成了诱导的临界事件。结果表明,学习到的脉冲活动在多个场景下与制动行为定性对齐,并能捕捉到仅通过阈值交叉无法一致解释的反应。对参与者的进一步分析表明,学习到的输入阈值保持相对一致,而学习到的衰减因子则编码了SSM不同的时间敏感性。本研究结果表明,脉冲动力学可能作为一种机制,促进客观SSM与主观人类安全感知的趋同。
查看缓存全文
缓存时间: 2026/06/01 09:29
# 将安全阈值重新解释为神经元脉冲阈值
来源: https://arxiv.org/html/2605.30368
Enrico Del ReID (https://orcid.org/0009-0002-6417-5902)*IEEE毕业生会员*, Mohamed SabryID (https://orcid.org/0000-0002-9721-6291)*IEEE毕业生会员* Cristina Olaverri\-MonrealID (https://orcid.org/0000-0002-5211-3598)*IEEE高级会员*林茨约翰·开普勒大学,奥地利;智能交通系统系\{enrico\.del\_re, mohamed\.sabry, cristina\.olaverri\-monreal\}@jku\.at
###### 摘要
替代安全措施(SSMs)在自动驾驶领域的交通风险评估中被广泛使用。然而,大多数基于SSM的评估采用固定阈值,无法捕捉人类对持续临界状态的反应或对短暂高风险峰值的响应。本文提出了一种受生物学启发的SSM阈值重新解释方案,将其建模为漏积分放电(LIF)神经元的放电阈值,并将多个SSM输入组合成脉冲神经网络(SNN)。该SNN经过训练,使其释放的脉冲与人类制动起始时刻对齐。训练数据来源于一个受控的跟车实验,该实验使用搭载CARLA/Unreal和6自由度运动平台的3D\-CoAutoSim模拟器,并生成了诱导的关键事件。结果表明,学习到的脉冲活动在多种场景下与制动行为定性一致,并能捕获那些单纯由阈值穿越无法一致解释的反应。跨参与者分析进一步显示,学习到的输入阈值保持相对稳定,而学习到的衰减因子则编码了不同SSM的时间敏感性差异。本研究的发现表明,脉冲动力学可能作为一种机制,促进客观SSM与主观人类安全感知之间的融合。
## I引言
自动驾驶车辆的发展在很大程度上以提高交通安全为目标,因为人为失误导致了超过90%的交通事故[24 (https://arxiv.org/html/2605.30368#bib.bib84)]。高级驾驶辅助系统(ADAS),如自适应巡航控制和车道保持系统,旨在减少这些失误并提升安全性[19 (https://arxiv.org/html/2605.30368#bib.bib59)]。这些系统依据明确的目标规则(例如[26 (https://arxiv.org/html/2605.30368#bib.bib2)]中规定的规则)运行,通过替代安全措施(SSMs)将可观测且可量化的驾驶参数(如速度、距离、相对速度)联系起来,从而推断事故风险。
然而,传统的SSM存在若干局限性。许多SSM针对特定交互类型(如跟车或交叉口相遇)设计,并且通常假设车辆成对交互,而实际交通涉及复杂的多智能体动态。此外,大多数SSM依赖分类阈值来判断安全或危险状态。尽管这种方法能有效检测突然的危险(如急减速),但无法捕捉持续临界状态产生的累积压力。这些缺陷在将基于SSM的自然驾驶数据安全评估与人类反应进行比较时变得尤为明显[25 (https://arxiv.org/html/2605.30368#bib.bib29),7 (https://arxiv.org/html/2605.30368#bib.bib9),17 (https://arxiv.org/html/2605.30368#bib.bib46),8 (https://arxiv.org/html/2605.30368#bib.bib10)]。
弥合客观安全指标与主观人类安全感知之间的差距,对于更高水平的自动化(例如编队行驶)至关重要,因为在这些场景中人类驾驶员可能仍留在控制回路中。由主观不适引发的不必要接管是不可取的,而忽略人类感知的模型可能损害驾驶员对ADAS的信任和接受度[21 (https://arxiv.org/html/2605.30368#bib.bib31)]。为确保自动驾驶行为安全、可解释且符合社会规范,未来系统不仅要模拟物理风险,还应模拟人类如何感知和应对不断变化的安全状况。
为应对这些挑战,本文提出一种受生物学启发的方法,用漏积分放电(LIF)神经元替代固定的SSM阈值。这些神经元既能考虑持续的临界暴露,也能应对突发的高风险情况。通过将多个LIF神经元组合成脉冲神经网络(SNN),该框架将不同的SSM集成到一个统一的动态安全评估中,类似于对[6 (https://arxiv.org/html/2605.30368#bib.bib12)]进行基于神经元的扩展。SNN在实验用3D\-CoAutoSim[12 (https://arxiv.org/html/2605.30368#bib.bib95)]平台记录的驾驶数据上进行训练,该平台利用CARLA和虚幻引擎以及6自由度运动平台生成关键交通场景并记录真实的人类反应。在这些场景中,我们记录了制动行为,因此,通过学习在对应这些反应时释放脉冲,所提出的模型将客观安全指标与人类主观感知和应对交通风险的方式对齐。
以下章节概述了类似的方法,并强调了我们提出模型的独特之处。第三节(https://arxiv.org/html/2605.30368#S3)介绍了LIF神经元、SNN以及所使用的SSM。第四节(https://arxiv.org/html/2605.30368#S4)详细描述了实验和训练细节。结果在第五节(https://arxiv.org/html/2605.30368#S5)中呈现。最后,第六节(https://arxiv.org/html/2605.30368#S6)总结了主要发现并概述了本研究的潜在未来方向。
## II相关工作
脉冲神经网络在汽车和交通领域的应用主要集中在感知任务上,以利用其固有的能效和高速推理优势[18 (https://arxiv.org/html/2605.30368#bib.bib20)]。在预测人类行为方面的研究较少,尽管有研究[23 (https://arxiv.org/html/2605.30368#bib.bib22)]利用SNN预测行人过马路行为,[27 (https://arxiv.org/html/2605.30368#bib.bib21)]利用SNN预测手术中的交接动作。
主观安全感知的建模面临显著挑战,因为缺乏标记数据,特别是同时包含客观和主观测量的数据。在[9 (https://arxiv.org/html/2605.30368#bib.bib54)]中,研究人员通过训练有素的观察员对交通冲突进行评估,创建了这样一个数据集。该方法能够识别出主要影响个体安全感知的客观因素,特别是那些影响潜在碰撞接近度和严重性的因素。然而,标记交互过程劳动强度大,使得该方法在更复杂场景下实用性较低。
感知安全性也曾通过提出旨在更好匹配人类内部评估的风险表示来解决,并针对可观测的人类反应进行验证,最常见的是在仿真中。风险场公式将风险建模为由预测运动与交互后果共同塑造的空间场,已有报告表明其与口头报告风险等主观标记相关。在[15 (https://arxiv.org/html/2605.30368#bib.bib15)]中观察到的转向行为被[5 (https://arxiv.org/html/2605.30368#bib.bib14)]用于使模型与个体参与者的转向行为对齐。在[14 (https://arxiv.org/html/2605.30368#bib.bib18)]中,提出了驾驶员风险场度量来建模人类驾驶行为。
然而,基于风险场的方法通常无法简洁地映射回标准SSM(如车头时距或碰撞时间),这限制了它们在既定自动驾驶车辆安全评估指南中的直接使用。因此,本文提出的模型明确利用常见的替代安全度量作为输入来建模驾驶行为,让受生物学启发的网络学习随时间向人类行为的转换,而不是预先重新定义一个新的风险度量。
## III背景
### III\-A脉冲神经网络
脉冲神经网络(SNNs)以时间索引的脉冲序列而非连续激活的方式处理信息。与标准人工神经网络不同,计算在离散时间步上展开,每个神经元维护一个内部状态(通常是膜电位),随时间整合输入。一旦超过电位阈值,神经元就会释放一个脉冲。在前馈SNN中,这些脉冲经过突触加权并由脉冲神经元动力学整合,产生通过各层传播的新脉冲序列(图1 (https://arxiv.org/html/2605.30368#S3.F1))。这种时间状态使SNN非常适用于序列数据,因为它们能够通过自身动力学自然地捕捉累积效应和短暂峰值。
参见图注图1:SNN中通过神经元传播脉冲的示意图。来自前一层的三个脉冲序列S₁/₂/₃(t)乘以其对应的权重W₁/₂/₃,并由神经元N处理成一个新的脉冲序列Sₒ(t)。
#### III\-A1漏积分放电(LIF)神经元
尽管有许多神经元模型适用于SNN,本文我们限定使用漏积分放电(LIF)神经元[2 (https://arxiv.org/html/2605.30368#bib.bib19)]。在离散时间中,膜电位Uₜ整合输入电流Iₜ,同时以因子β衰减:
Uₜ = βUₜ₋₁ + Iₜ。 (1)
这里,β控制神经元的有效记忆:接近1的值导致衰减慢、时间积分长,而较小的值则更强调当前输入。当Uₜ超过阈值U_thr时,释放一个脉冲:
Sₜ = {1, 如果Uₜ ≥ U_thr; 0, 否则。} (2)
放电后,膜电位重置,通常重置为0。输入电流、膜电位和输出脉冲序列之间的交互如图2 (https://arxiv.org/html/2605.30368#S3.F2)所示。
参见图注图2:LIF神经元的示例行为。输入电流I(t)由神经元整合为膜电位U(t),产生脉冲序列S(t)。注意膜电位随时间缓慢衰减,但在U(t)越过放电阈值U_thr后立即重置为0。
#### III\-A2使用替代梯度训练
由于等式(2 (https://arxiv.org/html/2605.30368#S3.E2))不可微,通常使用时间反向传播(BPTT)[20 (https://arxiv.org/html/2605.30368#bib.bib17)]结合替代梯度进行训练。网络在时间步上展开,梯度像循环网络一样跨时间累积。在前向传播中保留硬阈值(等式(2 (https://arxiv.org/html/2605.30368#S3.E2))),而在反向传播中,∂Sₜ/∂Uₜ用替代函数近似,例如快速sigmoid:
∂S/∂U ≈ 1/((1+k|U|)²),k=25。 (3)
这种近似使得基于梯度的优化成为可能,同时在前向动态中保留事件驱动的放电。
### III\-B替代安全措施
为了全面评估两车之间的安全性,在涉及轨迹交叉和跟车场景中,我们将以下度量纳入安全模型。
- 车头时距(TH):前车尾部与后车车头通过同一道路固定点的时间差。
- 碰撞时间(TTC):车辆若保持当前速度和轨迹,到达潜在碰撞点所需的时间。
- 避免碰撞所需最小减速度(DRAC):车辆为避免与另一车碰撞必须达到的最低减速度。
选择这三个SSM是因为它们适用于跟车场景。由于SNN被训练在高风险条件下放电,我们对输入进行转换,使更大的输入值对应更高的客观安全风险。对TH,我们取其倒数,如等式(4 (https://arxiv.org/html/2605.30368#S3.E4)):
1/TH = v/d, (4)
其中v是后车速度,d是距前车的距离。
TTC的倒数已被引入作为SSM[1 (https://arxiv.org/html/2605.30368#bib.bib51)],如等式(5 (https://arxiv.org/html/2605.30368#S3.E5))所示:
ITTC = (v_F - v_L) / d, (5)
其中v_L, v_F分别表示前车和后车的速度,d表示两车距离。如果两车并非处于碰撞轨迹,ITTC设为0。
DRAC的定义如等式(6 (https://arxiv.org/html/2605.30368#S3.E6)):
DRAC = {(v_F - v_L)² / d,当v_F > v_L; 0,其他情况。} (6)
## IV方法
### IV\-A数据集
前述缺乏标注主观安全感知的驾驶行为数据集限制了基于学习的方法。虽然期望在公开数据集的子集(如HighD[16 (https://arxiv.org/html/2605.30368#bib.bib80)]或IAMCV[4 (https://arxiv.org/html/2605.30368#bib.bib28)])上进行训练,但这些数据集难以将人类制动行为主要归因于安全问题。因此,我们记录了一个新数据集,其中参与者(仅限于制动)的干预主要受控于交通风险的变化。本文使用该数据集的一部分来训练模型。
参见图注图3: 使用CARLA的3DCoAutoSim仿真设置。
仿真环境由一台连接到CARLA模拟器[10 (https://arxiv.org/html/2605.30368#bib.bib23)]的6自由度运动平台组成,如图3 (https://arxiv.org/html/2605.30368#S4.F3)所示。参与者在高速公路上体验跟车场景,他们坐在后车中;当达到80公里/小时的巡航速度后,自动驾驶的前车会在一个70米窗口内的随机点开始减速,从而提高后车的安全风险。为确保前车减速前初始条件一致,参与者的车辆最初由[22 (https://arxiv.org/html/2605.30368#bib.bib24)]的控制器控制。用于[22 (https://arxiv.org/html/2605.30368#bib.bib24)]验证的CARLA仿真也被用作本次仿真场景的基线。
参与者可随时通过踩刹车进行干预(如果他们感到不安全);转向只能在踩刹车的同时进行。前车开始制动后,控制器仍试图维持期望距离,但部分试验被有意配置为除非参与者干预,否则将发生碰撞。运动平台进一步增强了减速提示的真实感以及这些情况下的紧迫感。
六个场景由前车的减速度和控制器的期望跟车距离定义:
- 场景1: 减速度: -6 m/s²,距离: 10 m
(后续场景列表在原文中不完整,但翻译时保留原文格式)相似文章
统一AI安全阈值
本文提出了一种方法,用于在领先AI公司之间推导统一的安全阈值,以解决现有阈值的不一致性,涵盖滥用风险和自动化AI研发,并指出了实证方面的不足。
重新思考神经非线性:门控机制
本文提出阈值门控(TG)作为神经非线性的统一原语,表明标准激活函数可以表示为TG的实例。作者通过将预训练模型在各种架构间转换而不进行重新训练来验证其方法,并讨论了硬件优势。
单个神经元足以绕过大型语言模型的安全对齐
这项研究表明,通过靶向负责拒绝响应的单个神经元,可以绕过大型语言模型的安全对齐机制,揭示了安全机制并非稳健地分布在整个模型中,而是由单个神经元介导的。
我的玩具脉冲网络在NARMA-10测试中完全失败,但一个简单的神经科学技巧带来了15倍的计算性价比。 [D]
作者描述了一个自建的脉冲神经网络引擎,最初未能通过NARMA-10基准测试,但通过应用神经科学中的异构导线延迟,它获得了可用的记忆深度,并在一个识别任务上相比连续网络实现了15倍的计算效率优势。
超越前馈网络:循环神经系统作为下一代AGI主体性与内在安全性的基础
本文提出了一种基于闭合循环回路的完全架构规范,用于安全的AGI,提供了形式化证明、Lean 4机器验证以及Python代码。该架构与当前前馈方法形成对比,从数学上保证了自我建模、自我保存和安全的目标导向行为。