用于筛查孟加拉国儿童虐待相关创伤的可解释AI:一种基于噪声感知合成数据评估的无训练多模态框架
摘要
本文介绍了ShishuRaksha AI,一种用于筛查孟加拉国儿童虐待相关创伤的无训练多模态框架,该框架在噪声感知合成数据集上进行了评估,AUC达到0.874。
arXiv:2607.04010v1 Announce Type: new
摘要:孟加拉国每10万人口中约有1.17名心理健康专业人员,全国仅有六名儿童精神科医生。目前尚无针对儿童虐待相关心理创伤的早期筛查工具,且该工具需使用孟加拉语并适应本地文化。我们提出了ShishuRaksha AI,这是一个决策支持(非诊断)框架,融合了四种筛查模态:经过验证的问卷(SDQ、CPSS)、孟加拉语叙事文本、房树人(HTP)绘画特征以及面部情感。该融合无需训练,采用临床加权,使用跨模态注意力,并包含单模态覆盖规则。每个风险分数通过基于扰动的加性归因进行临床加权解释,并生成双语(孟加拉语/英语)报告,根据《2013年儿童法》将转诊路由至国家儿童保护服务机构(OCC、DSS、NMHH)。目前无法在伦理层面收集受虐待儿童的临床数据集,因此我们引入了一个噪声感知合成基准(500个案例,116个阳性[23.2%],四个有意的噪声层,基于文献的HTP先验),并在5折分层交叉验证下评估融合设计的树集成代理(排除面部通道)。融合模型AUC达到0.874 [0.834-0.908],而仅使用SDQ的基线为0.756 [0.705-0.803],并进行了消融、操作点、子组和校准分析。我们公开陈述所有局限性,包括仅使用合成数据、无留存集、文本特征循环性以及城乡子组差距。这项工作是可行性研究,旨在为低资源环境中可伦理部署的儿童保护筛查做出设计贡献。
查看缓存全文
缓存时间: 2026/07/07 04:35
# 孟加拉国儿童虐待相关创伤筛查的可解释AI:基于噪声感知合成数据的免训练多模态框架 来源:https://arxiv.org/html/2607.04010 ###### 摘要 孟加拉国每10万人口中仅有约1.17名心理健康专业人员,全国仅有6名儿童精神病学家。目前尚无针对儿童虐待相关心理创伤的孟加拉语、经文化适应的早期筛查工具。我们提出*ShishuRaksha AI*——一个决策支持(而非诊断)框架,融合四种筛查模态:经验证的问卷(SDQ、CPSS)、孟加拉语叙事文本、房树人(HTP)绘画特征以及面部情感。该融合方法免训练、采用临床权重、运用跨模态注意力机制,并包含单一模态覆盖规则。每个风险评分均通过临床加权、基于扰动的加性归因进行解释,并生成双语(孟加拉语/英语)报告,同时根据《2013年儿童法案》提供转介至国家儿童保护服务机构(OCC、DSS、NMHH)的路径。由于当前阶段无法合乎伦理地收集受虐儿童的临床数据集,我们引入一个噪声感知合成基准(500例,116例阳性[23.2%],四层刻意噪声,基于文献的HTP先验),并在5折分层交叉验证下评估融合设计的树集成替代模型(排除面部通道)。融合模型AUC达到0.874 [0.834–0.908],而仅依赖SDQ的基线为0.756 [0.705–0.803],并进行了消融、操作点、子组和校准分析。我们公开所有局限性,包括仅依赖合成数据、无保留测试集、文本特征循环性以及城乡子组差距。本工作是一项可行性研究,旨在为资源匮乏环境下合乎伦理地部署儿童保护筛查提供设计贡献。 ## I. 引言 在苏纳姆甘杰等偏远河区,一名遭遇家庭暴力后不再开口说话的儿童,绝大多数情况下永远无法见到专科医生。孟加拉国每10万人口中仅有约1.17名心理健康专业人员,根据WHO数据,全国仅有6名儿童精神病学家[14 (https://arxiv.org/html/2607.04010#bib.bib26)]。流行病学数据并不乐观:使用孟加拉语SDQ进行的社区调查发现,在农村、城市和贫民窟环境中,5-10岁儿童中存在相当比例的精神障碍[20 (https://arxiv.org/html/2607.04010#bib.bib23)]。虐待相关创伤处于这一缺口中最严重的角落。它受到污名化、鲜少被披露,除了少数城市诊所外几乎从未被筛查。现有工具均为纸质问卷,需要经过培训的管理者,要么用英语编写,要么未经任何自动化处理而翻译。 机器学习无法弥合这一差距,我们也并不声称能做到。但它或许能做的是分诊:帮助学校辅导员、NGO实地工作者或儿童福利官员决定*哪些*儿童需要转介给稀缺的专科医生。这一框架决定了本文的每一项设计选择。ShishuRaksha AI111代码及完整合成基准:https://github.com/shkoli/shishuraksha-ai生成一个带有孟加拉语可读理由的优先排序信号,并根据《2013年儿童法案》[13 (https://arxiv.org/html/2607.04010#bib.bib9)],路由至孟加拉国实际的儿童保护机构:一站式危机中心(OCC)、社会服务部(DSS)和国家心理健康热线。它是决策支持工具,不进行诊断,其构建方式使其无法悄悄假装可以诊断。 构建这样一个系统存在明显的伦理问题:在概念验证阶段,无法证明使用受虐儿童记录进行训练或验证是合理的,也未要求任何伦理委员会许可。我们转而采用合成优先的路径。一个噪声感知生成器基于已发表的HTP和筛查文献生成一个基准队列,并在该队列上使用真实验证所需的所有检查进行评估:消融、操作点、子组和校准。这些数字仅是可行性证据,别无他用;第VII节 (https://arxiv.org/html/2607.04010#S7)刻意成为论文中最长的讨论部分。 贡献如下:一个针对孟加拉国的四模态筛查框架;免训练注意力融合,带有临床指定权重和单一模态覆盖规则;双语可解释报告,连接法定转介路径;一种适用于真实数据收集在伦理上不可行领域的噪声感知合成基准方法;以及整个设计的可行性评估。 ## II. 相关工作 ### II-A 儿童心理筛查工具 长处与困难问卷(SDQ)[11 (https://arxiv.org/html/2607.04010#bib.bib1)]是应用最广泛的儿童心理健康简短筛查工具,具有完善的心理测量学特性[12 (https://arxiv.org/html/2607.04010#bib.bib11)]。Mullick和Goodman对261名孟加拉国儿童验证了孟加拉语改编版,能够区分诊所与社区样本以及不同诊断组[19 (https://arxiv.org/html/2607.04010#bib.bib12)];SDQ多信息源算法已在达卡诊所与伦敦一同评估[10 (https://arxiv.org/html/2607.04010#bib.bib13)];孟加拉语SDQ流行病学研究记录了孟加拉国农村、城市和贫民窟社区中儿童精神障碍的显著患病率[20 (https://arxiv.org/html/2607.04010#bib.bib23)]。针对创伤,儿童PTSD症状量表(CPSS)[8 (https://arxiv.org/html/2607.04010#bib.bib2)]是一种标准的自我报告测量工具。然而,所有这些工具都假设有经过培训的管理者,而在孟加拉国,面对全国仅有6名儿童精神病学家的系统[14 (https://arxiv.org/html/2607.04010#bib.bib26)],这些工具均无法提供孟加拉语自动化分诊支持。 ### II-B 投射绘画分析 房树人(HTP)测验[7 (https://arxiv.org/html/2607.04010#bib.bib3)]及相关的绘画技术[18 (https://arxiv.org/html/2607.04010#bib.bib4)]长期以来一直用于儿童,正因它们对语言能力要求不高。其背后的证据好坏参半:Allen和Tussey的系统综述发现,投射绘画无法可靠检测儿童是否经历过性虐待或身体虐待[2 (https://arxiv.org/html/2607.04010#bib.bib14)];Lin等人表明,在4,196名儿童的HTP绘画上训练的深度神经网络未能预测抑郁症,对HTP作为独立诊断信号的有效性提出质疑[16 (https://arxiv.org/html/2607.04010#bib.bib15)]。与此同时,计算绘画分析持续进步:目标检测流水线现在能自动生成结构化的HTP评分表[15 (https://arxiv.org/html/2607.04010#bib.bib24)];数字化绘画的机器学习已被用于识别叙利亚难民儿童的心理创伤以进行早期干预[5 (https://arxiv.org/html/2607.04010#bib.bib16)];最近的计算机视觉系统可从儿童绘画中自动提取特征用于筛查转介[3 (https://arxiv.org/html/2607.04010#bib.bib17)]。我们将不利的有效性证据作为设计约束认真对待,而非忽视它:在ShishuRaksha AI中,绘画模态 (i) 是四种弱信号之一,(ii) 通过临床指定权重降低权重,且 (iii) 仅用于*筛查优先级排序*,绝不用于诊断。 ### II-C 心理健康多模态机器学习 机器学习已应用于心理健康检测、诊断支持和公共卫生监测[23 (https://arxiv.org/html/2607.04010#bib.bib18)],多模态方法(例如,融合临床访谈的音频和文本进行抑郁症检测[1 (https://arxiv.org/html/2607.04010#bib.bib19)])通常优于单模态基线。然而,现有的多模态系统针对成年人、假设使用高资源语言,并依赖学习的融合,其参数难以进行临床审计。据我们所知,尚无先前系统结合适合儿童的模态用于孟加拉语、针对孟加拉国的筛查环境。 ### II-D 临床决策支持中的可解释AI 加性特征归因方法,如SHAP[17 (https://arxiv.org/html/2607.04010#bib.bib7)]和LIME[21 (https://arxiv.org/html/2607.04010#bib.bib20)],主导着事后解释;对临床医生需求的研究强调,解释必须映射到可操作的、领域有意义的因素,而非原始特征[25 (https://arxiv.org/html/2607.04010#bib.bib21)];可解释性日益被视为负责任地临床使用AI的先决条件[4 (https://arxiv.org/html/2607.04010#bib.bib22)]。Rudin[22 (https://arxiv.org/html/2607.04010#bib.bib25)]进一步论证,高风险决策需要*设计上*就可解释的模型,而非对黑盒进行事后解释。我们的免训练、临床加权融合遵循了这一原则。先前的临床XAI工作假设使用英语报告和既定的转介基础设施;没有一个能生成针对特定国家儿童保护路径的双语(孟加拉语/英语)解释。 **差距。** 尚无现有工作结合 (a) 适合儿童的多模态筛查、(b) 免训练、可临床审计的融合、(c) 孟加拉语可解释报告,以及 (d) 基于孟加拉国儿童保护机构(OCC、DSS、NMHH;《2013年儿童法案》[13 (https://arxiv.org/html/2607.04010#bib.bib9)])的转介路径。ShishuRaksha AI旨在作为一种决策支持框架填补这一空白,第IV节的合成基准方法在缺乏符合伦理获取的临床数据情况下提供了可行性评估。 ## III. 系统设计 参见图注图1:ShishuRaksha AI架构:四种模态、种子随机投影、免训练跨模态注意力(512维)、带单一模态覆盖的分层风险,以及带法定转介路径的双语XAI报告。### III-A 模态与临床权重 四个输入通道为系统提供数据。经验证的问卷携带最大的临床权重,wq=0.40:SDQ[11 (https://arxiv.org/html/2607.04010#bib.bib1)]和DSM-5改编版CPSS[8 (https://arxiv.org/html/2607.04010#bib.bib2)],其子量表分数映射到32槽特征向量。它们权重最高,因为它们是四种工具中经过最佳测试的。孟加拉语自由文本叙事,使用BanglaBERT[6 (https://arxiv.org/html/2607.04010#bib.bib5)](768维CLS嵌入)编码,携带wt=0.25的权重。HTP绘画通道(wd=0.20)将1,280个EfficientNet-B0特征[24 (https://arxiv.org/html/2607.04010#bib.bib6)]与20个二元HTP标记(缺失图形、深色阴影、重笔压力、包裹、攻击性意象等文献衍生的指标)拼接。面部情感是第四种、权重最轻的通道(wf=0.15),针对访谈环境设定,但排除在本论文评估之外。固定这些权重会牺牲准确性,甚至可能牺牲很多。它所换取的代价是可审计性:心理学家可以阅读这些权重、不同意并更改它们。没有任何学习的注意力矩阵能够做到这一点。 ### III-B 免训练注意力融合 每个模态向量(32维问卷、768维文本、1,300维绘画、32维面部)通过一个种子随机投影进入一个共享的128维空间;投影矩阵由每个模态的确定性种子生成,因此整个映射仅凭代码库即可重现。随后在四个投影表示之间计算缩放点积注意力,应用残差连接和tanh非线性,四个注意力处理后的128维向量被拼接成512维融合表示。在此路径中没有任何参数被学习;每个权重要么是临床指定的,要么是种子衍生的,这使得融合完全可审计。一个学习的变体(微调编码器、8头融合)在代码库中指定,但未在此实施或评估。 ### III-C 风险分层与覆盖规则 融合分数映射到四个层级:低风险 [0, 0.25)、中风险 [0.25, 0.50)、高风险 [0.50, 0.75) 和危急 [0.75, 1]。每个层级绑定到具体行动和来自孟加拉国现有基础设施的转介目标:中风险转介给学校辅导员,高风险在24小时内转介给DSS国家儿童帮助热线(1098),危急立即转介给一站式危机中心(热线16767)。融合之上设有一项安全措施:如果任何单一模态的分数超过0.85,则无论综合分数如何,该案例至少被提升到高风险。一幅令人恐惧的画作不应被一份冷静的问卷平均掉。0.85是否为正确的触发阈值是一个开放的临床问题;机制本身才是重点。 ### III-D 可解释性层 每个风险评分通过符合SHAP[17 (https://arxiv.org/html/2607.04010#bib.bib7)]精神的临床加权、基于扰动的加性归因进行分解,呈现为瀑布图:哪个模态推高了分数,哪个拉低了分数,以及推高或拉低了多大程度。选择扰动方案而非精确Shapley计算,是用理论保证换取在普通硬件上的速度,我们认为这一在筛查层级下是可接受的权衡;一个工作示例见Fig.5 (https://arxiv.org/html/2607.04010#S6.F5)。 ### III-E 双语报告与转介路由 输出不是一个数字。而是一份以孟加拉语和英语并排生成的报告,说明风险层级、使用通俗语言描述的归因瀑布图、层级特定的行动清单,以及带有热线号码(DSS为1098,OCC为16767)的确切转介联系方式,符合《2013年儿童法案》[13 (https://arxiv.org/html/2607.04010#bib.bib9)]规定的报告义务。报告末尾附有固定免责声明,使用两种语言说明该工具不进行诊断。 ## IV. 合成基准 ### IV-A 生成协议 收集受虐儿童的绘画和叙事来验证未经证实的原型,并非我们考虑过的选项。基准改为从单个固定种子(42)生成。问卷分数根据与已发布切分点一致的SDQ和CPSS子量表分布(SDQ总困难度0-40,CPSS DSM-5子量表)按类别采样;绘画案例是20维二元HTP标记向量,具有取自HTP文献的类别条件标记流行率,外加一个连续标记负担分数;孟加拉语叙事以创伤和非创伤变体进行模板生成。 ### IV-B 噪声感知设计 干净的合成数据无法证明任何东西,因此生成器通过四个层刻意破坏其自身输出。问卷分数添加±15%的测量误差、10%的报告者错误分类和5%的缺失子量表。绘画标记遭受20%的检测误差,负担分数上有±0.1的抖动。叙事在15%的案例中从创伤翻转为非创伤(模拟部分披露),在10%的案例中反之。标签本身带有8%的评分者间不一致翻转。每个层模拟了我们在实地预期的一种故障模式;这四层组合起来在多大程度上近似真实世界的混乱性,在真实数据出现之前是无法测试的。 ### IV-C 队列组成 标签按20%的目标流行率抽取,然后经受8%的评分者间
相似文章
新方法旨在保护儿童免受非法AI生成内容的侵害
MIT研究人员开发了一种技术,用于审计AI模型生成儿童性虐待材料的能力,而无需产生非法输出,在测试中达到了100%的准确率。该方法通过检查模型的隐藏表征来推断模型是否已被微调用于有害内容,为平台和执法部门提供了一种可扩展的检测不安全模型的方法。
AIriskEval-edu:用于AI介导的K-12教育解释风险评估的新数据集
介绍AIriskEval-edu-db2,这是一个用于AI生成的K-12教育解释的教学风险评估的新数据集,包含1,639条解释和结构化风险标注。还包括比较LLM在风险检测和可解释性方面的验证实验。
多模态铁路道口安全分析
本文提出了一种概念验证型AI流水线,利用多模态数据(图像和事故报告)评估铁路道口安全,在风险分类上实现了0.757的宏F1分数,并通过微调紧凑型VLM在安全评分估算上达到了0.078的RMSE。
ASD-Bench:用于自闭症谱系障碍的 AI 模型四维综合基准测试
本文介绍了 ASD-Bench,这是一个全面的基准测试,从预测性能、校准度、可解释性和鲁棒性四个维度评估用于自闭症谱系障碍(ASD)筛查的 AI 模型。该研究使用 AQ-10 数据分析了不同年龄组的多种模型,强调了在临床 AI 应用中采用多指标评估的重要性。
推出 Child Safety Blueprint
OpenAI 推出 Child Safety Blueprint,这是一个与 NCMEC、州检察长和 Thorn 共同制定的政策框架,旨在通过现代化法律、改进提供商报告和内置安全措施来打击 AI 助力的儿童性剥削。该倡议整合了法律、运营和技术方法,以大规模预防和检测儿童安全危害。