用于围产期心理健康支持的安全门控多模态AI后端：Anian中的层级状态表示、保守风险融合与受控生成

arXiv cs.AI 论文
ai-safety mental-health multimodal-ai risk-fusion controlled-generation healthcare-ai

摘要

本文介绍了Anian，一个用于围产期心理健康支持的安全门控多模态AI后端，具有层级状态表示、保守风险融合和受控生成功能，内部评估显示其在安全性和路由任务中表现出色。

arXiv:2608.26162v1 公告类型：新 摘要：安全关键的心理健康支持系统必须区分何时适合进行支持性对话，何时应阻止自由生成。本文介绍了Anian，一个用于围产期心理健康支持和正念干预路由的安全门控多模态AI后端。Anian不旨在诊断精神疾病或替代临床护理或危机干预。其模块化管道将生成式AI置于结构化状态表示、保守风险融合和响应门控之后。用户文本或语音转录的ASR记录被映射到四个关联层：L1情绪状态、L2心理社会构念、L3安全风险和L4干预路径。本地文本和规则驱动的安全证据与外部语音证据使用最高风险优先规则融合，S_fusion = max(S_local, S_external)。在中度或高融合风险下，普通的AI生成响应和文本转语音传输被阻止，并替换为固定的安全内容和人工支持提示。内部原型评估使用了来自公共情绪、对话、心理健康相关和中文对话语料库的约858,295条标准化记录，在弱标签和规则驱动框架内进行。微F1分数为：L1情绪分类0.9604，L2心理社会构念0.9144，L4路由0.9742。在233个样本的受控安全压力测试中，L3规则引擎在预定义场景中实现了高风险召回率1.0000。这些发现支持标签框架和门控逻辑的内部可行性，但未确立临床有效性、诊断准确性、现实世界安全性或有效性。我们报告了架构、本体、安全融合机制、原型评估、错误分析计划以及专家审查和现实世界验证的路线图。
查看原文
查看缓存全文

缓存时间: 2026/08/28 09:29 

# 面向心理健康支持的安全门控多模态AI后端：Anian中的层次状态表示、保守风险融合与受控生成
来源：https://arxiv.org/abs/2608.26162
查看PDF（https://arxiv.org/pdf/2608.26162）

> 摘要：安全关键的心理健康支持系统必须区分何时适合支持性对话，何时应阻断自由生成。本文提出Anian，一个面向围产期心理健康支持与正念干预路由的安全门控多模态AI后端。Anian并非用于诊断精神疾病或替代临床治疗与危机干预。其模块化流程将生成式AI置于结构化状态表示、保守风险融合和响应门控之后。用户文本或语音转录的ASR文本被映射到四个关联层：L1情绪状态、L2心理社会构念、L3安全风险、L4干预路由。基于文本和规则的局部安全证据与外部语音证据通过最高风险优先规则融合，即S_fusion = max(S_local, S_external)。当融合风险为中度或高度时，常规AI生成的响应和语音合成将被阻断，替换为固定安全内容和支持人类支持的提示。内部原型评估使用了约858,295条来自公共情感、对话、心理健康相关及中文对话语料库的标准化记录，基于弱标签和规则推导框架。L1情绪分类的微F1分数为0.9604，L2心理社会构念为0.9144，L4路由为0.9742。在233个样本的受控安全压力测试中，L3规则引擎在预定义场景下实现了1.0000的高风险召回率。这些发现支持标签框架和门控逻辑的内部可行性，但未确立临床有效性、诊断准确性、现实世界安全性或效果。我们报告了该架构、本体、安全融合机制、原型评估、错误分析计划，以及专家评审和现实世界验证的路线图。

## 提交历史

来自：肖王 \[查看邮件（https://arxiv.org/show-email/20c04507/2608.26162）\] **\[v1\]** 2026年7月10日星期五 13:52:50 UTC（11,437 KB）

相似文章

AI安全的另一半

Hacker News Top

文章批评AI安全领域专注于灾难性风险，却忽视了像ChatGPT这样的聊天机器人对日常心理健康的危害。引用OpenAI自身数据，数百万用户表现出精神病、躁狂或自杀意念的迹象，却仅被重定向，未进行硬性拦截。

AI-Care：用于阿尔茨海默病护理中任务协调的对话式代理系统

arXiv cs.AI

本文介绍了 AI-Care，这是一个对话式代理 AI 系统，旨在通过自然语言交互帮助阿尔茨海默病患者管理如日历提醒等日常任务。研究详细阐述了基于 LangGraph 的系统架构及安全控制措施，试点结果显示用户对系统具有高度信任且任务完成率高。