arXiv cs.AI 发布于 08/28 12:00

A Safety-Gated Multimodal AI Backend for Mental-Health Support: Hierarchical State Representation, Conservative Risk Fusion, and Controlled Generation in Anian

(翻译)用于心理健康支持的安全门控多模态AI后端:Anian中的层级状态表示、保守风险融合与受控生成

查看原文

资讯摘要

Abstract page for arXiv paper 2608.26162: A Safety-Gated Multimodal AI Backend for Mental-Health Support: Hierarchical State Representation, Conservative Risk Fusion, and Controlled Generation in Anian

AI 摘要

该论文介绍了名为Anian的安全门控多模态AI后端系统,用于围产期心理健康支持和正念干预路由。系统将生成式AI置于结构化状态表示、保守风险融合和响应门控之后,将用户文本或语音转录映射为情绪状态、心理社会建构、安全风险和干预路线四个层级。在中高风险时,AI生成响应和语音合成被阻断,替换为固定安全内容并提示人工支持。内部评估使用约85.8万条记录,L1情绪分类、L2心理社会建构和L4路由微F1分别为0.9604、0.9144、0.9742,安全压力测试高风险管理召回率达1.0,但论文指出这些结果不代表临床有效验证。

AI 问答

Anian系统在高风险情况下如何工作?

当融合风险达到中等或高等时,系统会阻断常规AI生成响应和文本转语音输出,改用固定安全内容并提示寻求人工支持。

该系统的原型评估结果如何?

在内部评估中,L1情绪分类、L2心理社会建构和L4路由的微F1分数分别达到0.9604、0.9144和0.9742,安全压力测试高风险管理召回率为1.0,但论文强调这仅是内部可行性验证,不代表临床有效性。

打开原文

更多资讯

WorkBuddy + 美图设计室,在对话框里就能解决办公设计任务?人人都是产品经理 · 09/15 08:57以太坊 2026 年第二季度报告金色财经 · 09/15 17:06和Jeff Dean押注同一方向,27岁清华助理教授创业,两个月融资数亿36氪 · 09/16 15:58支付宝 xUI -- “阿宝”背后的 Agentic 终端交互引擎InfoQ 中文 · 09/16 02:27超级智能体“迪迪虾”上车,比亚迪携手阿里云推进智能座舱升级雷峰网 · 09/15 11:58CLARITY法案投票失败 加密监管立法再度搁浅金色财经 · 09/16 08:55HTTP 新增 QUERY 方法:有人叫好,也有人质疑“这不就是 GET?”InfoQ 中文 · 09/15 21:00Grayscale:比特币能否优化私募市场投资组合?金色财经 · 09/15 09:10黄仁勋正演讲遇特朗普突然来电:通话全程直播金色财经 · 09/15 21:33Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18Build an AI-powered product tagging system with Amazon SageMaker serverless model customizationAWS Machine Learning Blog · 09/16 00:11一张GPU跑10万原子!分子之心用AI把化学反应“拍”成了电影量子位 · 09/15 17:58一款在浏览器里运行、部署在自己服务器上的 SQL 客户端Solidot · 09/15 16:43Arc主网上线 生态内有哪些项目?金色财经 · 09/16 17:39企业该买模型还是养上下文?人人都是产品经理 · 09/16 10:39Dense vs. MoE Models: Active Parameters, Throughput, and When to Choose EachNVIDIA Technical Blog · 09/16 01:00圆桌:中国之光成为新共识| 36氪 2026产业未来大会36氪 · 09/15 17:152人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?人人都是产品经理 · 09/16 10:20理想落幕:加密行业为何集体走向同质化?金色财经 · 09/15 18:31AI不会放缓金色财经 · 09/15 10:33物理 AI 的大结果何时到来?人人都是产品经理 · 09/16 17:25超越代币化:让RWA在链上真正有用金色财经 · 09/16 16:39廉价太阳能改变世界能源格局Solidot · 09/15 17:19金色Web3.0日报 | 黄仁勋批驳「AI末日论」金色财经 · 09/15 21:48让AI真正赋能企业(初探)人人都是产品经理 · 09/15 17:20Uniswap v4上的恶意Hooks金色财经 · 09/15 12:43清晰法案有概率通过?市场可能并未定价金色财经 · 09/15 13:50强化学习大本营新作:如何破解「学新忘旧」困局雷峰网 · 09/15 10:18基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用量子位 · 09/16 16:09被英伟达点名的杭州团队,补上了AI for Science的「最后一公里」量子位 · 09/16 11:40