arXiv cs.AI 发布于 08/31 12:00

Nemotron 3.5 Content Safety Moderator: A Compact Multimodal, Multilingual, and Reasoning Enabled Content Safety Moderator

(翻译)Nemotron 3.5 内容安全审核器:一款紧凑的多模态、多语言且支持推理的内容安全审核器

查看原文

资讯摘要

Abstract page for arXiv paper 2608.27548: Nemotron 3.5 Content Safety Moderator: A Compact Multimodal, Multilingual, and Reasoning Enabled Content Safety Moderator

AI 摘要

本文介绍了Nemotron 3.5 Content Safety Moderator(Nemotron 3.5 CS),一款紧凑的4B视觉语言安全审核模型,可联合分类用户提示、图像和助手回复,支持12种语言,并能生成简洁的推理痕迹以应用自定义策略。该研究还发布了多模态多语言安全数据集,评估显示其在多模态安全、文本审核、多语言鲁棒性和自定义策略遵循等方面具备实用权衡,可作为可部署的前沿安全组件。

AI 问答

Nemotron 3.5 CS是什么?

Nemotron 3.5 CS是一款紧凑的4B视觉语言安全审核模型,可对用户提示、图像和助手回复进行安全分类,支持12种语言。

该模型如何支持自定义策略?

在请求推理时,模型可以产生简洁的推理轨迹,应用提供的自定义策略并识别违反的类别。

该研究还发布了什么资源?

研究还发布了一个多模态和多语言安全数据集,包含人工标注的真实图像审核、良性视觉语言和文档任务、合成稀有风险及越狱案例,以及自定义策略示例。

打开原文

更多资讯

云岫资本合伙人宋旭文:量子计算:工程化与产业化并进,拐点将至 | 36氪 2026产业未来大会36氪 · 09/15 18:38AMC 炮轰 Robinhood:股票归谁做主?金色财经 · 09/15 21:18超越代币化:让RWA在链上发挥实用价值金色财经 · 09/15 12:11iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20Announcing instance preference lists for Amazon SageMaker AI training jobsAWS Machine Learning Blog · 09/16 00:01在金融支付系统中实施混沌工程:来自企业级 ECS 部署的经验教训InfoQ 中文 · 09/15 17:0436氪首发 | 国内头部硅电容IDM企业融资亿元,切入AI芯片与高端光模块36氪 · 09/16 14:35西门子不造机器人,为什么机器人进厂的故事里总有它?量子位 · 09/16 15:38Fedora 45 Beta 释出Solidot · 09/16 15:26早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导爱范儿 / APPSO · 09/16 08:45对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」爱范儿 / APPSO · 09/16 12:04当我怀念旧版 Edge 浏览器时,我在怀念什么?少数派 · 09/16 10:38清晰法案有概率通过?市场可能并未定价金色财经 · 09/15 13:50圆桌:中国之光成为新共识| 36氪 2026产业未来大会36氪 · 09/15 17:15Cloudflare将每天90亿次请求的JavaScript CDN迁移到其开发者平台InfoQ 中文 · 09/16 17:10Build an AI-powered product tagging system with Amazon SageMaker serverless model customizationAWS Machine Learning Blog · 09/16 00:11Ctenophores Aren’t Just Beautiful. They’re Biological Wonders.Quanta Magazine · 09/16 23:56AI不断进步 不得不把才华埋葬在昨天金色财经 · 09/15 10:14Robinhood的财富效应金色财经 · 09/16 12:47电商对账的设计逻辑:四层核对,逐层下钻人人都是产品经理 · 09/16 14:36只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?人人都是产品经理 · 09/15 08:53英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?雷峰网 · 09/15 17:38抖音上线 “免费短剧” App,短剧赛道再添一员猛将人人都是产品经理 · 09/16 10:20把记忆交给CPU,大模型会变快量子位 · 09/16 11:072人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?人人都是产品经理 · 09/16 10:20美股太贵 该加仓新兴市场吗?金色财经 · 09/16 18:57CLARITY法案为何倒在参议院门口?这主流如你所愿金色财经 · 09/16 12:08New insights from Google’s AI & Economy ATLASGoogle AI Blog · 09/15 21:00