Roblox推出AI实时聊天改写功能 助力平台净化语言

功能概述

Roblox 今日宣布在其全球社交平台上上线 AI 实时聊天改写（AI‑Powered Real‑time Rephrasing）功能。与传统的文字过滤不同，系统不再仅用“####”掩盖违规词，而是利用大模型对原句进行语义保留的改写，将不当语言转换为更为礼貌的表达。例如，原文 “Hurry TF up!” 将被改写为 “Hurry up!”，并在聊天窗口提示用户“消息已被改写”。

技术实现

• 生成式模型：Roblox 采用内部训练的多语言 LLM，支持平台已提供的全部翻译语言。模型在保持原意的前提下进行词汇替换与语义重构。
• 实时性：改写过程在毫秒级完成，保证游戏内对话的流畅性，不会产生可感知的延迟。
• 安全层叠：改写仅是第一道防线，后端仍保留原有违规检测与惩罚机制，对严重违规（如露骨内容、骚扰）继续执行封禁或警告。
• 自学习：系统会收集改写前后对话的反馈数据，持续微调模型，以提升对新兴俚语、变体拼写（leetspeak）等的识别率。

市场影响与监管背景

Roblox 表示，改写功能已在所有语言的自动翻译工具中启用，能够帮助约 2.5 亿活跃用户保持文明交流。公司称，升级后的过滤系统在检测个人信息泄露方面的误报率下降了约 20 倍。该举措恰逢美国多州（德克萨斯、肯塔基、路易斯安那）针对儿童安全的诉讼高峰，监管机构要求平台必须提升对未成年人聊天内容的监管力度。实时改写在降低误伤用户体验的同时，也提供了更透明的审计路径——每条被改写的消息都会在聊天记录中标记，便于家长与监管方查证。

行业意义

• 提升用户留存：相较于粗糙的屏蔽，改写保留对话上下文，可减少玩家因信息缺失导致的游戏中断，从而提升日活和付费转化。
• 降低内容审核成本：AI 改写在前端过滤大量低危害语言，后端审核团队可将精力聚焦于高危行为，提升整体审查效率。
• 示范效应：作为全球最大线上社交游戏平台之一，Roblox 的此举可能成为其他游戏及社交媒体在青少年安全治理上的标杆，推动更多企业采用生成式 AI 进行内容软化处理。

未来展望

Roblox 透露，改写系统将在未来几个月内进一步扩展至语音聊天和视频字幕，实现跨模态的文明引导。同时，公司计划开放 API，允许第三方开发者基于同一模型构建自定义的社区治理工具。随着模型能力的提升和监管要求的收紧，AI 驱动的实时内容软化有望成为数字社区的标准配置。

“实时改写帮助保持游戏体验的连贯性，同时引导语言向更合适的方向发展，”Roblox 用户与发现产品副总裁 Rajiv Bhatia 在新闻稿中表示。