前Meta新闻主管Campbell Brown警示：AI信息真实性缺失亟待行业自律

背景

Campbell Brown 曾是 Facebook（现 Meta）唯一的新闻主管，长期关注信息真实性。2024 年 ChatGPT 公测后，她预感到生成式 AI 将成为信息传播的主渠道，却发现业界对“准确性”关注不足。于是她在纽约创立 Forum AI，致力于让大模型在高风险议题上达到专业水平的可信度。

Forum AI 的评估框架

• 选取专家：邀请 Niall Ferguson、Fareed Zakaria、Tony Blinken、Kevin McCarthy、Anne Neuberger 等领域权威，共同制定评估标准。
• 构建基准：围绕地缘政治、心理健康、金融、招聘等四大“高风险主题”，设计多维度问答和情境任务。
• 训练 AI 判官：让模型在大量标注数据上学习，目标是与专家共识达到约 90% 的一致率。
• 持续迭代：每轮评测后收集错误案例，更新基准并重新训练，形成闭环改进。

关键发现与挑战

1. 模型偏见：Gemini 在检索信息时频繁引用中国共产党官网的表述，即使问题与中国无关，显示出数据源偏向。
2. 政治倾向：大多数模型在美国政治议题上表现出左倾倾向，答案往往缺少保守派视角。
3. 上下文缺失：模型常忽略前后文，导致答案片面甚至出现稻草人论证。
4. 细粒度错误：在金融场景中，模型误将某些债券评级解释为信用评分，可能误导用户做出错误决策。

“还有很多简单的修复可以显著提升结果，”Brown 在接受 TechCrunch 采访时指出。

行业影响与建议

• 企业责任：金融、保险、招聘等使用 AI 决策的公司对错误承担法律风险，必须将准确性置于首位。
• 合规压力：纽约市首部招聘偏见法已要求 AI 审计，而实际审计多停留在形式检查，缺乏深度评估。
• 技术路径：仅靠通用大模型无法满足高风险场景，需要 领域专家驱动的微调 与 可解释性评估。
• 生态合作：Forum AI 正在与行业协会、监管机构合作，推动统一的高风险基准标准，期待形成“行业共识”。

前景展望

Brown 认为，AI 未来的走向仍有两条路：一是继续追求用户点击和黏性，二是围绕真实、诚实、可信构建产品。她看好企业客户对合规与风险控制的刚性需求，认为这将成为推动模型质量提升的主要动力。若行业能够在评估体系、数据治理和监管配合上形成合力，AI 有望在信息真实性方面实现突破，避免“信息茧房”进一步加深。

本文依据 TechCrunch 报道整理，旨在提供客观行业分析。