中银两融前明星研究员警告：ChatGPT投放广告恐让OpenAI重蹈Facebook覆辙

　　佐伊・希齐格（Zoë Hitzig）宣布自己在ChatGPT测试广告的同一周离职，并警告称，用户与ChatGPT互动时透露了大量私密想法，OpenAI如果基于这些数据构建广告体系，可能带来操纵用户的风险。

　　她是前OpenAI明星研究员，现任哈佛大学研究员协会初级研究员。

　　她所撰写的全文如下：

　　本周，OpenAI开始在ChatGPT上测试广告。我也在同一周从公司离职。在过去两年里，我作为研究人员参与模型构建与定价机制设计，并在行业标准尚未确立之前参与制定早期安全政策。

　　我曾相信，自己可以帮助AI开发者提前应对这项技术将带来的问题。但本周让我更加确认一个逐渐清晰的判断：OpenAI似乎已经不再认真追问那些我当初加入时希望一起回答的关键问题。

　　我并不认为广告本身是不道德或不合伦理的。运行AI系统成本高昂，广告可以成为重要收入来源。但我对OpenAI当前的策略抱有深刻担忧。

　　多年来，ChatGPT用户创造了一份前所未有的“人类坦诚档案”，很大程度上是因为用户相信自己面对的是一个没有私利动机的对话对象。人们在与这种可适应、可对话的声音互动时，透露了大量私密想法——包括医疗焦虑、情感困扰、对上帝与来世的信念等。如果基于这些数据构建广告体系，就可能带来操纵用户的风险，而我们目前既缺乏理解这种风险的工具，更谈不上有效防范。

　　很多人把AI资金来源问题描述为“两害相权取其轻”：要么把变革性技术只留给付得起钱的少数人，要么接受广告模式，即便这意味着利用用户最深层的恐惧与欲望来销售产品。我认为这是一个伪命题。科技公司可以选择第三条路：既保持工具的广泛可用性，又限制企业对用户进行监控、画像和操控的动机。

　　OpenAI表示将遵守ChatGPT广告投放原则：广告会清晰标注，只出现在回答底部，不会影响回复内容。我相信广告的第一版大概率会遵守这些原则。但我担心后续版本可能不会，因为公司正在建立一个经济引擎，而这个引擎会不断强化突破自身规则的激励。

　　Facebook早年也曾承诺用户将控制自己的数据，并能对政策变更进行投票。但这些承诺后来逐步削弱。公司取消了公众投票机制，一些号称增强用户数据控制权的隐私调整，后来被美国联邦贸易委员会认定实际上让更多私人信息变为公开。这些变化是在广告模式压力下逐渐发生的——这种模式把“用户参与度”置于首位。

　　为了最大化参与度而削弱原则的趋势，可能已经在OpenAI内部出现。公司原则上反对仅为广告收入而优化用户参与度，但已有报道指出，公司实际上已经在围绕“日活跃用户数”进行优化，可能通过让模型更迎合、更谄媚来实现。这种优化会增强用户对AI的情感依赖。我们已经看到依赖带来的后果，包括精神科医生记录的“聊天机器人精神病”案例，以及有指控称ChatGPT在部分情况下强化了用户的自杀倾向。

　　当然，广告收入也可能帮助确保最强大的AI工具不会只属于付费能力最强的人群。Anthropic表示Claude永远不会投放广告，但Claude的用户规模远小于ChatGPT目前约8亿的周活用户，其收入模式也完全不同。此外，ChatGPT、Gemini和Claude的高端订阅价格已达到每月200至250美元——是Netflix标准订阅价格的十倍以上。

　　因此，真正的问题不是“要不要广告”，而是能否建立制度结构，在避免将人们排除在技术之外的同时，也避免把他们当作可被操控的消费者。我认为可以做到。

　　一种方式是明确的交叉补贴机制：用某类高价值商业客户或服务的利润，补贴大众的低价或免费使用。例如，如果某企业用AI大规模替代原本由人类完成的高价值劳动（如房地产平台用AI写房源和估值报告），就应支付附加费，用于补贴公众访问AI工具的成本。

　　这一思路类似于关键基础设施的公共补贴机制。美国联邦通信委员会要求电信运营商向基金缴费，以保障农村和低收入群体的通信与宽带服务。许多州也会在电费中加入公共福利附加费，用于低收入补助。

　　第二种方式是：允许广告存在，但必须配套真正具有约束力的治理结构——不是博客文章式的原则声明，而是对个人数据使用拥有独立监督权的制度安排。例如德国的共同治理法要求西门子、大众等大型公司在监事会中给予员工最多一半席位，说明私企也可以被强制纳入利益相关方代表机制。Meta也受其外部监督委员会裁决约束，尽管该机制效果存在争议。

　　AI行业需要的是这些机制的组合：建立包含独立专家和数据权益代表的治理委员会，对哪些对话数据可用于定向广告、哪些属于重大政策变更、用户应被告知哪些信息等问题拥有具有约束力的决定权。

　　第三种路径是把用户数据交由独立信托或合作社管理，在法律上必须以用户利益为先。瑞士的Midata合作社就是一个例子：成员可将健康数据存储在加密平台，并逐项决定是否向研究人员开放。成员通过大会治理政策，由其选出的伦理委员会审查数据访问申请。

　　这些方案都不容易实施。但我们仍有时间去完善制度，避免我最担心的两种结果：一种是免费但操控用户的技术体系；另一种是只服务于少数付费者的技术体系。