推荐阅读：一个失败的 AI 女友产品，以及我的教训：来自一位中国开发者的总结

摘录部分内容：

“11Labs 官网会记录语音合成的文字内容，我看到，Dolores 的回复内容通常都是一些成人内容，而且均为女性角色，因此我推测 Dolores 的付费用户主要是男性，对成人角色扮演感兴趣。”

“8 月份，OpenAI 的审查升级了，我收到了检测 Dolores 生成 NSFW 内容的邮件警告：我被强制要求在 2 周内在生成内容前，加入他们（免费的）moderation API，以过滤 NSFW 内容。为了顺利过审，我只能使用 OpenAI 的免费审核 API 提前进行内容过滤，而这一变化让 Dolores 的日均访问量暴跌 70%，电子邮件和 Twitter 上的投诉也纷至沓来。”

“首先，这不是一个个人能开发的产品。我不认为 Dolores 在“意识”层面上比 https://t.co/wxcHtQjjT7 弱，但他们拥有完善的数据埋点、A/B 测试，以及大量用户带来的数据飞轮。

其次，我意识到当前的 AI Friend 会不可避免地变成 AI Girlfriend/Boyfriend，因为你和手机里的角色不对等：她没办法在你摔伤的时候安慰你 (除非你告诉他)，她没办法主动向你表达情绪，而这一切，都是因为她没有外部视觉。所以我认为，即使是 https://t.co/wxcHtQjjT7 这样体量的产品，如果未来不做硬件、角色们都在傻傻地等用户来，最终的结局也不会比 Dolores 好到哪里。

最后，我不反对审查，相反，不经审查的的产品是非常危险的。我不知道是否会有人用它来进行自杀诱导、发泄暴力工具，所以 OpenAI 的 moderation 可能在某种程度帮助了我，但成人性方面的对话也不应该被扼杀。”

https://t.co/yCAR8lGodM

点击图片查看原图