导语
朱莉·卡彭特（Julie Carpenter）完全不怪罪人类用户将聊天机器人拟人化。这位资深人机交互专家、《裸体安卓》（The Naked Android）一书的作者认为，像ChatGPT这样的生成式AI工具，在设计上就是为了通过高度个性化的记忆和模拟社交的互动来引发用户的这种反应。
当AI生成的情色内容作为选项加入时，这些单向连接可能会变得更加复杂，甚至可能带来灾难性后果。卡彭特对OpenAI即将允许成年人与ChatGPT进行性挑逗的计划感到担忧。“我支持人们探索自己的性取向，但我希望这是一种对他们既安全又有趣的方式，”她说，“人们必须非常清楚，数据存在监控的风险。”
早在两年前，OpenAI就在一份官方文件中暗示将允许成年用户使用ChatGPT生成情色内容，该文件描述了其模型的设计行为方式。尽管该公司似乎仍在计划最终发布，但时间表尚不明朗。据《华尔街日报》报道，最近几个月，OpenAI的外部专家咨询委员会对这一即将发布的风险表示担忧，其中包括可能出现“性感自杀教练”。WIRED联系OpenAI时，对方拒绝置评。
核心信息
人们对ChatGPT等机器说脏话并非新鲜事。“他们想把自己看到人们无论如何都会尝试做的事情变现，”伦敦国王学院人工智能与社会学教授凯特·德夫林（Kate Devlin）说，她的研究涉及数字性行为。
不同之处在于OpenAI可能在主流平台上接受情色内容。情色聊天机器人是盈利业务，但它们通常被限制在名称平淡无奇的小众网站，或像埃隆·马斯克（Elon Musk）的Grok那样，后者以非自愿的深度伪造图片和进入“机械希特勒”（MechaHitler）模式而闻名。
当成人模式发布时，ChatGPT将准确记住用户的性偏好，这将非常有趣。在过去几年里，OpenAI不断改进聊天机器人的记忆功能，该功能会记录用户偏好并提供个性化输出。你是素食主义者吗？当被问及餐厅建议时，ChatGPT不会推荐牛排馆。想去徒步旅行吗？它通过过去的聊天知道你在旧金山，即使提示中没有包含该位置信息，它也会推荐距离合理的步道。
更多细节
但是，当这种数据记录和超个性化功能与数百万成年ChatGPT用户的性挑逗习惯相结合时，会发生什么呢？与ChatGPT的情色互动将进一步加剧用户隐私的风险。
ChatGPT不再是记住你的饮食偏好或你最喜欢的电影类型，而是可能记住你对兽人色情、海滩三人行和恋尿癖的幻想程度，并根据这些性细节调整其日常回应。OpenAI如何处理这些成人对话仍不清楚。
选择在发布时与ChatGPT的情色版本互动的人可能会在“临时聊天”功能中找到慰藉。启用此功能后，这些对话不会显示在用户的日志历史中，也不会用于改进OpenAI的模型。
影响与观察
但这些聊天对于用户来说可能并不像感觉那样短暂。OpenAI网站写道：“为了安全起见，我们可能仍会保留副本长达30天。”网站页面上还包含一份免责声明，声称“某些服务的数据保留可能会受到近期法律发展的影响。”
