Anthropic 的 Claude Mythos AI 据称能力惊人，但我们不应被这种炒作冲昏头脑。
你好，欢迎来到 TechScape。我是主持人 Blake Montgomery，《卫报》美国科技版编辑，在我位于 Pokopia 的快乐小村庄向你写信。
关于 AI 的真相究竟在哪里？
人工智能公司会做出强大的产品，也会提出夸张的说法。
上周，Anthropic 发布了专注于网络安全的 AI 模型 Claude Mythos。围绕其据称具备的能力，外界既兴奋又恐慌。不过这里有一个问题：公众根本无法接触到它。OpenAI 也在上周末宣称，它同样开发出了一款能力惊人的网络安全 AI。
Anthropic 称 Mythos 是网络安全行业的一次“清算”，因为这款新工具已被证明极其擅长暴露软件弱点。按照 Anthropic 的说法，Mythos 揭示了常用应用中的数千个漏洞，而这些漏洞目前并无补丁或修复方案。这促使这家初创公司与网络安全专家组成一个名为 Project Glasswing 的联盟，以加强对黑客攻击的防御，并限制该模型的广泛分发，有点像一部只在洛杉矶和纽约上映的艺术电影。
Shakeel Hashim 在《卫报》的一篇评论文章中写道：
公司声称，Mythos 已经在所有主要浏览器和操作系统中发现了漏洞。换句话说，这个新的 AI 模型或许能够帮助黑客破坏世界上许多最重要的软件。
如果这项技术被广泛获取，而且真如 Anthropic 所说那样强大，其影响可能是灾难性的。网络攻击早已不只是数字世界的问题。我们在现实世界中几乎所有依赖的事物都涉及软件。近年来，机场、医院和交通网络都曾被网络攻击瘫痪。到目前为止，这种规模的攻击仍需要相当专业的能力。Mythos 则会把这种能力带到业余人士触手可及的范围内，并进一步放大专业人士制造破坏的能力。
不过，网络安全专家已经开始反驳 Anthropic 的说法。我的同事 Aisha Down 报道称：
目前还不清楚 Anthropic 是否真的造出了“机器之神”。但更明显的是，这家位于旧金山、广泛被视为“负责任”AI 公司的初创企业，非常擅长营销。
进攻型网络安全专家 Jameison O’Reilly 说：“Mythos 确实是一项真实进展，Anthropic 严肃对待它是对的。”但他也表示，Anthropic 的一些说法，比如它在主要操作系统中发现了数千个“零日漏洞”，对现实世界的网络安全考量而言，并没有那么重要。
2017 年，BuzzFeed News 的科技编辑曾说，欲望工程学是 Apple 最大的优势。我同意这一点，而 Anthropic 似乎也拥有类似的天赋。技术本身很强大，对注意力的操控同样强大。就像 Apple 真正具有变革性的 iPhone 一样，Claude 不是空谈。企业对它的编程能力需求旺盛。Apple、Nvidia、Google、JPMorganChase、Amazon Web Services、Broadcom 等严肃的大公司都已与 Anthropic 在 Project Glasswing 上合作。不过，“这个东西你不能拥有，它太强了”这种说法，本身也是一种聪明的营销。没有什么比“不给你”更能激发欲望。根据 Bloomberg 的报道，上周在旧金山举行的 HumanX AI 大会上，Anthropic 是最受关注的话题。
自生成式 AI 出现以来，炒作一直遮蔽着公众对这项技术的理解。记者和更清醒的观察者也一直在试图刺破这种迷雾。2019 年，Slate 曾发表文章《OpenAI 称其文本生成算法 GPT-2 危险到不能发布》（感谢 X 平台用户 @Banteg 在一条推文中重新翻出这篇报道）。这些标题之所以看上去相似，可能是因为 Anthropic CEO Dario Amodei 曾任 OpenAI 研究副总裁，并于 2020 年离开该公司。OpenAI 也曾将其视频生成器 Sora 长时间限制在小范围内发布。那毁掉了我们所熟知的好莱坞和电影制作吗？没有。这家公司在上个月底关闭了 Sora。
与数字安全彻底终结相比，对于简单文本生成风险的担忧如今可能显得有些过时。但我们已经走出 2019 年那种恐惧，这一事实指向一种令人欣慰的可能性：我们也会走出今天对网络安全崩塌的恐惧，最终停留在当前现状与夸张未来之间的某种中间现实里。
延伸阅读：AI 公司知道自己存在形象问题。资助政策论文和智库，能帮它们摆脱困境吗？
Reworked：《卫报》关于 AI 与未来工作的系列
科技公司正在裁员，并把赌注押在 AI 上。但回报远未得到保证。
“有很多绝望情绪”：有技能的年长劳动者转向 AI 培训以求维持生计。
“上面写着你的名字，但我觉得那不是你”：AI 如何在 Spotify 上冒充音乐人。
《卫报》一项调查如何揭露 Facebook 和 Instagram 上的儿童性贩运
两周前，在新墨西哥州，Meta 因未能阻止儿童在其平台上被买卖而输掉了一场涉案金额达数百万美元的法律诉讼。《卫报》资深撰稿人 Katie McQue 挖掘出的证据，成为这起针对这家科技巨头案件的一部分。她在上周的一篇文章中详细介绍了自己的调查报道过程：
一切始于一条线索。当时我正在报道海湾地区移民工人的贩运与剥削问题，一位我认识超过十年的消息人士联系了我。对方告诉我，美国涉及儿童性虐待的贩运活动正在激增。随着 Covid 疫情把掠食者推向线上，其中一些人正利用 Facebook 和 Instagram 买卖儿童。
那是 2021 年，我即将与人权记者 Mei-Ling McNamara 开始一项调查，这项调查最终导致科技公司 Meta 在今年 3 月输掉了一场金额达数百万英镑的官司。那时这家公司还没有改名，仍叫 Facebook；当时也还没有关于儿童如何在其平台上被贩运的报道。反贩运非营利组织的专家和一名美国执法官员向我介绍了他们所看到的犯罪情况。
我后来了解到，Facebook 和 Instagram 上的大量贩运活动发生在平台的非公开区域，例如 Facebook Messenger 和 Instagram 私密账号中。贩运者会寻找青少年作为目标并进行诱骗，之后再向性交易买家发布信息。
2022 年 7 月，我们前往华盛顿特区，探访由非营利组织 Courtney’s House 运营的一处安全屋。那里照顾的是有色人种少女，她们要么是贩运幸存者，要么正在遭受贩运。
这处地点并不公开，我们直到约定时间前一小时才收到地址。Courtney’s House 由 Tina Frundt 运营，她本人是贩运幸存者，也曾在 Obama 政府时期担任美国人口贩运问题顾问委员会成员。
点击这里阅读她这篇时间线式报道的全文：《“一切始于一条线索”：一项《卫报》调查如何揭露 Facebook 和 Instagram 上的儿童性贩运》。
点击这里阅读她的完整调查：《Facebook 和 Instagram 如何成为儿童性贩运的交易市场》。
更广泛的 TechScape
“感觉像是我交到了一个新的最好的朋友”：我关于 AI 日记记录的实验。
