绷不住了，Anthropic 竟然出来号召大伙儿把手头的 AI 建造停一停。

昨天，他们奏凯发了篇著作，奉劝大伙儿防卫 AI，因为以后，它可能我方就能建造我方，不需要东谈主了。。。

看到这个讯息，世超奏凯摊在桌子上，仿佛看到核弹爆炸 （ bushi。。。

在著作终末，Anthropic 还命令民众别卷了，应该搞一套监督民众的机制。

这套机制应该能让这些过劲的公司之间彼此说明，说明系数东谈主都躺平，而不是在背地里暗暗卷着磋商 AI。

这个说法可谓是一石激起千层浪，帖子发出来不外半天，浏览量就干带到了 1000 多万。

世超也飞速去 A 社的官网拜读了一下这份请教，然而看完就发现存点不对味了。

陋劣来说，它确切号召慢点建造了，但念念让民众慢点建造不太可能。。。

我们把它从新来给民众捋捋。

这篇著作的标题是 “ When AI builds itself ”，当 AI 自我迭代时。

陋劣来说，Anthropic 合计 AI 现时依然变的越来越过劲，过劲到足以我方给我方作念改正，我方给我方作念建造。

2025 年 2 月的时候，他们的库里 9 成以上的代码如故靠工程师手搓的，但当 Claude Code 发布以后，截止到本年 5 月，这个比例依然着落到了 2 成。

以至有 Anthropic 的职工奏凯利索承认，说我方依然快五个月没写过代码了。

AI 写的代码除了数目不断变多以外，质地也变得越来越高。

底下这张图展示了 AI 濒临四种不同难度任务时的完成率，不错看到这几个月以来，跟着模子智商的不断提高， AI 完成各式难度任务的得胜率也在不断变高。

即使是那种最难的，莫得圭臬谜底的绽开性问题，Claude 也有 70% 驾驭的概率能把它作念完。

而这个概率在客岁九月，如故 20% 不到。

从黄色到蓝色辨别是：极端陋劣的任务、旧例任务、本质性任务、绽开式问题

除此以外，Anthropic 里面的好多东谈主都暗意，现时，东谈主类和 Claude 敲的代码，质地上如故五五开，但一年，只需要一年后，大局就会被绝对逆转，Claude 写出来的代码质地将全面荒芜东谈主类。

莫非，东谈主类真药丸？

对此，Anthropic 暗意我特喵的也不知谈，他们干脆给东谈主类改日打算了三种结局。

第一种结局是无事发生，假定因为各类原因，今天的 AI 依然发展到尖端了，开云体育2026世界杯中国官网因为什么缺卡缺电，缺水缺算法啥的原因，AI 的改日依然嗝屁了。

天然，Anthropic 合计这种改日不太可能发生。

第二种假定章是合计 AI 的发展会连接量变，但积存不到质变的进程，东谈主跟 AI 一王人，造出安全简直的系统。

此时 AI 会承担大部分肖似职责，但审查和指点权仍然抓在东谈主的手里，只不外是变装的迂曲。看起来属于是个没啥大问题的好结局。

第三种即是发轫所惦记的那种了，AI 掌抓了弥散渊博的创造力，结束了系数的自动化迭代，

模子智商的擢升中，算力成了独一成分，东谈主类或将不再首要。

在这个经过中，AI 可能会变得绝对听话来帮东谈主类好好干活，也可能会开脱东谈主类的规矩绝对失控。再往后，就没东谈主偶然瞻望了。

是以才有了背面的命令，命令民众搞一套能彼此监督，全员躺平的探索机制，让全寰宇参与到这件事儿中，来确保民众能随时给 AI 磋商来踩一脚刹车。

咋说呢，世超看完的第一本事其实会嗅觉它说的好像有点道理，米兰体育MILAN中国官网然而迂曲一念念就嗅觉不对啊。

Anthropic 天然给民众说了三种可能的改日，但本质上，一是被他们抵赖的以前，二是咱正履历的现时，而三，才是 A 社真实暗意担忧的改日。与其说是三种可能，倒不如说是层层铺垫。

况兼整篇著作看下来，好多半据都是他我方界说、我方集聚、我方诠释，以至我方评价的。既是考生又是考官，服从上么，些许得打点扣头。

再者，这 AI 研发是你说暂停就能暂停的嘛？这玩意又不是核能，搞个 “ 不扩散 ” 合同就能大伙儿一王人来监管了。

AI 这种有个数据中心就忽闪的活，根蒂没啥办法监管吧？

总不成让每家公司都彼此之间绽开系数的数据区，让民众彼此之间能看到我方在拿显卡干啥吧？

真要搞这样透明，提出 Anthropic 先学习一下若何开源模子？

否则这种话说出来属实是没啥劝服力。

况兼 Anthropic 此次提提出的本事还很玄妙，这家公司的魄力不错说一直都是颇有争议。

作念出过劲模子的公司好多，然而风评能那么永远如一的就唯有 A 社一家了。

翻开 A 社官网，看公司先容时，你能嗅觉到它险些每个字都在向你强调安全。

你能翻到他们从产物到行使的全套安全处罚门径，以至还有给 Claude 单独撰写的安全宪法。

然而这些安全门径真灵验嘛？只可说现实情况要复杂的多。

前几年的时候，A 社就甘愿过，说除非公司提前确保了安全门径准备妥贴，否则不会开动锻练新模子。

但很快他们就撤离了这个甘愿。。。

在本年 2 月，濒临《期间》周刊的采访时，他们的首席科学家暗意，这种片面的甘愿并不对理，公司可能琢磨捣毁。

说白了，安全和发展这俩词，在硅谷就像是个箩筐，那儿需要那儿装。

当理念念想法碰上生意竞争，刺刀见红，所谓的安全经常也得给季度财报和市集份额闪开。

比如之前猖獗渲染慌乱的 OpenAI 奥特曼，最近就悄悄改了口风，之前还说 AI 会取代大部单干作，但最近就改了说法，承认我方之前的判断有点温存了。

英伟达的老黄就更激进了，他在采访里暗意，现时的好多言论极其科幻，戏剧化且毫无匡助，不知谈为什么有的 CEO 会念念饰演天主，夸大恐吓来吓唬大伙儿。

咱天然不知谈他在点谁吧，但也能看出，即使都在 AI 最前沿，民众的意见亦然不尽疏通的。

正所谓屁股决定脑袋，看他们的不雅点还得看他们所处的情况。

本质上，最近这一个俩个月，Anthropic 的日子过的算不上极端好。

他们 3 号刚推出的 Claude 4.8 略显拉垮，再也没了也曾的断档跳跃之感。

而隔邻的 OpenAI 更是三军出击，在编程和图像生成鸿沟奏凯两吐花，况兼奥特曼天天在网上名目找情理重置 Codex 的额度，奏凯成了各路建造者心中的超等大善东谈主。

而 Anthropic 这边，为了能搞到更多的显卡，更多的算力来作念出更强的模子，奏凯开动选用了提交 IPO 央求，开当作念起了融资上市的准备。

一来一趟的，成分越叠越多，就让这号召看起来也就没那么有劲了。

看到这，世超念念起来本年去 Google I/O 的事了，其时 DeepMind 的 CEO，哈萨比斯在现场告诉民众：

现时我们正站在 AI 奇点期间的山麓。

斥逐咱还没往上爬两步呢，A 社就在前边把头扭过来，告诉你山上有风险，攀高需严慎，为了民众的安全，我们如故一王人都别爬了吧。

倒也有点道理，毕竟这些大厂的顶尖磋商员确定能看到更多东西。

但些许像是清秀而毋庸的鬼话。

因为尽人皆知，只消山在那儿，东谈主是一定要登上去望望的。

米兰体育MILAN