首页财产ai正文 Anthropic为何要弄AI不扩散公约 昨天Anthropic发文章招呼停AI开发，称其可能自迭代，呼吁建监视机制，帖子阅读量超万万，但其说法遭质疑，且此时该公司成长遇问题。 2026-06-08 10:46 ·差评 风华、夙起 风华、夙起 AI投资人解读· Anthropic认为AI已经强盛到能自我开发，如2025年2月其代码九成靠工程师，到本年5月降至两成，且质量不停提高。 · AI研举事以羁系Anthropic作风有争议，这次提建议时间微妙，自身成长遇挑战。 总结：Anthropic虽指出AI自我迭代趋向和潜于危害，但受自身好处和羁系难题限定，其呼吁效果存疑。内容由AI天生，仅供参考

绷不住了，Anthropic 竟然出来招呼年夜伙儿把手头的AI开发停一停。

昨天，他们直接发了篇文章，劝告年夜伙儿小心 AI，由于之后，它可能本身就能开发本身，不需要人了。。。

看到这个动静，世超直接摊于桌子上，恍如看到核弹爆炸 （ bushi。。。

于文章末了，Anthropic 还有呼吁各人别卷了，应该弄一套监视各人的机制。

这套机制应该能让这些牛逼的公司之间互相确认，确认所有人都躺平，而不是于背后偷偷卷着研究AI。

这个说法堪称是一石激起千层浪，帖子发出来不外半天，阅读量就干带到了 1000 多万。

世超也连忙去 A 社的官网拜读了一下这份陈诉，可是看完就发明有点不合错误味了。

简朴来讲，它简直招呼慢点开发了，但想让各人慢点开发不太可能。。。

我们把它重新来给各人捋捋。

这篇文章的标题是 “ When AI builds itself ”，当 AI 自我迭代时。

简朴来讲，Anthropic 认为AI此刻已经经变的愈来愈牛逼，牛逼到足以本身给本身做纠正，本身给本身做开发。

2025 年 2 月的时辰，他们的库里 9 成以上的代码还有是靠工程师手搓的，但当 Claude Code 发布之后，截止到本年 5 月，这个比例已经经降落到了 2 成。

甚至有 Anthropic 的员工直接利索认可，说本身已经经快五个月没写过代码了。

AI 写的代码除了了数目不停变多以外，质量也变患上愈来愈高。

下面这张图展示了 AI 面临四种差别难度使命时的完成率，可以看到这几个月以来，跟着模子能力的不停提高， AI 完成各类难度使命的乐成率也于不停变高。

纵然是那种最难的，没有尺度谜底的开放性问题，Claude 也有 70% 摆布的几率能把它做完。

而这个几率于去年玄月，还有是 20% 不到。

从黄色到蓝色别离是：尤其简朴的使命、通例使命、本色性使命、开放式问题

除了此以外，Anthropic 内部的许多人都暗示，此刻，人类及 Claude 敲的代码，质量上还有是五五开，但一年，只需要一年后，年夜局就会被完全逆转，Claude 写出来的代码质量将周全逾越人类。

难道，人类真药丸？

对于此，Anthropic 暗示我特喵的也不知道，他们爽性给人类将来计划了三种终局。

*种终局是无事发生，假定由于种种缘故原由，今天的 AI 已经经成长到顶端了，由于甚么缺卡缺电，缺水缺算法啥的缘故原由，AI 的将来已经经嗝屁了。

固然，Anthropic 认为这类将来不太可能发生。

第二种假定则是认为 AI 的成长会继承量变，但累积不到质变的水平，人跟 AI 一路，造出安全可托的体系。

此时 AI 会负担年夜部门反复事情，但审查及批示权仍旧握于人的手里，只不外是脚色的改变。看起来属在是个没啥年夜问题的好终局。

第三种就是开首所担忧的那种了，AI 把握了充足强盛的创造力，实现了彻底的主动化迭代，

模子能力的晋升中，算力成为了*因素，人类或者将再也不主要。

于这个历程中，AI可能会变患上完全听话来帮人类好好干活，也可能会挣脱人类的限定完全掉控。再日后，就没人可以或许猜测了。

以是才有了后面的呼吁，呼吁各人弄一套能互相监视，全员躺平的摸索机制，让全球介入到这件事儿中，来确保各人能随时给 AI 研究来踩一脚刹车。

咋说呢，世超看完的*时间实在会觉得它说的似乎有点原理，可是转念一想就觉得不合错误啊。

Anthropic 虽然给各人说了三种可能的将来，但现实上，一是被他们否认的已往，二是咱正履历的此刻，而三，才是 A 社真正暗示担心的将来。与其说是三种可能，倒不如说是层层铺垫。

并且整篇文章看下来，许多数据都是他本身界说、本身收罗、本身注释，甚至本身评价的。既是考生又是考官，效果上么，几多患上办理扣头。

再者，这AI研发是你说暂停就能暂停的嘛？这玩意又不是核能，弄个 “ 不扩散 ” 公约就能年夜伙儿一路来羁系了。

AI 这类有个数据中央就能干的活，底子没啥措施羁系吧？

总不克不及让每一家公司都互相之间开放所有的数据区，让各人互相之间能看到本身于拿显卡干啥吧？

真要弄这么透明，建议 Anthropic 先进修一下怎么开源模子？

否则这类话说出来属实是没啥说服力。

并且 Anthropic 此次提建议的时间还有很微妙，这家公司的作风可以说一直都是很有争议。

做出牛逼模子的公司许多，可是风评能那末持之以恒的就只有 A 社一家了。

打开 A 社官网，看公司先容时，你能觉得到它险些每一个字都于向你夸大安全。

你能翻到他们从产物到运用的全套安全治理办法，甚至还有有给 Claude 零丁撰写的安全宪法。

可是这些安全办法真有效嘛？只能说实际环境要繁杂的多。

前几年的时辰，A 社就承诺过，说除了非公司提早确保了安全办法预备安妥，不然不会最先练习新模子。

但很快他们就撤回了这个承诺。。。

于本年 2 月，面临《时代》周刊的采访时，他们的首席科学家暗示，这类片面的承诺其实不合理，公司可能思量抛却。

说白了，安全及成长这俩词，于硅谷就像是个箩筐，哪里需要哪里装。

当抱负主义碰上贸易竞争，刺刀见红，所谓的安全往往也患上给季度财报及市场份额让路。

好比以前疯狂衬着焦急的 OpenAI 奥特曼，近来就暗暗改了口风，以前还有说 AI 会代替年夜部门事情，但近来就改了说法，认可本身以前的判定有点马虎了。

英伟达的老黄就更激进了，他于采访里暗示，此刻的许多言论极为科幻，戏剧化且毫无帮忙，不知道为何有的 CEO 会想饰演天主，强调威逼来恐吓年夜伙儿。

咱虽然不知道他于点谁吧，但也能看出，纵然都于 AI 最前沿，各人的见解也是不尽不异的。

正所谓屁股决议脑壳，看他们的不雅点还有患上看他们所处的环境。

现实上，近来这一个俩个月，Anthropic 的日子过的算不上尤其好。

他们 3 号刚推出的 Claude 4.8 略显拉垮，再也没了曾经经的断档*之感。

而隔邻的 OpenAI 更是三军出击，于编程及图象天生范畴直接两着花，并且奥特曼每天于网上花式找理由重置 Codex 的额度，直接成为了各路开发者心中的超等年夜善人。

而 Anthropic 这边，为了能弄到更多的显卡，更多的算力来做出更强的模子，直接最先选择了提交 IPO 申请，最先做起了融资上市的预备。

一来一回的，因素越叠越多，就让这招呼看起来也就没那末有力了。

看到这，世超想起来本年去 Google I/O 的事了，其时 DeepMind 的 CEO，哈萨比斯于现场告诉各人：

此刻咱们正站于AI奇点时代的山麓。

成果咱还有没往上爬两步呢，A 社就于前面把头扭过来，告诉你山上有危害，攀缘需审慎，为了各人的安全，咱们还有是一路都别爬了吧。

倒也有点原理，究竟这些年夜厂的*研究员必定能看到更多工具。

但几多像是漂亮而无用的空话。

由于尽人皆知，只要山于那儿，人是必然要登上去看看的。

【本文由投资界互助伙伴差评授权发布，本平台仅提供信息存储办事。】【免责声明】：本文不组成任何投资建议。市场有危害，投资需审慎。若有任何疑难，请接洽（editor@zero2ipo.com.cn）投资界处置惩罚。