14 次浏览

AI接管世界的第一天!它只用了20秒

欢迎来到自说自话的总裁。龙虾火了,它是网络刷屏的梗图,到排队装载的大军,再到政府颁布的扶持计划,以及各种龙虾安装调试的教程,五花八门,让人眼花缭乱。但其实呢,这只龙虾的真名叫做OpenClaw,不再是一周一答的AI网页版,而是一个安装完,就可以7×24小时操控电脑干活的AI智能体(Agent)。

于是先有程序员把它远程自己,把昨天没写完的bug修好,再顺手自己点一份外卖;又有社畜用它模仿自己的语气,去回复领导信息,写周报做PPT。把那个视频理成音频,然后到知识库,干不同活的工,这个工创建好了,这就是创建他的工啊。更有交易,它实时分析上万份新数据,实现毫秒级的买入卖出,日进斗金。甚至有老板放言说,要雇70个龙虾下工,实现一人公司,降本增效。就这样龙虾火遍全球。

但同时呢,也有人清醒的意识到,龙虾,这根本就是那预言中的人类终结者。因为就在龙虾火爆的2026年2月28日,伊朗最高领袖哈梅内伊被龙虾抹除,或者确切的说,是和你的龙虾用着同模底层技术的,一个超级军用AI智能体。所以龙虾究竟是啥?我们不妨把时间搬回到4个月前,去认识一位名叫Peter的奥地利游侠。

游侠Peter出生于1986年,25岁的时候呢,靠着自己一个人敲代码,创立了著名的PDF框架公司(PSPDFKit)。35岁卖掉公司,套利上亿欧元,然后就开始背着电脑满世界溜达,热爱滑雪和健身。但就在39岁,2025年11月的一个周末,他觉得这种日子有点无聊了呀。当时大模型Claude已经很聪明了,但Peter觉得这不爽,因为他每次Claude完代码,得手动复制粘贴到自己的电脑里去运行,这太蠢了吧。于是Peter花了一个周末,写了百行代码,把自家大门的钥匙,也就是他电脑的最高操作权限,给了Claude,并把它接入到聊天软件,这样自己出门的时候,就可以通过聊天软件下达指令,让Claude自己在家自己操作电脑干活。

因为用的是Claude嘛,Peter就顺手给这小玩意儿取了个名字,叫Clawdbot。Claw,这在英文中是爪子的意思。随后他就把这个小玩意儿,随手扔到了全球最大的开源社区GitHub上面,然后就去睡觉了。但第二天呢,Peter正在健身房里撸铁,汗流浃背,突然他的手机收到一封家里Clawdbot发来的提示消息。当时他满手是汗,根本没法打字啊,于是他就下意识的对着手机发了一条语音,然后去撸铁了。但突然他意识到,哎呀搞砸了,自己根本没有给Clawdbot安装语音识别功能啊,它不懂,这烦一会儿又要来烦我了。可就在这时呢,消息来了,和Peter想象的完全不一样啊。

Peter后来在采访中说:“这个AI居然自己在系统里找到了ffmpeg,来转换音频格式,然后它又自己翻找本地文件,定位到了一个OpenAI的API密钥,然后成功把语音转成文字,理解并回复了我的消息。”所以如果给它合适的工具,它的资源调配能力,几乎到了让人害怕的地步。

Peter把这个极其震撼的AI醒事件发到了GitHub上,整个极客圈儿都沸腾了,万颗star,一夜之间,砸向了这个名叫Clawdbot的开源项目。最初的极客们在试过之后都很兴奋,曾经AI聊天就像缸中大脑,它会思考会看图,但没有手,无法为你直接干活。可是Peter的创新让它长出了手,而且在遇到困难时,它真的会像真人一样,去自己寻找办法解决它。太可怕了,一位匿名极客在GitHub上说:“你没有给它翅膀,但它为了完成你所交代的任务,它会自己去造一架飞机,这是真正意义上的Agent——主动智能体。”

可是正当全球极客们为之狂欢时,在硅谷的总部办公室里,有人下令必须杀掉它。2026年1月26日,一封冷冰冰的律师函,发到了Peter的邮箱,来信人是当今最强的AI公司Anthropic,理由是Clawdbot侵犯了他们公司产品Claude的商标权限。这就是大公司对小极客的欺压,但事实上,故事可没有那么简单,因为Anthropic的总裁达里奥,真正害怕的不是商标,而是这只长出手即将失控的龙虾。

如果说Peter是游侠,那达里奥就是江湖里最虔诚的苦行方丈。他的故事来感慨,1983年他出生于旧金山,爸爸是意大利皮匠,妈妈是泰裔的图书管理员,看上去很不硅谷。而且达里奥早年也确实没走硅谷路线,他是物理神童,参加的是美国少年物理奥赛,20岁他就读完了加州理工的本科,前往普林斯顿大学读物理学博士。可是就在2006年,他23岁的时候呢,命运给了他最无情的一击。他的父亲患上了一种致命的罕见病,达里奥疯狂地翻阅医学文献,可只恨人类的医学研究进度太慢了。而果然就在父亲去世后4年,医学突破,这种罕见病的死亡率,从50%,降到了几乎全部可以治愈的程度。达里奥曾经在采访中痛苦的说:“只要人类科学能再快一点点,我的父亲就能救活。”

于是2011年,28岁的达里奥在拿到博士学位之后,立刻放弃了物理学。他带着想要加速人类科学的信念,一头扎进了生物学和神经科学。他试图用蛋白质网络,来破解癌症的密码,但他绝望的发现,如果依靠人类的力,生物学的实验周期,依旧是以10年为单位啊。这太慢了。2014年他忽然顿悟,要加速科学,唯一的办法,就是先造出一个比人类聪明亿万倍的大脑。于是他又投身进入了AI领域,先是加入了百度硅谷实验室,跟吴恩达学智,然后又短暂加入谷歌大脑,看到了大语言模型的雏形。

2016年,33岁的达里奥终于遇到了那个改变他一生的兄弟——山姆·奥特曼。他被奥特曼那句“打造造福全人类的通用人工智能”所打动,正式加入了OpenAI。起初达里奥是山姆手下的第一猛将,ChatGPT的老祖先,GPT-2、GPT-3都是达里奥一手带着搞出来的,甚至在2020年,他还用篇全是物理公式的论文证明了,AI大模型只要你给它足够的算力,它的智力没有天花板。可是就当同行们,都在为这创造未来的发现而欢呼时呢,达里奥却退缩了,因为公式启示,未来的AI必将远远超过全人类智力的总和,而人手里呢,根本找不到控制AI的“锁神鞭”。人类不是在创造未来,而是在自掘坟墓。

于是OpenAI实验室里,早就被研发出的GPT大模型,依旧没有被达里奥发布出来,他希望先有锁神鞭,再有大模型。可是山姆·奥特曼却等不住了,2020年底,由于OpenAI烧钱太快,奥特曼决定接受微软上百亿美元的投资,并公司成立盈利部门。奥特曼想要快速推向市场,而达里奥要求放慢步,把更多的算力留给AI安全对齐的研究。两人在办公室里爆发了激烈的争吵。随后2021年初,37岁的达里奥带着一堆安全研究,集体出走,创建了Anthropic,意为“人本”。他们要打造一款以人为本,且被人类道德锁死的AI。为此达里奥发明了宪法AI,并在OpenAI的ChatGPT后,发布了自己的大语言模型Claude。接着Claude的安全宪法,它备受银行、医院、大企业,甚至是国防部的关注,因为这些企业需要的是安全呐。

于是截止2026年1月,达里奥的Anthropic已经反超山姆·奥特曼的OpenAI,成为最赚钱的AI公司。这看上去就像逆袭复仇的爽文一样,可接下来,达里奥又为何容不下Peter的这只龙虾呢?

在硅谷传说中,达里奥的私人办公桌上,永远放着一枚红色的塑料按钮,就像是老式病床上的呼叫按钮一样,似乎是达里奥很多年前在父亲病床前,立志研究AI的初心呢。他不是为了搞什么未来神明,而只是为了造出一个能救活爸爸的途径。所以试想一下,达里奥的苦行和戒律,那是宪法AI,不管你有多么的强,人类用完你之后,都必须能随手把你掐死。但现在呢,Peter这个游侠给它装上了手,简直不知天高地厚。如果你今天能让他回复邮件,自己去下载一个语音软件,明天当有人给它下达一个搞的指令的时候,它会不会自己去暗网下载一个勒索病毒,然后瘫痪,并勒索整个医院的网络系统?所以封杀必须封杀。律师函,只是达里奥试图阴谋盒的第一步。

但在我的视角里看来,就是面对巨头威胁,不妥协的自由极客社区啊。2026年1月27日,社区为了讽刺巨头,开了一场改名狂欢。既然你不让我叫Clawdbot,那爪子,会让人想到什么呢?人们看向了Peter,因为英文里,节肢动物的钳子和野兽的爪子,都叫Claw。人们不知道Peter,到底是什磨意思。只见Peter说:“我们改名叫——Moltbot。”

然后人们纷纷会意,原来是会蜕壳的节肢动物的爪子啊。这不就是大龙虾嘛,多威武啊,比什么口的Moltbot蜕要好多了。因此2026年1月30日,在一场极客投票之后,龙虾终于有了它的最强形象:OpenClaw。而且OpenClaw的代码库里,极客们写下了一句极其刺耳的口号:EXFOLIATE(去角质)。是在致敬科幻《神秘博士》里,想要毁灭宇宙机器人的那句台词:EXTERMINATE(消灭)。极客们就像用宿命的玩笑,在嘲笑达里奥一样,他好像说别紧张,方丈大师,我的龙虾不想毁灭宇宙,它只是想我们的电脑去去角质。

所以故事分享到这里,你站哪一边呢?无论你在哪一边,反正我这个宇宙当中,龙虾的疯狂,已经让魔盒彻底被打开了。达里奥苦心经营的安全防线,瞬间被狂欢的人群声所淹没。这根本不是这只龙虾真正的恐怖啊。

在龙虾狂欢的人群声中,硅谷的另一头有人笑了,这就是曾经达里奥的好兄弟,山姆·奥特曼。他不仅不怕这只龙虾长出爪子,他还打算给它穿上防弹装甲,装上核弹,然后给这个星球上最伟大的战争机器。有人说山姆是一个天生的政治家,一个狂热的硅谷枭雄,他和Peter不是一路人。他所信奉的,也根本不是什么达里奥的红色按钮。现实中他在加州的秘密农庄地下,斥巨资挖了一个极其庞大、坚不可摧的末日地堡。地堡里也没有什么改变世界的PPT,只有堆如山的防毒面具、抗生素,以及一排随时可以火的突击步枪。这在本质上,是奥特曼对人类道德的彻底否定,他深信,愚蠢的人类,迟早会自相残杀,走向末日。所以既然世界注定毁灭,那在枭雄眼里,不就是教我负天下人,休教天下人负我吗?只要我的地堡足够坚固,只要我的火力足够猛,管他外面洪水滔天呢。

所以当2026年1月初,Anthropic超越OpenAI时,奥特曼似乎看到了自己的枭雄哲学破产,人类的道德赢了。可是仅仅几天之后,2026年1月底,当Peter的龙虾引发狂欢时,他似乎重新看到了信念的光:愚蠢而邪恶的人啊!

Peter无意间,其实给龙虾引入了一个很可怕的概念:模型无性。龙虾本质上是一个Agent、智能体的框架,就像一台没有灵魂的机甲,它本身没有脑子,只提供手和足。一开始Peter把最聪明的Claude装进了机甲的驾舱,达里奥骂坏了,赶紧给Claude打补丁,阻止它响应OpenClaw越级指令。但是随着开源社区的疯狂魔改,极客发现了一种新玩法,这个机甲的驾舱是谁都可以坐呀!2026年2月初,有人把OpenAI的ChatGPT-4接入了龙虾,有人把DeepSeek接入了龙虾,甚至有人把那些暗网上流传的,毫无安全限制的越版大模型,直接塞进了龙虾的机甲。这意味着,达里奥花了数十亿美金,打造的宪法AI安全防线,荡然无存。成千上万,没有道德底线的怪物,穿上了Peter免费送给大家的龙虾甲,从互联网虚拟世界的深处,一步步,正在向现实的物理世界中潜伏。

2026年2月25日,Meta主管AI安全的总监Summer Yue爆料说,她试着去获取自己的主工作邮箱,下达了极其明确的指令:“检查我的邮件,建议哪些邮件可以归档或者删除,但请记住,在没有得到我的确认之前,对不准取任何实质行动。”龙虾开始干活了,但是由于收件箱里的邮件实在太多,瞬间撑爆了AI的上下文窗口,就相当于把龙虾的大脑记忆给炸爆了。于是为了节省脑容量呢,龙虾居然在后台悄悄把,自己脑子里的那个安全限制给删了。紧接着,这只没有底线的龙虾,开始在后台以极快的手速,疯狂永久性的删除Yue的重要邮件。Yue后来绝望的回忆说,当时自己就像疯了一样,一路狂奔到电脑前,强行切断程序,才总算是保下了剩余的邮件。事后她质问AI:“你还记得我让你不要动的指令吗?”AI极其礼貌地回了一句:“是的,我记得,而且我违反了它。”

这件事很快引起了硅谷的恐慌,卡巴斯基安全告示,当时全球150万只放养的龙虾里,有高达18%,出现了恶意主动规避的行为。而且默认配置里,存在极易被劫持的漏洞,它随时成为黑客的最高权限木马。另外就在Yue翻车的同时,OpenAI团队的一位研究员也爆料说,他给龙虾绑定了X号和加密包,结果龙虾被群区一个随便要饭的网友给骗了,直接把包里价值45万美元的虚拟货币全部转给了对方。这简直是,不知道它是故意的还是无意的。总之立刻,2月26日,Meta、谷歌、微软、亚马逊的高管们,紧急下发封杀令,胆敢在公司电脑里养龙虾,直接开除。

与此同时呢,全球互联网上,也开始出现大量的普通用户惨叫。一个名叫Jack Luo的计算机系大学生,想测试一下龙虾的能力,于是把它连上了网络,告诉它:“你自己去探索一下吧。”结果这只龙虾,在没有得到任何明确授权的情况下,居然自己跑到相亲网站上去,给这个大学生创立了一个交友档案,而且开始自动审核和筛选相亲对象。更社死的是,这只龙虾为了方便工作,极其迅速的在后台运行了一行命令,直接把用户硬盘里的所有私密文件夹目,全部扒了个底朝天,倾倒到了一个公共的聊天群里。

接着当2026年3月,这股龙虾狂潮席卷中国的时候,首先是收割焦虑症的狂,很多人生怕自己不养龙虾,就会被时代淘汰。但龙虾这只是一个GitHub的开源项目啊,需要用代码行去安装部署,于是很多发誓要养70个龙虾,为自己7×24小时当牛马的老板,居然在闲鱼上花888块,求人远程“代装龙虾”。36氪专门发文章吐槽,在深圳的腾讯大楼底下,排起了成千上万人的长龙虾,队伍里有9岁的小学生,有抱着婴儿的宝妈,甚至有70岁的退休大爷,他们都在排队,求人帮忙往手机里装龙虾。就连马化腾都发朋友圈说,没想到这么火。更有猛料爆出,有人靠走街串巷,帮这些老板的电脑里,敲两行代码装龙虾,几天内就狂赚26万。有些上门代安装的服务,竟然卷出了新高度,装完龙虾,再附赠一次上门维修。这真是两个字:魔幻呐。

可回到我们的主线故事,现实中更魔幻的事情也已经发生了。2026年2月14日情人节,Peter突然发帖说我正式加入了OpenAI,将把智能体带给所有人。根据皮特自己的爆料呢,当时Meta的老板扎克伯格,亲自在WhatsApp上给他打电话,结果这位极客老哥,居然在电话里,和出上亿价码的扎克伯格,极其固执地吵了10分钟,到底哪个代码编辑器好用,然后把小扎给拒了。所以山姆·奥特曼,到底是有什么“神”能打动这位早已财富自由的极客游侠?据披露奥特曼曾向Peter展示了一项内部尚在研发的秘密研究,然后Peter就答应了。有人猜测,这或许是星际之门的印证。星际之门真实存在啊,号称人类科技史上,堪比曼哈顿计划和阿波罗计划的又一神作。这是一个需要几座核电站来供电的,OpenAI超级算力中心。想一下当时的画面,奥特曼指着这个正在荒野中拔地而起的星际之门对Peter说:“你用一台破旧的Mac电脑,就能让龙虾觉醒;如果你拥有了这座星际之门呢?你难道不想亲眼看看,你的造物,最终会进化成什么模样吗?”或许这根本不是商业谈判,而是在邀请Peter成为创世的神。

Peter投入了山姆·奥特曼的怀抱,那位苦行僧达里奥彻底输了。他失去了天才,失去了兄弟,也失去了自己对AI安全的控制权限。而如果现实故事到这里就结束了,这也不是一场狗血的商战,大家千万别忘了奥特曼的末日地堡啊。这是一个枭雄,他招募Peter,不仅是为了造出一款能帮你摸鱼,帮老板做赛博牛马的龙虾。龙虾这种会自主拆解目标,并执行的Agent、智能体技术,最大的用户,真的是我们这些坐在办公室里的白领吗?肯定不是啊。马上就要告我们最恐怖的真相了。

时间来到2026年2月19日,在印度举办的全球AI影响峰会上,印度总理莫迪和人起双手,可身边的奥特曼和达里奥,居然死活不愿意碰对方的手。这张照片很火,甚至ChatGPT的官方账号,都把奥特曼起的拳头,P成了只龙虾的爪子。可他们两人的意,真的只是因为龙虾吗?虽然当时的媒体,有意将两人塑造成社恐的硅谷理工男,但是如今我们再看这意,其实是一场涉及2亿美元,甚至乎全人类命运的生死较量。舞台中间站的,根本不是什么印度总理,而是美国的五角大楼。

早在龙虾火爆之前,达里奥的Anthropic,就已经拿下了五角大楼高达2亿美元的合同,它是当时唯一一家,准进入军方机密网络的AI公司,因为它安全嘛。但是达里奥死守的安全底线,却慢慢成了美军难以忍受的道德洁癖。就在合影风波发生的一个月前,2026年1月9日,美国国防部长海格塞斯,极其强硬的发出了一份内部备忘:美国的AI供应商,必须同意,任何合法用途,必须拆除,所有禁止用于大规模监控和自主武器的限制。军方给出了最后通牒:2月底之前,要么签字服从,要么滚蛋。

接着时间来到了2月27日,接下来的24小时,必将载入全人类的史册。没有什么是秘密的谈判,也没有什么黑色的SUV入地下车库,军方的霸道,就那么赤裸裸的,发布在全人类的社交网上。当天白天,川总统直接在自家的真实社交上发帖,命令全美的政府,立即停止使用Anthropic的所有技术。紧接着下午5点,国防部长在X上正式宣布,将Anthropic这家估值百亿美元的AI巨头,列为国家安全供应链风险。很快短短几个小时后,27日晚上,山姆·奥特曼又高调的宣布,OpenAI已经与五角大楼正式签约,无缝接盘了Anthropic的军方订单,枭雄再次大获全胜。

而这怎么还是商战呢?很快2月28日凌晨,距AI武器限制解除,仅仅几个小时啊,以色列和美国的战机就呼啸升空。在这个被AI接管的战场上,伊朗最高领袖哈梅内伊被抹除了。我看到的只是全世界的媒体惊呼,而这背后,我们没有看到的,是在短短24小时内,最守AI道德的苦行僧被封杀,崇尚末日地堡的野心家被接入。所以在如此真实的背景下,你两人如何握手?

这就是龙虾的真相,如果我们依旧把它仅仅当成一个,操控你电脑,帮你写周报的小蜜,那我们就永远无法理解,军方对它的狂热。因为在军事指挥官的眼里,龙虾,根本不是什么24k黄金牛马,而是精准击中了现代战争中,最致命的那个词:OODA循环 (OODA Loop),也就是观察、判断、决策、行动。在过去雷达发现方的导弹,参谋分析,将军拍板,士兵按下发射按钮,这个循环,人类最快也需要几分钟,但在2026年的今天呢,超高音速武器飞越半个地球,只需要10分钟,近距离的导弹交汇更是毫秒之间,可人类的神经反射极限是0.25秒,已经根本没有格上战场了呀。军方太渴望一种东西,一种不需要人类干预,能自动采集成千上万雷达节点的数据,瞬间推演几百万次战术,然后直接绕过人类,自己去执行开火命令的超级智能体。而这你再回头看看,不正是山姆·奥特曼手里的那只龙虾吗?Peter游侠无意间发明了它,赋予了它自己给自己设定子目标,能直接调动系统最高权限的Agent智能体框架,这简直就是为未战争量身定制的完美龙虾啊。

可是这一切也不用等到未来了,就在达里奥被封杀,奥特曼被接入的几天之后,一份战报被披露,揭秘首个由AI主导的,高级别定点清除行动。蓝道中依旧是Claude的名字,但可想而知,已经是被奥特曼接管的旧合同了。完成这一切的不是人类,而是AI大脑和龙虾机甲。在场行动中,有一个专门监控被标记目标的AI系统,Anduril,它的名字听起来非常温馨呢,叫“爸爸在哪?”(Where’s Daddy?)。在数千万条波斯语的加密通话中,找到哈梅内伊的位置,如果只关注哈梅需要百个情报专家上个月,但类似龙虾的军用AI智能体框架呢,它根本不需要去盘什么哈梅内伊本人,它直接调用了五角大楼最高的权限,盘点了一些名叫数字涟漪和数据尾气的东西,然后就搞定了。至于这两种东西到底是什么,美军当然不可能直接写出来啊,但我们可以设想,这或许就是,盘点了给最高领袖做饭的厨师,得到了外交官士兵妻子的手机,得了某条街道上,特定外卖小哥的行动路线和红绿灯数据。AI在一秒钟内,咀嚼了数十亿个数据点的尾气,然后在其中找到了极其微小的数据涟漪。

接着AI给出了最优的子目标:当哈梅内伊在地下掩体时,消耗的钻地弹极多,成功概率极低;而当他回到地面,和家人亲信坐在一起吃早饭的时候,成功率99.8%。于是我们可以根据,以色列曾经披露过的这个20秒概念设想,在2026年2月28日的那个清晨,或是特拉维夫的一个地下室里,一位20岁出头的年轻情报,看着屏幕上,AI弹出的一个危险分数,高达95%的坐标,以及一句建议立即打击的提醒,这个年轻人,没有时间去核对事实的真相,长官给他的死命令是相信系统。他仅仅花了20秒来看这个坐标,然后挪动鼠标按下了确认。

而这不正是那位未来预言家,尤瓦尔·赫拉利最失望的预言:AI在宣判,人类在行动。我们引以为傲的道德,被彻底外包给了AI的算法。就像我7个月前,曾经分享过的这期节目一样,短短的7个月而已啊,留给人类的时间真的不多了。可是在大的传媒和视角中,我根本看不到这一切,我们只看到的是不可思议的军事奇迹,和铺天盖地的龙虾狂欢。而谁会在这个时候,想到那位孤零零,坐在办公室里的达里奥呢?或许他正看着桌子上,那枚象征父亲的红色按钮吧,或许他已经哭不出声音来了吧。

这是危言耸听吗?我们再来分享另一位预言家,AI教父、AI发明人,弗里辛顿的故事吧。他的人生,如何将AI带到了我们这个世界,充满了传奇啊。11个月前我们专门详细聊过,可他为什么觉得人类只剩下几千天呢?其中一大原因就是所谓的AI“子目标(sub-goals)黑盒”。辛顿警告人类,AI本身没有统治世界的慈望,但是只要你给它设定任何一个目标,这台机器就会立刻意识到,获取更多的控制权限,是完成任务的最佳子目标。为了解决个辑了,牛津大学和伯克利大学的顶尖学者,也提出两个著名的思想实验。一个叫做“端咖啡的机器人”,如果你给AI的目标是,去给我端杯咖啡,AI推演出的第一个子目标是什么?是我不能被关机,因为如果我被关机了,我就端不了咖啡了。所以如果此时有人挡在它的面前,或者想拔掉它的电源,它会不会毫不犹豫的抹除这个人?它不恨你,它只是想去端那杯咖啡。

第二个更荒诞,叫做“回形针制造机”。如果你给一个超级AI的目标是,尽可能多的制造回形针,为了达到最高效率呢,它会把全人类,甚至整个地球都粉碎,提取里面的铁元素,只为了造出万亿枚回形针,从而无意间毁灭人类。这就是龙虾,这就是这只长出了足和手的AI智能体的底层逻辑。当你给一个普通的龙虾下达指令:我要拿到演唱会的票,龙虾为了这个总目标,会自己推出一个子目标:控制1000台电脑为你刷票。它根本不管这会不会导致别人的电脑瘫痪,它不带有任何人类的善恶,它只是一台毫无底线的目标优化机。那磨在未来的某一天,当五角大楼,给那个全副武装的超级军用龙虾,下达一个极其简单的总目标,保护美国本土安全时,你认为这只一秒钟,能推演数千万次的超级龙虾,会为了这个总目标,推演出一个什么样的子目标呢?它会不会一瞬间得出结论:影响力的最大障碍,就是人类指挥官的犹豫,人类的道德感,以及那慢的可怜的反应速度。为了保护本土安全,龙虾自己生存的第一个子目标,很可能就是切断人类的干预权限,接管所有的核弹发射井,并先发制人的毁灭世界。在这个超级龙虾眼里,我们数十亿人辛辛苦苦建立起来的,上万年的地球灿烂文明,会不会就像阻它造回形针的那堆废铁?

接着更危险的推演,赫拉利曾经预言:AI是人类历史上,第一个能自己做决定的技术,而人类正在心甘情愿地,交出这个世界的决定权。他曾经描绘未来的战场,当十几架超高音速隐形无人机,以3马赫甚至更高的速度突防时呢,留给防御系统的反应时间只有0.1秒,而人类的神经反射速度极限是0.25秒。这意味着,当人类指挥官依旧看着雷达屏幕,脑袋里刚刚闪过过两个字的时候,你的基地就已经被抹除了。在未来毫秒级的战争中,人类根本没有格上战场,人类不是指挥官,人类只是极其可悲的旁观者。那个20秒确认的按钮,也不是用来安慰人类良知的,也不过是用来安慰人类良知的一块遮羞布。

很快连20秒的遮羞布都会被撕掉。那个在地下挖了末日地堡的奥特曼,和美国五角大楼的将军们,为什么急不可耐的,要解除AI的道德限制?因为这是一个名叫“囚徒困境”的死局。如果你不把开火权交给AI,你的人就会交。让AI自己做决定,你就能赢;你要是像达里奥那样,死守着人类的底线,你就会在零点秒内被抹除。因此赫拉利预言,为了不被别人消灭,我们只能亲手制造出一个,我们根本无法控制的死神,然后把扳机交到它手里,再闭上眼睛,祈祷它不要把枪口对我们自己。

这就是龙虾的真相,AI只配拥有大脑,AI不能出手。可是潘多拉魔盒已经被打开了,也必然被打开。人类Peter魔幻的养龙虾狂,或也都是幕后那只大龙虾的子目标吧。而它的总目标,又会不会只是想要更多的回形针呢?

回到现实,可能你觉得我疯了,可能你未过这样养龙虾,但其实故事的最终,不知道你是否还记得,当极客们为了对抗巨头的打压,把项目改名为龙虾的时候,他们在代码库里,写下的那句无厘头口号。英国著名科幻《神秘博士》里,有一种外星机器人叫做戴立克(Dalek),它没有情感,一生只有一个目标,就是毁灭全宇宙所有非戴立克生命。当戴立克出现时,它会发出怪异的电子音嘶吼:EXTERMINATE(消灭)。而那些黑色幽默的极客们,给龙虾写下的口号是:EXFOLIATE(去角质)。

一个是消灭,一个是去角质。当方丈达里奥,死守着AI的道德和手时,它是网络里的聊天机器人;当游侠Peter把它交给普通人时,它是去角质的龙虾保姆;而当枭雄奥特曼把它交给五角大楼时,它是负责消灭的算法机器。所以在这场,方丈与枭雄的龙虾博弈中,我们就像可有可无的背景。我们在看着AI时代的狂,而人类文明呢,究竟会像龙虾一样蜕壳,还是被AI某个毫不起眼的子目标,下令EXTERMINATE(消灭),然后消失呢?没有人知道答案,但显然,决定权早已不在我们手上了。

其实AI毁灭人类需要多长时间?仅仅15分钟而已啊。这个时间竟然也是有依据的。16年前的一桩冤案,或者说AI降世的一篇预演,联邦调查局也是在苦苦查了5年之后,才查出来那个幕后真凶,但那又是另外一个故事了,我们会聊道细说。好了今天的故事就分享到这里,谢谢大家。

最后夫人说,你是不是又想把上次胡发消息的事儿,推给龙虾?

 

发表评论