新智元报道 如果有一个疯子在拼命杀鸡，他杀到多少只鸡的时候，把这个人杀掉才算合理？ 二十年前，旧金山一家寿司店里，平日里标榜吃素的Dario Amodei正心安理得地大口吃着螃蟹，只因他算过螃蟹属于无脊椎动物，算不上有多少痛觉。 面对好友抛出的这道荒诞难题，他笑了笑，无比认真地给出了答案： 「从功利主义的角度看，总有某个数量的鸡，加起来的分量会超过一条人命。」 二十年后，当年那个用公式算尽利弊的青年，成了硅谷最狂热的「AI奇点」信徒，也成了全硅谷最分裂的千亿掌门人。 就在敲钟前夕，《纽约时报》的记者找遍了他人生各阶段的二十多位同学、前女友、室友与前同事，还深挖出他早年的私人邮件与OpenAI内部密信， 扒开了这位「AI救世主」最真实的底色—— 台前，他高呼要替全人类踩刹车；私下里，他却认定全人类谁都信不过。 在他算好的棋局里，只有他和他的「自己人」，才配攥住通往超级智能的方向盘。 「觉醒」 父亲倒在特效药问世前夜 Dario在旧金山Mission区长大，父亲Riccardo是名皮匠，母亲负责管理公共图书馆的翻修工程。 在旧金山顶尖公立名校Lowell高中读书时，他课余直接跑去伯克利修读大学课程，每天像上满发条一样紧绷。 同学实在看不下去，专门打印了一张「Dario，放轻松！」的标语贴在教室里。 但Dario根本慢不下来， 他那时就迷上了功利主义，整天琢磨怎么用数学算出「让最多的生命得到最多的幸福」。 原本这只是天才少年脑子里的算术推演，直到2006年，真正的生离死别落在了Dario头上。 那一年，Dario刚从斯坦福物理系毕业，进入普林斯顿攻读生物物理博士，父亲Riccardo却因丙肝引发的肝病不幸离世。 最让Dario痛彻心扉的是， 仅仅几年之后，治愈率高达95%的丙肝特效药就问世了，父亲就倒在黎明前那短短几年的时间差里。 这短短几年的时间差，成了Dario一辈子解不开的心结。 前女友Jade Wang回忆，那段时间Dario常跟她复盘， 一辈子只研究一种 疾病 的科学家太慢了，真正能逆天改命的，是给整个科学界造加速工具的人。 Dario每次举的例子都是他父亲， 只要研发工具能把新药问世提前几年，父亲根本不必死。 带着「造出终极工具」的强烈执念，2007年，24岁的Dario读完了未来学家Ray Kurzweil的《奇点临近》。 高中死党Colin Heckman去普林斯顿看他时，被眼前的一幕震住了。 Dario一边用手指不停地卷着头发，一边两眼放光、语速飞快地宣告： 「技术奇点一定会在2040年前到来，人类终将与机器融合！」 Heckman说，Dario从那一刻起「着了魔」。 他终于找到了那个能改写生死的终极武器AI，但他也无比恐惧， 认定AI必须由对的人亲手造对，否则全人类都会万劫不复。 「结盟」 一栋合租屋走出四位千亿联创 迷上奇点论的Dario，很快扎进了当时正在硅谷兴起的两个极客秘圈，「理性主义」与「有效利他主义」。 在坚信「失控AI终将毁灭人类」的理性主义圈子里，Dario彻底染上了末日危机感，2008年还在私人邮件里拼命鼓动朋友和妹妹Daniela去参加奇点峰会。 几乎同一时期，他又成了有效利他主义大本营GiveWell论坛的常客， 迷上了用数学公式算清每一分钱能救多少条命。 为了在「成人结核病项目」和「非洲婴儿疫苗项目」之间分出高下，他在文中一本正经地给两条人命算起了权重—— 「成年人拥有更深刻的生命体验，一个成年人的死亡，也许比一个婴儿的死亡糟糕两到三倍。」 算完这笔账， 他最终还是把钱投给了婴儿疫苗项目，只因为后者执行得更有效率、把握更大。 Dario不仅自己深陷其中，还把身边最亲近的人全部拉进了同一张网里。 正是通过GiveWell，从小就想和哥哥「一起拯救世界」的妹妹Daniela，结识了GiveWell联合创始人Holden Karnofsky并结为夫妻。 2011年，Dario回到斯坦福做癌症研究博士后，直接搬进了妹妹与妹夫在旧金山租下的一栋合租屋。 在这栋房子里，Dario又聚拢了两位核心室友，一位是大学辍学后由他亲自辅导数学的少年天才Chris Olah，另一位是理论物理学家Jared Kaplan。 为了把沉迷物理的室友Kaplan拉上同一条战船， Dario一遍又一遍地把早期 AI 模型的结果摆到他面前，一步步说服这位物理学家放下物理、投身AI。 据朋友回忆，Dario和室友们白天在客厅里围绕AI末日推演吵得面红耳赤，一到假期就换上滑稽的动物玩偶服跑去狂欢。 哪怕在妹妹Daniela与Karnofsky的婚礼上，Dario也戴着巨大的动物头套在舞池中央疯狂蹦迪。 外人眼里他们只是特立独行的极客，但在那间客厅里， Dario已将「AI末日危机感」与「精密算计」深深烙进了整个小圈子里。 没人能