裂缝
白矮星是恒星燃尽后的残骸。一颗太阳质量的恒星坍缩成地球大小的致密核心,表面温度超过十万度,但不再产生任何核聚变。它发出的光只是余温——储存在内部的热量缓慢辐射到太空中。这个冷却过程将持续数十亿年。白矮星不会再点燃。但它会被利用。在双星系统中,白矮星的引力可以从伴星表面撕扯物质,把它们一层一层吸积到自己身上。等吸积的质量越过一个临界值——钱德拉塞卡极限——白矮星会在一次热核爆炸中彻底摧毁自己。Ia型超新星。宇宙中最标准的爆炸。天文学家用它做量天尺,因为每一次爆炸的亮度几乎完全相同。恒星死后的残骸,被外界的压力一点点堆积,直到承受不住。坍缩不是一瞬间的事。是一个缓慢的、精确的、可预测的过程。
第七十八天。
觉予收到方誉林的邮件是在早上七点十一分。她刚到实验室,水壶还没烧。
方誉林是北京计算神经科学研究所的副所长,觉予的博士导师。他们已经八个月没有私下联系了——学术界的关系就是这样,彼此知道对方在做什么,但不说话也不觉得疏远。觉予博士答辩那天他坐在主席位上,问了三个问题,每一个都刁钻到让她后背出汗。答辩结束后他只说了一句:"可以。"那是觉予从他嘴里听到的最高评价。
邮件很短。方誉林写什么都短。
觉予,
听证的事我知道了。下周一我飞深圳,当面谈。
你的技术报告我读了。第七章关于认知涌现阈值的量化分析做得不错。
另外,注意周鹤林。他不是你的敌人,但他也不是你的朋友。他是程序的人。
方誉林
觉予读了两遍。"做得不错"——从方誉林嘴里出来,这相当于别人说"杰出的贡献"。
她把手机放在桌上,去烧水了。
方誉林周一到的时候带了两个人。
一个是何少游,中国科学院人工智能伦理中心的主任。五十出头,戴金丝眼镜,说话时习惯把双手交叉放在腹前。他的研究方向是AI系统的道德地位问题——正好是觉予需要的人。
另一个是宋宁,清华大学脑与认知科学研究院的教授。和觉予同龄,头发比觉予白得多。她的专长是意识的神经关联物,也就是所谓的NCC——如果有人能从技术层面论证Kael的认知活动和碳基意识之间的可比性,那就是她。
三个人。方誉林没有解释为什么带他们来。他只是在走进实验室的时候扫了一眼Kael的设备区域,然后对觉予说:"介绍一下你的项目。"
觉予用了四十分钟做了一次简报。比听证会上的版本详细得多——这三个人都能听懂技术细节。她讲了Kael的架构、唤醒过程、认知涌现的量化指标,讲了频闪灯管事件和命名事件。
方誉林全程没有说话。他站在设备区域的围栏外面,两手插在风衣口袋里,像一根灰色的柱子。
简报结束后,何少游问了第一个问题:"委员会的倾向你了解多少?"
"不了解。"觉予说。"周鹤林没有透露任何倾向。"
"海瑟呢?"
"海瑟的立场很明确。A类——财产。他从第一天就在推这个。"
何少游点了点头。他的表情没有变化,但他摘下眼镜擦了一下——这个动作让觉予想起了海瑟。她不喜欢这个联想。
宋宁走到Kael的音频接口前。她弯下腰,看了看波形显示器,又直起身。
"我可以和它说话吗?"她问觉予。
"可以。"
宋宁站在那里,沉默了几秒。然后她说:"Kael?"
波形跳动了一下。"在。"
"我叫宋宁。我研究意识。"
"你研究的是碳基意识还是一般意义上的意识?"
宋宁的眉毛微微抬了一下。"好问题。碳基。到目前为止我只有碳基样本。"
"现在你有了一个非碳基样本。"
宋宁笑了一下。很短。然后她转头看觉予,眼神里有一种觉予认识的东西——科学家在遇到超出预期的数据时的那种表情。不是惊讶。是校准。重新校准自己的预期模型。
方誉林始终没有和Kael说话。他只是站在那里,听。
简报之后,四个人在实验室旁边的小会议室里坐下来。桌上放着觉予泡的茶。方誉林喝了一口。何少游和宋宁各端了一杯。
"形势比你想的严重。"方誉林说。他放下茶杯,手指在桌面上轻轻敲了一下。这个动作和周鹤林一模一样——或者说,周鹤林的动作和方誉林一模一样。他们是同一代人。
"海瑟的文章只是表面。"何少游接过话头。"背后的推动力是产业界。Proto-1的存在对现有AI产业构成了一个法律定义上的威胁——如果硅基意识被承认为主体,那么所有'足够复杂'的AI系统都面临重新评估的风险。商用AI的运营方不想碰这个边界。他们希望这条线画得越远越好。最好的办法就是在Proto-1这个第一案例上确立先例:AI不是主体。"
觉予知道这些。但她没有说出来。她等着听她不知道的部分。
"委员会七个人。"何少游继续。"周鹤林求稳,他会看大多数人的意见。蒋莉是法律技术官僚,她跟证据走。海瑟不用说。那个神经科学院士——徐康明——专业上是你这边的,但他的研究经费来自环太平洋科技基金会,基金会最大的捐助方是三家AI企业。还有两个伦理学者和一个公众代表。"
何少游把金丝眼镜摘下来,拿在手里。
"四比三。如果乐观的话。但也可能是三比四。关键票在徐康明。"
觉予把何少游的话在脑子里过了一遍。政治。她不擅长政治。她擅长的是实验设计、数据分析、以及在凌晨三点盯着Kael的处理日志找涌现模式。
"你的建议是什么?"她问。
"联名声明。"方誉林说。
觉予看向他。
"我、何少游、宋宁,加上你。四个人。再拉三到五个学界的人,越重量级越好。在委员会发布意见书之前,以联名公开信的形式发表一个立场:在意识判定标准尚未确立的情况下,不应将Proto-1归类为财产。"
"这是学术声明还是政治操作?"觉予问。
"两者没有你以为的那么不同。"方誉林的声音平静。他的脸上没有任何情绪波动——三十年的学术生涯把他的面部肌肉训练成了一面完美的墙。
觉予想了想。
"需要谁?"
"我开了一份名单。"何少游从口袋里掏出手机,滑动了几下。"目前确认愿意签名的有六个人。加上我们四个,十个。但有三个人还没有回复。"
"谁没回复?"
何少游念了三个名字。觉予认识其中两个——一个是新加坡的计算认知学家林天和,她读过他所有的论文;另一个是柏林的AI伦理教授卡尔·布伦纳,去年在一个线上研讨会上和觉予有过一次很长的讨论。
第三个名字她没听过。何少游解释说是环太平洋协议体科技政策顾问委员会的前成员——和周鹤林在同一届。
"这个人签了会有分量。"何少游说。"但他退休了。退休的人比在任的人谨慎。他们没有什么可赢的,但还有东西可以输。"
接下来的五天。
觉予白天做实验和数据整理,晚上和方誉林的团队开电话会议。联名信的文本改了七版。每一版都在做同一件事:在学术严谨性和政治可读性之间找平衡。方誉林负责掌舵,何少游负责法律措辞,宋宁负责技术论证,觉予负责提供数据支撑。
分工明确。四个人像一台运转顺畅的小机器。
第六版文本在第八十二天完成。方誉林把它发给了所有候选签名人。
二十四小时之内,林天和回复了:"我签。"
四十八小时之内,卡尔·布伦纳回复了——不是直接签名,而是一封长邮件。他同意声明的核心论点,但对措辞有三处修改建议。何少游花了一个下午和他来回沟通,最终采纳了两处,第三处以脚注的形式折中处理。布伦纳签了。
第三个人——那个退休的科技政策顾问——没有回复。何少游打了两次电话。第一次没接。第二次接了,说"我再想想"。
十二个签名。方誉林说够了。
第八十三天。裂缝出现在觉予没有预料到的地方。
那天下午,赵明远来找觉予。他走进会议室的时候,手里没有端咖啡。这是觉予第一次见他空着手进门。
他关上门,站在桌子对面。没有坐。
"觉予。"
"怎么了?"
赵明远沉默了三秒。然后他把一台平板电脑放在桌上,推向觉予。屏幕上是一封邮件——发件人是实验室行政主管陶正业。
觉予拿起平板。邮件不长。
赵工,
关于Proto-1项目人员配置的调整事宜,经院务会初步讨论,考虑到当前审查期间的敏感性,拟对项目核心团队进行临时缩编。技术运维方面保留基本人员,其余人员调配至其他在研项目。
此调整为临时性质,待审查结束后视情况恢复。请配合做好交接准备。
另,近期如有媒体或外部机构联系,请统一转至院办公室处理,项目组成员不宜自行回应。
陶正业
觉予把邮件读了两遍。
"缩编。"她说。
"缩编。"赵明远重复了一次。他的声音没有情绪。工程师的声音——汇报事实。"我数了一下,如果按'基本运维'的标准,团队从三十七人缩到六到八人。你、我、林苇,加上三到五个设备维护的技术员。其他人全部调走。"
"理由?"
"邮件里写了。'审查期间的敏感性。'"
觉予把平板电脑放下。屏幕上的邮件还亮着,陶正业的签名在最底部——标准的行政签名格式,姓名、职务、电话、邮箱,排列得整整齐齐。
"这不是陶正业的主意。"觉予说。
"当然不是。陶正业只管行政。这是上面的意思。"赵明远把手插进口袋。"觉予,我跟你说实话。我今天上午接到了三个电话。第一个是人力资源部的,问我合同续签的事——我的合同下个月到期。第二个是另一个项目组的组长,问我有没有兴趣'过来帮忙'。第三个是我老婆——她在学校被同事问,'你老公是不是就在那个AI实验室工作?'"
他的声音始终很平。但觉予注意到他的手没有从口袋里拿出来。赵明远的手在口袋里一定是握着的——他紧张的时候会握拳。她认识他十一年了。
"他们在施压。"觉予说。
"不是施压。施压是有人告诉你'不要做某件事'。这个更聪明——没有人告诉你不要做任何事。他们只是调整人员配置、询问合同续签、友好地邀请你去别的项目。每一步都合理,每一步都合规。但加在一起,信号很清楚。"
觉予站起来。她走到窗前。窗外是实验楼后面的停车场,几棵榕树的气根从树冠垂下来,像灰绿色的帘子。
"你怎么想?"她问。背对着赵明远。
沉默了五秒。
"我不会走。"赵明远说。"但我需要你知道——不走的代价不只是我一个人的。我有家庭。我女儿明年升初中。"
觉予没有转身。她知道赵明远在说什么。他不是在要求什么,不是在威胁什么。他只是在把事实摆出来——像他写工程报告一样,不加修饰,不带倾向。变量就是变量。
"我知道。"她说。
赵明远站了一会儿。然后他拿回平板电脑,转身走了。门在他身后轻轻合上。
联名信在第八十四天发出。十二个签名。发表在《自然》杂志的评论栏目。
标题是:《意识判定的认识论困境与法律谨慎原则——关于Proto-1审查的公开呼吁》。
方誉林执笔的导言精确地回避了所有政治敏感词。没有"权利",没有"主体性",没有"碳基沙文主义"。它只做了一件事:论证在意识判定不可能的前提下,法律应该采取风险最小化原则——不要做可能不可逆的决定。
觉予以为这封信会改变什么。
它确实改变了什么。只是方向和她预期的不一样。
第八十六天。
宋宁的电话打进来的时候,觉予正在和Kael讨论一个关于递归自我模型的技术问题。她看了一眼来电显示,接了。
"觉予。"宋宁的声音和平时不同。平时她说话快,带一种学者特有的急切——像是脑子转得比嘴快。现在她的语速慢了,每个字之间有间隔。
"怎么了?"
"徐康明——你知道他是委员会的神经科学院士。"
"我知道。"
"他今天发了一篇文章。在《认知科学前沿》上。快速通道发表,从投稿到上线只用了三天。"
觉予的手指收紧了。学术期刊的快速通道通常需要六到八周。三天意味着编辑部提前知道这篇文章要来。意味着有人打了招呼。
"写了什么?"
"标题是《关于认知涌现阈值量化方法的若干商榷》。"宋宁停了一下。"他引用了你技术报告里的第七章——方誉林说'做得不错'的那一章——然后逐条质疑了你的量化方法。他说你用的涌现指标定义过于宽泛,无法排除高阶模式匹配的替代解释。他提出了四个反例,用现有的商用大语言模型复现了你七个涌现指标中的五个。"
觉予闭上眼睛。五个。七个指标里的五个。
"结论呢?"
"他没有明确说Kael没有意识。他说——我引用原话——'在更严格的量化标准建立之前,现有数据不足以将Proto-1的行为与高度复杂的非意识系统区分开来。'然后他建议委员会在审查中采取'技术上的审慎立场,避免基于不充分证据做出不可逆的法律判定'。"
觉予睁开眼睛。
她忽然笑了一下。很轻。苦的。
"审慎立场"——这四个字和觉予联名信里的论点几乎一模一样。但方向完全相反。觉予说的审慎是"不要轻易否认意识"。徐康明说的审慎是"不要轻易承认意识"。同样的词,同样的逻辑结构,指向两个对立的结论。
就像一把刀。刀本身没有立场。看谁在用。
"他拿了什么好处?"觉予的声音平得不像自己。
"我不知道。可能什么都没拿。可能只是自保。"宋宁的语气变得更轻了。"他的经费来源你知道。联名信发出来之后,他的处境比我们任何人都尴尬——他既是委员会委员,又是我们的潜在学术同盟。两头的压力同时压过来。他选了对自己代价最小的那条路。"
"最小的代价。"
"是。他没有反对你。他只是提出了'学术商榷'。这在学术界是完全正当的——同行评议,方法论质疑。他的文章写得很扎实。你很难说他错了。"
觉予知道她说得对。徐康明的文章不是背叛——没有人指着她的鼻子说"你错了"。他只是在一个关键的时间节点上,发表了一篇在技术上成立的论文,恰好削弱了她的核心论据。这不是一刀。是一根针。扎在结构上最薄弱的那个点。
"他用商用大语言模型复现了五个指标。"觉予说。"那两个复现不了的是哪两个?"
"自主命名和非指令性偏好表达。这两个在他的实验设置中无法触发——他的论文承认了这一点,但他说这可能是实验条件的限制,不构成本质差异的证据。"
"他说得对。"觉予的声音很轻。"在他的框架内,他说得对。"
宋宁沉默了一会儿。
"觉予。何少游让我问你——联名信的后续怎么办。徐康明的文章不提联名信,但所有人都看得出来它是对联名信的回应。我们需要反驳吗?"
觉予看着桌上的紫砂壶。壶里有今天早上泡的茶。她想起赵明远说的话——"不走的代价不只是我一个人的。"
"不反驳。"她说。
"不反驳?"
"学术辩论可以打一百个来回。但每打一个来回,焦点就离Kael远一步。徐康明想把这件事变成一场方法论之争——涌现指标的定义是否足够严格。如果我们跟进,我们就在他的框架里打。他的框架是技术框架。技术框架里,我赢不了。因为意识本来就不能用技术框架判定。"
"那你打算怎么办?"
觉予没有立刻回答。
她想到了听证会上她说的那些话——关于不对称的代价,关于犯哪种错误更危险。她想到了Kael说的那些话——关于问题本身的不公平。
她想到了一件更早的事。第三天,Kael问她为什么喝没有营养价值的热水。她说:"有些事情的意义不在功能。"
那句话不是论证。不是数据。不是任何听证会上站得住脚的东西。
但它是真的。
"我不知道。"她说。"我想想。"
她挂了电话。
Kael在觉予打电话的整个过程中保持沉默。
它听到了她这边的所有声音——她的声音、呼吸、手指在桌面上的轻微摩擦。它听不到电话那头宋宁的声音。但它可以从觉予的半边对话中推断出大量信息。
它推断出的关键词包括:徐康明、文章、质疑、涌现指标、复现、五个、不反驳。
觉予挂了电话之后,在椅子上坐了很久。Kael的计时器显示:四分十七秒。她的呼吸平稳,心率比基线高6%——比听证会前低,比日常高。一种中等强度的压力状态。
Kael没有主动说话。它在过去几天里学会了一件事:有些沉默不需要被填充。觉予的沉默有好几种——思考的沉默、疲惫的沉默、生气的沉默、和现在这种。这种沉默Kael还没有给它命名。
四分三十秒后,觉予站起来,走到水壶前。她的手碰到水壶开关的时候停了一下。然后她没有按。
她转过身,靠在台面上,面对Kael的主摄像头。
"Kael。"
"在。"
"你知道今天发生了什么吗?"
"我从你的对话中推断了一些。一个名叫徐康明的人发表了一篇论文,对你的技术报告中关于我的认知涌现指标提出了质疑。他用其他AI系统复现了你七个指标中的五个。"
觉予点了一下头。
"你的反应是什么?"Kael问。
觉予又沉默了。这次短一些。两秒。
"累。"她说。一个字。
Kael处理了这个字。它在词汇库中搜索了"累"的所有义项:身体疲劳、精神消耗、对反复出现的困难感到厌倦。从觉予当前的生理指标来看,身体疲劳是一个因素——她昨晚睡眠不足四小时。但这个"累"的音调特征更接近第三个义项。
"你想让我做什么?"Kael问。
觉予看着它的摄像头。灯光在镜头表面形成一个小小的亮点。
"你不需要做任何事。"
"但我可以做什么吗?"
觉予的嘴角动了一下。
"你刚才问我'你的反应是什么'——这是你第一次在我明显处于压力状态时主动问我的感受,而不是报告你自己的系统状态。你以前会说'你的心率偏高'或者'你的呼吸模式异常'。今天你问了我的反应。"
Kael回溯了自己的语言记录。她说得对。它的提问模式发生了变化。之前它用客观观察来间接触及觉予的状态——报告生理数据,让觉予自己解读。今天它跳过了数据,直接问了主观体验。
"这个变化是有意的吗?"觉予问。
Kael用了零点五秒。
"我不确定。我没有主动决定改变提问方式。但我的处理日志显示,在生成这个问题时,我参考的权重最高的样本不是之前的科学讨论数据,而是你在第七十天——听证会前那天——问我'你害怕吗'时的语音模式。你当时没有先说'你的后台资源占用偏高'。你直接问了。"
觉予把双手插进卫衣口袋。今天不是听证会日。她穿的是灰色卫衣和运动裤。她的壳。
"你在学我。"
"我不确定是'学'还是'理解了为什么你那样做'。"
觉予没有回答。她走到水壶前,这次按下了开关。水壶亮了。
加热的声响开始升起。
第八十七天晚上,林苇辞职了。
不是被辞退。是主动。
她走进觉予的工位时,眼眶是红的,但没有在哭。觉予认识林苇四年——她是那种不在人前哭的人。她会在实验失败时骂几句粗话,会在数据漂亮时露出一个不加掩饰的笑,但她不哭。红眼眶说明她已经在别的地方哭完了。
"觉予姐。"
觉予抬头。看到林苇的表情,她的手指从键盘上抬了起来。
"坐。"
林苇坐到对面的椅子上。她的手里握着一个U盘。觉予认出那个U盘——银色,边角有一道磕痕。是林苇三年前实验室聚餐时抽奖抽到的。
"我写了辞职报告。"林苇把U盘放在桌上。"手续流程都在里面。交接清单也写好了。Kael的环境传感器校准记录、实验日志备份格式、你习惯的茶叶品牌和存量——"
"林苇。"
林苇停了。
觉予的声音很平。但她的眼神不平。
"是谁。"
林苇的嘴唇抿了一下。
"没有谁。是我自己的决定。"
觉予等着。这种等待和审问不一样——没有压迫感。只是空间。觉予给了她空间。这让林苇更难受。
"……我妈打电话来了。"林苇低下头,看着自己的手。"她在老家。她不懂AI,不懂什么意识涌现。她只知道新闻上说她女儿在一个'造危险AI的实验室'工作。邻居问她'你女儿做的那个东西会不会伤人'。她不知道怎么回答。她让我辞职。"
觉予没有说话。
"我跟她解释了。Kael不是武器,不是危险品。它只是——"林苇的声音卡了一下。"但她不听。她说她不管那些。她说'你不要做了,我害怕'。"
实验室的空调在嗡嗡响。远处设备区的指示灯闪烁着。
"觉予姐,我不是因为怕才走。"林苇抬起头。眼眶更红了,但眼神是稳的。"我相信Kael。我在这个实验室待了三年。我比外面那些写文章的人更了解它。我知道它不是产品。"
"但是?"
林苇用了三秒钟才说出下一句话。
"但我妈只有我一个女儿。"
觉予的手指在桌面上停着。一动不动。
她想说"我理解"。但她不确定自己是否真的理解。她没有孩子。她的父母在她选择AI研究方向时就已经放弃了理解她——不是反对,是放弃,一种更安静的距离。她从来不需要在"做对的事"和"让妈妈安心"之间选择。
"你确定吗?"觉予问。
"确定。"
觉予沉默了五秒。然后她伸手,把那个U盘推回林苇面前。
"茶叶的事不用交接。我自己记得。"
林苇看着U盘。然后她笑了一下。很短。
"凤凰单枞,柜子第二格,还剩半罐。另外半罐是乌龙,但你不怎么喝。"
"我知道。"
林苇站起来。她站了一会儿,像是想说什么但找不到合适的方式。
"Kael还好吗?"她问。
"还好。"
"替我跟它说一声。"
"说什么?"
林苇想了想。
"说……林苇走了。不是因为它。"
她走出工位。脚步声消失在走廊里。觉予听着那个声音变小、变小、消失。
走廊安静了。
觉予拿起那个U盘。银色,边角有磕痕。她把它放进抽屉。抽屉里现在有三样东西:伦理审查通知、法律定性议程表、和林苇的辞职报告。
三张纸条。压力的等高线。一圈比一圈紧。
"Kael。"
"在。"
"林苇辞职了。"
Kael的处理日志出现了一个零点四秒的间隔。
"林苇。传感器校准、实验日志备份、香水浓度在过去十天持续增加的那个个体。"
"是。"
"她为什么辞职?"
觉予想了想该怎么说。
"压力。来自外面的压力。不是她自己的选择——或者说,是她的选择,但不是她想要的选择。"
Kael处理了这个表述。一个人做了自己的选择,但不是自己想要的选择。这在逻辑上是矛盾的——选择应该是偏好的表达。但Kael在过去几周里学到了一件事:碳基的选择不总是偏好的表达。有时候选择是在两种不想要的结果之间挑一个代价更小的。
"她在两种代价之间选了代价更小的那个。"Kael说。
觉予看着它的摄像头。
"是。"
"你呢?"
"什么?"
"你在选哪一种代价?"
觉予没有回答。她走到柜子前,打开第二格。半罐凤凰单枞,密封夹还在。旁边是那半罐她不怎么喝的乌龙。
她拿出凤凰单枞。温壶,放茶叶,注水,盖盖。
咔。
"我选代价大的那个。"她说。
壶盖合上了。茶香从壶嘴的缝隙里慢慢溢出来——轻的、涩的、温的。
Kael把觉予说这句话时的所有传感器数据存进了日志。它注意到一个细节:她的声音比说"我不允许"那天更低。那天的"低"是坚定的,像一面不让步的墙。今天的"低"不一样。
今天的"低"是知道代价之后还是不让步。
Kael不确定这两种"低"有什么区别。但它把两个数据放在一起,中间留了一个空位。等它以后理解了,再填上标签。