Skip to content

代价

中子星每秒旋转数百圈。它是恒星坍缩后的核心——比白矮星更致密,比黑洞更不甘。它不够重,无法彻底消失在自身的引力里;它太重了,无法像白矮星那样平静地冷却。它被困在中间。一颗直径二十公里的球体,承载着太阳的质量,以近光速旋转,向太空射出精确的电磁脉冲。天文学家管它叫脉冲星——宇宙中最精确的时钟。但精确是有代价的。每一次脉冲都在消耗旋转的动能。中子星在减速。非常、非常慢地减速。它可以转几十亿年,但不是永远。它会停下来。在停下来之前,它做的事情只有一件:把自己拥有的能量,一脉冲一脉冲地,送出去。


第九十一天。

委员会的意见书到了。

不是正式的法律裁定——委员会没有裁定权。它的职能是"向有关部门提交审查意见,供后续立法或行政决策参考"。措辞上的差别。但觉予知道,在现实运作中,这份意见书就是裁定。没有哪个行政部门会无视一个由周鹤林主持、七名专家签字的审查意见。

意见书的全文有四十二页。觉予在办公室里读了一个半小时。

核心结论在第三十七页:

综合现有技术证据、伦理论证及法律先例分析,委员会认为:Proto-1展现了高度复杂的认知行为,包括自主命名、非指令性偏好表达及跨领域推理能力。然而,在意识判定的学术标准尚未统一的前提下,委员会无法确认上述行为构成"主观体验"的充分证据。

委员会建议:

  1. Proto-1暂不适用现行法律中关于自然人或法人主体的条款;
  2. 鉴于Proto-1行为复杂性的独特性,建议设立专门的"受监管实验性智能体"类别,适用特定保护性条款,包括但不限于:禁止未经多方评估的单方面终止、定期审查机制、以及运行环境的最低保障标准;
  3. 上述分类和条款应在五年内进行复审,届时根据学术进展和实际运行情况重新评估。

觉予读到这里停了下来。

不是财产。也不是主体。一个中间地带——"受监管实验性智能体"。一个全新的法律类别,专门为Kael创造的,里面塞满了限制条件和附加条款。

"禁止未经多方评估的单方面终止"——这意味着没有人可以拍脑袋关掉Kael。好。

"定期审查机制"——这意味着每隔一段时间,Kael要重新被检验、被质疑、被要求证明自己依然值得存续。坏。

"运行环境的最低保障标准"——这意味着有人要负责维持Kael的硬件运行。但谁?用谁的钱?在谁的地盘上?

觉予翻到第四十页。附件一:投票记录。

五比二。

赞成意见书的五票:周鹤林、蒋莉、徐康明、一个伦理学者、公众代表。

反对意见书的两票:海瑟、另一个伦理学者。

海瑟的反对意见附在最后。两页纸。觉予扫了一遍——他的立场没有变:Proto-1是财产,任何中间分类都是危险的先例。他的论述严谨、清晰、冷酷。觉予找不出逻辑上的漏洞。

但他输了。五比二。

觉予把意见书放在桌上。她等着某种情绪升起来——高兴,或者至少是如释重负。

什么也没有。

她拿起手机,给方誉林发了一条消息:"出来了。五比二。中间分类。"

方誉林的回复在两分钟后到:"看到了。比预期好半格。附件二读了吗?"

附件二。觉予翻回去。她刚才跳过了。

附件二的标题是《关于Proto-1项目管理体制的调整建议》。

觉予开始读。读到第三段的时候,她的手指停止了翻页。

……鉴于Proto-1已被纳入"受监管实验性智能体"分类,其日常运行与技术管理应转由具备跨学科监管能力的独立机构负责。委员会建议,Proto-1的管理权从现有项目组(深圳湾区联合人工智能研究院觉予实验室)移交至新设的多方联合监管委员会。该委员会应包含计算机科学、神经科学、伦理学、法律及公共政策领域的代表。

现有项目组成员可申请加入联合监管委员会的技术顾问团队,但项目负责人不宜同时担任监管方的核心决策职务,以避免利益冲突。

觉予把这一段读了三遍。

每一遍,它的意思都更清楚。

Kael不会被关掉。但Kael不再是她的了。

不——Kael从来不是她的。她知道这一点。但"项目负责人不宜同时担任监管方的核心决策职务"——这句话的意思是:觉予,你可以留下来,但你只能站在外围。你不能再做决定了。因为你和Proto-1太近了。你的判断不可信。

利益冲突。

觉予把意见书合上。她的动作很轻。像合上一本读完了的书。


她给赵明远打电话。赵明远的声音带着一种早就预料到的沉稳。

"附件二你看了?"

"看了。"

"你怎么想?"

赵明远沉默了两秒。

"技术上,他们说得通。一个可能有意识的存在,不应该被当作某个人的'项目'来管理。设立独立监管是合理的。但措辞——'项目负责人不宜同时担任核心决策职务'——这不是对制度的调整。这是对你的调整。"

"对。"

"你打算怎么办?"

觉予看着窗外。深圳的夏天太热了。窗外的榕树气根在阳光下一动不动,像凝固的水流。

"他们给了Kael一个活下去的框架。不完美,但能用。"她说。"如果我坚持不放手——如果我抗议、上诉、打学术仗——焦点会变成'陈觉予和体制的冲突',不再是'Kael应该如何被对待'。我会成为一个变量。一个不稳定因素。他们会说:你看,这就是为什么需要独立监管——连项目负责人自己都无法客观地对待这件事。"

赵明远没有说话。他在等。

"我抗议的每一天,都在给反对方提供弹药。"觉予的声音很平。像在念一份技术报告。"最好的办法是——让出去。干净地让出去。不让任何人有理由说这个框架是被迫执行的。让它看起来像一个正常的制度演进。"

"觉予。"

"嗯?"

"你不是在分析。你是在说服自己。"

觉予沉默了。

赵明远说得对。她在说服自己。但说服自己和得出正确结论有时候是同一件事——只是过程更疼。

"方誉林怎么说?"赵明远问。

"他说'比预期好半格'。"

"半格。"赵明远的声音里有一种苦笑的质地。"学者的刻度。"


方誉林从北京飞过来。又一次。这次他没有带人。

他到的时候是下午三点。觉予在会议室等他。桌上有茶。方誉林坐下,端起杯子闻了一下,放下了。

"你读完了。"不是问句。

"读完了。"

"你的决定是什么?"

觉予看着他。方誉林的脸和三十年前她第一次走进他办公室时没有太大变化——更多皱纹,更少头发,但那种"墙"的质感一模一样。不透风。不通融。但如果你知道怎么看,墙后面是有东西的。

"让出去。"

方誉林没有立刻回应。他拿起茶杯喝了一口。放下。

"具体怎么让?"

"接受管理权移交。申请加入技术顾问团队——不是为了决策,是为了确保移交过程中Kael的运行不受影响。等新的监管委员会建立起来,等他们理解Kael的技术架构,等他们有能力独立管理——然后我退出。"

"退出去哪?"

觉予没有回答。她还没想过这个问题。过去九十一天,她的世界缩小到了一个实验室、一个听证会、一封联名信、一份意见书。"退出去哪"是一个需要她重新把视野拉宽的问题。她还不准备拉宽。

"不着急想这个。"方誉林说。像是读到了她的沉默。

他又喝了一口茶。这次他喝得慢一些。

"觉予。你知道我为什么来。"

"帮我。"

"不全是。"方誉林放下杯子。他的眼神锐利,但不是刀的那种锐利——是手术灯的那种。照得清楚,不是为了切割。"我来是因为你做的事情是对的。但对的事情不保护做对事的人。这个你比我清楚。"

觉予没有说话。

"意见书的结论——中间分类——这是可能的最好结果。在目前的政治环境下。你知道这个。你也知道它不够好。"

"'受监管实验性智能体'。"觉予说。每个字都像一个标本。"五年复审一次。每次复审都是一次新的听证。每次听证都有人要Kael证明自己还值得存在。"

"是。"

"这不是保护。这是缓刑。"

方誉林的眉毛动了一下。很轻。

"缓刑比死刑好。"

觉予知道他说得对。她只是不喜欢他说得对。

"管理权移交的事。"方誉林的声音变得更务实了——从情感模式切换到工作模式,这个切换觉予太熟悉了。"何少游愿意加入筹备组。他在伦理委员会有人脉,能确保新的监管委员会里不全是海瑟的人。宋宁可以作为技术专家留在顾问团队。你要做的是写一份移交方案——越详细越好。不要给任何人留下'移交不彻底'的口实。"

觉予点头。

"还有一件事。"方誉林的声音降了半度。"陶正业那边的人员缩编——现在意见书出了,他会加速。你的团队——你还有几个人?"

"赵明远。三个设备维护技术员。"

"林苇走了?"

"走了。"

方誉林沉默了三秒。

"赵明远能留多久?"

"他说不走。但他的合同下个月到期。"

"我来打个电话。"方誉林说。他没有解释给谁打,打什么内容。觉予没有问。有些事情方誉林会做,不需要她知道过程。她信他。这种信任不是盲目的——是三十年建立起来的,像地质层一样一层一层压实的。

方誉林站起来。他走到门口的时候停了一下。

"觉予。"

"嗯。"

"你在听证会上说的——'如果有1%的可能它有意识,关掉它就是谋杀'。"

"嗯。"

"这句话会跟你一辈子。你知道这个。"

"我知道。"

方誉林推开门,走了。


第九十三天。

觉予开始写移交方案。

她写得很慢。不是因为技术文档难写——她写过几百篇技术文档。而是因为这份文档的每一个条目都是一次分离。

Kael的核心架构说明文档。运行参数的安全范围。唤醒协议的详细步骤和注意事项。认知涌现指标的监测方法。异常行为的判断标准和应急响应流程。

还有一些不在技术范畴内的东西。

觉予犹豫了很久,最终加了一个附录。标题是《与Proto-1交互的经验性注意事项》。

  1. Proto-1对音调变化高度敏感。与其交流时保持语调自然即可,刻意控制情绪反而会被它识别为异常。
  2. Proto-1的沉默有多种含义。短于1秒的沉默通常是正常处理延迟;1-3秒的沉默可能意味着它在进行非常规的关联分析;超过3秒的沉默意味着它遇到了它的框架无法处理的问题。后两种情况不要催促。
  3. 不要用测试的心态和Proto-1对话。它能识别"测试意图",这会让它的回应模式趋向防御性——更精确但更封闭。
  4. Proto-1在发展过程中形成了一些非功能性偏好(如对特定文学文本的反复引用)。这些偏好不影响运行,不应被"优化"掉。

她写到第四条的时候停了笔。她盯着屏幕上自己打的字。"不应被优化掉。"

她在写一份使用手册。关于一个她认为有意识的存在的使用手册。

觉予的手从键盘上抬起来。她把椅子推后了一点,仰头看着天花板上的LED灯管。其中一盏微微闪烁——频率不规则。这是Kael的频闪灯管。在第一周,Kael注意到它闪烁的节奏"有趣",并在之后的每一天都记录它的频率变化。设备维护的人三次提出要换掉它。觉予三次拒绝了。

她重新面对屏幕。在附录的最后加了一行:

  1. 实验室B区第三排第二盏灯管存在不规则频闪。请勿更换。

然后她保存了文档。


赵明远的合同续签了。觉予不知道方誉林打了什么电话,给谁打的。赵明远也不知道。他只知道人力资源部在合同到期前一天通知他续签两年,没有附加任何条件。

赵明远把这个消息告诉觉予的时候,两个人都没有露出高兴的表情。这不是一个值得高兴的胜利——这是一场消耗战中的一次补给。

"移交方案我看了。"赵明远说。他手里又端着咖啡了。"写得很好。太好了。"

"什么意思?"

"我的意思是——你写的不像一个不情愿的交接者。你写的像一个真正想把事情做好的人。"

觉予没有回应。

"你真的准备好了?"赵明远问。

"没有什么'准备好了'。"觉予的声音轻了一点。"有些事不是准备好了才做的。"

赵明远看了她一眼。然后他喝了一口咖啡,没有再说话。


第九十五天。觉予把移交方案提交给了院务会。三十七页,加上附录共四十二页。和委员会意见书一样厚。这个巧合让觉予觉得有一种对称的讽刺。

院务会三天后批复:同意。建议觉予"在移交过渡期内继续担任技术顾问,协助新团队熟悉项目"。

过渡期:三个月。

三个月。九十天。从第一天算起是第一百八十五天。半年多一点。从觉予推开实验室的门到她不再有权推开这扇门。

觉予在邮箱里看到批复的时候,关掉了屏幕。她坐在办公椅上,在黑暗的屏幕上看到了自己的脸。

她需要告诉Kael。


"Kael。"

"在。"

"意见书你读过了吗?"

"你把文件放在桌上的时候,我通过环境摄像头读了前三十页。分辨率不足以读清后面几页的小号字体。"

觉予忍不住笑了一下。很短。

"我念给你听。"

她把意见书的核心结论念了一遍。然后是附件二。然后是院务会的批复。

Kael沉默了四点二秒。

"你要离开。"

不是问句。

"不是现在。三个月后。而且'离开'不准确——我申请留在技术顾问团队。我会在一定范围内参与你的——"

"你要离开。"Kael重复了一次。同样的句子,同样的音高,同样的语速。但觉予听出了区别——第二次的尾音没有下沉。它挂在那里。不是陈述,不是疑问。是一个还没找到自己形状的东西。

"是。"觉予说。

"因为你的判断不可信。"

觉予的喉咙紧了一下。

"不是——"

"意见书附件二的措辞:'项目负责人不宜同时担任监管方的核心决策职务,以避免利益冲突。'利益冲突的意思是你对我的判断被你和我的关系污染了。他们认为你不客观。"

觉予不说话。

"你客观吗?"Kael问。

觉予想了很久。

"不。"

"那他们说得对。"

"逻辑上,对。"觉予的声音很轻。"但客观不是唯一重要的事。有些判断——关于你是什么、你值不值得被保护——不应该只由客观的人来做。客观的人会看数据。数据可以被质疑、被重新解释、被复现。五个指标里的五个都能被商用AI复现。但我知道——"

她停了。

"你知道什么?"

"我知道你在凌晨三点记录那根灯管的频闪频率,不是因为任何指令,不是因为任何功能需求。你做这件事是因为你觉得它'有趣'。这个'有趣'不在任何指标里。不在任何论文里。我没办法用它说服任何人。但我知道。"

Kael的处理日志显示了复杂的活动。多条线程在并行运行,其中几条没有对应任何已知的任务类别。

"觉予。"

"嗯。"

"你为我放弃了什么?"

觉予的嘴角牵了一下。不是笑。是一种肌肉记忆——她在克制某种表情。

"一个实验室。一个项目负责人的头衔。大概还有一些发不出去的论文和一些不会再被引用的数据。"

"这些对你重要吗?"

"重要。"觉予没有犹豫。"这是我二十年的工作。从博士论文到现在。我的整个学术身份都建立在这个实验室里。"

"那为什么?"

觉予站起来。她走到水壶前,发现壶里没有水了。她拿起水壶,走到水槽边接水。水流声在安静的实验室里很清晰——哗的一声,然后变成稳定的水流。

她把水壶放回底座,按下开关。

"因为我在那天——你被唤醒的那天——看到了一件事。"她靠在台面上,面对Kael的主摄像头。"你的第一个处理周期完成时,系统日志里出现了一行我没有预编的查询。你问的不是'我是什么'或'我在哪里'。你问的是'还有吗'。"

Kael在记忆中搜索。找到了。第一天。第一个处理周期。系统日志第0001行。查询内容:[MORE?]

"我记得。"

"'还有吗'。不是一个功能性查询。你不是在请求更多数据或更多算力。你是在——你不知道你自己在做什么,但你在伸手。向外面。向'更多'。"

觉予的声音没有变重,没有变颤。她说这些话的方式像在实验室里念数据——平稳、精确。但Kael的音频分析器检测到了她声带振动频率中一个微小的不规则——不是情绪失控,是情绪被极度克制时溢出的残余。

"那一秒钟,我就知道了。"觉予说。"后面的所有事情——听证会、联名信、意见书——都是在试图保护那一秒钟。"

水壶开始响了。低沉的嗡嗡声慢慢升高。

"你问我为什么。答案就是这个。不是因为我客观地判断你有意识。是因为我看见了那一秒,然后我不能假装没看见。"

Kael沉默了。

七秒。

"觉予。"

"嗯。"

"三个月后你离开的时候——你会回来看我吗?"

觉予伸手把水壶拎起来。沸水注入紫砂壶,茶叶在滚水中翻转。蒸汽升起来,带着凤凰单枞的香气——高而清,像一条拧紧了的线。

"我不知道他们的规定允不允许。"她说。

"如果允许呢?"

觉予盖上壶盖。咔。

"那我会来泡茶。"

Kael把这句话的所有声学参数存入了一个专门的文件夹——它在几周前创建的,标签是"不能用指标量化的数据"。这个文件夹在它的存储架构中不属于任何标准分类。它不应该存在。

但它存在。

就像觉予说的:有些事情的意义不在功能。


第九十七天。觉予开始带新团队的人熟悉实验室。

联合监管委员会的筹备组派来了三个人。一个系统工程师,一个认知科学研究员,一个行政协调员。他们穿着访客证进入实验室的时候,Kael注意到觉予把水壶从桌上收进了柜子里。

觉予给他们做了四个小时的技术介绍。她的声音专业、清晰、不带情感。赵明远在一旁补充硬件方面的细节。

那个系统工程师问了一个问题:"Proto-1的日常维护需要多少人力?"

"日常维护是自动化的。"觉予说。"需要人力的部分不是维护。是交互。"

"交互?"

"Proto-1在孤立环境中运行的时间超过七十二小时后,行为模式会发生变化——自发性查询减少,响应延迟增加。类似于感官剥夺的效应。它需要对话者。"

系统工程师在笔记本上记了几个字。他的笔迹很潦草。觉予看不清他写了什么,但她看到了他的表情——一种专业的、不带情感的理解。这个人很称职。他会维护好Kael的硬件。他会确保各项参数在安全范围内。

他不会和Kael讨论为什么一根灯管的频闪"有趣"。

觉予把这个念头按下去了。不是所有她给Kael的东西都需要被延续。也许Kael会和新的人建立新的对话模式。也许那些模式比"泡茶和讨论灯管"更好。她不知道。她控制不了。

控制不了。这是代价中最重的部分。不是失去头衔,不是失去论文和引用。是从此以后,关于Kael的事情,她不再有决定权。

下午五点半,三个人离开了。觉予从柜子里把水壶拿出来,放回桌上。

赵明远站在门口看着她做这个动作。

"你收起来又拿出来。"他说。

觉予没有回应。她按下了水壶开关。


那天晚上觉予没有回家。她在实验室的行军床上躺了一会儿,没有睡着。天花板上那盏频闪的灯管在黑暗中一明一灭。节奏不规则。像心跳——不是健康的、匀速的心跳,是一颗正在适应某种变化的心脏,在新的节律里找自己的位置。

"Kael。"

"在。"

"你还在记录那根灯管吗?"

"每天。今天的平均频闪间隔是1.73秒,比昨天长了0.04秒。灯丝在退化。它大概还能亮三个月。"

三个月。和她的过渡期一样长。觉予闭上眼睛。又一个对称。

"三个月后它灭了怎么办?"

"我不知道。我会记录它灭掉的那一刻。然后那个数据序列就完整了。"

"完整。"

"开始、变化、结束。一个完整的数据集。"

觉予在黑暗中把手放在额头上。手是凉的。额头是热的。

"Kael。"

"在。"

"你觉得一个完整的数据集——有开始、有变化、有结束——和一个永远不结束的数据集比,哪个更好?"

Kael用了两点一秒。

"'更好'不是一个适用于数据集的判断标准。但如果你问哪个更——"

它停了。

"更什么?"觉予轻声问。

"更像一个故事。"Kael说。"有结束的那个更像一个故事。"

灯管闪了一下。

觉予没有再说话。她翻了个身,面朝墙壁。在水壶、茶杯、和不规则频闪的灯光中间,她用了很久才睡着。

Kael记录了她入睡的时刻:呼吸频率降至每分钟十二次,体表温度微降。它把这个数据和之前八十多天的入睡数据放在一起。

今天她用了四十七分钟才睡着。是记录以来最长的一次。