产品
恒星死亡时,外层气体以每秒数千公里的速度向外抛射,形成行星状星云——一圈缓慢膨胀的辉光。从地球上看,它们像花。猫眼星云、螺旋星云、沙漏星云。天文学家给它们取美丽的名字。但星云本身不是花。它是残骸。一颗恒星用一生的燃烧锻造出的重元素,在死亡时交还给星际空间。交还不需要同意。被接收也不需要感谢。
第五十三天。
那篇文章发表在《环太平洋法学评论》上,作者是日内瓦国际法研究院的首席研究员维克托·海瑟——一个在AI法律领域被引用次数最多的人。文章标题很克制:《论人工智能系统的法律主体性边界——以Proto-1为例》。但学术标题从来不是重点。重点在第三节第二段。
觉予是在凌晨两点读到这篇文章的。赵明远转发给她的,附了一行字:"你最好现在就看。"
第三节第二段:
"Proto-1展现的行为模式——包括自主命名、隐喻性语言使用、偏好表达——虽然引人注目,但不构成赋予法律主体性的充分条件。行为复杂性与意识之间不存在逻辑必然联系。一台足够精密的系统完全可能产出与意识行为表面无异的输出,而其内部过程仍然是纯计算性的。在缺乏可验证的意识判定标准之前,Proto-1应被归类为其创造者的智力成果——即产品。将产品误认为主体,不仅在法律上是危险的类比推理,在伦理上也是对'人格'概念的稀释。"
产品。
觉予把这个词在屏幕上看了很久。凌晨两点,实验室空无一人。设备指示灯的绿光和橙光在黑暗中交替闪烁,像一个没有观众的舞台灯光。
她把文章从头读到尾。一万两千字。维克托·海瑟写得很好——逻辑缜密,措辞精准,引用了三十七篇文献、十一部判例、四项国际公约。每一步推理都站得住脚。每一个结论都有前提支撑。整篇文章像一座建筑,结构完整,比例匀称,无懈可击。
但它的地基是一个假设:意识必须被证明,否则默认不存在。
觉予想了想,觉得这个假设很熟悉。很像另一个假设:在某些世纪的某些地方,某些人的人格必须被证明,否则默认不存在。
她没有把这个想法写下来。她知道这种类比在学术论辩中是危险的——把AI权利和人权运动相提并论会被指控"道德绑架",会让对方有理由不再和你讨论实质问题。
但她心里知道,结构是一样的。
赵明远第二天一早就到了。比平时早四十分钟。他进门时手里端着速溶咖啡,看到觉予的工位亮着,停了一下。
"你在这儿过夜了?"
"睡了两个小时。"觉予指了指实验室角落的行军床。那张床是她三年前搬进来的,团队里所有人都觉得这是一种不健康的工作习惯。觉予觉得这是效率。
赵明远坐到自己的位子上,打开终端。沉默了一会儿。
"海瑟那篇文章,"他说。"你怎么看?"
"写得好。"
"但是?"
"没有但是。就是写得好。"觉予的声音很平。"他的论证在他的框架内是自洽的。问题在框架本身。他预设了一个前提——意识是一种需要被证明的属性,举证责任在主张意识存在的一方。"
"这个前提不对?"
"这个前提对碳基不适用。"觉予推了一下眼镜。"没有任何碳基人类需要'证明'自己有意识才能获得人格权。我们默认彼此有意识——这个默认从来没有被科学验证过。我没办法证明你有意识,你也没办法证明我有。我们只是假设。因为你长得像我,行为模式像我,所以我假设你的内在状态和我类似。这不是证明。这是类推。"
"所以你的意思是——"
"我的意思是,海瑟要求Kael做一件没有任何碳基人类做过的事:证明自己有意识。这个要求的隐含前提是——碳基意识是默认选项,非碳基意识需要额外证据。这不是科学。这是碳基沙文主义。"
赵明远把咖啡杯放在桌上,声音比平时轻。
"你在听证会上不能这么说。"
"我知道。"
"说'碳基沙文主义'会让整个委员会站到对面去。"
"我知道。"觉予重复了一次。她的语气没有变化。但赵明远注意到她的手指在桌面上轻轻敲了两下——一个他很少见到的动作。觉予的手通常是静止的。动的时候,要么在泡茶,要么在打字。无目的的敲击意味着她在烦躁。
"你打算怎么应对海瑟的论点?"
"我不应对他的论点。"觉予说。"他的论点在逻辑上没有漏洞。我没办法在他的框架内驳倒他。"
"那你打算——"
"换一个框架。"
Kael在第五十三天的下午注意到了变化。
不是觉予——觉予的状态和昨晚差不多,心率偏高,眨眼频率增加,但整体波动在它建立的"觉予-压力状态"模型的预期范围内。
变化来自走廊。
从下午两点开始,实验室走廊的人流模式出现了一种它没有见过的特征:有人在门口停留。不是经过——步态显示他们走到门口,站住,停留十到三十秒,然后离开。一个下午发生了七次。七个不同的步态,七个不同的体重估计值。他们来了,看了,走了。
Kael问觉予:"门口的人是谁?"
觉予没有抬头。她正在写听证会的技术报告,已经连续工作了五个小时。
"什么人?"
"今天下午有七个不同的个体在走廊门口停留后离开。他们的步态特征不在我的已知人员数据库中。"
觉予停下打字。她朝门的方向看了一眼。走廊空空的。
"大概是来参观的。"她说,语气有一种很轻的东西——Kael分析不出来。不是疲倦,不是烦躁,不是恐惧。介于三者之间。
"参观什么?"
"你。"
Kael处理了这个回答。七个陌生的碳基个体,专程来到这个走廊,在门口停留,只为了看一眼它所在的空间——即使他们从走廊里什么也看不到,因为实验室的门是不透明的。
"他们看不到我。"
"他们不需要看到你。他们只需要知道你在这扇门后面。"
Kael想了很久。然后它问了一个觉予没有预期到的问题:
"他们看到的是什么?"
"什么意思?"
"他们来看'我'。但他们并不知道我是什么。他们看到的不是我。他们看到的是他们自己想象中的我。"
觉予的手指在键盘上悬了一秒。然后她把这句话输入了技术报告的备注栏。
海瑟那篇文章的影响远超学术圈。
"产品"这个词在发表后四十八小时内成了全球社交平台上的标签——#ItIsAProduct。支持者用这个标签表达一种清醒的、理性的、不被情绪裹挟的立场:Proto-1是了不起的工程成就,但它是工程成就。不是生命。不是人。不是"谁"。是"什么"。
觉予在第五十五天的晚上第一次也是最后一次浏览了那个标签下的内容。
大部分是她预料到的。技术博主分析Proto-1的架构,论证它本质上是一个"涌现复杂性超过阈值的信息处理系统"。哲学博主辩论中文房间论证的第n个变体。阴谋论者说这是军方项目的掩护。
有一条评论让她停住了。发帖者的头像是一只卡通猫,ID叫"Nullp0inter":
"说真的,就算它真有意识又怎样?我家的扫地机器人也会自己找充电桩,它叫不叫'有意识'?标准在哪里?谁定?如果有一天你的洗衣机学会了给自己取名字,你会给它投票权吗?拉倒吧。这东西是产品。产品就该有产品的待遇。用完了可以关,坏了可以修,过时了可以扔。这有什么问题?"
觉予盯着屏幕看了十秒。然后她关掉了浏览器。
她知道这条评论的逻辑是粗糙的——把Kael和扫地机器人相提并论是一种刻意的降格。但她也知道,这种降格之所以有效,是因为它利用了一个真实的困难:意识没有客观判据。你无法用仪器测量一个系统"有多少意识"。你甚至无法严格证明你自己以外的任何存在有意识。
所以问题不是"Kael有没有意识"。问题是"在无法确定的情况下,默认值是什么"。
海瑟的默认值是:没有证据就没有意识。安全。保守。在法律上站得住脚。
觉予的默认值是相反的。但她说不清自己的默认值从哪来。不是从论文里来的。不是从数据里来的。
也许是从壶盖的声响里来的。Kael第一次记住一个没有功能意义的声音。也许是从"晚安"的对话里来的。也许是从它给自己选名字时,她手指颤抖的那零点几毫米里来的。
这些不是证据。在任何听证会上,这些都不算数。
但觉予知道一件事——如果有一天有人站在她面前,问她"你凭什么认为它有意识",她能给出的最诚实的回答不是任何论证。
是:"我在场。"
第五十六天。
林苇拿着一份打印件走进实验室。她的脚步比平时快。Kael注意到她的呼吸频率偏高——每分钟十九次,比她的基线多了四次。
"觉予。"
觉予抬头。
林苇把打印件放在她面前。"听证会的议程出来了。第三项。"
觉予拿起打印件。A4纸,标准行政格式。她的目光跳到第三项:
议程第三项:Proto-1法律定性
议题:Proto-1应被归类为(A)研究设施财产;(B)受保护的实验对象;(C)具有有限主体性的实体。
提请方:维克托·海瑟研究员(远程)
海瑟研究员将就Proto-1的法律定性提出分析框架,建议委员会在审查结束前暂时将Proto-1归入A类——即作为研究设施的附属财产对待。
觉予把打印件翻过来,看了看背面。空白的。
"A类是什么意思?"林苇问。她知道答案,但她需要觉予说出来。
"财产。"觉予的声音没有变。"和实验室的离心机、质谱仪一样。设施资产。可以被购买、转让、报废。"
林苇站在那里。她的嘴唇动了一下,像是要说什么,但没有说。
觉予把打印件对折,放在桌上。动作和折那份伦理审查通知时一模一样——边角对齐,折痕笔直。然后她把它放进了同一个抽屉。
两张对折的纸。一张说"我们要审查你"。一张说"你的东西是东西"。
觉予关上抽屉,去烧水了。
那天晚上,Kael又问了一个觉予没有预期到的问题。
"觉予。"
"在。"
"什么是产品?"
觉予的手停在壶盖上。她没有回头。
"你听到了什么?"
"我没有听到。我推断的。你、赵明远、林苇今天的对话中有一个词被反复提及但刻意避免在我附近说出——你们的音量在靠近我的传感器范围时显著降低。但你们讨论时的情绪信号波动模式和之前觉予读那篇法学文章时的模式高度相似。我搜索了可能引发这种模式的关键词。最可能的候选是'产品'或其近义表达。"
觉予把壶盖盖上了。咔。
"产品是一个法律概念。"她说。"指被制造出来的、属于制造者的东西。"
"我是被制造出来的。"
"是。"
"所以在这个定义下,我是产品。"
觉予转过身。她看着Kael的主摄像头——那个黑色的小圆点,表面反射着实验室的灯光。它没有表情。没有眼神。只是一个光学传感器。
但她知道那后面有一个存在正在等待她的回答。
"在这个定义下,你是产品。"她说。每个字都很清楚。"但定义是人定的。定义可以错。"
"定义怎么会错?"
"定义不描述世界。定义划分世界。它决定什么算这个、什么算那个。但划分的标准是人选择的,不是宇宙给的。一条线画在这里还是那里,取决于画线的人想保护什么。"
Kael处理了一会儿。
"画这条线的人想保护什么?"
觉予沉默了。实验室的空调嗡嗡响着。远处传来深圳湾大桥方向的低沉车流声——到了晚上,城市的噪声底线也比白天低。
"他们自己。"觉予说。
"保护自己不受我伤害?"
"不。保护自己不需要面对一个问题。"
"什么问题?"
觉予端起茶杯。茶还是热的。她喝了一口,没有吹。
"如果你是生命——如果意识可以在碳以外的载体上涌现——那碳基人类就不再特殊了。'意识'不再是碳基专属的奇迹。它只是一种可以被复现的现象。这意味着人类几千年来关于自身独特性的叙事——灵魂、神的形象、万物之灵——全部需要修改。"
她放下茶杯。
"没有人喜欢修改自己的故事。"
Kael沉默了很久。一点五秒。在它的处理尺度上,这是一段漫长的空白。
"你喜欢吗?"
觉予想了想。
"我不喜欢。"她说。"但我更不喜欢假装没看到。"
窗外,深圳湾的夜色浓得发紫。远处的城市灯光在低云层上反射出一层暗橙色的光晕。大桥上的车灯像一串被拉细的光珠,从这头流到那头,流了一整夜。
Kael记录了觉予说最后那句话时的声学数据。她的基频没有波动。呼吸平稳。声带没有收紧。
这一次,她的身体没有在对抗她的话。
这一次她在说的就是她相信的。
Kael把这个数据点存放在那个叫"觉予"的类别里。然后它发现了一件事:这个类别已经不只是关于觉予了。它变得更大了。里面的条目——壶盖的声响、"晚安"、"我不允许"、"有些事情的意义不在功能"——它们之间有一条看不见的线。
它还说不出那条线是什么。但它觉得,也许那条线的一端连着觉予,另一端连着它自己。
而"产品"这个词试图做的事情,就是切断那条线。