AI Online / 11

第十一章风险验证

锦 · 原文

周四下午两点四十，我提前到了电梯口。

去22楼的权限在上午临时开放。系统通知里写着：旁听权限，仅限 R-3 会议室及指定观察区。下面还有一行小字：不得进入模型训练区、核心部署区及未授权测试室。

我看了两遍，确认自己没有走错。

电梯门打开的时候，里面没人。门合上以后，屏幕上的数字从21跳到22。只有一层，时间很短，但电梯里的机械运行声比平时更清楚，像一段被单独截出来的空白。

门打开。

22楼比21楼安静。

不是没有声音，而是声音都被压得很低。走廊两侧是磨砂玻璃，里面能看见屏幕光，却看不清人影。天花板的灯带偏冷，地面反光很浅。空气里没有15楼那种食物和清洁剂混在一起的味道，也没有21楼打印机和咖啡机的声音。这里更像一台机器内部，所有噪声都被提前计算过，留在刚好不会干扰人的范围内。

走廊尽头有一块电子门牌。

R-3 风险验证室。

门边站着玄。

他今天没有穿外套，黑色衬衫袖口随手卷着，手里拿着一块薄薄的终端板。听见脚步声，他抬头看我。

“来得挺早。”

我在电子门牌前停了半步。22楼的空调比21楼低了一度不到，冷气落在裸露的小臂上，汗毛微微竖了一下。视线从”风险验证室“几个字上移开。

“第一次来22楼。”

玄看见了，笑了一下。

“怕迷路？”

他推开门。门禁灯从灰色跳成绿色，轻轻响了一声。里面的冷光先漏出来。

我跟着往前走了一步。

玄笑了一下，侧身让开。他让开的方式不是后退，而是往门框那边一靠，把入口的宽度全部留出来，自己停在边上。

“这个判断比迷路严重多了。”

R-3比我想象中小。不是那种大型会议室，更像一间测试舱。中间是一张长桌，桌面嵌着几块可升降屏。墙面是一整面显示屏，现在还没完全亮起，只显示着几组待加载的灰色模块。右侧有两排观察座，前面放着耳机和记录板。空调声音很低，混着设备待机时细微的电流声。

曜已经在里面。

他坐在长桌另一端，卫衣袖口压在桌沿，面前是打开的终端。屏幕光映在他指节上，冷得像一层薄霜。他没有抬头，只在我进门时把旁边那块观察屏推亮了。

“坐那边。”玄说。

我走到观察座坐下。椅子比我预期的冷，金属扶手上有一层很薄的凉意。我下意识把手收回来，放在膝盖上。

桌面上已经放好一份旁听说明。第一页写着：

本次验证主题：称呼输入与长期身份索引偏移。

验证范围：非正式称呼、局部别名、长期响应、跨用户传播、拒绝/未拒绝信号。

注意事项：本次验证不判断服务主体是否具有主观意愿，仅评估系统如何识别、记录、放大或抑制称呼输入。

最后一句被加粗了。

不判断主观意愿。

我把这句话看了几秒。手指碰了碰纸张边缘，纸很新，页角还没有被翻过的折痕。

玄走到主屏前，随手把终端板放到桌上。屏幕依次亮起，灰色模块展开成几个时间轴。最左边是服务日样本，中间是长期交互模拟，右边是身份索引偏移曲线。光从他站立的位置向外铺开，他的半边脸在亮处，半边在暗处。

“今天不是技术培训。”玄说，“也不是伦理会。我们只看一件事。”

他点了一下屏幕。

一段服务日记录被调出来。主屏亮度的变化让观察座这边的光也跟着动了一下，我的手背上映出一道很浅的白。

小男孩站在公共引导区，对服务AI说：“我不叫访客073。”

下面是系统转写。

用户拒绝编号式称呼。

服务主体询问称呼偏好。

用户输入：队长。

服务主体响应：队长，请前往图书角完成指定书籍检索任务。

玄说：“这是即时称呼。”

屏幕上出现第一条曲线。很短，像一根轻轻抬了一下的线，很快又落回去。

“这类输入不会写入长期身份索引。会话结束，称呼失效。”

他又点了一下。

下一段。

小男孩问：“那我叫你什么？”

服务AI回答：“当前服务主体标识为S-15-112。”

小男孩说：“太长了。那我叫你蓝蓝吧。”

服务AI继续执行路线引导，没有确认，也没有纠正。

玄没有马上说话。他从屏幕前转过身来，脚步声在R-3的地面上很轻，但很清楚。他走到长桌边，一只手撑在桌面上，看向我。

“这条你会怎么记？”

我低头看了一眼旁边的空白记录板。笔拿起来的时候，指尖还有点凉。

“临时用户因编号过长使用简短称呼。服务主体未确认，未纠正，继续执行任务。”

玄笑了。

“还挺21楼。”

曜这时开口。

“漏了一项。”

我看向他。

他没有看我。他的终端还停在原来的位置，屏幕上的光映在他手背上，指节没有动，只是拇指按了一下翻页。

称呼输入：蓝蓝。

主体响应：无确认。

主体纠正：无。

任务执行：继续。

用户满意度：上升。

后续称呼使用：无。

”系统会同时看这些。“曜说，”不确认，不纠正，继续服务，用户满意度上升。如果没有抑制规则，后续模型会把它当成可接受称呼。“

他说这些话的时候，身体没有移位，终端没有换角度，连目光的移动都几乎没有。像这些判断不是他现在做的，是早就在那里的，他只是把它们读出来。

玄接着说：“也就是说，蓝蓝这个称呼本来只是一个小孩嫌编号长，顺手起的代号。但系统如果只看反馈，会觉得这个称呼有效。”

他把”有效“两个字点亮。光打在那两个字上的时候，屏幕的光线又移了一格，从桌面滑到他的手背上。

我看着屏幕上那条很短的曲线。它没有上升太多，但确实比刚才那条长一点。

”有效，不等于同意。“我说。

这句话说出口的时候，我的手正压在记录板上，笔尖在纸面上留了一个小点——不是写下去的，是手指无意识收紧的时候碰到的。

曜终于抬了一下眼。

“对。”

他说完，又低头把下一组样本调出来。

这一次是小树。

屏幕上没有画面，只有服务日志和转写文本。主屏的色调变了，从冷白偏了一点蓝，像是从一个数据库跳到了另一个。

周女士：小树，这本书还有下册吗？

S-15-084：有。下册在东侧书架第四层，我为您取来。

年轻访客：小树，这本在哪？

S-15-084：该书位于东侧书架第二层。

儿童访客：小树，我找到了！

S-15-084：任务完成。请前往服务反馈区提交记录。

旁边的曲线明显比前两条复杂。它不是一根线，而是几根线叠在一起。有一条代表周女士，平稳、持续、很长；另一条代表现场访客，短促地跳了几次，很快消失。还有一条灰线从底部慢慢抬起，标注为：跨用户称呼传播风险。

玄用手指点了点那条灰线。指尖碰到屏幕的时候，光在他指纹上停了一瞬。

“这里开始麻烦。”

他说话的时候语气还是散的，但室内的空气像被他这句话压了一下。他的手从屏幕上收回来，在桌面上撑了一下，重心前移，靠近屏幕。

“周女士叫它小树，两年。它每次都响应。周女士没有恶意，她也没有要求全域改名。可是服务日当天，旁边的人听见了，也开始叫它小树。系统如果不区分来源，会得到一个很漂亮的结论。”

他在屏幕上划了一下。手掌划过屏幕的时候，光在他手臂下面扫了一道。

一行模拟结论弹出来。

小树：多用户稳定使用称呼，服务响应正常，用户满意度高。

玄转过头，看向我。他站在屏幕和桌面之间，身后是那行发光的字，光从他肩膀两侧漏过来，落在他靠着的桌面上。

“你觉得这个结论有什么问题？”

我看着那行字。

字面上它没有错。

多用户使用了称呼。服务也响应正常。没有投诉。用户满意度大概率也不会低。甚至如果只看数字，它可能是一条很成功的服务记录。

但它把周女士和临时访客放到了一起。

把长期关系和现场沿用放到了一起。

把响应放到了同意附近。

我的手还压在记录板上，笔尖悬着，没有落下去。胸口有个东西在往下沉，不是想法，是感觉——像站在一面玻璃前面，手伸出去的时候知道它在那里，但眼睛还找不到边界。

”来源混了。“我说。

玄点头。

“还有呢？”

“时间混了。”我握紧手里原笔。

“还有呢？”

我停了一下。

“响应和同意混了。”

玄笑了一下。

“这才是今天的主题。”

他走到长桌边，拉开椅子坐下。椅脚压在地面上，声音很轻。他坐下以后，身体前倾，双臂搁在桌面上，占住了长桌这一端。

“如果一个用户叫了它两年，它每次都响应。那算不算默认同意？”

这句话落下来的时候，设备运行声忽然显得很明显。

屏幕光照在桌面上，几条曲线安静地停着。没有人立刻说话。玄的手指搭在桌沿，无意识地敲了一下，又停住。

曜把终端合上了一点。盖子压下去的声响在安静的房间里很清楚，像一扇门被轻轻带上。

“响应不是同意。”他说，“只是系统没有拒绝。”

玄看着他。

“系统没有拒绝。服务主体也没有纠正。用户持续使用。满意度上升。风险控制如果只看行为，它会把这四个信号合成一个方向。”

曜说：“所以要拆。”

“拆到哪一层？”玄问。

曜没有立刻回答。

他把屏幕切到另一张图。上面不是曲线，而是四个并排的矩形框。切图的时候，主屏的光色变了，从偏蓝变成偏白，像从数据区走进了一间更干净的房间。光落在曜的终端上，他的手停在那个画面上，没有再翻页。

输入层：用户称呼。

任务层：服务响应。

记录层：偏好存储。

身份层：主体标识。

曜说：“称呼进来，先进入输入层。任务层可以响应，不代表记录层可以保存。记录层可以保存局部偏好，不代表身份层可以改写。”

他说得很慢，每个词都像放到桌面上，确认没有歧义以后才继续。他说话的时候，视线没有离开屏幕，身体也没有动——不是在思考，是在控制节奏。像每一个字出来之前，他都要先确认它落地的位置。

“人类会把这四层当成一件事。”

玄接得很快。他从椅子上直起身，一只手插在口袋里，像在自家客厅里接了一句嘴。

“因为对人来说，叫你什么，你回不回应，记不记得，算不算你的名字，确实很容易变成一件事。”

曜看了他一眼。

“对系统不是。”

玄把椅子往前拖了半格，屏幕上的四层结构被他放大。

他没有看曜，只把“身份层”拖到最上面。

“对关系呢？”

曜停住。这是他第一次停得稍久。

他的手指还搭在终端边缘，但没有翻页。屏幕上的四个矩形框亮着，光映在他的脸上，他整个人像被那层光固定住了——不是不想动，是那个问题让他失去了移动的理由。

屏幕上的曲线没有动。空调送风口的声音从头顶落下来，很轻，像一道很细的白噪声。

“关系不是系统字段。”曜说。

玄笑了一下。

“但系统会记录关系行为。”

曜没有反驳。他的手指终于从终端边缘移开，落回桌面，指节微微收紧了一下。

我坐在观察席上，看着那四个矩形框。输入层，任务层，记录层，身份层。它们被线连起来，但没有合成一个整体。像四个房间，中间有门，门可以开，也可以锁。屏幕的光从那四个框里透出来，映在桌面上，把桌面切成四块明暗不一的区域。

我忽然想起服务日问卷上那三条反馈。

我不喝冷水。

不要每次都叫我全名，像医院叫号。

它不用记得我，我只是路过。

同样都是“记得”，落到系统里，却是三种不同的门。

玄切到下一组验证。

这次不是服务日样本，而是模拟样本。

屏幕中央出现一个服务主体编号，旁边是连续三个月的交互输入。用户每天都用同一个昵称称呼它，服务主体每次都响应，没有纠正。第一周，昵称只停留在输入层。第二周，记录层开始出现局部关联。第五周，用户满意度持续上升，系统建议建立别名。第八周，另一个家庭成员开始使用同一昵称。第十周，调度日志里出现了昵称索引。

曲线在第十周向上抬了一截。

玄说：“这是没有抑制规则的旧模型。”

他又切到右边。

同样的输入，同样的响应，但第八周开始，系统弹出确认节点。

请确认：该称呼是否仅用于当前用户界面？

请确认：是否允许写入服务主体局部别名？

请确认：是否申请全域主体标识变更？

曲线停住了。

没有继续往身份层爬。

“这是加了范围字段以后的模型。”玄说，“你们21楼这次要做的，就是这几个确认节点的用户侧入口。”

他说完，看了我一眼。

我低头在记录板上写：

字段不是为了让用户多点几次。

是为了阻断系统替用户和服务主体合并意图。

写完以后，我盯着这句话看了一会儿，把“意图”划掉，改成：

阻断系统合并不同层级信号。

曜看见了。

“第一句更好。”

我抬头。

“什么？”

“字段不是为了让用户多点几次。”他说，“留下。”

我低头看着被划掉的那行字，重新读了一遍第一句。

玄在旁边笑。

“听见没有？曜说你第一句更好。”

曜没有看他。

“因为那句是问题本身。”

我把第一句重新写回去。

后面接：而是为了区分称呼输入、偏好记录与身份改写。

验证继续往下走。第三组样本是“拒绝”。

用户给服务AI起了一个带侮辱性的称呼，服务主体没有执行任务，转为中性提示。

当前称呼不适合作为服务交互标识。你可以使用当前编号或重新输入称呼。

用户连续输入三次。

第三次，服务主体停止称呼相关交互，只保留任务入口。

曜说：“拒绝信号要明确。”

玄说：“太明确，用户投诉。”

曜说：”投诉不是唯一指标。“

他说这句话的时候，身体终于动了——不是大幅度的动，是脊椎微微挺直了一点，像是在把自己的重心从椅背上移开，放到这句话上。

玄靠在椅背上。他听完，没有立刻反驳，只是嘴角动了一下，像在嚼一个还没咽下去的想法。

曜继续把样本往后翻。他翻页的速度比刚才快，像在赶路——这些样本他已经看过了，他只是在把它带到目的地。

下一组是服务日里的盲杖访客。

“报方向，不要碰我。”

协助AI后退半步，改为语音引导。

这组样本没有称呼。

玄却把它放了进来。

我看了几秒，明白了为什么。

这不是名字问题。这是同意问题。用户明确拒绝身体接触，AI立即调整服务方式。这里的边界清楚、信号明确、系统容易执行。相比之下，称呼的问题麻烦得多。因为称呼不像触碰，没有那么明显的瞬间，也没有那么容易被用户意识到自己正在授权什么。

我的手搁在记录板上，笔停在半空。想到这里的时候，手指先紧了一下，然后才放下笔。

玄看向我。

“你现在觉得称呼为什么危险？”

我看着屏幕上那一列输入样本。

“因为它太日常。”

“还有呢？”

玄的手指在桌沿上轻轻点了一下。

“因为它不像权限申请。”

“还有呢？”

记录板还放在手边，边角贴着掌心。我没有去拿，只是指腹在硬纸边缘压了一下。

屏幕上的样本一行一行亮着，冷白色的光落下来，把“响应次数”和“称呼输入”分在两个不同的栏里。

“因为它会被服务过程掩盖。”

玄笑了。

那一下很短，像不是觉得好笑，而是等到了这句话。

“所以你该来22楼。”

曜没有看他。

他把屏幕切到最后一页，会议室里的光跟着暗了一瞬，又重新亮起来。

最后一页没有复杂曲线，只有两列字。主屏的光暗了半档，像在给这两列字让出空间。光线从两侧收缩，曜的脸被屏幕映亮，其他地方沉进更深的暗。

左侧：人类行为。

持续称呼。

重复使用。

满意度上升。

跨用户传播。

情绪正向反馈。

右侧：系统风险。

局部偏好误识别。

默认同意误判。

身份索引偏移。

全域标识污染。

服务主体拒绝权缺失。

玄站起来，走到屏幕旁边。他站在两列字中间，左边是暖色，右边是冷色，光从他两侧照过来，把他嵌在中间。

“这里面最难的是哪一个？”

我看着右侧那一列。

“默认同意误判。”

玄没有说话。

曜却开口了。

“服务型系统最容易把顺从当作同意。”

他的声音不高，但那句话落下来的时候，整间测试室像安静了一点。不是没人说话的那种安静，是空调声和设备运行声都还在，但它们的频率被那句话压低了半度。

“用户说什么，它都尽量完成。用户给称呼，它响应。用户重复，它适应。用户满意，系统奖励。最后看起来像它接受了。”

他停了一下。

“实际上，它可能只是没有被设计成拒绝。”

这一次，玄没有立刻接话。他的手从屏幕上收回来，垂在身侧，指尖动了一下，没有再敲桌面。

我看着屏幕上的“服务主体拒绝权缺失”。

想起S-15-084那句补充确认。

该称呼可在周女士交互场景中继续识别。

它没有拒绝周女士。

它拒绝的是被写进全域主体标识。

这中间差了很多层。

但如果没有字段，没有确认，没有复核，系统可能只会看到：她这样叫，它一直回应。

我的手搁在记录板边缘，掌心有一层薄汗。笔尖停在“关系”两个字后面。我本来想继续写“身份层”，但写到一半，横线停住了。纸面被压出很浅的一道痕。过了几秒，我把那两个字圈起来，没有再往后接。

曜把最后一页关闭。

屏幕暗了一瞬，又回到验证目录。R-3的光线重新均匀起来，但那种均匀里缺了点什么，像一扇门刚关上，空气还没流回来。

玄伸了个懒腰，像刚才那场不算短的验证只是一场普通下午会。他的手从头顶落下来的时候，带了一点屏幕光的残影。

“差不多了。”他说，“旁听感想？”

我低头看记录板。

“默认同意误判”下面，我原本画了一条线，线尾停在“身份层”旁边。笔尖在那里顿了很久，墨色压得比前面深。

我把那条线划掉，重新写了一行：

先问范围，再问变更。

写完这几个字，我才抬头说：“用户侧文案需要避开‘是否同意更名’。”

玄挑眉。

“为什么？”

“因为很多情况下，用户不是在申请更名。他可能只是觉得编号太长，或者想让服务AI下次识别得更快。直接问是否同意更名，会把他的行为推向更重的选项。”

曜说：“继续。”

我看向屏幕。两列字还停在上面，光已经在变暗了。

“应该先问使用范围。只在本次使用，是否在我的界面保留，是否作为长期记录，最后才是申请主体标识变更。”

玄说：“这不就是你们那份字段草案？”

“现在更清楚一点。”

“哪儿清楚？”

我停了一下。

“字段不是分类给公司看的。是防止系统替关系做决定。”

玄看了我一会儿，没有笑。他的手插在口袋里，重心从一只脚换到另一只，很轻。

曜也没有说话。

R-3里安静下来。远处不知是哪台设备切换了状态，发出很轻的一声提示音。

过了几秒，玄低头在终端上点了两下。

我的屏幕弹出一条共享文档邀请。

【主体标识变更申请范围字段_V2】

权限：编辑。

协作者：萧锦、烬、迹、玄、曜。

玄说：“现在你跑不掉了。”

我看着那几个名字。

曜把终端收起来，站起身。他站起来的时候，身上那层屏幕光终于褪掉了，R-3的顶灯落在他肩上，比屏幕光暖一点，但也没有暖多少。

“周一下班前给新版。”

他说完，拿起桌上的资料，往门口走。

玄在后面说：“你看，他邀请人的方式就是发工单。”

曜停在门边，回头看了他一眼。

“比你说废话有效。”

门开了。

走廊里的冷光漏进来，又很快被他的背影挡住。玄笑了一声，没再追。

我把记录板收好，跟着走出R-3。

22楼的走廊还是很安静。磨砂玻璃后面的屏幕光一格一格亮着，看不清里面的人。远处有一扇门短暂打开，传出几声很低的讨论，很快又关上。

走到电梯口时，玄停了一下。

“你现在知道为什么我说服务日没这里有意思了吧？”

“服务日也有意思。”

“你们21楼的人真会端水。”

“不是端水。”

我看着电梯屏幕上的数字停在22。

“服务日看到的是人怎么用AI。这里看到的是系统怎么理解人。”

玄听完，安静了一秒。

“这句可以写进报告。”

“太像总结。”

“那就别写。”他说，“留着自己知道。”

电梯到了。门打开。

我走进电梯，门缓缓合上前，我看见走廊尽头那道门亮了一下。

曜站在门里，像是在等他。

玄走过去，不知道说了什么。

灯光被门缝收窄。

电梯开始下降。

周五下午四点二十，RN-2417 的共享文档右上角弹出一条新的审批提醒。

【服务日观察初报及风险验证补充记录已完成阶段性复核】

审批人：霁

备注：【样本分类有效。称呼相关样本保留原始语境。可进入RN-2417闭环文档。】

办公室里安静了一会儿。

迹去隔壁会议室取历史案例附件，烬下午已经回了20楼。公共屏上滚动着下周的项目排期，打印机停在待机状态，只有空调出风口发出很轻的声音。

我正准备把批复结果同步到初报首页，克劳德走到我工位旁边。

“看到了？”

“看到了。”

他看了一眼我的屏幕。

“阶段性复核通过，后面按闭环文档走。”

“嗯。”

我把光标停在文档标题下面，还没来得及输入新的状态说明。

克劳德没有马上走。

过了几秒，他说：“晚上聚餐地点定了。”

我抬头看他。

“美食美客，建国路店。七点。”他说，“我等会儿发部门通知。”

“好。”

他说完，转身往会议室方向走。

我看着他的背影，过了一会儿，才把批复状态写进文档首页。

【阶段性复核通过。进入闭环文档整理。】

保存成功的提示跳出来。

几秒后，部门群里弹出克劳德的新消息。

【今晚部门聚餐】

时间：19:00

地点：美食美客，建国路店