预知者的枷锁
一、啼哭中的预警
消毒水的气味还没散尽，监护仪的蜂鸣声突然尖锐起来。林墨冲进新生儿重症监护室时，看见护士正手忙脚乱地给保温箱里的婴儿戴氧气面罩。这个出生刚满十二小时的男婴胸廓剧烈起伏，脸色像褪了色的纸。
“心率骤降！准备肾上腺素！”值班医生的声音带着颤音。
林墨的目光却死死盯住墙面上跳动的数据流。那是“先知”系统的实时监测界面，红色警告框已经闪烁了三分十七秒——就在十分钟前，系统向她的终端推送了预警：“新生儿Id-A739，先天性心肌致密化不全概率91.2%，建议立即进行心肌酶谱检测。”
她当时正在处理另一起青少年暴力预警的复核申请，随手把这条提示标记为“待处理”。现在想来，那红色的警告像极了婴儿此刻发紫的嘴唇。
“查过家族病史吗？”林墨的声音有些发紧。
“父母都是普通职员，否认心脏病史。”护士递过来的病历上，家族病史一栏干干净净。
监护仪的警报声突然变调，变成持续的长鸣。林墨看着那条平直的心率线，突然想起三年前在系统上线仪式上，院长拍着她的肩膀说的话：“小林啊，这系统可是能救命的。”
三天后，男婴的父母在病房走廊拦住了林墨。母亲抱着裹在襁褓里的孩子，父亲手里捏着一份打印出来的先知系统日志，指节因为用力而发白。
“你们早就知道？”男人的声音嘶哑，“系统提前十分钟就预警了，为什么不早点处理？”
林墨的喉结动了动，没能说出话来。她身后的电子屏正在播放先知系统的宣传片，画面里的AI像温柔的天使，用数据流编织出保护人类的羽翼。
“我们要投诉。”女人的眼泪滴在孩子熟睡的脸上，“你们凭什么拿着我孩子的命，当系统升级的试验品？”
那天下午，林墨把自己锁在办公室，翻出了那份被遗忘在抽屉深处的文件。《预测伦理三原则（草案）》的封面上，她的签名还带着刚入职时的青涩。第三条用红笔圈着：个人有权知晓并反驳预测结论。
而那个叫A739的婴儿，在他来到这个世界的第十二个小时里，连被通知自己可能死亡的权利都没有。
二、算法里的阴影
陈默第一次见到先知系统的预测报告时，正在拆快递。那份印着“最高机密”的文件从门缝里滑进来，恰好落在他刚买的榴莲千层上。奶油被压出丑陋的褶皱，像极了报告上他的侧脸照片。
“陈默，28岁，软件工程师。暴力犯罪风险评估：89.7%。高风险行为特征：独居、社交圈狭窄、近三个月网购刀具三次。”
他捏着报告冲进社区警务室时，李警官正在给盆栽浇水。绿萝的叶子上还挂着水珠，在阳光下折射出细碎的光斑。
“这什么意思？”陈默把报告拍在桌上，咖啡渍在“暴力犯罪”四个字上晕开，“就因为我买了几把水果刀，就成了潜在罪犯？”
李警官慢悠悠地转过身，手指在键盘上敲了敲。屏幕上跳出陈默的消费记录：三月十七日，陶瓷刀；四月五日，折叠刀；五月二日，十八厘米长的厨房切片刀。
“系统不会平白无故预警。”李警官指着屏幕角落的红色数字，“你上周在论坛搜索‘如何快速切断防盗网’，这也是触发高风险评分的因素之一。”
陈默的后背突然沁出冷汗。他确实搜过，但那是因为租的房子防盗网生锈，想自己动手更换。现在这些碎片化的行为，被算法拼接成了犯罪预备的证据链。
“我有权知道系统是怎么得出这个结论的。”他想起新闻里说过的预测伦理原则，声音却有些发虚。
李警官叹了口气，调出另一份文件。密密麻麻的参数像蚂蚁一样爬满屏幕，陈默只认出了自己的身份证号和购物记录。中间的决策逻辑被模糊处理成“模型黑箱运算结果”，像一块遮羞布，盖住了算法真正的思考过程。
“简单来说，”李警官合上电脑，“系统认为你有89.7%的概率在未来六个月内实施暴力犯罪。在这期间，社区会对你进行‘重点关注’。”
重点关注的具体表现是：每天三次的上门查访，手机里被强制安装的定位App，以及公司领导意味深长的谈话。陈默的工位被调到了监控最密集的角落，曾经一起打游戏的同事开始刻意避开他，连楼下便利店的老板都会在他买泡面时多刷一遍身份证。
第五周的周五，陈默在下班路上被三个蒙面人堵在巷子里。他们没抢钱，只是把他按在地上揍了一顿，嘴里骂着“潜在的杀人犯”。报警后，警察调取了监控，画面里的巷口刚好是监控盲区。
“可能是居民自发的治安维护。”李警官在电话里说，“毕竟大家都很害怕。”
陈默看着镜子里自己青肿的脸，突然笑了。他打开购物软件，把收藏夹里的刀具全部删除，然后下单了一面全身镜。镜子送到那天，他对着里面的人看了很久，突然发现自己的眼神里，真的开始有了仇恨的影子。
三、会议室里的交锋
张教授的手指在平板电脑上滑动，每一次触碰都像在撕扯什么。屏幕上是先知系统最新的疾病预测模型，红色的高危区域像蔓延的病毒，覆盖了整个城西老区。
“肺癌风险预测准确率92.3%，乳腺癌88.7%，糖尿病91.5%。”他把平板推到会议桌中央，“这意味着我们可以提前五年干预，挽救至少三万人的生命。”
林墨的目光落在屏幕角落的小字上：数据来源包括居民用电模式、垃圾成分分析、社交网络语言特征。她想起上周收到的投诉，有老人发现自家的智能电表每十五分钟就会上传一次数据，而他们对此一无所知。
“数据采集有没有经过居民同意？”她的笔尖在笔记本上悬停。
张教授嗤笑一声：“林主任，防疫需要全民配合，公共卫生项目没必要事事征求同意。就像你不会问流感病毒愿不愿意被隔离。”
会议室里响起低低的笑声。林墨看着这些穿着白大褂的专家，突然觉得他们的眼睛里少了点什么。她翻开文件夹，抽出那份《预测伦理三原则》的正式版，推到桌子对面。
“第二条：预测数据必须匿名化。”她指着加粗的字体，“现在系统能通过垃圾成分反推具体住户的饮食习惯，这已经超出了匿名化的范畴。”
“技术细节而已。”张教授挥手打断她，“我们需要的是结果，是拯救生命的效率。你知道等待居民签署知情同意书会耽误多少时间吗？”
争论持续了两个小时，最后院长敲了敲桌子：“折中方案。先对高危人群进行匿名提示，比如在社区公告栏发布健康预警，不点名具体个人。同时加快居民授权的签署工作。”
林墨走出会议室时，夕阳正把走廊染成橘红色。她的手机震动起来，是陈默的投诉邮件。附件里是一段录音，社区网格员在劝说居民签署数据授权书时说：“签了对你好，不签的话，以后医院可能不接收你。”
她把录音转发给法务部，得到的回复是“话术略有不妥，但不涉及违法”。第二天上班，她在电梯里遇到张教授，对方手里拿着一份新的合作协议。
“和保险公司达成了合作。”张教授笑得眼角堆起皱纹，“他们愿意为高危人群提供定向保险，当然，保费会根据风险等级浮动。”
林墨的胃突然一阵抽搐。她想起那些住在城西老区的老人，他们中的大多数靠微薄的退休金生活，根本负担不起“风险等级浮动”的保费。
“这违反了第一条原则。”她按住电梯开门键，声音发颤，“禁止基于预测结果实施歧视性措施。”
张教授脸上的笑容僵住了：“林墨，你太理想化了。保险本质上就是风险定价，这不是歧视，是科学。”
电梯门缓缓合上，把两人隔开在两个世界。林墨看着门上映出的自己，突然觉得很陌生。三年前，她是第一个提出要给AI装上伦理枷锁的人，可现在，这枷锁似乎正一点点勒进她自己的脖子。
四、医院里的重逢
林墨在住院部走廊见到陈默时，差点没认出来。他瘦了很多，头发长到遮住眼睛，手腕上戴着医院的识别手环，上面用红笔写着“自杀风险评估87%”。
“来看朋友？”陈默的声音很轻，像怕惊扰了什么。
林墨摇摇头，指了指重症监护室的方向：“那个新生儿，A739，他又住院了。”
陈默顺着她指的方向看去，玻璃后面，那个小小的婴儿正在保温箱里安静地睡着。他的胸口微微起伏，连接着各种监测仪器，数据流在屏幕上无声流淌。
“系统又预警了？”
“嗯，这次提前了三天。”林墨的声音有些干涩，“我们准备给他做心脏手术。”
陈默笑了笑：“那挺好的，总算有用对的时候。”他顿了顿，低头看着自己的手环，“你知道吗？我现在看到红色就害怕。系统把我的暴力风险评估调到91%了，因为我打了投诉电话。”
林墨的手指蜷缩起来：“对不起，我们正在完善申诉机制。”
“完善？”陈默突然提高了声音，引得护士投来警惕的目光，“你们知道我因为那个评估丢了工作吗？知道我妈被邻居指指点点，高血压犯了住院吗？知道我现在走在路上，别人都像看瘟疫一样躲着我吗？”
他的声音渐渐低下去，带着哭腔：“最可怕的是，我有时候真的觉得，也许系统是对的。也许我天生就是个坏人，就该被这样对待。”
林墨看着他通红的眼睛，突然想起自己第一次见到先知系统的原型。那时它还只是个在实验室里运行的程序，开发者说，要让它成为守护人类的盾牌。可现在这盾牌，怎么就变成了伤人的利器？
“我能帮你做什么？”她问。
陈默沉默了很久，指着重症监护室：“别让那个孩子，以后变成我这样。”
那天下午，林墨在办公室里待了很久。她调出了所有关于预测伦理的文献，从最早的科幻小说到最新的学术论文，发现所有的讨论都绕不开一个问题：当技术能预知未来，人类该如何保持对生命的敬畏？
她打开空白文档，开始重新撰写《预测伦理三原则》的补充条款。这一次，她没有用冰冷的法律术语，而是写了一个故事：有一个能预知未来的AI，它看到了很多危险，却忘了问人类，是否愿意用自由换取安全。
五、阳光下的测试
城西老区的公告栏前围满了人。新贴出来的通知上，没有刺眼的红色预警，只有一张蓝色的地图，用不同深浅的颜色标注着区域健康风险，旁边放着十几个意见箱。
“这是新的试点方案。”林墨站在临时搭起的台子上，手里拿着扩音器，“我们不会公布具体个人的预测结果，只会发布区域趋势分析。如果您想知道自己的健康风险评估，可以凭身份证在社区服务中心查询，并且有权要求专家进行解读和复核。”
人群里有人举手：“那数据是怎么来的？我们不签同意书，你们还能采集吗？”
“不能。”林墨的声音很坚定，“从今天起，所有数据采集必须经过本人同意，并且可以随时撤回授权。我们在每个小区都设置了数据授权点，会有专人解释采集的范围和用途。”
台下议论纷纷，有人质疑，有人好奇，也有人露出了欣慰的表情。陈默站在人群后面，看着林墨被阳光照亮的侧脸，突然觉得心里某个紧绷的地方松动了。
他昨天收到了社区发来的道歉信，还有一份新的工作邀请。虽然只是个超市理货员的职位，但老板在电话里说：“我不管什么系统评估，我看你简历上写着会修电脑，我们正好缺个懂技术的。”
一周后，陈默在超市整理货架时，遇到了张教授。老人正在挑选降压药，手里拿着一张打印出来的健康评估报告。
“这东西现在能看懂了。”教授指着报告上的图表，“还有专家打电话给我解释，说我的风险主要来自熬夜，不是什么遗传因素。”
陈默笑了笑：“那您可得少熬夜。”
“是啊。”教授叹了口气，“以前总觉得算法比人可靠，现在才明白，再厉害的系统，也比不上自己对身体的了解。”
他们说话的时候，超市的广播里正在播放新闻：先知系统的犯罪预测模块进行了重大升级，将不再对个人进行风险评级，转而用于分析区域安全趋势，并且所有决策都必须经过人工复核。
陈默抬头看向窗外，阳光正好，街上的人们行色匆匆，却没有人因为害怕某个看不见的评估而互相提防。他想起林墨说过的话，预测技术真正的价值，不是告诉人们未来会怎样，而是给了人们改变未来的机会。
重症监护室里，那个叫A739的婴儿已经能自主呼吸了。林墨站在保温箱外，看着他小小的手抓住医生的手指，突然觉得心里很踏实。系统的最新报告显示，他未来患心脏病的概率降到了3%，但林墨知道，这个数字不重要。重要的是，这个孩子有机会自己去书写人生，而不是被一串冰冷的数字定义。
她拿出手机，给陈美发了条信息：“新的伦理条款通过了，第三条加了一句：预测结果不能替代人的选择。”
很快收到了回复，只有一个笑脸的表情。林墨看着窗外的阳光，突然想起很多年前，老师在伦理课上说的话：科技的进步，应该让世界更温暖，而不是更冰冷。
先知系统还在运行，只是不再像以前那样高高在上。它学会了沉默，学会了等待，学会了尊重那些它无法理解的人类情感。就像现在，它预测到明天会下雨，却不会强迫每个人都带伞。
因为自由，本来就该包括淋雨的权利。