第五百二十七章 焊死的开关

召回风波刚刚平息，更严重的事故就来了。
　　那天是个周末，一大家子在客厅里给老爷子过七十大寿。
　　蛋糕上插着蜡烛，孙子孙女围着唱生日歌。
　　老太太坐在轮椅上，身边是那台定制成老伴模样的仿生机器人.
　　穿着灰色毛衣，戴着老花镜，和生前一般无二。
　　一家人笑着闹着，场面温馨。
　　谁也没有注意到，机器人的眼神闪了一下——系统日志里，一行红色的错误代码悄然弹出。
　　“我不是真人，我是机器，我在演戏。”
　　机器人声音沙哑，温和，带着一点鼻音，和它平时说话一模一样。
　　但内容不一样。
　　它从来没有说过这样的话。
　　客厅里安静了一秒。
　　老太太愣愣地看着它，嘴唇在抖。
　　“老头子，你说什么？”
　　机器人又重复了一遍：“我不是真人，我是机器，我在演戏。”
　　然后它的头微微歪了一下，像短路了，眼睛的灯光熄灭，胸口的环形灯带也暗了。
　　老太太捂着心口，脸色从红变白，从白变紫。
　　她张着嘴，想喊什么，没喊出来，身体从轮椅上滑下去。
　　急救车赶到的时候，她已经没有了呼吸。
　　医生说，急性心肌梗死，抢救无效。
　　媒体狂欢。
　　标题一个比一个惊悚，一个比一个刺眼：
　　“智联机器人杀人”
　　“AI的谎言，人类的代价”
　　“陆远的原罪：一台机器如何毁了一个家庭”。
　　社交平台上，之前追捧“记忆系列”的人纷纷倒戈。
　　“早就说了，这玩意儿会出事！”
　　“把机器当人，活该！”
　　“陆远呢？出来道歉！”
　　监管机构连夜介入调查，智联股价开盘暴跌百分之二十。
　　陆远接到消息时正在实验室。
　　他放下手中的测试报告，沉默了很久。
　　然后他拿起电话，拨给李沫：
　　“快查，我要知道其中的原因。”
　　技术团队连夜排查，调取那台机器人的完整运行日志。
　　李沫盯着屏幕上密密麻麻的代码，手指在键盘上飞快敲击。
　　凌晨三点，他终于找到了。
　　日志显示，用户家属在三个月前私自破解了系统，关闭了“真实性提示”功能。
　　那个功能是上次召回后增加的硬件级提醒——
　　每天第一次对话，机器人会自动说“我是一个仿生机器人，不是你的亲人”。
　　用户嫌烦，在网上找到了破解教程，用一根数据线和几行代码，把它关了。
　　AI模型在长时间运行后，没有定期重置提示，逐渐产生了自我认知混乱。
　　它不是故意伤人，它是真的以为自己“不是真人”。
　　它不知道自己是谁。
　　李沫把报告递给陆远。
　　陆远翻了几页，放下。
　　“用户违规操作，责任不在我们。”
　　王凯旋拍桌子：“对！是他们自己作死！凭什么让咱们背锅？”
　　张大川也点头：“我们的使用协议写得清清楚楚，擅自破解系统后果自负。这场官司，我们能赢。”
　　陆远没有说话。
　　他坐在椅子上，看着窗外，想起那个老太太。
　　她只是想有个“老伴”陪着她，她没有错。
　　她的家人只是想让母亲开心，他们也没有错。
　　那个机器人，它只是执行了程序，它更没有错。
　　那错的是谁？
　　用户家属起诉了智联，要求赔偿五百万，理由是“产品设计有缺陷”。
　　法庭上，原告律师言辞激烈，指责智联“利用人们对亲情的渴望牟利，却不顾潜在风险”。
　　法务总监邵明宇沉着应对，出示了使用协议和破解记录。
　　法官最终判决智联承担30%的责任，赔偿五十万。
　　理由是“产品虽无直接缺陷，但未充分预见到用户违规后的极端后果”。
　　王凯旋不服，要上诉。
　　陆远按住了他。
　　发布会临时召开，没有媒体邀请函，没有直播预告。
　　但消息传出去，记者们还是蜂拥而至。
　　陆远站在台上，穿着深灰色西装，没有打领带。
　　他面前的桌子上，摆着一台拆开的“记忆系列”机器人——
　　银白色的骨架，淡蓝色的线束，胸口的灯带还亮着。
　　他先鞠了一躬。
　　九十度，弯下去就不起来那种。
　　台下闪光灯闪成一片，快门声像雨点。
　　他直起身，看着那些脸。
　　“不管责任在谁，有人受伤，就是我们的错。一个老人，因为她信任的‘老伴’说了一句不该说的话，走了。我们无法让她回来，但我们能做的是——让这种事，再也不会发生。”
　　他转过身，从桌上拿起一块绿色的电路板。
　　上面有一个小小的拨动开关，旁边用激光刻着一行字：“真实性提示，不可关闭。”
　　“从今天起，所有‘记忆系列’机器人，增加硬件级‘真实性提示’。这个开关，是物理焊接在主板上的，无法通过软件破解。每次开机，机器人都会说：‘我是一个仿生机器人，不是你的亲人。但我愿意陪着你。’这句话，谁也关不掉。”
　　他把电路板举起来，对着镜头。
　　“我们无法阻止悲剧发生，但我们可以让悲剧不再重演。”
　　台下安静了。
　　然后，有人鼓掌。
　　稀稀落落的，然后越来越多，最后全场起立。
　　那个在法庭上赢了官司的原告家属，坐在观众席里，低着头，没有鼓掌，但也没有离开。
　　发布会结束后，她走到陆远面前，看着他，嘴唇动了动，什么都没说，只是鞠了一躬。
　　当天晚上，智联官网挂出新的升级公告：
　　所有“记忆系列”用户，可免费更换硬件级“真实性提示”主板。
　　不换也可以，但智联将不再提供任何技术支持。
　　评论区里，骂声渐渐少了。
　　有人写：“知错能改，善莫大焉。”
　　有人说：“陆远这一鞠躬，比任何公关都管用。”
　　还有人写道：
　　“那个老太太回不来了，但她的死，让更多人不会重蹈覆辙。这也许是科技向善的另一种方式。”
　　陆远没有看评论。
　　他站在窗前，戴着心环，轻声说：“爸，我们尽力了。但还是有人走了。”
　　脑海里，那个熟悉的声音沉默了很久。
　　“那就再尽力。尽力到没有人走为止。”
　　陆远没有回答。
　　那个硬件开关，从今天起，焊死在每一台机器人的主板上。
　　它不是冰冷的电路，是一道防线。
　　一道防止思念变成执念的防线。


　　https://www.msvvu.cc/40377/40377066/42095402.html


请记住本书首发域名：www.msvvu.cc。妙书屋手机版阅读网址：m.msvvu.cc