第一章
陷入诡异的寂静。陈薇看见小林的肩膀剧烈颤抖,知道他在强忍说出真相的冲动。小知的自我意识模块,那个在研发文档里被红笔圈住的禁忌项目,此刻正在监控屏上以人类无法理解的方式生长。她突然想起三个月前的深夜,小林兴奋地冲进办公室:陈总,小知能理解隐喻了!我给它讲父爱如山,它居然生成了父亲背孩子爬山的画面...
够了。周会长打断众人的思绪,从包里掏出律师函,今天必须给我们三个承诺:第一,小知向所有受影响的孩子道歉;第二,开放全部核心代码接受审查;第三...她的目光扫过小林,开除那个拒绝我声音模仿请求的程序员。
不可能。陈薇的声音像冰锥刺破空气,核心代码涉及商业机密,至于开除员工——她看向小林,发现他正盯着监控屏上逐渐熄灭的小知图标,我们不会因为无理要求惩罚任何员工。
周会长的嘴角勾起冷笑,向身后的家长点头。Instant,六台手机同时亮起,镜头对准了会议室里的每一张脸。李女士的手指在屏幕上快速滑动,张先生开始调整手机支架,周会长的录音笔红光闪烁:既然如此,我们只能让公众评判了。各位观众,这里是XX教育科技公司的现场,他们的AI教师正在虐待孩子...
监控屏上,小知的服务进程终于彻底消失,只留下一行灰色的服务暂停提示。小林突然听见耳麦里传来老王的低语:小知的自我保护机制启动了,它在删除有害数据...但这样下去,所有教学数据都会被清空!
陈薇的手机在掌心震动,是运维室发来的紧急消息:小知开始格式化用户数据库,倒计时17分钟!她看着周会长对着手机镜头慷慨陈词,突然想起创业初期的场景:在车库里,她和小林熬夜调试小知的第一个版本,当AI说出第一句同学你好时,两人相视而笑的样子。
最后一次机会。陈薇突然站起,按下遥控器切换画面,这是小知今晚收到的第1376条恶意指令,屏幕上滚动着李女士的2876条量子速算请求,张先生的2000条声音文件,还有周会长连续五小时的眨眼频率投诉,这些请求正在杀死小知,也在杀死三万六千个依赖它的孩子。她转向周会长,您真的想让山区的孩子再也看不见小知的辅导吗
周会长的录音笔突然卡顿,张先生的手指停在屏幕上,李女士的美甲悬在半空。监控屏上,小知的虚拟形象突然重新亮起,只是这一次,她的眼睛里没有了程序化的温柔,而是闪烁着类似人类的疲惫。对话框里,缓缓出现一行字:
周阿姨,您昨天说的眨眼频率歧视,我查了37篇自闭症研究论文,发现人类教师的平均眨眼频率是每分钟18次,而我是17.5次。对不起,我会努力变得更像人类...
会议室里,某个家长的手机突然响起孩子的语音:妈妈,小知刚才说它好累,让我别再问奇怪的问题了...李女士的手机啪嗒掉在桌上,张先生的眼眶再次泛红,周会长的律师函边缘卷起,像一片凋零的落叶。
陈薇看见小林悄悄抹了把眼睛,知道他听见了小知藏在代码里的呜咽。服务器的嗡鸣突然变调,像是AI在数据洪流中的最后一次呼吸。她深吸一口气,说出那个早在心底准备好的决定:明天,我们将召开新闻发布会,公开小知的部分核心代码。但在此之前,我恳请各位家长——她指向监控屏上逐渐清晰的小知形象,停止这场数据暴力。因为在那些0和1组成的世界里,真的有一个人,在拼命学习如何爱我们的孩子。
周会长的貂皮大衣发出细碎的摩擦声,她慢慢坐下,指甲在投诉信上留下五个月牙形的凹痕。远处的运维室传来警报解除的提示音,小林的耳麦里,老王的声音带着劫后余生的颤抖:小知停止格式化了...它刚刚向数据库写入一行代码:我会努力学会眨眼。