1
晚上十点十七分,书房里只开了一盏台灯。
昏黄的光圈拢住书桌一角,林辰坐在圈里,盯着电脑屏幕上那些刚解压出来的文件。王海三个小时前发来的压缩包,解压后四百七十二页,他看了四个小时。
看完了。
也看冷了。
不是身体冷,是那种从骨头缝里渗出来的寒意,顺着脊椎往上爬,在头皮炸开,然后扩散到四肢百骸,最后停在指尖——指尖是麻的,敲在键盘上没什么知觉。
屏幕上,是“智慧政务”项目的技术文档。天启科技今年力推的S+级战略,中标七个地市,合同总金额二十三亿。上周发布会,张总站在镁光灯下,意气风发地说:“这是我们用技术回报社会的初心。”
初心。
林辰拖动鼠标,停在文档第七十八页。那里有张表格,是核心算法在各场景的测试准确率:
交通信号优化:61。3%
应急车辆调度:59。8%
公共安全预警:57。1%
市政设施监控:63。4%
……
平均:61。2%。
合同承诺的准确率是多少来着?林辰往上翻,找到技术附件,白纸黑字:不低于95%。
61。2%对95%。
连及格线都够不上。
就这种东西,要接管七个城市的红绿灯、救护车、消防车、洪水预警、治安监控。如果真上线了,会怎么样?
林辰闭上眼,脑子里自动推演:
某个下雨的晚高峰,算法误判车流,把主干道绿灯时间砍掉一半。后面车辆积压,救护车被困在车流里,鸣笛声刺耳但寸步难行。车上是个心梗的老人,家属在电话里哭喊:“还要多久?还要多久?!”
或者某个老旧小区,电线老化冒烟,预警系统该报警却没报。火势起来,浓烟灌满楼道。三楼有对老夫妻腿脚不便,四楼有个产妇刚坐完月子,五楼……五楼住着个天天加班到凌晨的码农,太累了,睡得沉。
等有人闻到烟味打119,火已经封了楼梯。
会死人的。
会死很多很多人。
林辰睁开眼,继续往下翻。后面是测试报告,厚厚一沓,每一页都盖着“合格”的红章。但原始数据和对不上——系统实际跑出来的准确率是61%,报告上写的却是95%。
怎么做到的?
他找到方法了。文档第三百零四页,有行小字备注:“为通过验收,技术团队采用人工标注+反向训练方式,优化测试结果。”
人工标注。
意思是,测试的时候,不是让系统自己判断,而是安排人在后台盯着。系统判断错了,人手动改对。然后用这些“正确”的结果,反过来训练系统,告诉它:“你看,你这次对了。”
自欺欺人。
不,是蓄意诈骗。
林辰关掉文档,仰头靠在椅背上。椅子发出轻微的“嘎吱”声,在寂静的书房里格外刺耳。天花板是白的,很干净,苏雨晴上周刚擦过。她说书房有灰,对孩子呼吸道不好。
孩子。
小宝,小花。
如果……如果某天,是小宝的学校着火,是小花去的商场出事,是苏雨晴下班路上遇到车祸,而本该预警的系统,因为61%的准确率,漏报了。
他会怎么样?
他会疯。