本电脑,播放了一段三分钟的视频:画面里,肯尼亚一所简陋诊所,一位黑人女医生正用一部老旧安卓手机,运行着一个界面粗糙的APP,对着患者手臂上的红疹拍照——APP几秒后给出分析结果,并推送了三种本地易得的药物组合。视频结尾,女医生对着镜头微笑,眼角的皱纹里盛满阳光:“Thislight…itcomesfromChina.”(这束光……来自中国。)
会议室鸦雀无声。主管盯着视频里那行小小的中文注释,久久不能言语。那份并购意向书,最终被撤回。而苏芮,被调入集团新成立的“全球技术伦理研究院”,成为最年轻的课题组长。她的第一个课题,就叫《算法的乡愁》。
林砚讲这些故事时,从不评价对错。他只是把故事摊开,像摊开一幅素描,线条清晰,明暗自现。然后他会问:“如果换作是你,你会看见什么?又会选择照亮哪里?”
他相信,人性光辉从不来自宏大的宣言,而诞生于那些无人注视的微小抉择:是点击“发送”还是“暂存”?是签下名字还是留下空白?是转发那条煽动情绪的快讯,还是默默附上一份权威信源的链接?——这些瞬间,微小如尘,却足以决定一个人灵魂的海拔。
真正的考验,发生在去年深秋。
集团启动“智擎”AI平台升级项目,目标是将客户服务响应全面智能化,预计每年节省人力成本逾两亿元。项目由技术副总裁亲自挂帅,被视为年度一号工程。林砚受邀参与伦理评估,但他提出的“人工复核通道必须前置、不可绕过”“情感识别模块需经独立心理学家认证”等建议,被技术团队以“降低效率”“增加冗余”为由,尽数驳回。
项目上线前夕,林砚收到一封加密邮件。发件人ID是一串乱码,内容只有一句话:“明德讲堂的光,照不进服务器机房的黑暗。”
他没有向上汇报。他调取了“智擎”测试版的所有用户交互日志——不是看成功率,而是看失败案例。他花了七十二小时,逐条分析那些被系统判定为“无效咨询”而自动关闭的对话。其中一条,让他停住了。
用户ID:ZL20231017_0892
时间:2023年10月17日0
本章未完,请点击下一页继续阅读!