人类有能力去规训AI为“我”所用。

作者｜于玮琳

编辑｜子钺

题图｜图虫创意

橘生淮南则为橘，橘生淮北则为枳。

同样底层逻辑的技术，应用在不同场景下会给人截然不同的感受。

近期，随着俄乌冲突被带上热搜的技术是“人脸识别”。

据路透社报道，美国人脸识别公司Clearview AI向乌克兰政府部门开放人脸数据库，通过其在俄罗斯社交平台上收集的图片及搜索引擎，可以识别俄罗斯特工、确认死者身份等。

反对的声音不少，纽约相关监管部门政府主管就表示，“一旦你把这些系统和相关的数据库引入战区，你就无法控制它将被如何使用和滥用”。

几乎同一时间，福布斯杂志报道，已经有海外企业在借助人脸识别技术来辨别儿童罕见病面容，只需要拍一张照片，就可以及早发现罕见病、及早干预，弥补了基因筛查的不足。

这回归到一个“老生常谈”的问题——随着技术边界的拓展，会给人类带来更多幸福，还是危险？

上世纪六十年代，阿西莫夫的科幻小说《我，机器人》中就发出了这样的疑问。

更多人相信科技的本意是为了让人们的生活更美好。人类有能力去规训AI为“我”所用。

如马化腾在近年来不断强调“科技向善”在企业使命中的重要地位。他表示：人们善用AI的智慧必须胜过日益强大的AI智慧。

然而，作为人工智能被应用最广泛的技术之一，人脸识别似乎掉入了一个“信任怪圈”，有人看好它给人们生活带来的便捷，更有人质疑人脸数据作为高敏感的生物识别信息, 一旦泄露无法追回更无法更改，隐藏着巨大风险。

当科技创新带来广阔商业前景的同时，又该如何践行科技向善？企业家们正在积极寻找答案。

“用科技手段，解决现实问题”

作为从清华园走出的人工智能专精特新“小巨人”，瑞莱智慧的“黑科技”展厅里，你可以看到如下场景：

只要戴上基于某影视明星面部照片生成的特制“对抗样本[1]”眼镜，在摄像头前，你就可以被识别为该明星，轻松通过门禁系统。

基于对抗样本技术生成的特制眼镜

图源：受访者

穿上印有特制图案的T恤，你就可以大摇大摆走过摄像头而不被抓取，在人工智能面前，这件衣服成了你的“隐身衣”。给货车也做这样一件“衣服”，就可以让其在自动驾驶视觉识别系统或交通摄像头下实现“隐身逃逸”。

可以骗过人工智能的“隐身衣”

图源：受访者

屏幕上播出大众耳熟能详的电视剧，我们都知道主角扮演者是哪位影视演员，但此刻却被换脸成了某相声演员，面部神态几无误差、毫不违和。

瑞莱智慧通过对抗样本攻击、深度伪造攻击等风险场景的模拟，向我们展示了智能化场景下的新型安全隐患和应对能力。

换句话说，他们通过预先掌握更强大的底层基础技术，来模拟可能产生的隐患，再通过不断的攻防演练，提前布局防御措施，帮助政府、广大AI企业、AI使用者有效防范这些风险。

“在智能时代，AI安全体系是如同基础设施一样的存在。技术价值是中立的，但围绕技术的人类行为并非中性，如何挖掘机器智能并保证人类驾驭机器智能的能力，是瑞莱智慧致力的事业。从这个出发点来看，我们实现了人类福祉、社会效益和商业价值的趋同性，这是我们天然具备的’科技向善’”，瑞莱智慧资深战略政策研究专家张伟强表示。

和瑞莱智慧不同，汉王科技则通过不断研发创新的实用技术来解决人们生活中的问题实现向善。汉王科技副总裁黄磊将其概括为：“用技术手段，解决现实问题”。

以防疫场景为例，2022年3月，苹果宣布推出口罩面部识别功能，戴着口罩也可以通过FaceID解锁手机。在新冠疫情爆发的第三年，这一功能被公众诟病为“晚了一万年”。

事实上，早在2020年2月底，疫情爆发两周后，汉王就攻克了戴口罩识别的技术难关，并实际应用到员工上下班刷脸考勤的场景中。

央视报道汉王科技

图源：受访者

汉王科技脱胎于中科院自动化所，其研发实力始终位于行业前列，仅生物特征识别领域，就有超过百余项专利，反应快、解决实际问题是他们的研发特色。

在面部识别技术应用最广泛的安防领域，汉王同样切入极早。在2006年开始该技术的算法研发，2008年推出第一台嵌入式终端，2017年协助银川市政府在全市范围内进行“黑名单布控”，“通过上千路摄像头，在银川全市范围内进行布控，配合警方通过面部识别技术精准定位犯罪嫌疑人”，黄磊介绍。

汉王科技协助警方“黑名单布控”（图像经虚化处理）

图源：受访者

汉王认为，科技向善一方面包括尊重法律法规及行业规范，不触犯行业红线；另一方面，意味着坚守和维护人民的利益。

汉王也一直基于此准则在各方面践行“科技向善”：一为数据伦理，保证人民群众的信息安全，表现在面部识别领域则为通过隐私计算、数据脱敏、同态加密等方式保证数据的安全和隐私；二是信息传播的伦理，要保证内容的健康，使用场景的合法合规；三为算法伦理，保证技术的公平公正。

针对算法伦理，黄磊告诉创业邦，有非常多的人脸识别设备不能进入非洲国家，因为对较深肤色的人脸识别技术难度远远超过口罩识别。但是汉王始终坚持技术应兼顾公平，他们的相关设备出海到全球50多个国家，其中包括刚果金等非洲国家。

“虫脸识别”、“读到情绪”

1960年代，旧金山湾区的“全景研究”开始进行一项被人们认为古怪的实验——教计算机认识人脸，他们赋予了计算机眼睛（照相机）和大脑（算法），希望它可以达到人类视觉的效果。

而后60年，计算机逐步超越了“认脸”的阶段，在应用场景和效率上，突破了人眼的能力边界，人脸识别也被纳入了更广泛的“计算机视觉识别”范畴。

60年过去了，这项技术开始让我们的生活变得更幸福了吗？事实上，在“计算机视觉识别”的技术之上，早已生长出千姿百态的“向善”应用。

如智慧农业：汉王通过“黑名单布控”定位人群中“害群之马”，现在这项技术同样应用在了真正的害虫身上，“虫脸识别”开始在农业场景应用起来。目前，该技术不仅在大田、果园、茶园等场景下被广泛应用，还被应用于林业病虫害预测预报，助力森林病虫害防治。

在甘肃省张掖市高台县，当地农技中心运用“虫情测报灯”诱捕害虫并拍照上传，系统可以自动识别害虫的种类、数量，进而预测病虫周期。它可以将测报准确率提升至90%以上，技术人员不需要深入田间地头，就可以预判情况，提出相应对策。

更多过往依赖人类传统农耕技能和经验的工作也在被悄然颠覆。视觉设备搭配无人机鸟瞰农田，将拍摄的作物情况、土壤照片进行分析，可以预估农作物的长势；也有算法可以通过识别果蔬的大小、色泽、纹理等，将其按照质量进行分级，进而确定哪些该优先采摘、销售。

智慧城市也是面部识别落地最为丰富的场景。的卢深视副总裁高天虹告诉创业邦，他们通过为广州地铁18号线和22号线无感刷脸乘车提供三维视觉解决方案，推动了“智慧城市”的新进展。经测试，该首条支持人脸识别过闸乘车的地铁，单通道每分钟可无感精准通行30人次以上，乘客出站时也仅需刷脸出站，乘车费用将自动扣除。

“那些不善于使用智能设备的老人也能通过刷脸自如前往任何地点；曾经携带大包小包的旅客再也不用专门腾出手来进行刷卡过闸，不会造成进出站拥堵的情况；带孩子的家庭出行也将变得轻松，用科技力量提升民众幸福感是我们一直践行的方向。”高天虹说。

广州地铁无感刷脸系统

在智慧医疗场景下，不止文章开头提到的罕见病筛查。作为以“视觉”为基础的科技，面部识别天然可以为视障人士所用。比如“读到情绪”。在2018年，华为与波兰盲人协会合作开发了一个应用程序，可以将七种普遍的情绪——愤怒，恐惧，厌恶，快乐，悲伤，惊讶和蔑视——转化为相应的声音。使用者只需要轻拍手机的后置摄像头，扫描对话伙伴的面部，算法会将分析到的情绪解释为手机播放的声音。

在智慧工业场景下，这项技术的“向善”不仅表现为生产力的提高，更是替代人工在恶劣环境下工作。如电力、矿区的“工业巡检”，传统人工巡检在野外尤其是高原山区自然环境恶劣，工作质量和效率不高，还面临人身安全威胁。根据中国电力科学院近两年电网运行统计报告分析,每一年因为变电设备漏检、误检造成的损失大约20亿人民币。

国网山西电力公司最近向媒体透露，国网首个无人机自主低碳巡检系统已经运行了半年有余，不但有效节省了成本，也避免了因为人眼疲劳造成的误差和安全隐患。

作为计算机视觉识别技术的创新应用，也为“养老”带来了福祉。如创业邦曾经报道过的羿娲科技（阅读延伸：《专家呼吁放开生育限制，65岁以上老人近2亿，“银发经济”百亿风口来了？》），本是通过图像识别技术来读取工业环境的电表、水表数据，实现工业数字化转型，却在为上海市独居老人做水表智能化改造后，被《人民日报》等媒体争相报道。

其原因在于，改造后的水表数据会直接反馈给政务平台，一旦超过12小时家中用水量低于0.01立方米会自动预警，社区工作人员便会上门探视，确认独居老人的状况。这一技术无形中为独居老人开启了智慧养老时代。

回到文章开头的话题，正如同样的种子在不同的土壤会长出不同的果实；同样的技术在不同的场景下也会展现出截然不同的姿态。在人们尚未熟知的很多领域，已经默默开出科技向善的花朵。

技术本身没有善恶，关键是应用的人如何选择。

[1]: 对抗样本（Adversarial examples）是指在数据集中通过故意添加细微的干扰所形成的输入样本，会导致模型以高置信度给出一个错误的输出。

俄乌冲突中用来识别特工、确认死者，人脸识别带来幸福还是制造危险？