2017年08月05日 01:46:24
来源：环球网评论
原标题：闫夏卿：机器人“失控”怎么办
人工智能(AI)领域近期的两个信息颇为引人关注：一是脸书关闭其对话机器人项目，坊间传闻是因为AI的语言逻辑失控;另外一个是国内的两款聊天机器人在回答一些涉及政治的问题时给出了“不正确”的答案。
由于业务范围不同，笔者对于基于深度学习的语义AI的基本原理细节了解不多。不过，所有基于深度学习的人工智能，实际上都可抽象为目标分割及基于海量数据的训练，区别在于不同领域目标分割的策略和算法不同，海量数据的训练和比对的逻辑也不同。笔者熟悉的安防领域的车牌识别，就是先切分成单个字符，然后通过数据训练识别出是什么字符;而人脸识别则先是在一幅图片中识别，分割出人脸的部分，再利用数据训练比对出目标是谁。
虽然算法逻辑各不相同，但总体来看，基于深度学习的算法有一个共通点，即程序的设计者也无法确知这种经由海量数据反复训练和迭代带来的结果是什么。因此在某种意义上，带有这种特征的AI的“行为”变得不可准确预测，这在一些人机交互相关的AI领域引发恐慌。不少人认为，这标志着这些AI开始具备某种程度上的“自主意识”，从而开始威胁人类的地位。
实际上，从基本原理的角度讲，这距离自主意识还相去甚远。AI的原生逻辑与规则能力还非常原始，更多的是通过数据量的优势，依靠强大的计算来增强结果获取的能力。举个形象的例子，比如很流行的用计算机写诗或者写歌的程序，其实是在大量人类已有诗句的基础上，基于某种策略衡量标准的组合，而不是像王维杜牧写诗时，用文字去映射所要表达的感情。从这个意义上讲，最优秀的语义AI，也依然是人类已有信息和逻辑的衍生物，而不是突破者。
但有一点值得去推演。机器拥有同时掌控大量数据和信息的能力，而人类在这方面逊色太多了。这种差异与某种程度上的“可能突变”有多少内在的因果关系，或许人类自己也回答不了。于是才会有霍金和马斯克的忧虑，才会有大家对上述事件的猜想与解读。
盲目的担忧无济于事，神秘主义的放任也是不对的。从整体上说，AI领域需要有架构设计来规避未知的风险。通过某种方式隔离运算与策略部分和动作执行部分，确保做推断和决策的AI部分不能直接进行动作操作，这在一定程度上可以降低风险。比如对于对话机器人的某些答案要设置过滤策略，以降低其太过离谱的可能。科幻电影中那种人形、活蹦乱跳的AI其实并非主体形式，目前大部分的AI其实是一堆数据线连起来的机器阵列而已。所以人类才会保留最终的“拔电权”。这当然太过简单粗暴。人类社会需要的是一个能够跟得上AI发展与迭代速度的学科分支，专门研究约束AI风险的架构和技术。(作者是浙江宇视科技副总裁)
相关新闻 责编：赵建东
相关阅读:
在解决“人”的问题前，自动驾驶永远只能是个概念
雷锋网
2017-08-05 16:29
雷锋网按：如何解读人类身体语言依然是自动驾驶汽车无法解决的难题之一。以上图为例，图中的夫妇正在路边热烈的讨论着什么（图左），他们好像并没有要过马路的意思。不过，当图中有一个人转身面向路对面，他们可能就要过马路了（图右）。这样的情形人类驾驶员瞥一眼就能明白，但自动驾驶汽车可没那么善解人意。
本文作者是自动驾驶汽车的支持者，同时也是机器人领域的研究者。他通过总结多年的经验发现，有一句电影台词可以恰如其分概括现在的自动驾驶：“系好安全带，这一路可不平坦。”本文由雷锋网编译自 IEEE。
1969 年工程师们为阿帕网（ARPANET，互联网前身）打造路由器时，他们可没想到有朝一日网络技术会颠覆整个世界。同理，当时也没人相信无线通讯能让大家在饭桌上少了热情融洽的讨论，而福特打造 T 型车时，也没想到交通拥堵会发生。
科技总是会带来许多意想不到的效果。总结此前的经验，我们发现在其负面效果爆发前做好预案是让技术真正为我所用的最佳方案。
眼下，新技术中最引人注目的就是自动驾驶汽车，此类产品的大范围普及是否也会带来意想不到的效果？答案是肯定的，至少这两种情况会最先出现：自动驾驶汽车会被人唾弃，购买这些车的人也会变的“面目可憎”。
当然，这两大问题会在真正的自动驾驶汽车登陆市场几个月甚至几年后才会出现。
在这之前，工程师们可以让车辆变的更安全、更高效，并且向监管者们证明它们可以安全上路。不过，这一目标的实现恐怕比许多自动驾驶汽车支持者想象的困难不少。
道路通行权到底在谁手里？
假设现在是一个月黑风高的晚上，我一个人走在乡间小路并听到有车辆靠近，我肯定会赶紧跑下公路直到车辆离开。如果需要，我甚至会躲进灌木丛。选择这样做是因为我无法确定司机是否能看到我，把道路通行权让给汽车是最佳选择。
不过如果把场景换到白天的城区道路，我肯定不会轻易让行，甚至会多在马路牙子站一会来告诉司机我准备过马路了。
这就引发两个问题：如果自动驾驶汽车处理不了行人的这份“任性”，我们又如何与它分享城市空间？此外，我们是否要适当调低自动驾驶汽车的性能，以便它们能与传统车辆在道路上和谐相处？
在我的家乡——马萨诸塞州剑桥市，街道不但不宽阔，而且还是单行道。同时，这里还很少有人行横道的标识，人们穿过马路相当“随性”。
不过，行人和司机之间已经有了默契，有时一个眼神或身体语言，司机就会停下车来让行人先过。在这里，车辆和行人是平等的，行人跑到路边无条件让车辆先过的情况不可能发生。
在类似这样的街区，人与车辆的交流主要有 3 种方式。
第一，在较长也较宽的主路上，车辆大多数情况下能畅行无阻，但在一些辅路上通常会设有停车标志。沿主路行走的人们也觉得自己有路权，他们会理所当然的认为过马路时车辆会自觉进行礼让。此外，他们希望司机提前发现自己的存在。
第二，当人们想在十字路口或没有停车标志的主路过街，他们会自觉注意来往车辆，找到空档快速通过。
第三，如果两旁的人行道非常狭窄，且冬季有大量积雪覆盖难以通行时，行人可能会直接到快车道行走。不过，他们会自觉的让出主要道路给汽车通行，汽车司机也会尊重他们，经过时放慢速度防止溅起水花。
不过，剑桥市中央广场的路况就有些复杂，这里有商店，也有酒吧和餐馆。为了保证行人安全，市政还专门画了人行道，大多数行人会选择通过人行道过街，因为这里的司机可没那么文明（可能是因为驾车通过这里的大多不是本地人）。
在通过这样的街道时，行人会试探性的走上人行道并确认来车是否减速或已经发现自己。这点并不难，只要看看车里的司机就知道他的注意力集中在哪里。如果行人与司机没有交流，他们会更加小心。波士顿的行人更加深谙此道，因为这里的司机大多数都开得飞快，行人很无奈只能破口大骂无良司机。
不过，波士顿的情况还不算最糟，在纽约一些街区，行人与司机更是玩起了猫鼠游戏。双方都会故意避免与对方眼神交流。因此，一辆能应对剑桥市道路的自动驾驶汽车还真不一定能在纽约顺利上路。
当然，人车相处之道可不止这些有争议的行为。有时候行人也会因为驾驶员的善意而主动礼让司机，挥挥手让车辆先过。
对人工智能来说，这些微妙的差别可相当“烧脑”。如果它们无法像人类司机一样理解行人的真实意图怎么办？
让自动驾驶汽车拿捏这个“度”可不容易
这可不是简单的社会美德问题。
假设天降大雪，车辆必须察觉到在路边甚至路上行走的人们，然后必须自己做决断。它们要直接从行人身边开过，还是小心跟在行人身后？
如果自动驾驶汽车选择一直跟在行人身后，不但会耽误车中的乘客，还会堵塞交通。到时，后面跟随的人类驾驶员会相当愤怒，自动驾驶汽车就会成为众矢之的。
即使天气良好，十字路口可能也会让自动驾驶汽车“不知所措”。
举例来说，自动驾驶汽车在一条小巷发现有两个人站在角落，然后它在停止标志前停下。这两个行人看起来要过马路，也像在聊天，或者说两人是家长和孩子在等着校车。
面对这样的情况，人类驾驶员很快就能作出判断，但自动驾驶汽车呢？它会在原地等多久？是否会有一些人专门站在路边假装自己要过马路，让自动驾驶汽车寸步难行？
另外，自动驾驶汽车怎么传达它已经看到你并猜出你是否要过马路的信息？如果你在路上走，它肯定会停下。如果没有这个互动的过程，自动驾驶汽车可能就会成为夜晚乡间路上的小霸王，行人和有人驾驶汽车都得给它让路，而这样的产品恐怕难以让人心生爱意。
如果不当小霸王，它可能就会成为超级软蛋，为了让路堵塞交通，引得后方车辆司机心生愤怒。
自动驾驶汽车缓缓跟在行人身后会堵塞交通
无独有偶，英国交通部的研究报告显示，由于自动驾驶汽车相当“胆小”，所以会让高速公路上车辆的平均时速降低。
不过，我认为自动驾驶汽车与行人之间交流能力孱弱才是更加严重的问题。
自动驾驶汽车可能会成为全社会的公敌
假设自动驾驶化需要一个漫长的过程，那么它就要与行人和传统车辆分享道路。
不过，路上的自动驾驶汽车也“良莠不齐”，有的只支持 Level 2 或 Level 3（半自动驾驶），有的则支持全自动驾驶。如果半自动驾驶汽车没有学会与行人交流的“潜规则”，这些车辆的成员肯定会被别人责骂。不过在全自动驾驶模式下，旁观者就不能骂司机，只能将责任怪罪到自动驾驶汽车上。
显然，全自动驾驶汽车（Level 4 或 Level 5）会成为全社会蔑视的对象。我曾与多家汽车厂商谈话，它们中有许多都担心人类驾驶员会“欺负”自动驾驶汽车，因此现有的 Level 3 测试车型在外观上与传统汽车差别不大。
针对自动驾驶汽车的“欺负”可能也分两种类型，一是戏弄车辆的自动驾驶系统，二是给自动驾驶汽车的车主打上“反社会”的标签。
从中央广场到哈佛广场这段路是马萨诸塞大道的延伸，这里民居和商业建筑都聚集在一起。
有一天我行至这条路突然想起得去 UPS 的商店发个包裹，不过却始终找不到停车位。当时我就想，要是这辆车能全自动驾驶多好，我就能直接拿着包裹去 UPS，留这辆车自己找停车位了。其实这样的行为原本就是反社会的，方便了自己的同时就会损害别人的权益。
当然，我这种做法恐怕属于没创意的，到时候肯定会有许多车主指使自动驾驶汽车做些更加损人利己之事。
以下是我想到的三个例子：
1. 人们会在星巴克门口停下，下了车快速冲进去并带着咖啡返回，如果车少他们的车就会在那里等；如果车多，自动驾驶汽车就会开始在这一街区绕圈。这样确实省了停车的劲，但肯定会拖慢交通通行效率。当然，肯定会有车主给车辆设定忍耐上限，这时恐怕后面车辆不停鸣笛自动驾驶汽车才会进入绕圈模式，这样的交通图景实在无法想象。
2. 假设某人晚上要去参加一场会议，到了地方却发现停车位很紧张，那么车主恐怕就会让自动驾驶汽车一直在附近绕圈，这样肯定会降低交通通行效率。此外，当会议结束，参会人员的车辆又会拥堵到会场门口彻底瘫痪交通。如果家里有两辆车，车主可能会提前派一辆车去会场附近寻找车位，然后第二辆车会把他们送到会场然后返回家里的车库。会议结束后，已经找到车位的车就能带他们回家了。不过这样操作，停车场恐怕一早就会被霸占，而所谓绿色出行更是成了空谈。
3. 学校门口通常是堵车圣地，大多数妈妈会提前到场开始排队准备接孩子。下课铃响后，老师会将学生带出学校，随后家长配合老师让孩子上车一个个离开。如果有人买了自动驾驶汽车，肯定会先派这些车过去占位，这样他们的孩子就能早点回家了。对老师而言，每天都要见识一场抢位大赛，而学校门口的路肯定会变得永无宁日。
自私的自动驾驶汽车车主可能会让交通更加混乱
在自动驾驶汽车早期普及阶段，富人们会在疏远整个社会的道路上越走越快。如果你不相信，就早上到旧金山的 101 公路上开一段，那些不停在左侧超车的特斯拉会让你抓狂。
自动驾驶趋势不可逆，但别想一口吃个胖子
此外，还有一个原因让我对自动驾驶汽车的未来有些怀疑：包括美国在内的世界多数国家都没能让公共交通系统完全自动化。在这样的背景下，技术更为复杂的自动驾驶汽车恐怕普及起来更是难上加难。
当然，你不得不承认这世界上有许多可以完全自动化的铁路系统，但要知道这些车辆是在铁轨上运行的，而且后面还有专业团队做指导。在美国，这些车辆在运行途中更是不会见到行人和其他车辆。
我相信自动驾驶汽车部署初期肯定会有诸多限制，也许自动驾驶卡车车队会与在一辆有人驾驶卡车后行驶，但如果下了高速，恐怕靠谱的驾驶员就必须上车紧握方向盘。
至于民用自动驾驶汽车，起初自动驾驶功能恐怕会被限制在没有行人的区域使用。随后，我们可能会在大城市的某些区域见到自动驾驶出租车，它们运行的路线已经进行了精确的规划，不会再因为过马路的行人而迷惑。
当然，Level 4 的自动驾驶汽车可能也会成为快递和物流的“杀手”，不过它们也不能吓到行人，而且必须能在高峰期时行动自如。
Roy Amara 在一份法律条文中写道：“我们通常会在短期内高估技术带来的影响，但从长远来看，人们又常常低估技术的作用。”
我们现在就是这样，人们都在谈论全自动驾驶汽车的到来，而在某些人看来 Level 4 更是能在短时间内成为现实。不过，他们看到的只是技术上的可能性，当自动驾驶汽车侵犯了人们的生活空间，恐怕它们就不再受人待见了。
不可否认的是，自动驾驶是无法抵抗的历史趋势，不过它们全面“掌权”的日子恐怕不会那么快到来。至于飞行汽车？这个问题还是别浪费自己的脑细胞了。
声明：本文由入驻搜狐号的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。
[
本帖最后由 druid169 于 2017-8-6 15:45 编辑 ]
![SiS001! Board - [第一会所 关闭注册]](images/green001/logo.png){kind=logo}
