·未名周记（1910）·

特朗普这回说的还算靠谱

——从波音737 MAX8失事看人工智能之于人

本文要义：无论人工智能如何先进，必须确保最后时刻可以转换成由人来掌控。即使绝大多数情况下没有转换的必要，但这种转换的可操作性必须予以保留。就像特朗普在他的推特中所说的：“我想要伟大的专业飞行员，可以轻松迅速地控制飞机的那种。”

据《界面新闻》报道：当地时间3月12日上午，美国总统特朗普发了这样一条Twitter，译文如下：

“现在飞机变得太复杂，以至于没法飞了。飞行员已经不需要了，都靠来自麻省理工学院的计算机科学家。我在很多产品中都能看到这一点。总是寻求走向更深入的、不必要的一步，但往往旧而简单的效果更好。瞬时决策是必要的，而复杂性带来了危险。所有这一切代价高昂，但收益却微乎其微。我不知道你们怎么想，但我可不想让爱因斯坦当我的飞行员。我想要伟大的专业飞行员，可以轻松迅速地控制飞机的那种。”

自特朗普前年上台以来，这位以“推特治国”著称的总统先生至少发了几千条推文，足以创下一项吉尼斯世界纪录。笔者只能看到通过吾国国内媒体转载的部分内容，所见范围内，窃以为上面所引的大概是他最靠谱的一条推文，以至于笔者怀疑是不是他身边的专业人士捉刀代笔的。

这条推文所针对的，是近日发生的一起悲剧：3月10日，埃塞俄比亚航空公司一架载有157人的波音737 MAX8客机，在埃国首都附近坠毁。而在此次事故发生之前的去年10月29日，印尼狮子航空的另一架波音737 MAX8客机在起飞十三分钟后，一头栽进海里，造成了189人死亡的空难。

不到半年内同一款机型竟然连续发生坠机事故，致使300多人遇难，引起全球舆论的极大关注和严重质疑。据介绍，波音737 MAX8系波音公司于2015年底下线亮相、2016年初完成首飞的新型飞机，一度跃居波音公司历史上销售速度最快的机型，目前各国在飞的有数百架，另有数千架已下订单。现在该机型接连出事，不仅造成重大伤亡，未来还涉及到无数乘客的生命安全，理所当然地要予以高度重视。加上两架客机失事前都曾要求返航并出现飞行数据异常，波音737 MAX 8的安全性不能不招致各方猜疑。

3月11日，吾国民航局发出通知，要求吾国运输航空公司于当天18时前暂停国内波音737MAX8的商业运行。下达“停飞令”的远不止吾国，据媒体不完全统计，过去几天有几十个国家（地区）全面停飞737 MAX8，尽管如此大面积的停飞难免会影响到各方的航空客运。

 当此之时，波音公司官网曾发布声明称，对737 MAX8的安全性有足够自信。美国联邦航空管理局（FAA）先前也表示暂不停飞该机型，称只有在事故调查中发现问题后，才会采取相关行动。 

美国的事咱管不了，对吾国以及其他国家的停飞措施，笔者完全能够理解并表示支持。毕竟“人命观天”，小心谨慎并不为过。 要知道，在埃塞俄比亚失事的那架737 MAX 8上，有8名吾国的乘客；何况吾国购买使用的737 MAX 8机型，总加起来有近百架之多。

实际上，笔者认为波音公司的上述声明不啻于在进行一场“豪赌”：目前两架客机失事的原因还在调查之中，如果最终结果证明飞机的设计或部件存在问题，波音公司的这种所谓“自信”岂不是狠狠地打脸自个儿？会不会被打脸倒在其次，最重要的是，它岂不是在拿无数的生命在冒险？

虽然，波音此举或许是两难中的无奈之举，盖因时下已售出使用和已下订单的737 MAX 8有数千架之多，若真是飞机本身出了问题，不仅将使这家“百年老店”颜面扫地，还会让其面临巨额索赔。果如此，由于波音公司的体量之大举足轻重，美国的经济和就业以及信誉也将因此受损。

然而这些都不如万千乘客的生命安全来得更重要！

正是在这种背景下，笔者才认为特朗普的上述这条推文称得上是他几千条“作品”中最靠谱的。身为美国总统，他并没有对本国企业表示出“袒护”的意思，反而也加入了质疑者的行列。——不难看出，他其实是在质疑或批评波音737 MAX 8的飞行控制软件。据报道，美国国会的一些议员也纷纷表态要求FAA发布对该机型的“禁飞令”，等待调查结果的水落石出。

那么，波音737 MAX 8的飞行控制软件究竟为什么招致业界的怀疑呢？笔者不是专家，只能引述一些专家的看法。他们的怀疑主要针对波音公司最新推出并在该机型上安装使用的一套自动防失速系统，亦即在飞机探测迎角安装的系列传感器。据介绍，该系统改变了波音737此前的设计，强调“数据搜集”和“自动化”，简单来说就是，它可以在飞行时计算机翼在空中切割时产生的升力量。如果迎角太陡，升力会开始减小，最终可能产生失速，飞机无法继续高空飞行，而一旦传感器收到“太陡”的迎角数据，这套系统会自动给出“下压力”降低机头，同时作为警告，共轭控制器会剧烈震动发出声响。

应该说，该“创新软件”的立意或许是好的，然而，其可怕之处在于：一旦迎角探测器出了故障作出错误判断，该系统就会在飞机正常飞行时强行把飞机机头往下压，最后可能会形成空难。据悉，这正是初步调查所给出的印尼狮航那架波音737之所以坠海的原因（事关重大，笔者必须申明这只是引述媒体的报道，还不能确认是调查正式给出的结论）。

问题还在于：假设这套人工智能系统真的出了故障（谁能百分之百地排除这种可能性呢），飞行员能不能采取补救措施，及时接管对飞机的控制权，用人工操作让飞行恢复正常呢？

据《界面新闻》引述海外媒体WIRED的报道说，即便飞行员有补救，也无济于事。据介绍，之前狮航失事飞机的相关数据显示，飞机起飞后曾经有过突然下降的迹象，随后又有拉升，之后就消失在追踪画面中。这或许表明，飞行员在故障发生后曾进行过手动调节，但并没有解除自动控制系统的操控，最终仍未能避免坠机的悲剧。更让人觉得不可思议的是，报道说不管是航空公司的管理层还是飞行员，居然都不知道飞机上装了这样一套系统。如果真是这样的话，意味着飞行员既没有经过严格的训练，也没有为应对可能出现的风险做好准备，故而在最关键的几分钟里处理不当，最终造成机毁人亡。

不过，以上这些目前还只是推测，而并非调查的最后结论。在全面调查结果正式公布之前，谁也不应该仅凭自己的一些知识和经验妄断事故的真正原因，因此现在还不能排除两架飞机失事有别的原因之可能性。笔者善意地猜想，出事后波音公司肯定也再次做过测试，所以才敢斗胆如此“豪赌”，毕竟他们也不敢拿那么多人的生命安全当儿戏。

还是那句话，一切要等待最后的调查结果。

即便如此，有一点是可以肯定的，那就是特朗普在其推文中所指出的如何正确处理人工智能与人之间的关系。

最近几年，有关人工智能自动驾驶汽车的试验在一些国家（包括吾国）和企业进行得十分热闹。实际上，自动驾驶的实践早已在航空领域取得成功。这里指的还不是无人机，而是载人的客机。但这些客机的自动驾驶都只是一种辅助设施，一般限于正常气候条件下使用，关键时刻还是要由飞行员来掌控飞机。以笔者之见，这是基于两个原因：一是人工智能既然是“机器”，就不可能完全避免故障的发生，哪怕这种概率极低，但“人命关天”不能不防，因此必须要在操作机制上确保让飞行员随时可以接管飞行。二是虽然人工智能输入了大量的数据，模拟了无数的场景，并设定了正确的应对措施，它的应对能力总的来说大大超过了个体的人类，然而大自然千变万化，有很多特殊的气候状况连人类也未必见识过，人类没有见识过，就无法在人工智能中输入相关数据和模拟的场景，万一飞机在飞行中遇到这种十分罕见的情形，人工智能恐怕就很难做出正确的应对，这时候飞行员的经验和直觉反而可能会“挽狂澜于既倒”（当然这也只是一种可能）。

综合以上两点，笔者的意思是：无论人工智能如何先进，必须确保最后时刻可以转换成由人来掌控。即使绝大多数情况下没有转换的必要，但这种转换的可操作性必须予以保留。就像特朗普在他的推特中所说的：“我想要伟大的专业飞行员，可以轻松迅速地控制飞机的那种。”

对此，笔者有一个也许不那么恰当的比方：当今世界的核武器，其具体的操作自然早已人工智能化，但关键节点的指令，还是要由人来把控，包括最高层的统帅所掌握的核皮包和核按钮。否则的话，若一切都人工智能化，万一作为人的决策者在下达核弹的发射指令后又因情况有变而要中止发射，但却遭到人工智能的拒绝，试想，这将会给人类酿成怎样巨大的灾难呢？这样的情节，笔者之前在某部科幻片中似曾见过。

就在笔者写完本文的初稿时，3月13日，特朗普终于发布行政令，要求禁飞所有波音737 MAX系列机型，该禁令适用于美国的航空公司以及进出美国领土的飞机，“直至进一步通知”。当日早些时候，加拿大也宣布暂时禁止波音737 MAX8和9飞机进出及飞越加拿大领空。至此，全球42个国家、47家航空公司的346架波音737 MAX 8全部停飞。

特朗普在发布上述行政令时称，“美国人民和所有人的安全是我们的主要关切”。虽然美国的停飞令来得晚了些，舆论普遍认为这是迫于来自全球的压力，但亡羊补牢，特朗普做出的决定还是正确的。

最后，笔者向上述两起坠机事件的死难者表示深切的哀悼；同时，希望相关的调查能够尽早查明事故的真正原因，以解全世界之殇、之疑、之惑。

2019年3月18日于竹径茶语

简介：未名者，江南布衣。生于20世纪50年代，下过乡，上过学，教过书，做过公务员，写过小说。中年后下海创办并主编某内部刊物凡二十多年，撰有经济政治社会法律等分析评论文字千万余言。现已退休，居于山间一寓，远离城市喧嚣。2017年开始撰写博客（每周一文），2018年7月开始兼写微博，以发挥余热，防止痴呆。有道是：只事耕耘，不问收获；知我者谓我心忧，不知我者谓我何求也。

笔者电子邮箱：wmc529@sina.com