波音空難背后：人類應(yīng)該在何種程度上信任AI？

　　3月10日，埃塞俄比亞航空公司一架波音737MAX8客機(jī)在起飛6分鐘之后墜毀，機(jī)上搭乘的149名乘客和8名機(jī)組成員全部遇難，其中包括8名中國乘客。

　　這是近五個(gè)月來第二架波音737MAX8客機(jī)墜毀。

　　該機(jī)型的上一次空難發(fā)生在2018年10月29日，當(dāng)時(shí)印尼獅航的一架載有189人的波音737MAX8客機(jī)在起飛13分鐘后墜海，機(jī)上人員全部遇難。

　　短期內(nèi)連續(xù)兩場空難，346條鮮活的生命瞬間消逝，這樣的慘劇已經(jīng)引起了全球輿論震動(dòng)，而兩次空難背后的留下的思考已經(jīng)超越空難本身。對(duì)于金融投資領(lǐng)域來說，人們關(guān)心的是今晚的波音公司股價(jià)波動(dòng)，但是我們更應(yīng)該關(guān)心的是，人類到底應(yīng)該在何種程度上信任AI技術(shù)。

　　目前尚無證據(jù)表明這兩起空難之間存在聯(lián)系，但波音737MAX8是一款新機(jī)型，兩年前才完成首飛，埃航墜毀的這架飛機(jī)才僅僅使用了4個(gè)月，而去年獅航墜毀的那架飛機(jī)機(jī)齡才77天，二者都不存在機(jī)械老化問題。這種情況意味著，這款新機(jī)型有可能存在設(shè)計(jì)隱患。

　　航空制造業(yè)對(duì)于這類隱患一直都是零容忍的。飛機(jī)屬于高端制造業(yè)，自有飛機(jī)以來，安全問題就備受關(guān)注，人們可能無法記錄這世上的每一起車禍，但每一起空難的經(jīng)過都有案可查。假如波音737MAX8真的有設(shè)計(jì)隱患，那波音公司可就攤上大事兒了，隨之而來巨額索賠可能會(huì)讓它遭受致命打擊。CNN航空分析師、美國運(yùn)輸部前監(jiān)察長瑪麗·夏沃昨日對(duì)埃航事件發(fā)表評(píng)論時(shí)說：“新款飛機(jī)，一年內(nèi)兩次墜毀，這種情況根本不應(yīng)該發(fā)生?！?/p>

　　對(duì)于波音來說，目前的形勢非常糟糕，因?yàn)閮善鹂针y之間存在著不少相似之處。

　　比如獅航空難是起飛后13分鐘就墜毀，埃航這次空難是起飛6分鐘后墜毀，都屬于起飛后不久即出現(xiàn)問題。另外，獅航那次空難前幾秒鐘，飛機(jī)高度出現(xiàn)劇烈波動(dòng)，而埃航這次出事前，飛機(jī)的高度確實(shí)是下降了，然后在墜毀前恢復(fù)了高度。

　　埃航空難原因目前仍不明朗，但去年10月發(fā)生的獅航空難中，有一種比較主流的觀點(diǎn)認(rèn)為，事故的根源在于波音737MAX8安裝的那套全新的安全系統(tǒng)。

　　獅航空難一周后，波音公司曾向全球737MAX用戶發(fā)出了通告，要求所有的737MAX機(jī)組注意，在事故調(diào)查過程中發(fā)現(xiàn)，飛機(jī)AOA迎角傳感器錯(cuò)誤數(shù)據(jù)，會(huì)導(dǎo)致飛機(jī)的尾翼配平系統(tǒng)啟動(dòng)自動(dòng)保護(hù)功能，在未經(jīng)飛行員操縱的情況下，自動(dòng)讓機(jī)頭向下。

　　據(jù)稱，這個(gè)隱藏很深的自動(dòng)保護(hù)功能可以在AOA迎角傳感器數(shù)據(jù)錯(cuò)誤導(dǎo)致的自動(dòng)駕駛斷開后，在飛行員手動(dòng)飛行情況下，自動(dòng)觸發(fā)的飛機(jī)水平尾翼配平“子程序”。但這一點(diǎn)事先并沒有寫進(jìn)飛行手冊(cè)里，飛行員并不知道有這個(gè)設(shè)計(jì)。如果知道這個(gè)設(shè)計(jì)，那么還是有方法可以控制飛機(jī)的。

　　這個(gè)子程序只有在飛機(jī)遇到某種特定故障時(shí)候，才會(huì)自動(dòng)觸發(fā)啟動(dòng)保護(hù)功能。它只干一件事：壓低機(jī)頭，讓飛機(jī)進(jìn)入俯沖狀態(tài)。

　　那么是不是這個(gè)子程序本身存在的致命問題呢?這個(gè)事其實(shí)也不好說。觸發(fā)該子程序的條件是，飛行控制系統(tǒng)通過機(jī)身傳感器獲知機(jī)頭上揚(yáng)的角度不斷增大，將要進(jìn)入失速狀態(tài)，如果不立刻壓低機(jī)頭，飛機(jī)就會(huì)有墜毀的風(fēng)險(xiǎn)。由此看來，該子程序設(shè)計(jì)的初衷是沒有問題的。

　　但是，有不少專業(yè)人士認(rèn)為，為了達(dá)到省油的目的，MAX加大了發(fā)動(dòng)機(jī)尺寸，無奈起落架太短，只好把發(fā)動(dòng)機(jī)在機(jī)翼上的位置上移，但會(huì)造成更大的抬頭力矩而容易失速。波音給MAX設(shè)計(jì)了一個(gè)自動(dòng)低頭的配平系統(tǒng)MCAS，但這個(gè)系統(tǒng)只要收到錯(cuò)誤的信號(hào)，就會(huì)自動(dòng)讓飛機(jī)低頭。

　　這個(gè)失速保護(hù)的子程序非常強(qiáng)勢，它能在手動(dòng)模式下自動(dòng)開啟失速保護(hù)，也就是說，它可以在特殊情況下，對(duì)飛行員的操作行使“一票否決權(quán)”。這套AI系統(tǒng)超級(jí)自信，它有極高的權(quán)限，它可以否定飛行員的判斷，堅(jiān)持按照自己的程序邏輯一條道走到黑，哪怕前方等待著人們的是死亡，它也不會(huì)有絲毫猶豫。

　　根據(jù)這種程序邏輯，在某些特殊情況下，當(dāng)飛行員還不知道發(fā)生了什么事情的時(shí)候，該子程序可能會(huì)自行啟動(dòng)“拯救”飛機(jī)的操作，直接控制水平尾翼，讓飛機(jī)低頭俯沖。而當(dāng)機(jī)組人員發(fā)現(xiàn)時(shí)，通常會(huì)首先啟動(dòng)手動(dòng)模式。所謂手動(dòng)模式，一般來說，就是飛行員取回飛行掌控權(quán)，自控系統(tǒng)必須聽命于飛行員的指揮，但是該子程序可能在手動(dòng)模式下自動(dòng)開啟失速保護(hù)，也就是說，在飛行員認(rèn)為完全掌控飛機(jī)的時(shí)候，它仍然在悄悄地爭奪控制權(quán)。這種人機(jī)大戰(zhàn)模式相當(dāng)危險(xiǎn)，在空難發(fā)生前的短時(shí)間內(nèi)很可能就決定了上百人的生死。

　　波音考慮過“人機(jī)大戰(zhàn)”的可能性，所以控制系統(tǒng)內(nèi)是有命令該子程序徹底停止運(yùn)行的方法的，但是它隱藏得太深，加上這種情況本身就是極小概率事件，因此很多飛行員不熟悉關(guān)閉方法。

　　在去年的獅航事故中，波音公司辯稱，飛行員本應(yīng)確認(rèn)該系統(tǒng)正在運(yùn)行，并將其關(guān)閉。但是波音自己心里是清楚的，這個(gè)指責(zé)多少有點(diǎn)牽強(qiáng)，所以在獅航事故之后，波音立刻發(fā)布緊急通告，要求所有航空公司確保他們對(duì)飛行員進(jìn)行了關(guān)機(jī)程序的培訓(xùn)。

　　埃航事故原因是否和獅航事故原因一致，目前尚未有結(jié)論，但埃航事故發(fā)生之后，中國民航總局已經(jīng)通知國內(nèi)航空公司立刻停止波音737MAX客機(jī)的運(yùn)行，改由其他機(jī)型執(zhí)行航線運(yùn)行任務(wù)。

　　近年來，汽車的無人駕駛技術(shù)進(jìn)入了大眾視野，很多人在暢想未來無人駕駛汽車普及之后的社會(huì)場景。在當(dāng)前的設(shè)想場景里，安裝了無人駕駛系統(tǒng)的汽車首先應(yīng)有一個(gè)全方位的雷達(dá)感應(yīng)器，它可以感知車身一定距離之外的全景環(huán)境，并通過計(jì)算機(jī)技術(shù)實(shí)現(xiàn)精算，再作出即時(shí)反應(yīng)，這就是無人駕駛。這種技術(shù)聽起來似乎很玄妙，但實(shí)際上并不高深，它比飛機(jī)的自動(dòng)駕駛系統(tǒng)要簡單得多。

　　那么，既然技術(shù)上沒有大的障礙，無人駕駛汽車是不是很快就會(huì)到來呢?考慮到很多社會(huì)配套體系尚未完備，無人駕駛汽車時(shí)代可能還要等上一些年頭。

　　飛機(jī)為什么要有自動(dòng)駕駛系統(tǒng)呢?

　　軍事無人機(jī)是為了最大限度降低降低己方飛行員戰(zhàn)損數(shù)量，而民用飛機(jī)的自動(dòng)駕駛系統(tǒng)主要是出于駕駛安全本身的考量。人類會(huì)疲勞，而駕駛飛機(jī)需要飛行員精神高度集中，這種狀態(tài)會(huì)讓飛行員更加容易疲勞，但是自動(dòng)駕駛系統(tǒng)不存在這個(gè)問題。

　　幾十年前人類就發(fā)明了自動(dòng)駕駛儀，由機(jī)載計(jì)算機(jī)控制飛機(jī)自動(dòng)飛行。那個(gè)時(shí)代的自動(dòng)駕駛儀比較簡單，由高度表、陀螺儀、加速度計(jì)、簡單的電路和檢測飛機(jī)狀態(tài)信息的設(shè)備構(gòu)成，由于儀表精度不高，最終校正飛行狀態(tài)的工作還是需要飛行員去完成，但自動(dòng)駕駛儀已經(jīng)在很大程度上減少了飛行員的工作量。

　　現(xiàn)代的自動(dòng)駕駛系統(tǒng)則已經(jīng)有了極大的變化，儀器越來越精密，精準(zhǔn)度早已超越了人工所能達(dá)到的極限，飛機(jī)在自動(dòng)控制狀態(tài)下飛行時(shí)，任何一點(diǎn)點(diǎn)狀態(tài)的改變系統(tǒng)都可以察覺出來。飛機(jī)在飛行中利用計(jì)算機(jī)產(chǎn)生精確的信號(hào)與地勤保持聯(lián)系，飛機(jī)航線無需飛行員人工干預(yù)，校正工作則由衛(wèi)星定位系統(tǒng)完成。

　　如此看來，似乎飛行員這個(gè)職業(yè)已經(jīng)可以退出歷史舞臺(tái)了，但是實(shí)際上并非如此。

　　由于歷史原因，大多數(shù)東方人對(duì)于科學(xué)的認(rèn)知總是處于極端狀態(tài)，人們時(shí)而視科學(xué)如洪水猛獸，時(shí)而又視科學(xué)如無所不能的神跡。這兩種認(rèn)知都有很大的問題，相對(duì)而言，西方人對(duì)于科學(xué)技術(shù)的態(tài)度比東方人更加謹(jǐn)慎。

　　科技的進(jìn)步有時(shí)候是存在重大bug的，而這種bug有時(shí)候隱藏得很深。精準(zhǔn)的檢測、精細(xì)的算法、完美的運(yùn)算過程，這一切看起來都沒有問題，但它們并不總是帶來正確的結(jié)果。AI技術(shù)的難點(diǎn)在于，它實(shí)在是過于精準(zhǔn)了，以致于做出的判斷都是非常剛性的，它們習(xí)慣于對(duì)事物采取一刀切的處理方式，而遺憾的是，世間事有許多并無明晰的界定，甚至那些看似明晰的界定本身也是在不斷變化不斷修正中的。