在AI技術(shù)受到持續(xù)關(guān)注的今日，許多大型組織正在尋求算法來驅(qū)動(dòng)自動(dòng)化的業(yè)務(wù)流程或構(gòu)建智能機(jī)器人服務(wù)以滿足客戶的需求。但是在一些CIO熱衷于大規(guī)模應(yīng)用自我學(xué)習(xí)式軟件的同時(shí)，別的CIO卻對(duì)此表示質(zhì)疑，因?yàn)樗麄儗?duì)于AI的“黑箱”問題表示擔(dān)憂。
百度百科對(duì)于“黑箱”的解釋為：“所謂‘黑箱’是指這樣一個(gè)系統(tǒng)，我們只能得到它的輸入值和輸出值，而不知道其內(nèi)部結(jié)構(gòu)。黑箱可以是任何系統(tǒng)，只要是僅根據(jù)對(duì)其外部性質(zhì)的研究來對(duì)它進(jìn)行判斷的系統(tǒng)。其次，黑箱問題實(shí)際是個(gè)認(rèn)識(shí)問題。所謂黑箱，是相對(duì)于人這個(gè)人是主體而言的。在這個(gè)研究領(lǐng)域里，客觀事物無所謂“黑”“白”之分，而人的認(rèn)識(shí)卻有一個(gè)不知與知、知之不多與知之較多的問題，對(duì)某個(gè)事物有個(gè)確定的知識(shí)，‘黑’就轉(zhuǎn)化為‘白’。”對(duì)于AI來說，我們?yōu)槠漭斎霐?shù)據(jù)與信息，然后AI得出結(jié)論與推測(cè)，但是這其中AI如何進(jìn)行運(yùn)算與推斷的過程及方法我們卻不得而知，這就帶來了AI的黑箱問題。
在那些受監(jiān)管行業(yè)(比如金融服務(wù)行業(yè)和無人汽車駕駛行業(yè))中，這種“黑箱問題”(算法如何推導(dǎo)出結(jié)論)將尤為重要。如果一輛自動(dòng)駕駛的車輛在測(cè)試中突然偏離了正取的道路，那么工程師就需要知道為什么AI的算法會(huì)推導(dǎo)出這種結(jié)論。同樣，金融服務(wù)公司希望能夠通過了解“黑箱”來謹(jǐn)慎地審查客戶的信用風(fēng)險(xiǎn)，以免在資格評(píng)分中出現(xiàn)偏差。由于以上這些問題以及其相關(guān)的種種風(fēng)險(xiǎn)，公司正在尋求更多的方式來審視甚至是解釋其AI工具所提供的預(yù)測(cè)與分析。
就目前而言，大部分自動(dòng)化業(yè)務(wù)流程軟件都是通過可編程邏輯編寫的。如果這些軟件按預(yù)期工作的話，它們會(huì)執(zhí)行編程人員既定的事情。不過在現(xiàn)在這第二波的自動(dòng)化潮流中，能夠自我學(xué)習(xí)的軟件正在稱王稱霸。但是，在充分了解這些軟件如何進(jìn)行推斷與結(jié)果預(yù)測(cè)前，那些受到風(fēng)險(xiǎn)和法規(guī)監(jiān)管的公司就不得不對(duì)這些程序持有懷疑態(tài)度。
大數(shù)據(jù)推動(dòng)了AI的成長(zhǎng)，但也帶來了挑戰(zhàn)
人們?yōu)锳I構(gòu)置了廣泛的認(rèn)知技術(shù)，以實(shí)現(xiàn)情景推理，規(guī)劃和學(xué)習(xí)以及模仿人類和其他自然動(dòng)物的智力。確實(shí)，AI早已不再是個(gè)天馬行空的幻想，隨著計(jì)算能力的增長(zhǎng)，算法和模型的日益復(fù)雜，以及每天從連接設(shè)備中涌出的數(shù)十億兆字節(jié)的數(shù)據(jù)，AI已經(jīng)引發(fā)了自動(dòng)導(dǎo)向技術(shù)爆炸式的增長(zhǎng)。機(jī)器人已經(jīng)可以模仿人類的行為，從而幫助自動(dòng)駕駛汽車應(yīng)對(duì)復(fù)雜而棘手的路況與地形。根據(jù)IDC的統(tǒng)計(jì)，企業(yè)應(yīng)用的認(rèn)知系統(tǒng)和AI的全球營(yíng)將收從2016年的80億美元增長(zhǎng)到2020年的470億美元以上。
同時(shí)，AI軟件的技術(shù)和他們的學(xué)習(xí)能力也正在高速的增長(zhǎng)，但其復(fù)雜性亦是如此。大多數(shù)公司用兩個(gè)AI子集來在機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的核心中建立神經(jīng)網(wǎng)絡(luò)，以模仿人腦中的神經(jīng)元網(wǎng)絡(luò)節(jié)點(diǎn)模型。但是隨著這些技術(shù)的愈發(fā)強(qiáng)大，在這些自我學(xué)習(xí)型的神經(jīng)網(wǎng)絡(luò)系統(tǒng)中進(jìn)行發(fā)射信息數(shù)量的跟蹤幾乎是不可能的，更不用說進(jìn)行解析了。這就帶來了一個(gè)問題：我們可以相信算法告訴我們的結(jié)論嗎?比如一個(gè)房屋的前房東是否可以償還30年的抵押貨款而不違反公平貸款規(guī)則?
房利美(Fannie Mae)公司運(yùn)營(yíng)和技術(shù)負(fù)責(zé)人Bruce Lee就對(duì)此表示，這是一個(gè)很大的問題。像房利美這樣的抵押公司當(dāng)然可以利用AI技術(shù)向監(jiān)管機(jī)構(gòu)進(jìn)行更加清晰的決策解釋。同時(shí)，AI也可能會(huì)做出一些很符合邏輯的推斷，比如使用Nest恒溫器等產(chǎn)品的房主可能會(huì)有更多的自由現(xiàn)金來償還貸款。但是，監(jiān)管機(jī)構(gòu)并不對(duì)此表示信任。
“在考慮如何避免樣本偏好的公平貨款問題前，你會(huì)為那些Nest用戶提供更好的抵押率嗎?”Lee說道，“事實(shí)上，事物中的AI就像信貨決策一樣，是一個(gè)需要面對(duì)很多監(jiān)管障礙的領(lǐng)域。所以，我們的很多決策都需要反復(fù)的驗(yàn)證的以確保其中沒有偏見并有利于住房基礎(chǔ)設(shè)施。AI必須是能提供充分解釋說明的。”
“可解釋型AI”(explainable AI),如同字面意思，本質(zhì)上依然是一種AI技術(shù)，但其決策，結(jié)論和預(yù)測(cè)的AI都可以用合理的方式進(jìn)行驗(yàn)證。Lee指出像ThoughtSpot軟件，可以對(duì)如何應(yīng)用圖表和分析來查詢通知結(jié)果中的特定詞語(yǔ)進(jìn)行說明。Lee表示，金融服務(wù)需要AI具有這樣的功能。“人們需要AI能夠以人類相同的水平進(jìn)行解釋與說明，比如解釋如何避免做出偏見型的決策。”
有關(guān)可解釋型AI的爭(zhēng)論
很多學(xué)者看衰未來人們對(duì)于可解釋型AI的需求。但MIT首席研究科學(xué)家Andrew McAfee卻不同意這一點(diǎn)。在五月的MIT的CIO斯隆研討會(huì)上，McAfee在談到無法檢驗(yàn)AI結(jié)論的問題說道：“很多人對(duì)此表示擔(dān)憂，但我并不認(rèn)同這一點(diǎn)，因?yàn)槿藗兊慕忉尶偸沁^于快速?gòu)亩沟闷渲泻芏嗟臎Q定或預(yù)測(cè)都是錯(cuò)誤的。”“我們無法完全利用我們自己的知識(shí)，所以我完全不擔(dān)心于機(jī)器黑箱的計(jì)算能力。”McAfee認(rèn)為給可解釋型AI設(shè)立監(jiān)管障礙可能會(huì)是市場(chǎng)經(jīng)濟(jì)的“絆腳石。”
但是，MIT的另一位教授Erik Brynjolfsson則表示如果機(jī)器不能對(duì)其結(jié)論提供明確的解釋，人們就很難與這些機(jī)器一起工作。Brynjolfsson說道，“一臺(tái)機(jī)器擁有數(shù)十億的連接路徑，我們很難說某個(gè)特定的加權(quán)算法就能決定最終的決策。”
而其他的IT主管也在MIT的活動(dòng)上發(fā)表了看法，他們對(duì)于AI技術(shù)的實(shí)施保持謹(jǐn)慎態(tài)度，盡管他們也承認(rèn)AI對(duì)其業(yè)務(wù)的重要性。Scott Blandford, TIAA(美國(guó)教師退休基金會(huì))的首席數(shù)字官說道，公司不得不對(duì)AI的黑箱問題表示擔(dān)心因?yàn)?ldquo;你的決定將影響人們的生活，所以在確保對(duì)AI具有足夠信任前公司還是保持謹(jǐn)慎為好。”Blandford表示，盡管TIAA可以使用AI來增強(qiáng)其用于監(jiān)控?cái)?shù)字業(yè)務(wù)運(yùn)作的分析系統(tǒng)，但是由于缺乏進(jìn)一步的測(cè)試和驗(yàn)證所以Blandford并沒有準(zhǔn)備去應(yīng)用這些AI技術(shù)。
GE的CIO Jim Fowler說道，可解釋型AI在很大程度上取決于技術(shù)的使用背景。例如，有助于更有效處理應(yīng)收賬款的自我學(xué)習(xí)軟件可能不需要進(jìn)行解釋，但是對(duì)于GE來說，AI必須能夠解釋其對(duì)于噴氣式發(fā)動(dòng)機(jī)是否要啟動(dòng)的判斷。“你必須明確AI的使用目的，并且設(shè)置對(duì)其的關(guān)注度以及解釋與理解的方法。有很多的流程是需要經(jīng)過測(cè)試的，你必須向監(jiān)管者展示你已經(jīng)測(cè)試和證實(shí)了你的軟件，如果你的算法在有關(guān)生活等事物上不斷的發(fā)生改變，那么監(jiān)管者就很難相信這些黑箱技術(shù)。” Fowler說道。
數(shù)字化要一盤棋更要各自為戰(zhàn)
分享到微信 ×
打開微信，點(diǎn)擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁(yè)分享至朋友圈。