可解釋的AI與規(guī)則的重生 —— 文章正文2019-03-25

人工智能被視為一組“預(yù)測(cè)機(jī)器”。通常，人工智能技術(shù)很適合用于生成自動(dòng)預(yù)測(cè)。但是，如果你想在受監(jiān)管的行業(yè)中使用人工智能，就最好能解釋機(jī)器是如何預(yù)測(cè)欺詐行為、犯罪嫌疑人、不良信用風(fēng)險(xiǎn)或者某種藥物試驗(yàn)合適候選人的。

國(guó)際律師事務(wù)所Taylor Wessing希望把人工智能作為一種分類工具，向他們的客戶提供關(guān)于可能存在與“現(xiàn)代奴隸制法案”或“反海外腐敗法”等法規(guī)相關(guān)風(fēng)險(xiǎn)的建議。他們的客戶通常有全球供應(yīng)商或者進(jìn)行全球收購(gòu)，需要進(jìn)行系統(tǒng)性的盡職調(diào)查，以確定應(yīng)該深度調(diào)查哪些方面找出潛在風(fēng)險(xiǎn)。有時(shí)候供應(yīng)鏈會(huì)涉及到數(shù)百家小型供應(yīng)商，這種情況尤為復(fù)雜。對(duì)于律師或者供應(yīng)鏈管理人員來(lái)說(shuō)，調(diào)查其中每一個(gè)環(huán)節(jié)是成本極高的。Taylor Wessing采用了Rainbird Technologies的人工智能軟件，與律師一起在相關(guān)法律領(lǐng)域?qū)υ撥浖M(jìn)行訓(xùn)練，以找出客戶存在潛在風(fēng)險(xiǎn)的線索。如果該人工智能系統(tǒng)顯示存在沒(méi)有正確遵守法規(guī)的高風(fēng)險(xiǎn)因素，系統(tǒng)就會(huì)電話通知律師。

“規(guī)則引擎已死”的謠言被夸大了

每一種人工智能都有自己的優(yōu)點(diǎn)和缺點(diǎn)?，F(xiàn)在深度學(xué)習(xí)是很多人工智能專業(yè)人員的寵兒，但是在透明度和可解釋性方面，深度學(xué)習(xí)相對(duì)于其他AI方法存在明顯的不足。Rainbird的核心是一個(gè)規(guī)則引擎，有些人認(rèn)為，規(guī)則引擎是人工智能領(lǐng)域的“昨日黃花”。確實(shí)，規(guī)則其實(shí)是支持最新一代人工智能“專家系統(tǒng)”的專家系統(tǒng)之背后的因素。但規(guī)則仍然令人驚訝地受歡迎：2017年德勤進(jìn)行的一項(xiàng)調(diào)查顯示，有49％的美國(guó)大型企業(yè)高管表示，他們使用了基于規(guī)則的人工智能技術(shù)。

規(guī)則引擎的優(yōu)勢(shì)在于它的可解釋性；擁有一定專業(yè)水平的人可以查看規(guī)則，看規(guī)則是否合理，他們可以相對(duì)輕松地修改規(guī)則。這非常適合于中低復(fù)雜度的決策；在積累了幾百條規(guī)則的基礎(chǔ)上，可以發(fā)展出人類難以理解的相互作用因素，這讓維護(hù)這些規(guī)則變得十分具有挑戰(zhàn)性。

從歷史來(lái)看，規(guī)則更多地是依賴邏輯而不是依賴大量數(shù)據(jù)。規(guī)則不是從數(shù)據(jù)中學(xué)習(xí)，而是從人類專家那里學(xué)習(xí)。從專家那里提取領(lǐng)域?qū)I(yè)知識(shí)的過(guò)程，被稱為“知識(shí)工程”。針對(duì)一個(gè)簡(jiǎn)單知識(shí)域構(gòu)建規(guī)則集合是一件很容易的事情，很多非技術(shù)專家也能做到。Rainbird的規(guī)則體現(xiàn)的是實(shí)體之間的關(guān)系；實(shí)體和關(guān)系形成特定知識(shí)域的“知識(shí)圖譜”。要使用大量規(guī)則和大量實(shí)體對(duì)復(fù)雜知識(shí)分類進(jìn)行建模，這可能是十分困難的，需要經(jīng)過(guò)訓(xùn)練的知識(shí)工程師與專家合作才能做到。Rainbird表示，構(gòu)建中等復(fù)雜度的知識(shí)圖譜通常需要大約20個(gè)工作日。

依靠專家存在一個(gè)問(wèn)題：在“智能”軟件的世界中，專家必須理解和接受軟件訓(xùn)練、學(xué)習(xí)和使用的方式。軟件決定了專家如何分享決策規(guī)則以及權(quán)衡日常決策中最重要的因素。這種方式或者這個(gè)過(guò)程花費(fèi)的時(shí)間可能會(huì)讓專家感到不滿。

再來(lái)說(shuō)說(shuō)“知識(shí)工程師”。Rightbird的客戶（如Taylor Wessing律師事務(wù)所）找到了愛(ài)好研究這個(gè)領(lǐng)域和這項(xiàng)技術(shù)的人才。他們不需要一定是專家。對(duì)Taylor Wessing來(lái)說(shuō)，這些人可以是有技術(shù)才能的律師助理，也可以是愛(ài)好法律的技術(shù)專家。知識(shí)工程師不僅僅是業(yè)務(wù)分析師，他們也充當(dāng)著專家的助手。他們從專家那里獲取知識(shí)，幫助專家使用軟件構(gòu)建相關(guān)的“知識(shí)地圖”。知識(shí)工程師可以解決專家匱乏或者專家沒(méi)有足夠時(shí)間的問(wèn)題，他們可以提出問(wèn)題，專家來(lái)回答。他們會(huì)教導(dǎo)企業(yè)組織如何添加更多數(shù)據(jù)。

規(guī)則變得越來(lái)越簡(jiǎn)單

Rainbird一直努力讓自己的規(guī)則引擎變得比以前更易于使用。例如，Rainbird有一個(gè)編輯器，引導(dǎo)用戶完成規(guī)則創(chuàng)建過(guò)程，創(chuàng)建一個(gè)可視模型和基于規(guī)則的代碼；用戶可以使用任何一個(gè)界面。Rainbird表示，客戶通常只通過(guò)少量訓(xùn)練就可以自行開(kāi)發(fā)應(yīng)用。與上一代規(guī)則引擎相比，新引擎的另一個(gè)優(yōu)點(diǎn)是結(jié)構(gòu)化數(shù)據(jù)可以通過(guò)API集成到規(guī)則中。例如，它可以根據(jù)客戶的信用評(píng)分或者其他類型的數(shù)據(jù)做出信用決策。雖然規(guī)則引擎通常不是概率性的，但Rainbird確實(shí)允許知識(shí)工程師將主觀概率輸入到規(guī)則中。

當(dāng)不需要大量結(jié)構(gòu)化或者非結(jié)構(gòu)化數(shù)據(jù)集來(lái)測(cè)試和改進(jìn)軟件的時(shí)候，基于人工智能的規(guī)則就克服了構(gòu)建模型帶來(lái)的挑戰(zhàn)。這在讀取醫(yī)學(xué)圖像等領(lǐng)域會(huì)相對(duì)容易一些，因?yàn)檫@種場(chǎng)景可能存在千萬(wàn)個(gè)MRI或CAT掃描相關(guān)的示例。對(duì)于其他很多領(lǐng)域和任何新的知識(shí)領(lǐng)域來(lái)說(shuō)，沒(méi)有足夠大的數(shù)據(jù)集可用于訓(xùn)練或保持軟件的準(zhǔn)確性?；谝?guī)則的方法解決了這個(gè)問(wèn)題。

但這導(dǎo)致使用人工智能帶來(lái)的第三個(gè)挑戰(zhàn)：信任、隱私和數(shù)據(jù)保護(hù)。Rainbird的技術(shù)是展示規(guī)則引擎可解釋性優(yōu)點(diǎn)的一個(gè)很好的例子：它提供了一種“證據(jù)樹(shù)”，描述規(guī)則是如何做出特定決策的。Rainbird表示，醫(yī)療和金融服務(wù)等行業(yè)的監(jiān)管機(jī)構(gòu)認(rèn)為這種能力特別有用。

現(xiàn)在我們可以新聞中看到各種關(guān)于人工智能存在偏見(jiàn)的報(bào)道。展示如何做出決策和選擇目標(biāo)的透明度，將有助于解決這個(gè)問(wèn)題?？山忉尩娜斯ぶ悄苁亲詈笠淮鶤I，由于具有透明度，它也可能是下一代AI。代價(jià)就是，我們必須思考機(jī)器做事的方式……也就是規(guī)則。