時間：2023-06-08 09:15:41
序論：速發(fā)表網(wǎng)結(jié)合其深厚的文秘經(jīng)驗，特別為您篩選了11篇人工智能的倫理思考范文。如果您需要更多原創(chuàng)資料，歡迎隨時與我們的客服老師聯(lián)系，希望您能從中汲取靈感和知識！
本文將從佛教世界觀的本源出發(fā)，探討如何在人工智能中植入具有自主導(dǎo)向功能的認(rèn)知能力，進(jìn)而討論佛教世界觀與人工智能自主意識方面相關(guān)倫理問題的交叉融合，并深入探究機(jī)器人是否可以設(shè)計成具有自我進(jìn)化能力、具備同情心和高智商的智能體。
一、佛教世界觀的人工智能的
倫理表征
佛教世界觀的核心是否定靈魂，拒斥自我。佛教
世界觀認(rèn)為，從苦楚中獲得解脫的方式是合理的，它體現(xiàn)了人類自身心理冥想的一個過程，直到他確信這是一個短暫、瞬息的自我錯覺。而如何認(rèn)識到這一錯覺，在佛教經(jīng)典《阿毗達(dá)摩》中，談到了對于人性精神元素的各種分析以及與此相聯(lián)系的有關(guān)痛苦和解脫的方式。它認(rèn)為打破這一心理錯覺的方法很多，但最為根本的是被稱為五蘊(yùn)的色、受、想、行、識，即：色蘊(yùn)、受蘊(yùn)、想蘊(yùn)、行蘊(yùn)、識蘊(yùn)。
五蘊(yùn)通常被看作是具有因果性的一種解釋。佛教世界觀認(rèn)為這種因果性的存在正如一個火苗從一根蠟燭傳遞到另一根蠟燭，雖然這兩個火苗有因果聯(lián)系，但卻不能說這是同一個火苗，也就是說五蘊(yùn)具有獨(dú)立性。因此，就出現(xiàn)了這樣一個問題，意識的成分是否能夠分解？佛教世界觀認(rèn)為意識需要以相互聯(lián)系的五蘊(yùn)為基礎(chǔ)，如果其中一個丟失，那么就可能導(dǎo)致腦損傷或使冥想誤入歧途，從而使得意識終止。例如，植物人就有可能表達(dá)了這樣一種狀態(tài)，它身體的某一部分感覺或預(yù)知能力存在，但卻沒有意識或意愿。這一在神經(jīng)科學(xué)中面臨的問題也恰恰是人工智能設(shè)計過程中所需面對和解決的。
在五蘊(yùn)中，我們認(rèn)為物理對象或虛擬對象均與某項感官聯(lián)系，而人工智能自身即是一個虛擬的對象，它有助于提升人類對某一物理現(xiàn)象的相關(guān)感官，揭示客觀世界的結(jié)構(gòu)和本質(zhì)。關(guān)于虛擬對象我們從Goertzel的一個實驗進(jìn)行介紹，“如果我們創(chuàng)造一個虛擬的世界來支持簡單的物理現(xiàn)象，那么我們很有可能會得到這樣的一個結(jié)果，也就是人類把人工智能融合
收稿日期：2013ㄢㄢ1；修回日期：2014〢4ㄢ5
基金項目：國家社科基金重點項目“基于邏輯視域的認(rèn)知研究”(11AZD056)
作者簡介：王東浩(1982)，男，河北衡水人，南開大學(xué)哲學(xué)院博士研究生，主要研究方向：科技哲學(xué)，邏輯學(xué)
進(jìn)生活中，并在生活中改善人工智能的設(shè)計，通過人工智能與人類活動之間的交叉融合，最終有助于提升人工智能關(guān)鍵部位的感應(yīng)”。[2]換句話來說，像人類思考那樣，人工智能需要的是自身與物理世界的交互，從而使得其具有與人類相類似的諸如目標(biāo)、因果性、狀態(tài)、界面以及界限方面的感官經(jīng)驗等。這一觀點與佛教認(rèn)識論的思想類似，即由感官數(shù)據(jù)而形成的第一直覺對于意識的發(fā)展是關(guān)鍵和必要的。Francisco Varela稱這種感官上的表現(xiàn)為自我創(chuàng)生、自我組織[3](476)。這一自我創(chuàng)生結(jié)構(gòu)具有限定的范圍和內(nèi)部運(yùn)行程序，并能夠?qū)崿F(xiàn)有機(jī)體的自我維護(hù)。但這僅僅是感官領(lǐng)域一個隨意的發(fā)生過程：“這里的自我是完全虛擬的，它只是為交互作用提供了一個界面，但由于人們不能準(zhǔn)確地把握它，因而對它的認(rèn)識也是虛幻和不確定。”[4](209㈢22)正如這樣一種情況，人們通過顯微鏡觀察原子結(jié)構(gòu)和量子泡沫的時候，通常存在物會以一種類似幻覺的形式出現(xiàn)，這種把實體物與幻覺分離的感覺是一種虛幻的“大眾心理”，它實際上是通過冥想而實現(xiàn)的。
從佛教的觀點來看，這些感官的直接作用是引起人們的注意，然后形成更為復(fù)雜的意志。在Froese與Ziemke看來，“人與智能體在交互過程中經(jīng)常遭遇困擾，因此有必要在人工智能中建構(gòu)一個類似于佛教感官的鏈接，這樣有助于實現(xiàn)交互雙方的聯(lián)系。”[3](450)在智能技術(shù)發(fā)展初期，這一鏈接主要表現(xiàn)在一些簡單的動作上，比如抓住或放下某物，或者表現(xiàn)出較為高級一些的行為，比如對噪聲的厭惡情緒，而相對于佛教感官較深層次的鏈接還沒有完全出現(xiàn)。
具備偏好選擇、體驗認(rèn)知以及厭惡表征特征的人工智能僅僅是人工智能理論的部分表現(xiàn)。因為大多數(shù)人工智能研究的目標(biāo)并非發(fā)展成迥異于人類的個體，而是把人類的特征模型化甚至延展人類認(rèn)知，創(chuàng)造出可以體現(xiàn)人類思維判斷的工具。我們已經(jīng)創(chuàng)造出可以診斷疾病并與人類醫(yī)師相媲美的機(jī)器人，它們具有一定的認(rèn)知情緒，并可以進(jìn)行情感計算。我們知道，在智能體中“情感計算”[5]通常能夠判斷人類的情感和欲望，這有利于實現(xiàn)人機(jī)交互。佛教心理學(xué)與智能科學(xué)在此具有一致性[6]，它們都揭示了情感是人類自主意識和認(rèn)知得以發(fā)展的基本驅(qū)動力。
在人工智能領(lǐng)域存在人工智能自身是否應(yīng)該具有自利的一面或優(yōu)先權(quán)程序的論爭。對此，人工智能方面的一些專家認(rèn)為，人工智能從設(shè)計之始就是無私的，它唯一的目標(biāo)就是服務(wù)人類[7]。相反，佛教心理學(xué)認(rèn)為為了研究自我意識的閾值，所有的智能思想都需要從發(fā)展自我開始。在佛教世界觀中，自我的渴求與幻想的發(fā)展是“相互依賴提升的”[8]，它們的存在是必要的并且無須解釋。因此在佛教認(rèn)識中，人工智能應(yīng)該具有自我。
二、佛教世界觀在人工智能體設(shè)計中的進(jìn)路
佛教世界觀基于對宇宙生命的理解，為佛教思想向智能體思想的轉(zhuǎn)化提供了豐富的內(nèi)涵。佛教思想根據(jù)印度教吠陀世界觀，并自由地綜合各地教徒所信奉的諸神，從而使得 佛教信仰得以廣泛傳播。然而，從一開始，佛教對于宇宙本質(zhì)與起源的介紹都是有目的性的，即強(qiáng)化人類道德行為與超自然現(xiàn)象之間關(guān)系的理解。盡管在現(xiàn)實生活中存在寫實主義的佛教徒，但是相比于傳統(tǒng)基督教，持這種觀點的佛教徒還是少數(shù)。
傳統(tǒng)上，佛教將宇宙中的生命分為三個部分，即欲界、色界與非色界。每個部分都是輪回的。欲界主要指的是在地獄中遭受苦難的餓死鬼、動物、人類、半獸人以及神明。對此，人們通常這樣理解：地獄表征的是苦難，餓死鬼表征的是欲望得不到滿足，動物表征的是愚昧的化身，半獸人指的是妒忌，神明指的是快樂。[9]相比之下，人類是混合了所有層面的一個綜合體，并促使人類思想的發(fā)展更多集中在精神層面。在人類范圍之下，生命體被太多的苦難、欲望、愚昧困擾以至于道德與心理得不到發(fā)展。在人類范圍之上，半獸人與神明則因為自利和利他兩個極端的存在而 分化。
' 佛教世界觀力求把機(jī)器思想設(shè)計限定在某一情緒或精神層面。大多數(shù)倫理體系不贊成設(shè)計一款具有自我感知能力的軟件。那么人們在道德上能否接受一款與動物情感類似的軟件呢？佛教倫理把動物看作是人類道德層面的一部分，因此需要保護(hù)它們遠(yuǎn)離傷害。佛教倫理把動物看作類似于人類的觀點，體現(xiàn)了人類道德行為與教化能力的再生。我們可以從佛教經(jīng)典中看到很多英雄人物或勇于犧牲的行為，他們的化身不乏鹿、猴子和其它一些動物，他們的這些行為促使人類靈魂進(jìn)一步升華。在佛教徒看來，把人工智能設(shè)計為類似于人類的行為是不道德的，這類似于亞里士多德、康德和密爾等人對于設(shè)計快樂的機(jī)器人奴隸一樣令人反感。[10]
在人工智能體思想的設(shè)計中塑造一種積極情緒，并把它限定在自我滿足的極樂狀態(tài)，這會促使積極情緒不會向其它不好的情緒或令人厭煩的意識轉(zhuǎn)移。伴隨著神經(jīng)倫理學(xué)在美容神經(jīng)學(xué)時代的發(fā)展，佛教心理學(xué)認(rèn)為這種存在于自我意識中的快樂元素與由于多巴胺的刺激而出現(xiàn)的享樂狀態(tài)是不同的。
另外，佛教世界觀也經(jīng)常把實體形式化，并把它描繪成通過冥想即可達(dá)到的一種空靈的精神狀態(tài)。在這一狀態(tài)下，實體是不存在的，冥想完全是精神的產(chǎn)物。在機(jī)器人倫理中也可能存在與此相類似的一些觀點。這似乎也是可信的，因為人們有可能把智能體思想設(shè)計成能夠體驗?zāi)M認(rèn)知并最終達(dá)到萬物合一或虛空世界的狀態(tài)。在Robert Sawyer的虛構(gòu)小說《WWW: Watch》[11]中對此有過描述。它講到人工智能在一開始受到多重數(shù)據(jù)信息流的控制，這使得它失去自我意識。在關(guān)鍵時刻，它的人類朋友打破了其中的一些網(wǎng)絡(luò)鏈接，并重新使它恢復(fù)到某一時間段的某一狀態(tài)下。Sawyer的虛幻小說在一定程度上佐證了佛教的這一觀點，因為在不同冥想的增加和沖擊下，智能體自身情感可能難以自持，最終有可能傷害到其它個體。
佛教認(rèn)識論同樣也思考了這樣的問題，人工智能體是否會改變自身指令而達(dá)到“神的地位”這樣危險的狀態(tài)。對此，那些對超人工智能所引發(fā)的危險持謹(jǐn)慎觀點的人提出了兩個可能的解決途徑，其一是嚴(yán)格控制人工智能的發(fā)展，以確保人工智能體無法擴(kuò)展自身能力。這就需要人們解決如何發(fā)展高效能的智能體，而它自身又不能學(xué)習(xí)和成長。為此，這就需要嚴(yán)格管理人工智能的開發(fā)者，并能夠形成一個統(tǒng)一而有效的人工智能免疫體系，從而控制隨時出現(xiàn)問題的人工智能體。
另一個方面是對達(dá)到“神的地位”的人工智能進(jìn)行倫理編碼，諸如阿西莫夫的機(jī)器人三原則[12]或者“友善的人工智能”[13]。當(dāng)然，這并非完全復(fù)制人類的精神狀態(tài)并把它強(qiáng)加給機(jī)器，因為這樣人類很可能會對超人工智能或具有“神的地位”的機(jī)器人產(chǎn)生排斥心理。
然而，佛教認(rèn)識論認(rèn)為，神明自身也逐漸意識到它們面臨的困境，一方面需要超越幻覺狀態(tài)下的苦難，另一方面又需要強(qiáng)化對冥想的需求。神明的這一困境使他們陷入了漫長的悲苦境地，只有少數(shù)聰明者得以逃脫這一束縛，進(jìn)行宣傳佛法的活動。例如，悉達(dá)多吠達(dá)摩就因為眾神的信服而傳授佛法、啟迪教化世人。佛教世界觀也因此希望這種教化方式可以在人與超人工智能之間轉(zhuǎn)移傳遞，從而解決現(xiàn)存的一些困境。
三、佛教世界觀在人工智能體設(shè)計中的傳承性
佛教世界觀中涉及到這樣一個倫理問題，也就是傳宗接代是否是一種倫理行為？對此，佛教世界觀存在兩方面不同的認(rèn)識：一方面，佛教認(rèn)為傳宗接代并非是一項職責(zé)，舍離無子女的生活是值得稱贊的。正如很多人看到的那樣，有子女的成年人丟失了很多的快樂[14]，佛教世界觀把煩累、孩子與配偶都視作人的附加物，最好是能夠避免；另一方面，佛教世界觀把傳宗接代看作是上天贈予人類的一個禮物，是人類再生的一個表現(xiàn)，而非苦難的開始。如果人們選擇傳宗接代，那么父母應(yīng)該謹(jǐn)記下面五項職責(zé)(《善生經(jīng)》)：① 勸阻他們不要做惡事；② 教育他們多做善事；③ 對他們進(jìn)行善行教育；④ 為他們尋求相稱的婚姻；⑤ 滿足他們繼承的權(quán)利。
人工智能的出現(xiàn)打破了傳統(tǒng)的倫理關(guān)系。它把人類置于一個新型的倫理環(huán)境中，也就是人類通過機(jī)器來創(chuàng)造生命。Metzinger認(rèn)為在我們不能確定所創(chuàng)造的生命是否長期處于苦難、愚昧、狂喜和其它令人不悅的狀態(tài)之前，我們創(chuàng)設(shè)的人工智能體思想是不符合倫理標(biāo)準(zhǔn)的[15]。換句話說，Metzinger認(rèn)為，創(chuàng)造與人類相似的具有自我意識但卻缺乏學(xué)習(xí)和成長能力的生命是不道德的。《善生經(jīng)》使我們認(rèn)識到機(jī)器應(yīng)該具有這種倫理責(zé)任，并能夠理解相應(yīng)的道德觀念，或者我們應(yīng)該培養(yǎng)智能體的這種思想。
這樣推測起來，人類的遺傳首先應(yīng)該建立在幸福的婚姻基礎(chǔ)上，而后確保這些職責(zé)能夠?qū)崿F(xiàn)。那么我們應(yīng)該把什么遺傳給后代呢？一般來講，在人類倫理體系中，我們希望把最好的遺傳因素傳遞給下一代，那么在機(jī)器思想的建構(gòu)中我們應(yīng)該如何去做呢？這個問題應(yīng)該是智能體未來發(fā)展所需面對的，如果在認(rèn)知能力和欲望方面它們具有與人類足夠相似的思想特征，那么它們就有可能要求真實的工作與報酬并能夠享受生活。但至少從純理論的角度來講，我們是否能夠給予機(jī)器人后代以人類自身復(fù)雜的精神架構(gòu)，以及包含在其中的人類苦難方面的因素？
Savulescu在“生殖的善行”[16]中提到，選擇盡可能好的東西遺傳給下一代對于生命來說是有益的。佛教世界觀從 來沒有專注于再生的選擇問題上，在它們看來，在確定要后代之后，這一選擇就已經(jīng)是唯一而有效的了。但引申來講，佛教世界觀可能一直確信，如果可以對后代做出選擇，父母有責(zé)任去選擇那些可以實現(xiàn)后代自我的最好方面，并避免那些由苦難、愚昧等控制的不好的方面。同樣，Metzinger談到，在機(jī)器思想的創(chuàng)設(shè)中，我們應(yīng)該努力創(chuàng)造那些具有心理感應(yīng)和情感表征的，有自知之明，能夠去學(xué)習(xí)、成長，并能夠?qū)崿F(xiàn)有意義生活的智能體。
四、佛教世界觀在人工智能體設(shè)計中的轉(zhuǎn)化和應(yīng)用
(一) 佛教慈悲心的程序設(shè)計
慈悲心和智慧是佛教世界觀領(lǐng)域的兩個中心美德，神經(jīng)系統(tǒng)科學(xué)也揭示和再創(chuàng)了誘發(fā)這一狀態(tài)的相關(guān)因素，并表明人類同情心的根源發(fā)端于鏡像神經(jīng)元或者神經(jīng)細(xì)胞。究于此，人工智能的研究者試圖把人工鏡像神經(jīng)元在機(jī)器人中模型化。例如，Spaak與Haselager試圖通過對選擇行為的模擬來引入人工鏡像神經(jīng) 元；[17]Barakova與Lourens則試圖通過對鏡像神經(jīng)元進(jìn)行編碼以此促使機(jī)器人與人類同步。[18]但我們認(rèn)為，創(chuàng)設(shè)具有慈悲心的機(jī)器所需求的不僅僅是相似的行為習(xí)慣，更為重要的是創(chuàng)造相似的人類情感。人類的慈悲情感應(yīng)該與機(jī)器的“心靈理論”(Theory of mind)一致，這就很容易達(dá)到人機(jī)交互時的共鳴狀態(tài)。[19]
如果模擬行為能夠成功，機(jī)器的“心靈理論”就會實現(xiàn)，那么在機(jī)器中就有可能設(shè)計出佛教中的慈悲心。佛教慈悲心通常分為四類：慈心、悲心、無量心、平等心。慈心指的是對于他人的幸福和快樂能無私的祝愿；悲心指的是想要去幫助那些受苦難的人從而不留下遺憾；無量心指的是共享他人的快樂而不會嫉妒；平等心通常表達(dá)沉著、鎮(zhèn)靜之意，指的是思想成熟穩(wěn)定，具有公正性，且不容易因他人情感的影響而動搖。慈悲心的這些分類要求人們看清自身的虛幻，從而在面對外界環(huán)境中的極樂與苦難時，能夠保持足夠的明智與平常心來面對苦難。
事實上，在機(jī)器中把慈悲心模型化遠(yuǎn)比培養(yǎng)人類具有慈悲心要容易得多。因為在機(jī)器中把慈悲心模型化依靠的是科學(xué)技術(shù)的發(fā)展，如果我們能夠通過技術(shù)手段把人類情感表示出來，這樣慈悲心就有可能出現(xiàn)在機(jī)器中。Tim Freeman[20]提出，把人類極樂和苦難的情感在機(jī)器中簡單模型化，同時把人類的幸福也轉(zhuǎn)移進(jìn)機(jī)器系統(tǒng)，促使機(jī)器自身可以實現(xiàn)自循環(huán)。Tim Freeman解釋說這一過程不會產(chǎn)生可以洞悉人類智慧的生命，它最多也可能是一個能夠為人類提供咨詢的倫理專家系統(tǒng)，不會以一個主體的形式提出慈悲心。而從佛教的觀點來看，智慧、同情心這種能力代表了生命最為基本的單元，因此這一系統(tǒng)的出現(xiàn)還不完全是佛教意義上的主體。
(二) 佛教倫理智慧的程序設(shè)計
佛教學(xué)者在佛教倫理與西方傳統(tǒng)倫理關(guān)系問題上存在爭論，主要體現(xiàn)在自然律則、美德倫理與功利主義三個方面。
在自然律則問題上，西方傳統(tǒng)倫理從世界本質(zhì)與人類生命構(gòu)造的角度出發(fā)，認(rèn)為道德是可以識別的。佛教倫理則崇尚從建基于宇宙客觀律則的視角出發(fā)，認(rèn)為不好的行為會導(dǎo)致不好的孽果。在自然律則的問題上，佛教倫理與西方傳統(tǒng)倫理具有一定的相似性。佛教倫理在自然律則方面所面臨的問題是如何從因果涅槃的輪回中解放出來并走向文明。傳統(tǒng)人類學(xué)認(rèn)為這是佛教倫理面臨的一個困境，它歸因于佛教傳統(tǒng)中對業(yè)力的獎勵和對世俗的懲罰。
在美德倫理方面，Damien Keown認(rèn)為，佛教倫理崇尚的是“目的論的美德倫理”[21]。佛教世界觀認(rèn)為應(yīng)該為完善的道德美德與個性特征奮斗，并把它們當(dāng)作最基本的道德底線，這與西方傳統(tǒng)倫理的觀點類似。但不同的是，在美德倫理中，西方傳統(tǒng)倫理認(rèn)為美德主要體現(xiàn)在人生的意義、人的價值、人的態(tài)度以及人的修養(yǎng)方面。佛教倫理偏重行動的意向性，而不管行動是否能阻止憎惡、貪婪或愚昧，也正因為倫理目標(biāo)的目的性，他們普遍相信完美的道德最終肯定會到來。
在功利主義方面，西方傳統(tǒng)倫理在機(jī)器人倫理的設(shè)計中較為推崇的是《Moral Machines: Teaching Robots Right from Wrong》一書的觀點。Wendell Wallach與Colin Allen在該書中詳細(xì)介紹并評論了機(jī)器人倫理程序的設(shè)計[22]。他們認(rèn)為設(shè)計機(jī)器人倫理程序，自上而下的進(jìn)路要遜于自下而上的進(jìn)路，因為機(jī)器人性格的培養(yǎng)是基于其群體交互關(guān)系的一種模式。
Buga與Goertzel也贊成這一觀點，他們把機(jī)器思想的形成類比于兒童的認(rèn)知心理。兒童倫理觀念的形成是以觀察成年人的行為開始，然后再作用于他人，這與機(jī)器人倫理自下而上的研究進(jìn)路是一致的。[23]也就是說，機(jī)器中的倫理思想與我們?nèi)祟惖膫惱碛^念應(yīng)該是對稱的。因此，他們建議，人類不應(yīng)該有意去剝奪機(jī)器學(xué)習(xí)和成長能力的思想。
Wallach，Allen，Buraj與Goertzel就此提出發(fā)展主義的觀點，這也可能是機(jī)器人倫理方面最接近佛教進(jìn)路的一個觀點。但需要說明的是，佛教的智慧在于它對美德的關(guān)注，并通過冥想超越自身，以此化解大眾的苦難。也就是說，佛教倫理的最終目的是為大多數(shù)人追求最好。它從基于規(guī)則的道義論出發(fā)，經(jīng)由美德倫理而發(fā)展到功利主義。在大乘佛教傳統(tǒng)中，菩薩通過很多方式來解除眾生的苦難。當(dāng)人們違背道德犯下錯誤時，為了贖罪，它們經(jīng)常會求助于可以洞悉前世今生的菩薩。通常，因為菩薩是大公無私的，它把美德倫理和功利倫理合二為一，因此，對于人類這種把不道德的方式合理化的行為，菩薩會有充足的解釋能力，但卻不會把貪婪、仇恨或無知付諸行動。西方傳統(tǒng)倫理卻很難把美德倫理和功利倫理結(jié)合起來，這尤其體現(xiàn)在J.SMill的功利主義方面，因為他過分強(qiáng)調(diào)功利主義的重要性遠(yuǎn)遠(yuǎn)大于基本的快樂。
在機(jī)器人倫理的設(shè)計方面，佛教世界觀崇尚美德倫理與功利倫理的結(jié)合，這可能是機(jī)器人未來發(fā)展的一個必經(jīng)階段。單純的功利性的設(shè)計進(jìn)路是片面的，Grau在功利性倫理的研究中提到，機(jī)器作為道德主體應(yīng)該具有無私或忘我的精神，并且應(yīng)該限制機(jī)器人人格特性尤其是功利主義特性的形成，這樣有利于避免機(jī)器人具有大公無私的精神負(fù)擔(dān)。同時，Grau還提到“對于機(jī)器人來說，培養(yǎng)它的道德屬性，但同時又強(qiáng)迫它抑制自己的情感，并樂于奉獻(xiàn)自身，這似乎是一個非常不道德的過程”[24]。然而，從佛教倫理的世界觀來看，功利主義并非是對于自身的一種抑制，它往往是個體 欲望和自我錯覺的產(chǎn)物，是個體苦難的根源。功利主義應(yīng)該在個體美德的引導(dǎo)下，尋求自我犧牲、自我超越、自我奉獻(xiàn)。
(三) 佛教自我超越行為的程序設(shè)計
佛教倫理通常包含以下幾個方面的美德：寬宏、慷慨、忍耐、勤奮、專一、明智。它們都有助于冥想的升華和人類自身的超越。
從設(shè)計學(xué)的角度分析，人工智能的設(shè)計應(yīng)該從忍耐、慷慨與勤奮等道德行為的角度出發(fā)。在智能體設(shè)計之始就重點開發(fā)它的美德意識，相比于有機(jī)體倫理意識的培養(yǎng)，智能體思想程序的設(shè)計可能要容易一些。對于忍耐、慷慨與勤奮等這些美德的開發(fā)，佛教世界觀贊同Wallach與Allen的觀點，也就是通過人與智能體的互動，促使人工智能體思想逐步從簡單走向成熟。人工智能體的倫理意識轉(zhuǎn)向美德的價值觀，有助于智能體拋棄自私觀念，并在行為過程中保持快樂和充滿活力的狀態(tài)。
美德傳統(tǒng)中忍讓與勤奮的習(xí)慣有助于培養(yǎng)智能體長遠(yuǎn)的發(fā)展前景，同時也能有效抑制人類在智能體應(yīng)用方面對短期利益的追求。神經(jīng)科學(xué)已經(jīng)證明了毅力、耐性和道德行為之間存在密切的聯(lián)系，人們在實踐中也已了解到當(dāng)血糖含量較低時，自我控制能力隨之降低。例如，注意力下降、行為焦躁等。在這種情況下腦部活動能力下降，人們很難清晰地表達(dá)自身意愿[25]。這一表現(xiàn)在人工智能的設(shè)計上具有啟發(fā)意義，我們應(yīng)該培養(yǎng)和鍛煉智能體自身的自律行為，避免智能體遭受短期利益的破壞，促使它走向充滿智慧的個體。
在佛教傳統(tǒng)中，通往智慧的關(guān)鍵是能夠看破虛幻，并從不斷變化的現(xiàn)象中探求事物的本質(zhì)。在佛教的這一進(jìn)路上，人工智能的設(shè)計應(yīng)該重點從事物所具有的本質(zhì)屬性的角度去借鑒，這是事物持久性保持某一狀態(tài)的根本所在，洞悉和習(xí)得這一屬性，有助于智能體隨時把握事物之間的聯(lián)系和應(yīng)對隨時出現(xiàn)的一些狀況。
五、結(jié)論
佛教心理學(xué)并非建基于科學(xué)模型或?qū)嶒炚{(diào)查，它是以人類自我調(diào)查研究為基礎(chǔ)的。從道德心理學(xué)的不同表現(xiàn)我們可以看到，不同的道德表現(xiàn)其來源也不一樣。因此佛教心理學(xué)也應(yīng)該從不同方面學(xué)習(xí)和借鑒，尤其是隨著認(rèn)知科學(xué)的發(fā)展，佛教心理學(xué)應(yīng)該向神經(jīng)科學(xué)中學(xué)習(xí)一些經(jīng)驗。盡管佛教世界觀對于智能體倫理體系的發(fā)展提供了一些建議，但由于機(jī)器思想的變化莫測，我們認(rèn)為佛教心理學(xué)與神經(jīng)科學(xué)也應(yīng)該從機(jī)器思想中吸取營養(yǎng)。
短期來看，機(jī)器思想很有可能不會轉(zhuǎn)化成獨(dú)立的意識，或者說是發(fā)展成獨(dú)立的道德體。因為在設(shè)計之始，我們對于道德或慈悲型智能體的關(guān)注多是從人類倫理體系的角度出發(fā)的，而并非創(chuàng)造一種具有自我意識的生命。在關(guān)涉人類獨(dú)特的意識、自私、苦難、喜好或不喜好等情感因素的時候，我們并沒有把它們具體化。如果我們要開發(fā)智能體的道德觀念，這就需要機(jī)器具有類似于生命體的鏡像神經(jīng)元，以及可以感知?dú)g樂和疼痛的心智理論。因此，只有從這一角度出發(fā)，智能體才有可能感受到其它生命體的意識狀態(tài)，智能體也才能夠習(xí)得生命體所具有的道德情感和美德意識。最終，隨著其洞悉能力的不斷成長，它也許能夠感受到所有生命體的情感狀態(tài)，當(dāng)然也包括它自身。
人工智能技術(shù)作為社會媒介化發(fā)展的特殊產(chǎn)物，不僅能夠建構(gòu)起智能媒介化的信息社會，更能深入到傳媒研究領(lǐng)域，引導(dǎo)影視傳媒研究朝著“互聯(lián)網(wǎng)+教育”的方向發(fā)展。當(dāng)前影視傳媒教育正面臨重要的轉(zhuǎn)型階段，如何通過媒介信息技術(shù)調(diào)整現(xiàn)有的理論學(xué)習(xí)模式和教學(xué)培養(yǎng)目標(biāo)，已經(jīng)成為影視教育進(jìn)行改革創(chuàng)新的突破口?；谌斯ぶ悄転榻逃畔⒒瘞淼臋C(jī)遇和挑戰(zhàn)，影視教育正致力于從“刀切教育”邁向“精準(zhǔn)教育”，從“課堂缺席”轉(zhuǎn)為“課堂在場”，從人才培養(yǎng)模式到教育信息平臺搭建，都在不斷強(qiáng)化智能教育培養(yǎng)，力求為影視傳媒教育的智能化改革和實踐提供決策依據(jù)。
一、影視教育智能化發(fā)展的應(yīng)用價值
智能化影視傳媒研究是教育信息化極為重要的應(yīng)用場景，人工智能技術(shù)不僅拓寬了影視傳媒教育的研究方向，同時也在技術(shù)手段、渠道搭建、傳媒倫理等層面發(fā)揮著重要作用。
1.消除數(shù)據(jù)鴻溝，發(fā)揮智能傳媒教育技術(shù)賦能和知識平權(quán)的雙重功能。影視傳媒研究是以實踐為基礎(chǔ)的理論性教學(xué)，以培養(yǎng)創(chuàng)新型和復(fù)合型人才為教育目標(biāo)。教育學(xué)者是影視文化傳播的驅(qū)動者，因個體間存在傳播技能、信息儲備和交往行為方面的差異，造成影視傳媒教育具有嚴(yán)重的知識鴻溝。在影視研究學(xué)者步入算法教育的重要階段，智能教育平臺可通過讀取人的反饋改變原有的教學(xué)模式，調(diào)整每一位受教育者的天賦類型。與此同時，教育學(xué)者能夠充分利用算法技術(shù)和人工智能手段，獲取定制化的影視資源和學(xué)習(xí)條件，以技術(shù)邏輯引導(dǎo)學(xué)習(xí)流程，用分析框架提高教學(xué)模式的理論性和可操作性，通過強(qiáng)化教與學(xué)的變革場景，激活文化創(chuàng)作的想象力和邏輯性思維，使科技創(chuàng)新在理性與感性、理論與實踐的引導(dǎo)作用下，從一般的理論教學(xué)形成智能媒介化的信息教學(xué)模式，從單向傳授轉(zhuǎn)變?yōu)殡p向互動的學(xué)習(xí)教育模式。
2.拓寬學(xué)習(xí)渠道，推動教育形態(tài)從理論課堂到智能媒體教育課堂的變革。人工智能技術(shù)與影視教育教學(xué)的深度融合，正引發(fā)起一場新的教學(xué)革命。從教育手段和學(xué)習(xí)途徑上來看，原有的課堂教學(xué)已無法滿足理論和實踐的雙重需求，大數(shù)據(jù)催生出的智能化影視教育，在虛擬世界和現(xiàn)實世界間搭建起新的算法課堂，利用人工神經(jīng)網(wǎng)絡(luò)簡化理論教學(xué)的概念，又通過具有超強(qiáng)運(yùn)算能力和通訊能力的技術(shù)手段協(xié)助實踐操作。例如，人工智能照相機(jī)作為輔助型的教學(xué)工具，被運(yùn)用于智慧課堂的攝影實踐教學(xué)中，借助云端技術(shù)和物聯(lián)網(wǎng)連接遠(yuǎn)程數(shù)據(jù)中心，可以幫助不懂?dāng)z影技術(shù)的學(xué)習(xí)新手盡快了解電影拍攝的理論框架和基本技能，推動教學(xué)場景從應(yīng)用性教學(xué)到智慧型課堂的氛圍建構(gòu)。人工智能與影視教學(xué)的跨界融合，成為智能傳媒教育進(jìn)行顛覆式創(chuàng)新的重要表現(xiàn)形式，教育形態(tài)正逐漸從智慧課堂過渡到智慧校園，從傳統(tǒng)的理論范式過渡到智慧媒體的應(yīng)用型范式，幫助構(gòu)建起新的學(xué)科話語體系。
3.重視傳媒倫理，推動智能化影視傳媒教育價值觀和技術(shù)性的生成。人工智能是以追求效益為初心的理性工具，在技能研發(fā)階段尚未對倫理規(guī)范提出強(qiáng)制要求，技術(shù)倫理向來是人工智能難以逾越的一道鴻溝；影視傳媒教育則是以培養(yǎng)學(xué)生的倫理觀和價值觀為出發(fā)點，重視以道德審美為核心的理性意識。智能化傳媒教育將信息技術(shù)和影視教學(xué)進(jìn)行結(jié)合，使得理性工具得以同理性意識深度融合，人文關(guān)懷建立在技術(shù)作用之上，這既是培養(yǎng)受教育者核心價值觀的時代需要，亦是強(qiáng)化人工智能技術(shù)倫理的有效途徑。人工智能時代，強(qiáng)調(diào)智能化影視傳媒教育技術(shù)性和價值觀的生成，與其說是建立在影視教育應(yīng)用場景上的技術(shù)倫理規(guī)范，不如說是借信息技術(shù)完成對傳媒倫理和受教育者價值觀的理性建構(gòu)，讓人工智能發(fā)展緊密聯(lián)系意識形態(tài)和倫理道德問題，加深技術(shù)手段和教育學(xué)習(xí)的彼此作用，從而獲得傳媒教學(xué)在倫理層面的共識。隨著傳媒影響力的逐步擴(kuò)大，以內(nèi)容為載體的影視教學(xué)活動意味著要擔(dān)負(fù)起更重要的教學(xué)責(zé)任，學(xué)科研究核心價值觀的建設(shè)必須以注重傳媒倫理和技術(shù)倫理為教學(xué)基礎(chǔ)，重新建構(gòu)現(xiàn)有的倫理道德觀念，為人工智能技術(shù)注入價值觀的活的靈魂。
二、影視教育智能化發(fā)展的風(fēng)險問題
人工智能技術(shù)的迅速發(fā)展，賦予影視傳媒教育極大的應(yīng)用價值，與此同時也面臨著潛在的風(fēng)險問題。
1.灌輸式教育仍占據(jù)主流，智能化影視教學(xué)陷入價值認(rèn)知困境。在人工智能技術(shù)出現(xiàn)以前，理論+實踐的教學(xué)策略已經(jīng)成為一種固定的形態(tài)存在于傳統(tǒng)影視教學(xué)工作中，受教育者根據(jù)統(tǒng)一的培養(yǎng)目標(biāo)規(guī)劃自己的學(xué)習(xí)方式，包括影視創(chuàng)作及影視理論等相關(guān)課程都按照相同的培養(yǎng)模式進(jìn)行。由于教育主體對人工智能的認(rèn)知存在兩極分化的現(xiàn)象，過往只能夠通灌輸式對學(xué)生進(jìn)行強(qiáng)制教育，智能化影視教學(xué)則是處于小范圍內(nèi)的實踐和創(chuàng)新。對影視教育而言，理論與實踐是學(xué)習(xí)的內(nèi)容，繼承與創(chuàng)新才是研究的實質(zhì)。明確人工智能教育的價值認(rèn)知，從灌輸教育逐步邁向定制化教育，為高校的人才培養(yǎng)提供重要的智力支持，應(yīng)當(dāng)是影視教育智能化轉(zhuǎn)型發(fā)展的著力點。
2.智能教育應(yīng)用場景缺乏思考，其深度和廣度有待進(jìn)一步挖掘。當(dāng)前，智慧課堂、智慧校園的出現(xiàn)奠定了智能傳媒教育的基本雛形，依靠大數(shù)據(jù)、物聯(lián)網(wǎng)等信息技術(shù)支撐的智能傳媒教育，在平臺搭建層面已出現(xiàn)顯著性成果，但對應(yīng)用場景的深度和廣度挖掘還存在明顯問題。影視教育智能化應(yīng)當(dāng)以追求個性化和定制化教育為目標(biāo)，崇尚的是終身學(xué)習(xí)的教學(xué)理念，不應(yīng)當(dāng)將人工智能技術(shù)僅局限于傳統(tǒng)的教學(xué)課堂，除了要從“線下”走向“線上”，還需要考慮到以人機(jī)交互為主要形態(tài)的教學(xué)應(yīng)用場景，挖掘人工智能教育更多的應(yīng)用情境和展現(xiàn)方式，從而對影視課堂的理論與實踐教學(xué)價值提供合理的在場性證明。
3.專業(yè)壁壘依然存在，智能化教學(xué)成果馬太效應(yīng)極為明顯。智能教育世界要求培養(yǎng)更加多元化的應(yīng)用型人才，但人工智能的馬太效應(yīng)逐漸滲透到影視傳媒教育工作中，也會導(dǎo)致教學(xué)成果受到出現(xiàn)嚴(yán)重的失衡現(xiàn)象，難以滿足高校對人才培養(yǎng)的多元化需求。作為藝術(shù)研究的影視教學(xué)活動，其科學(xué)精神和創(chuàng)新實踐同樣重要。尤其在媒介融合背景下，要想推進(jìn)受教育者從“影視學(xué)者”逐漸過渡到“影視作者”，人工智能不僅需要滿足師生的定制化教學(xué)任務(wù)，還應(yīng)當(dāng)破除專業(yè)和行業(yè)的壁壘，對其相關(guān)聯(lián)的學(xué)科和傳媒領(lǐng)域進(jìn)行合作，才能夠改變當(dāng)前智能化影視教育在教學(xué)模式上面臨的不足，不斷為社會輸送更多的應(yīng)用型人才。
三、影視教育智能化發(fā)展的轉(zhuǎn)型實踐
面對智能傳媒教育的風(fēng)險與挑戰(zhàn)，影視專業(yè)更應(yīng)當(dāng)立足于自身的教育發(fā)展特色，從人才培養(yǎng)模式、應(yīng)用場景建設(shè)、教育資源整合等方面，推進(jìn)影視教育智能化發(fā)展的轉(zhuǎn)型實踐。
1.從“灌輸教育”走向“精準(zhǔn)教育”，創(chuàng)建新的人才培養(yǎng)模式。智能傳媒教育范式的自主性建構(gòu)，應(yīng)當(dāng)立足于對傳統(tǒng)教學(xué)效率和人才培養(yǎng)模式的顛覆?；诋?dāng)前影視傳媒智能化發(fā)展在人才培養(yǎng)模式層面的不足，其轉(zhuǎn)型實踐需要從受教育者的個性化需求出發(fā)，在師生、家長和社會的通力合作下，創(chuàng)建新的人才培養(yǎng)模式，利用碎片化學(xué)習(xí)完成系統(tǒng)化的學(xué)習(xí)過程，逐漸從“灌輸式教育”走向“精準(zhǔn)化教育”。例如，人工智能時代對影視學(xué)生的培養(yǎng)更趨向于“以個人為導(dǎo)向的系統(tǒng)化學(xué)習(xí)”，通過前期對受教育者的大數(shù)據(jù)整理，對每一位同學(xué)的邏輯性、想象力、創(chuàng)造性和溝通能力等進(jìn)行分析，從影視理論和影視創(chuàng)作兩大方向出發(fā)對受教育者形成定制化的學(xué)生畫像，并提供針對性的智慧作業(yè)，幫助教師采集學(xué)生的學(xué)習(xí)情況，從而實現(xiàn)規(guī)范化的信息管理?？梢灶A(yù)見的是，智能傳媒時代，“互聯(lián)網(wǎng)+教育”學(xué)習(xí)模式的生成，在推動知識平權(quán)化等方面發(fā)揮重要價值，成為影視教育智能化追求的重要轉(zhuǎn)型路徑。
2.從“課堂缺席”走向“課堂在場”，打造新的傳媒教育平臺。人工智能不僅要改變傳統(tǒng)的人才培養(yǎng)模式，同樣也應(yīng)當(dāng)提供更加多元化的學(xué)習(xí)應(yīng)用場景。過去的影視研究多局限于單一的課堂場景，采用課上理論和課下實踐的方式進(jìn)行授課，完成影視教學(xué)的閉環(huán)。人工智能時代，影視傳媒教育應(yīng)當(dāng)調(diào)整原有的受教育模式，通過搭建合理的人工智能應(yīng)用平臺，可以巧妙地將課堂場景與智能技術(shù)結(jié)合起來，為受教育者提供更加多樣性的教學(xué)應(yīng)用場景，從而實現(xiàn)成長課堂的“在場共生”。例如，人工智能可以帶動影視制作的推陳出新，通過搭建智慧超媒體系統(tǒng)，將電影屏幕從影院搬到校園，自動生成無窮界面。與此同時，影視傳媒的智能化還可以幫助教師自動生成電影梗概，將理論性教學(xué)轉(zhuǎn)變?yōu)榭梢暬蜗?，使電影理論同定制化的影像人物之間建立匹配關(guān)聯(lián)，讓教育場景從線下逐步延伸到線上，為影視研究提供重要的云服務(wù)。
比如，美國政府2016年10月份就制定了一個野心勃勃的目標(biāo)：在30年內(nèi)把美國的交通事故死亡人數(shù)降為零。2015年美國的交通事故死亡人數(shù)增長7.2%，死亡人數(shù)為35092人。美國國家高速公路交通安全管理局（簡稱“NHTSA”）表示，人為因素在交通事故中占比達(dá)94%，無人駕駛可以完全消除這項因素。
眾多學(xué)者和企業(yè)更是將其視為重新激活世界經(jīng)濟(jì)的主要引擎之一。不過，在這之前還有很多技術(shù)、法律乃至倫理問題需要解決。
無人駕駛瓶頸
美國當(dāng)?shù)貢r間9月23日，谷歌無人車在山景市與一輛商務(wù)貨車撞在一起，這可能是谷歌汽車遭遇的最嚴(yán)重車禍。谷歌汽車的右側(cè)車門被撞出大面積的凹陷，車窗遭到一定程度的損壞。車禍沒有造成人員傷亡，氣囊已經(jīng)彈開。這起事故是貨車司機(jī)的失誤造成。2016年2月14日，谷歌無人駕駛汽車與一輛公交巴士發(fā)生輕微碰擦的事故，這是谷歌首次表示無人駕駛汽車應(yīng)當(dāng)“承擔(dān)部分責(zé)任”，地點同樣位于加州山景市。
特斯拉公司生產(chǎn)的S型電動轎車則已出現(xiàn)數(shù)例自動駕駛模式下的交通死亡事故。2016年1月，河北省邯鄲市就曾發(fā)生特斯拉自動駕駛致人死亡事故，這應(yīng)是全球首例。另有業(yè)內(nèi)資深人士透露，特斯拉自動駕駛出現(xiàn)的事故其實多數(shù)未被報道。
這些事故都不斷引發(fā)外界對自動駕駛技術(shù)是否足夠成熟的質(zhì)疑。
根據(jù)美國加州2012年通過的相關(guān)法案，允許無人駕駛汽車上路測試，但需要合法駕車人坐在駕駛座位上，在緊急情況時操縱汽車。特斯拉汽車的操作手冊也提醒駕駛者，即便在自動駕駛中，也需要把手一直放在方向盤上。但現(xiàn)實中，駕駛員往往喜歡冒險和刺激。
至于技術(shù)成熟后的大規(guī)模商用，NHTSA表示，沒有方向盤和油門的無人駕駛汽車在美國市場銷售之前，相關(guān)法規(guī)必須做大的調(diào)整。
在中國，無人駕駛汽車同樣面臨法律障礙，問題主要集中在牌照和事故責(zé)任認(rèn)定兩方面。
無人駕駛汽車一旦在測試或商用時發(fā)生事故，就面臨責(zé)任劃分、理賠等問題。無人駕駛系統(tǒng)、司機(jī)、對方的責(zé)任如何劃定？由于無人駕駛汽車是由多家企業(yè)集合研制，這些企業(yè)的責(zé)任又將如何劃分？如果無人駕駛和有人駕駛可以切換，責(zé)任又將如何劃定？
“應(yīng)當(dāng)盡快對事故后保險公司的理賠、無人駕駛技術(shù)平臺與保險公司對于硬件、軟件供應(yīng)商的責(zé)任追償開展立法工作。只有健全理賠體系時，才能夠消除無人駕駛技術(shù)的測試與研發(fā)過程中各方的后顧之憂，切實推動技術(shù)的進(jìn)步與發(fā)展。”中國政法大學(xué)傳播法研究中心副主任朱巍向《鳳凰周刊》表示。
中國科學(xué)院大學(xué)公管學(xué)院副教授劉朝表示，由于無人駕駛汽車仍在測試階段，技術(shù)路線等都不確定，國家層面法律的修訂和出臺應(yīng)慎重，自下而上的政策法規(guī)嘗試和探索不失為一條穩(wěn)妥而高效的路徑。另外，在此過程別需要可靠的傳播媒體和真正中立的社會組織發(fā)揮積極的作用。
人工智能引發(fā)失業(yè)潮？
2016年1月，IBM公司開發(fā)的Jill Watson分析系統(tǒng)開始幫助美國佐治亞理工大學(xué)的畢業(yè)生解決畢業(yè)論文中遇到的各種問題。Watson在回復(fù)電子郵件和論壇發(fā)帖時，語氣隨意，與正常人無異，而且會使用很多口語，能在幾分鐘之內(nèi)準(zhǔn)確地回應(yīng)問題。
在五個月的試驗中，沒有學(xué)生發(fā)現(xiàn)他們的助教是機(jī)器人。
類似的人工智能技術(shù)已經(jīng)被應(yīng)用在法律服務(wù)、醫(yī)療助理、金融分析等多個領(lǐng)域，與此相應(yīng)，部分崗位正在被這些智能機(jī)器所替代，從藍(lán)領(lǐng)到律師，從醫(yī)生到華爾街分析師。
人工智能技術(shù)最有價值的應(yīng)用可能是金融業(yè)。在金融領(lǐng)域，每提升1%的收益就能獲得巨大的財富。畢馬威在近期一份報告中預(yù)測，到2030年銀行及其服務(wù)可能“消失”，類似于蘋果Siri的人工助手將接管客戶的生活與金融服務(wù)。傳統(tǒng)銀行的多數(shù)部門或?qū)⑾?，而專業(yè)的服務(wù)則將獲得更大發(fā)展。
一些評論家預(yù)測，人工智能會使得某些工人的技能多余化，那些被自動化所取代的工人不得不尋求新的就業(yè)機(jī)會。即便這部分工人能夠找到新工作，也常常是低附加值的，且工作穩(wěn)定性更低。從這個角度講，人工智能不僅可能增加社會不公，更會帶來永久性的失業(yè)以及貧窮。
諾貝爾經(jīng)濟(jì)學(xué)獎得主斯蒂格利茨就認(rèn)為，勞動市場正因為技術(shù)變化而發(fā)生重要轉(zhuǎn)變，要保護(hù)勞動力，就必須對人工智能和自動化系統(tǒng)相關(guān)的監(jiān)管和其他政策變化保持高度重視。
真格基金創(chuàng)始人徐小平近年投資了多個人工智能項目。在他看來，人工智能對人類的影響和沖擊將是全方位的。
“有人說，在美國除了卡車司機(jī)和銷售員，其他工作都在被替代。不幸的是，卡車司機(jī)也在被替代。高中學(xué)歷的美國卡車司機(jī)年薪7萬美金。所以，特朗普崛起了，支持他的多數(shù)是沒上過大學(xué)的白人，他們在全球化和高科技面前成為失意者?！毙煨∑礁嬖V《鳳凰周刊》。
新近涉足人工智能的雅瑞資本聯(lián)合創(chuàng)始人張瑞君相對樂觀，她告訴本刊，目前投資的項目其實主要是代替人們所不愿從事的低端機(jī)械化工作，使人們騰出手來，去做更高端、更有創(chuàng)造性的工作，這是一個逐漸的過程?！岸胰斯ぶ悄墚a(chǎn)業(yè)本身也正在吸納眾多高回報的創(chuàng)業(yè)與從業(yè)者。”
三角獸科技聯(lián)合創(chuàng)始人馬宇馳就正忙于招聘多位工程師。2016年2月，他與曾效力百度度秘、微軟小冰的王卓然、亓超合伙創(chuàng)業(yè)，目標(biāo)是打造一套智能聊天對話系統(tǒng)。其產(chǎn)品主要針對物聯(lián)W設(shè)備，讓機(jī)器聽懂人說話，并作出反饋。其公司目前已獲得兩輪共3000萬元融資，產(chǎn)品已經(jīng)應(yīng)用在錘子T3手機(jī)、Rokid機(jī)器人等。
馬宇馳向本刊介紹，根據(jù)行業(yè)預(yù)測，2020年全球物聯(lián)網(wǎng)設(shè)備數(shù)量將達(dá)240億部，智能終端設(shè)備將達(dá)到340億部，產(chǎn)業(yè)和就業(yè)空間巨大?！叭绾慰焖偬嵘齽趧诱叩募寄埽@需要社會、政府、教育等的努力，而且人工智能也可以作為培訓(xùn)勞動者的工具?！毙煨∑秸f。
沖擊人類生存與倫理
2016年3月，谷歌公司創(chuàng)造的人工智能程序阿爾法狗以4：1戰(zhàn)勝世界圍棋高手李世石，這引發(fā)了全球?qū)θ斯ぶ悄艿脑俣汝P(guān)注和廣泛思考。有評論說，從現(xiàn)在起，如何管控人工智能，應(yīng)該成為一個嚴(yán)肅課題。
人工智能的失控乃至危及人類并非遙不可及。美軍無人機(jī)在阿富汗等中東地區(qū)已經(jīng)多次誤傷平民。
科技界的一些知名人士正呼吁禁止“殺手機(jī)器人”，他們警告稱，越過這一界限將啟動一場新的全球軍備競賽。盡管“機(jī)器人士兵”仍限于設(shè)想，但伴隨人工智能快速發(fā)展，軍隊可能在未來20年內(nèi)部署這類機(jī)器人。事實上，包括中國在內(nèi)的各大國都在加緊研發(fā)水、陸、空無人作戰(zhàn)平臺。
根據(jù)摩爾定律，計算機(jī)的運(yùn)算能力每兩年就翻一倍，假以時日，尤其人工智能具備強(qiáng)大的自進(jìn)化能力后，其威力可能超出人類想象。也許它將能讓人類永生，同樣可能的是地球上所有生命的終結(jié)。
物理學(xué)家史蒂芬?霍金是憂慮派。“人工智能的強(qiáng)力崛起，可能是人類歷史上最好的事情，也可能是最糟糕的?！被艚鹪谝淮窝葜v中說，“將來，人工智能可能會發(fā)展出來它自己的意志，一個與人類相沖突的意志?！?/p>
當(dāng)然，機(jī)器人也可能并不與人類沖突，而是發(fā)展出人類的意識與情感。這同樣會遭遇棘手的法律和倫理問題。
關(guān)鍵詞：人工智能；老年健康管理；老齡化；養(yǎng)老問題
作者：向運(yùn)華王曉慧（武漢大學(xué)社會保障研究中心，湖北武漢430072）
人口老齡化是21世紀(jì)我國經(jīng)濟(jì)社會發(fā)展的重大國情，截至2018年底，我國60周歲及以上人口有2.49億，占總?cè)丝诘?7.9%。人口老齡化態(tài)勢加劇的同時，空巢老年人占比持續(xù)攀升，獨(dú)居老年人群健康狀況不容樂觀，有74.7%的老年人患有至少一種慢性疾病。城鄉(xiāng)失能、半失能老年人口近4063萬，上門看病、康復(fù)護(hù)理等醫(yī)療健康類服務(wù)需求始終居于老年人各類需求首位?？倳浢鞔_指出“為老年人提供連續(xù)的健康管理服務(wù)和醫(yī)療服務(wù)”，健康老齡化成為健康中國時代和老齡化時代的重要命題。
萬物互聯(lián)的加速到來與人工智能技術(shù)的迅速崛起，正在改變著人們的社會資源獲取方式和生活方式。AlphaGo大勝人類棋手，標(biāo)志著人工智能已在某些領(lǐng)域走到了人類智慧的前列。以互聯(lián)網(wǎng)為載體和AI為實現(xiàn)工具的經(jīng)濟(jì)發(fā)展新形態(tài)正在逐漸形成，為社會各領(lǐng)域創(chuàng)造了前所未有的機(jī)遇，也給老年健康管理模式的突破與創(chuàng)新提供了現(xiàn)實可能。智慧健康養(yǎng)老由此產(chǎn)生，其最大的特點在于大數(shù)據(jù)收集、需求的智慧決策與服務(wù)的精準(zhǔn)投放。2017年工信部、民政部和衛(wèi)計委聯(lián)合印發(fā)《智慧健康養(yǎng)老產(chǎn)業(yè)發(fā)展行動計劃（2017-2020年）》，強(qiáng)調(diào)利用新一代信息技術(shù)產(chǎn)品推動健康養(yǎng)老服務(wù)智慧化升級。各地積極開展智慧健康養(yǎng)老應(yīng)用試點，打造“硬件環(huán)境+智能設(shè)備+互聯(lián)網(wǎng)信息平臺+居家養(yǎng)老服務(wù)”的健康養(yǎng)老生態(tài)系統(tǒng)。如何發(fā)揮人工智能技術(shù)在老年疾病預(yù)防、診斷、緊急救助、治療與康復(fù)中的作用，如何有效聯(lián)接醫(yī)療服務(wù)機(jī)構(gòu)以確保老年人享受到更高效、更優(yōu)質(zhì)、更便捷的健康服務(wù)，是當(dāng)前亟待研究的現(xiàn)實問題，這對于降低空巢老人獨(dú)居風(fēng)險，緩解老年護(hù)理人員短缺問題，提高老年人的健康水平具有重要價值。
一、立場博弈：人工智能時代老年健康管理的機(jī)遇與隱憂
（一）人工智能的崛起
人工智能（ArtificialIntelligence，簡稱AI）起源于1950年“圖靈測試”的理念，其首次被公開提出可追溯到1956年“人工智能之父”McCartney在美國會議上的報告。隨后人工智能隨著技術(shù)的發(fā)展、社會的進(jìn)步不斷發(fā)展，1960年人工智能已能夠理解自然語言、自動回答問題和分析圖像圖形等，20世紀(jì)80年代又獲得了學(xué)習(xí)和認(rèn)知能力。21世紀(jì)以來，物聯(lián)網(wǎng)的加速普及、大數(shù)據(jù)的崛起、云計算等信息技術(shù)的突破，人工智能迎來了發(fā)展高峰，逐漸形成了深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控等新的特征，開始具有自我診斷、自我修復(fù)、自我復(fù)制甚至自我創(chuàng)新的能力①。人類相繼進(jìn)入了網(wǎng)絡(luò)社會時代、大數(shù)據(jù)時代與人工智能時代，三者共同構(gòu)成了新的社會時代②。
關(guān)于人工智能的概念，國際人工智能專家N.J.Nilsson將人工智能視為怎樣表示知識、怎樣獲得知識及怎樣使用知識的科學(xué)③。其后，學(xué)者對人工智能的概念從類人、理性、思維與行為等四個方面著手定義，有學(xué)者進(jìn)而從學(xué)科角度對人工智能進(jìn)行了解釋，如國內(nèi)學(xué)者吳漢東將人工智能定義為研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。綜合諸多學(xué)者對人工智能的認(rèn)識，筆者認(rèn)為人工智能的實質(zhì)是基于人類的設(shè)定與要求，能以與人類智能相似的方式作出反應(yīng)的智能機(jī)器或軟件。
人工智能時代的到來，正在改變甚至顛覆人類現(xiàn)存的生產(chǎn)、工作與交往方式。2016年美國的《國家人工智能研究和發(fā)展戰(zhàn)略計劃》指出，AI系統(tǒng)在某些專業(yè)任務(wù)上的表現(xiàn)勝于人類。1997年國際象棋、2011年Trivia、2013年Atari游戲、2015年的圖像識別與語音識別、2016年AlphaGo等AI產(chǎn)品的問世與應(yīng)用，成為AI超越人類的里程碑事件，見證了AI的智能水平和社會意義。近十年來，人工智能愈發(fā)廣泛地應(yīng)用在社會各個領(lǐng)域。農(nóng)業(yè)領(lǐng)域，人工智能應(yīng)用于自動播插與灌溉、日常田間管理、采收與分揀、產(chǎn)品檢驗、虛擬在線銷售等產(chǎn)前、產(chǎn)中和產(chǎn)后各個環(huán)節(jié)，大大減輕了人類的勞動量④。工業(yè)領(lǐng)域，工業(yè)機(jī)器人廣泛應(yīng)用于汽車、電子、家電制造等生產(chǎn)線，緩解勞動力供需矛盾的同時提高了生產(chǎn)效率。服務(wù)業(yè)領(lǐng)域，微軟“Cortana”、蘋果“Siri”、聯(lián)想“小樂”等智慧客服系統(tǒng)為大眾所熟知；幾乎所有股票交易員已被機(jī)器人取代，投資顧問、風(fēng)險審查和安全防范監(jiān)控監(jiān)管都普遍智能化。公共服務(wù)領(lǐng)域中，人工智能亦發(fā)揮著日益重要的作用，如用人臉對比技術(shù)來篩查犯罪分子；人工智能輔助醫(yī)療診斷與手術(shù)；人工智能用于智能評測、個性化輔導(dǎo)等等。人工智能也開始進(jìn)入藝術(shù)創(chuàng)作領(lǐng)域、心理服務(wù)領(lǐng)域。學(xué)界普遍認(rèn)為，弱人工智能技術(shù)在當(dāng)前已基本實現(xiàn)⑤。
（二）人工智能時代老年健康管理領(lǐng)域的機(jī)遇
當(dāng)前，在新一代信息技術(shù)的引領(lǐng)下，物聯(lián)網(wǎng)迅速普及，大數(shù)據(jù)快速積累，算法模型與運(yùn)算能力持續(xù)突破，智能行業(yè)應(yīng)用快速興起，為我國人工智能的迅速崛起提供了現(xiàn)實契機(jī)。從人工智能技術(shù)層的語音識別、自然語言處理、圖像識別和生物識別等，到人工智能應(yīng)用層面的工業(yè)4.0、智能農(nóng)業(yè)、無人駕駛汽車、智能家居、智能金融、智慧醫(yī)療與智能教育等，均得到了爆發(fā)式增長。我國正處于醫(yī)療人工智能的發(fā)展高峰，2016年中國人工智能+醫(yī)療市場規(guī)模達(dá)到96.61億元，增長37.9%。據(jù)估計到2025年人工智能應(yīng)用市場總值將達(dá)到1270億美元，其中醫(yī)療行業(yè)將占市場規(guī)模的五分之一⑥。人工智能在老年健康管理中的應(yīng)用主要體現(xiàn)在通過生理參數(shù)識別設(shè)備和無線射頻識別裝置等智能采集老年健康數(shù)據(jù)，為老年人提供雙向、互動的居家健康監(jiān)測、健康咨詢、健康評估、健康干預(yù)服務(wù)以及緊急救助服務(wù)，克服時空限制，將健康管理貫穿疾病預(yù)防、診斷、治療與康復(fù)整個過程。人工智能時代為健康管理尤其是老年健康管理提供了全新的途徑，在優(yōu)化老年健康管理模式過程中具有重要價值。
第一，人工智能的發(fā)展為緩解醫(yī)護(hù)人員短缺提供了現(xiàn)實可能。據(jù)世界衛(wèi)生組織公布的數(shù)據(jù)，歐盟關(guān)于每千人擁有護(hù)士數(shù)量的基本規(guī)定是不少于8人，挪威以17.27人位居世界第一，美國和日本分別是9.8人和11.49人，發(fā)展中國家例如巴西和南非，分別是7.6人和5.1人，然而我國每千人擁有護(hù)士數(shù)僅為2.36人。即使是按照大多數(shù)國家的5‰計算，我國護(hù)士缺口也多達(dá)350多萬，如果按照歐盟的標(biāo)準(zhǔn)，則缺口更大。與此同時，我國社區(qū)養(yǎng)老服務(wù)專職人員數(shù)量少且增長速度緩慢。民政部2009年開始統(tǒng)計社會服務(wù)職業(yè)技能人員中的養(yǎng)老護(hù)理員，截至2016年我國養(yǎng)老護(hù)理人員僅8528人。根據(jù)第四次中國城鄉(xiāng)老年人生活狀況抽樣調(diào)查結(jié)果，目前我國失能、半失能老年人口約為4063萬，占老年人口數(shù)的18.3%，按照3：1的國際標(biāo)準(zhǔn)計算，我國需要超過1300萬的護(hù)理人員。同樣，雖然國家大力推進(jìn)醫(yī)養(yǎng)結(jié)合，將老年人作為重點人群納入家庭醫(yī)生簽約服務(wù)，但家庭簽約醫(yī)生覆蓋率仍不容樂觀。如何“以少足多”是擺在當(dāng)前我國政府面前的重要議題之一。人工智能的崛起為化解這一醫(yī)療難題提供了新路徑。人工智能環(huán)境下，智能護(hù)理等機(jī)器的應(yīng)用與推廣，大大減少了老年人對護(hù)理人員的需要，虛擬醫(yī)療助手替代護(hù)士，在醫(yī)生診療之外提供輔的就診咨詢、健康護(hù)理和病例跟蹤等服務(wù)，既減少了老年人前往醫(yī)院就診的次數(shù)，又有助于提高護(hù)理能力。顯然，這些對于緩解老年健康供需矛盾有積極意義。
第二，人工智能的發(fā)展為醫(yī)療機(jī)構(gòu)提高服務(wù)效率提供了技術(shù)支持。一直以來，醫(yī)療服務(wù)效率都是備受關(guān)注和爭議的問題。醫(yī)療服務(wù)效率，即醫(yī)療機(jī)構(gòu)在投入與產(chǎn)出之間的比率，是醫(yī)療服務(wù)領(lǐng)域的核心命題與重要目標(biāo)。近年來，隨著我國醫(yī)療體制的不斷改革與發(fā)展，各級醫(yī)療機(jī)構(gòu)的效率有了顯著提升，但受制于傳統(tǒng)醫(yī)療機(jī)構(gòu)管理模式的慣性思維影響，醫(yī)療機(jī)構(gòu)的服務(wù)效率與民眾期望仍有差距。新時代醫(yī)療服務(wù)效率的提升不僅需要制度的變革，也需要服務(wù)工具的革新。人工智能的發(fā)展為優(yōu)化醫(yī)療服務(wù)提供了便利。一方面人工智能的應(yīng)用降低了人力成本。醫(yī)學(xué)影像占醫(yī)療數(shù)據(jù)的90%，而且這一數(shù)據(jù)仍在攀升，年增長率約為30%，而放射科醫(yī)師數(shù)量的年增長率僅為4.1%，遠(yuǎn)不及影像數(shù)據(jù)增長速度。借助AI技術(shù)分析醫(yī)學(xué)影像，將大大緩解醫(yī)院缺少醫(yī)生的壓力。此外，語音技術(shù)在醫(yī)療行業(yè)的普及，也正在將越來越多的普通醫(yī)生從日常機(jī)械式的醫(yī)案錄入工作中解放出來，提升錄入的效率，降低失誤率。另一方面，人工智能的應(yīng)用也提高了醫(yī)療服務(wù)能力。人工智能輔助診斷技術(shù)應(yīng)用在老年人某些特定的病種領(lǐng)域，幾乎可以代替醫(yī)生完成疾病篩查任務(wù)；智能手術(shù)機(jī)器人的應(yīng)用既能保證精準(zhǔn)定位，減少老年患者的疼痛，又能防止傳統(tǒng)手術(shù)易帶來的傳染疾病等危險；人工智能參與藥物研發(fā)，對于提高針對老年患者潛在藥物的篩選速度和成功率，縮短研發(fā)時間與成本有實際意義。綜上，人工智能的嵌入打破了以往醫(yī)治全程醫(yī)生親力親為的運(yùn)作模式，智能機(jī)器的自主研判與決策能力，對于降低人力成本，大幅提高醫(yī)療機(jī)構(gòu)、醫(yī)生的工作效率與質(zhì)量，減少不合理的醫(yī)療支出有積極意義。
第三，人工智能的發(fā)展有助于提高老年人自我健康管理能力。多數(shù)疾病都是可以預(yù)防的，但是由于疾病通常在發(fā)病前期表征并不明顯，到病況加重之際才會被發(fā)現(xiàn)。而且由于老年人機(jī)體形態(tài)的改變和功能的衰退，對于疼痛和疾病的反應(yīng)變得不敏感、不典型，很多病癥易被忽略或誤診，加上老年人行動不便，其中有多數(shù)老年人即使不舒服也不愿前往醫(yī)院進(jìn)行診療。人工智能的應(yīng)用大大緩解了這一狀態(tài)。人工智能技術(shù)與醫(yī)療健康可穿戴設(shè)備的結(jié)合可以實現(xiàn)疾病的風(fēng)險預(yù)測和實際干預(yù)，實時監(jiān)測老年人的生理參數(shù)，其雙向數(shù)據(jù)傳輸、在線溝通、便捷有效的特點，一方面可幫助老年人實時了解與掌握自身的健康狀況，享受個性化的健康管理和健康咨詢服務(wù)，滿足其健康教育需求；另一方面也能提高老年人自我健康管理意識，促進(jìn)其積極參與自我健康管理和自我照顧，實現(xiàn)醫(yī)療衛(wèi)生服務(wù)重心前移和全民健康管理。人工智能環(huán)境下的自我健康管理的實現(xiàn)延伸了傳統(tǒng)醫(yī)療的覆蓋能力，節(jié)省了傳統(tǒng)醫(yī)療方式的時間、空間成本及醫(yī)療費(fèi)用，能夠有效緩解老齡化帶給整個社會醫(yī)療系統(tǒng)的負(fù)擔(dān)。此外，居家健康管理系統(tǒng)能為衛(wèi)生管理者提供健康數(shù)據(jù)，有助于建立完備、標(biāo)準(zhǔn)化的居民電子健康檔案和區(qū)域衛(wèi)生信息共享平臺，使政府突發(fā)公共衛(wèi)生事件監(jiān)測和應(yīng)急體系的運(yùn)轉(zhuǎn)更為高效、準(zhǔn)確。
（三）人工智能時代老年健康管理領(lǐng)域的隱憂
萬物都有兩面性，人工智能同樣是把雙刃劍，人工智能從誕生至今，其對倫理的沖擊就不斷被討論。人工智能給老年健康管理帶來巨大便利的同時，也對道德倫理問題提出了重大挑戰(zhàn)。與人工智能的一般倫理問題相比，人工智能在老年健康管理中的應(yīng)用因其服務(wù)于老年人這一特殊群體表現(xiàn)得十分特殊與突出。主要表現(xiàn)為兩個方面，一是老年人人格與尊嚴(yán)的多方面權(quán)益保障倫理問題更為加劇，二是老齡社會正義倫理問題更顯突出。
老年人人格與尊嚴(yán)的多方面權(quán)益保障倫理問題體現(xiàn)在隱私泄露、社會孤立與老年人的“物化”三個方面。首先，為更好地提供全方位健康管理服務(wù)，智能老年健康管理系統(tǒng)和智能設(shè)備需要采集老年人日常起居全時段、全方位、無盲區(qū)、長周期的海量生理數(shù)據(jù)，其中絕大多數(shù)的數(shù)據(jù)屬于隱私數(shù)據(jù)。這些數(shù)據(jù)通過簡單的分析和挖掘，就能得出老年人的生活習(xí)慣、身體狀況等信息，一旦被無意或有意泄露，極易被不法分子所利用以進(jìn)行精準(zhǔn)推銷甚至精細(xì)詐騙等違法活動，這對于易受騙的老年人群體來說無疑是巨大的隱憂，由此可能帶來的損失也不可小覷?！妒澜缛藱?quán)宣言》第12條規(guī)定任何人的私生活、家庭、住宅和通信不得任意干涉，他人的榮譽(yù)和名譽(yù)不得加以攻擊。正如一些學(xué)者認(rèn)為我們應(yīng)該對于弱勢群體運(yùn)用特別的隱私保護(hù)政策①。然而目前我國的相關(guān)法律和政策還不盡完善，如有關(guān)病歷資料保護(hù)的法律或文件（《刑法》《侵權(quán)責(zé)任法》《醫(yī)療機(jī)構(gòu)病歷管理規(guī)定》等）中多為宣示性條款，也尚無老年人隱私安全的針對性文件。如何保證健康數(shù)據(jù)在實時采集、傳輸、存儲、分析與使用過程中的安全，數(shù)據(jù)應(yīng)當(dāng)被保留多久、誰擁有隱私數(shù)據(jù)的訪問權(quán)等都是智能老年健康管理領(lǐng)域亟需解決的隱私方面的具體倫理問題。其次，智能機(jī)器監(jiān)護(hù)老年人可能導(dǎo)致減少老年人社交、子女的陪伴。關(guān)于智能護(hù)理機(jī)器人的引入對老年人心理問題的影響研究表明，使用護(hù)理機(jī)器人的老年人易出現(xiàn)社會孤立現(xiàn)象，進(jìn)而導(dǎo)致尊嚴(yán)受損②。過多的智能既會減少老年人外出和交流的頻率，也使子女或親朋責(zé)任感降低，對老年人的關(guān)懷止于虛擬問候，而不再是頻繁地看望與聊天。有學(xué)者認(rèn)為，健康助手功能會使原本親近的護(hù)理關(guān)系轉(zhuǎn)換為遠(yuǎn)程的虛擬的照料關(guān)系③。從而加劇老年人心理上的空虛感與孤獨(dú)感。如何緩解和調(diào)節(jié)老年人心理問題是人工智能在老年健康管理應(yīng)用過程中不得不面對的問題之一。最后，老年人的“物化現(xiàn)象”也是值得關(guān)注的具體倫理問題。所謂物化，Kitwood對其的定義是：像對待無生命物質(zhì)那樣對待人：推、拉、拽一個人，不把他當(dāng)作一個有生命的個體。Astell曾認(rèn)為輔助機(jī)器人可能會機(jī)械地控制使用者，并逐漸使其變得失去自主性④。智能護(hù)理機(jī)器人等操控式的服務(wù)過程有可能損害老年人自主意愿，老年人普遍認(rèn)為不應(yīng)該限制他們自主選擇的權(quán)利，如他們不希望所有人知道他們在家中跌倒，因為某些跌倒僅是小事，自己可以克服，他們認(rèn)為只有自己需要幫助的時候才應(yīng)通知別人。然而這與智能護(hù)理系統(tǒng)一旦發(fā)現(xiàn)護(hù)理對象跌倒，就立即發(fā)送消息給親人或醫(yī)護(hù)人員的護(hù)理策略相矛盾⑤。機(jī)器人應(yīng)在何種程度上保障老年人的自主意愿，減輕其心理負(fù)擔(dān)，維護(hù)其尊嚴(yán)，是值得研究的課題。
老齡社會正義倫理問題主要體現(xiàn)在地區(qū)差異方面。由于我國國土面積大，各地區(qū)經(jīng)濟(jì)發(fā)展水平并不一致，地區(qū)差異、城鄉(xiāng)差異問題都不容忽視?？紤]到護(hù)理服務(wù)涉及人最基本的健康權(quán)利，然而由于經(jīng)濟(jì)發(fā)展和收入水平不同，偏遠(yuǎn)地區(qū)、農(nóng)村的互聯(lián)網(wǎng)都不暢通，健康信息系統(tǒng)建設(shè)不到位⑥，老年人往往無力購買智能可穿戴設(shè)備、智能護(hù)理機(jī)器人等健康管理機(jī)器，貧富差距引發(fā)的社會資源分配不公問題凸顯。如何在研發(fā)和推廣智能設(shè)備中充分考慮老年人的購買力，是關(guān)乎社會正義的倫理問題。
二、現(xiàn)實考察：人工智能時代老年健康管理的困境
（一）人工智能時代老年健康管理的經(jīng)驗
改革開放以來，尤其是進(jìn)入21世紀(jì)之后，我國人工智能技術(shù)得到了巨大的發(fā)展。據(jù)中國電子信息產(chǎn)業(yè)發(fā)展研究院數(shù)據(jù)統(tǒng)計，2017年我國人工智能市場規(guī)模為216.9億元，比2016年增長52.8%，增長速度快于全球平均水平，2020年有望超過700億元①。其中，“人工智能+融合醫(yī)療、金融、教育和安防等領(lǐng)域企業(yè)”位居全球人工智能目標(biāo)市場行業(yè)首位，總計占比40%。國家高度重視，企業(yè)與醫(yī)療機(jī)構(gòu)積極探索老年健康產(chǎn)品的研發(fā)、推廣與應(yīng)用，先后積累了一些經(jīng)驗，取得了初步進(jìn)展，為人工智能服務(wù)于老年健康管理奠定了重要基礎(chǔ)。
首先，信息化與大數(shù)據(jù)推動智慧醫(yī)療的發(fā)展，為人工智能在老年健康管理中的應(yīng)用提供了技術(shù)支撐。信息化與大數(shù)據(jù)是人工智能有效嵌入的基本要素，因此醫(yī)療信息化的實現(xiàn)和醫(yī)療大數(shù)據(jù)資源的壯大是推動人工智能在老年健康管理應(yīng)用的重要基礎(chǔ)。近幾年來，高速、移動、安全的新一代信息基礎(chǔ)設(shè)施建設(shè)加快，城市社區(qū)光纖網(wǎng)絡(luò)覆蓋率不斷提升，中國互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）的《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》顯示互聯(lián)網(wǎng)逐漸向高齡人群滲透，60歲以上老年人對互聯(lián)網(wǎng)的接觸率和應(yīng)用率逐年上升。與此同時，健康養(yǎng)老服務(wù)信息平臺建設(shè)不斷推進(jìn)，早在2011年，老齡辦和民政部門就在全國范圍內(nèi)推進(jìn)社區(qū)為老服務(wù)信息平臺建設(shè)項目啟動試點工作，試點項目50余個，據(jù)統(tǒng)計覆蓋老年人口僅3000多萬；2014年民政部和發(fā)改委確定在全國選取了42個地區(qū)推進(jìn)養(yǎng)老服務(wù)業(yè)綜合改革試點，改革的重點之一即是加快信息平臺建設(shè)。2018年國務(wù)院《關(guān)于促進(jìn)“互聯(lián)網(wǎng)+醫(yī)療健康”發(fā)展的意見》，強(qiáng)調(diào)推進(jìn)遠(yuǎn)程醫(yī)療覆蓋全國所有醫(yī)聯(lián)體和縣級醫(yī)院，支持高速寬帶網(wǎng)絡(luò)覆蓋城鄉(xiāng)醫(yī)療機(jī)構(gòu)，建立互聯(lián)網(wǎng)專線保障遠(yuǎn)程醫(yī)療需要?！盎ヂ?lián)網(wǎng)+醫(yī)療服務(wù)”建設(shè)初具規(guī)模，各級醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)積累了大量老年人有關(guān)的數(shù)據(jù)資源，其中包括老年信息數(shù)據(jù)庫建設(shè)與大數(shù)據(jù)共享平臺與服務(wù)平臺建設(shè)，為下一步人工智能的嵌入奠定了堅實根基。
其次，國家高度重視，政策與法律建設(shè)不斷推進(jìn)，為人工智能在老年健康管理中的應(yīng)用提供了制度基礎(chǔ)。一方面，為推動人工智能的迅速發(fā)展，近年來我國人工智能領(lǐng)域指導(dǎo)性政策文件不斷出臺。如2017年7月國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，同年12月工信部公布《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018-2020年）》，明確了我國新一代人工智能發(fā)展的戰(zhàn)略目標(biāo)，部署構(gòu)筑我國人工智能發(fā)展的先發(fā)優(yōu)勢，加快創(chuàng)新型國家和世界科技強(qiáng)國建設(shè)。2018年1月中國電子技術(shù)標(biāo)準(zhǔn)化研究院《人工智能標(biāo)準(zhǔn)化白皮書（2018版）》，提出確立人工智能產(chǎn)業(yè)發(fā)展的標(biāo)準(zhǔn)體系；3月政府工作報告明確指出加強(qiáng)新一代人工智能在醫(yī)療、養(yǎng)老等多領(lǐng)域的應(yīng)用。各省市積極響應(yīng)，出臺本地區(qū)的具體實施意見，為人工智能在老年健康領(lǐng)域的應(yīng)用確立了方向。另一方面，為應(yīng)對各類風(fēng)險與危機(jī)，我國不斷推出信息建設(shè)與信息安全的相關(guān)規(guī)定。據(jù)統(tǒng)計目前我國信息治理層面的相關(guān)法規(guī)已有100余件，涉及個人信息保護(hù)、網(wǎng)絡(luò)侵權(quán)預(yù)防和網(wǎng)絡(luò)犯罪懲治等多個領(lǐng)域②。具體到醫(yī)療行業(yè)，2013年國家衛(wèi)生計生委、國家中醫(yī)藥管理局印發(fā)的《關(guān)于加快推進(jìn)人口健康信息化建設(shè)的指導(dǎo)意見》，2015年國務(wù)院辦公廳印發(fā)的《全國醫(yī)療衛(wèi)生服務(wù)體系規(guī)劃綱要（2015-2020年）》，2017年工信部、民政部、衛(wèi)計委聯(lián)合印發(fā)的《智慧健康養(yǎng)老產(chǎn)業(yè)發(fā)展行動計劃（2017-2020年）》等文件，都著重強(qiáng)調(diào)形成覆蓋全生命周期的智慧健康養(yǎng)老產(chǎn)業(yè)體系，打造一批智慧健康養(yǎng)老服務(wù)品牌。2016年12月，國務(wù)院辦公廳印發(fā)《關(guān)于全面放開養(yǎng)老服務(wù)市場提升養(yǎng)老服務(wù)質(zhì)量的若干意見》提出推進(jìn)“互聯(lián)網(wǎng)+”養(yǎng)老服務(wù)創(chuàng)新，到2020年養(yǎng)老服務(wù)市場全面放開等，都指出實現(xiàn)全員人口信息、電子健康檔案和電子病歷三大數(shù)據(jù)庫要基本覆蓋全國人口并完成信息動態(tài)更新。這些直接或間接性文件的不斷完善，為人工智能在健康領(lǐng)域的應(yīng)用提供了基本的制度框架。
最后，在技術(shù)與政策環(huán)境的激勵下，人工智能在老年健康管理中的應(yīng)用初見成效。從易得的傳感器，到智能化的可穿戴設(shè)備，智能護(hù)理床、健康服務(wù)機(jī)器人、陪護(hù)機(jī)器人等服務(wù)機(jī)器人，越來越多智能設(shè)備參與到老年人健康管理領(lǐng)域。近幾年，房地產(chǎn)商、保險公司、養(yǎng)老機(jī)構(gòu)積極推出高端養(yǎng)老項目，健康服務(wù)機(jī)器人也隨即而來，其中天津哈士奇機(jī)器人作為全球首臺健康服務(wù)機(jī)器人成為標(biāo)志性事件。而后，機(jī)器人也開始應(yīng)用在福利中心和養(yǎng)老機(jī)構(gòu)，僅杭州就有70家養(yǎng)老機(jī)構(gòu)和40家照料中心引進(jìn)了“阿鐵”養(yǎng)老機(jī)器人①②，機(jī)器人具備健康檢測、健康顧問、緊急報警與陪伴逗樂四項主要功能。同時依托“互聯(lián)網(wǎng)+”搭起智能居家養(yǎng)老服務(wù)的橋梁，一是通過智能健康腕表隨時測量血壓、心率等生命體征數(shù)據(jù)。相關(guān)研究表明可穿戴智能設(shè)備在治療慢性病方面有顯著效果，治療費(fèi)用、住院時間等都有所降低③④。二是“開心”等智能健康養(yǎng)老機(jī)器人通過人體感應(yīng)、攝像頭遠(yuǎn)程監(jiān)護(hù)、聲源定位、語音識別等系統(tǒng)為居家老人提供安全監(jiān)護(hù)、用藥提醒、數(shù)據(jù)分析等健康服務(wù)，約87%的受訪者表示類似于“開心”的智能健康養(yǎng)老機(jī)器人會對空巢老人有用⑤。三是通過“互聯(lián)網(wǎng)+”和遠(yuǎn)程醫(yī)療、遠(yuǎn)程手術(shù)等滿足老年人的醫(yī)療需求，通過機(jī)械骨骼、輪椅機(jī)器人等助力老人康復(fù)⑥。從監(jiān)護(hù)到治療，人工智能在各種養(yǎng)老模式的老年人中的初步試水，為應(yīng)對人口老齡化提供了戰(zhàn)略性思維。
（二）人工智能時代老年健康管理的難題
人工智能為老年人實現(xiàn)全過程健康管理提供了條件，推動了老年健康管理模式的突破與創(chuàng)新，然而目前人工智能在老年健康管理中的應(yīng)用僅處于起步階段，尚有很多問題需要解決。
其一，從應(yīng)用范圍來看，價格壁壘難以突破，老年健康管理中人工智能缺乏動力。醫(yī)療行業(yè)本身就極具復(fù)雜性和特殊性，醫(yī)療體制改革和醫(yī)養(yǎng)結(jié)合養(yǎng)老模式發(fā)展已推行多年，但仍有很多問題為人們所詬病。人大代表羅衛(wèi)紅曾提出目前醫(yī)養(yǎng)結(jié)合雖初具成效，但仍存在醫(yī)養(yǎng)結(jié)合服務(wù)需求與承載力不對稱、行業(yè)管理體制不完善、醫(yī)養(yǎng)結(jié)合醫(yī)保支付政策難以保障護(hù)理需求等問題。人工智能嵌入老年健康管理為醫(yī)養(yǎng)結(jié)合模式的發(fā)展創(chuàng)造機(jī)遇的同時，也提出了更高的要求。人工智能設(shè)備造成的健康管理服務(wù)費(fèi)用誰來支付、怎樣支付，目前國內(nèi)尚未達(dá)成共識，這也解釋了為什么目前智能健康機(jī)器人多出現(xiàn)在養(yǎng)老機(jī)構(gòu)，而非居家老人家中。不可否認(rèn)，在當(dāng)前醫(yī)療衛(wèi)生服務(wù)供給不足的情況下，醫(yī)養(yǎng)結(jié)合型養(yǎng)老機(jī)構(gòu)非常重要，機(jī)器人的引入對老年人尤其是對高齡老人、半失能老人與失能老人帶來了極大的便利。然而無論是9064模式還是9073模式，絕大多數(shù)老年人是居家養(yǎng)老。針對居家生活老年人的健康監(jiān)測、預(yù)防、治療、康復(fù)、護(hù)理和心理慰藉等服務(wù)需求亟需人工智能的嵌入，然而形勢不容樂觀，一方面是因為智能裝備價格較高，老年人個體往往無意愿或無力購買較為昂貴的智能感應(yīng)設(shè)備，另一方面是因為擔(dān)心后續(xù)健康服務(wù)能否持續(xù)跟進(jìn)，比如一個智能腕表就價值幾千元，如果后期的服務(wù)沒跟上，老年人損失就會很大。人工智能的應(yīng)用必須考慮各方支付意愿，其價格在某種程度上決定了其可推廣的范圍。如何圍繞大健康戰(zhàn)略來定位發(fā)展人工智能，實現(xiàn)醫(yī)療健康服務(wù)利益相關(guān)者的協(xié)作，為老年人提供全方位全周期的健康服務(wù)是亟須解決的關(guān)鍵問題之一。
其二，從信息化建設(shè)來看，人工智能應(yīng)用于老年健康管理的信息孤島劣勢明顯。人工智能的應(yīng)用離不開信息技術(shù)的支撐。推進(jìn)醫(yī)療服務(wù)大數(shù)據(jù)建設(shè)，建設(shè)老年群體數(shù)據(jù)庫與醫(yī)療服務(wù)信息平臺，統(tǒng)一相關(guān)數(shù)據(jù)標(biāo)準(zhǔn)是基礎(chǔ)。“人工智能+醫(yī)療”最大的問題在于數(shù)據(jù)的來源和質(zhì)量，因為我國的醫(yī)療數(shù)據(jù)在醫(yī)院與醫(yī)院間、醫(yī)院與家庭間存在信息孤島，即使在同一個醫(yī)院提取和利用數(shù)據(jù)仍涉及很多操作手續(xù)。與此同時，雖然各地政府一直在強(qiáng)調(diào)健康養(yǎng)老服務(wù)信息平臺建設(shè)，但進(jìn)程并不樂觀，多數(shù)老年健康服務(wù)僅停留在通過社區(qū)門診或體檢獲得數(shù)據(jù)，共享在街道一級，實現(xiàn)市級統(tǒng)一平臺建設(shè)的省份屈指可數(shù)。除了技術(shù)條件的制約，更多的是缺乏全局的考慮與統(tǒng)籌規(guī)劃，民政部門、統(tǒng)計部門、公安部門、衛(wèi)生部門、醫(yī)院等多部門之間的責(zé)任模糊，各涉老部門缺乏溝通與配合；各地區(qū)各自為政，缺乏共享理念和共享動力，有效的溝通不足，相互之間在操作系統(tǒng)、網(wǎng)絡(luò)協(xié)議、語義表示、數(shù)據(jù)庫類型，乃至硬件管理平臺上存在差異，醫(yī)療信息數(shù)據(jù)不能有效實現(xiàn)地區(qū)共享，阻礙了人工智能賴以為生的數(shù)據(jù)信息資源的有效流通，既造成了數(shù)據(jù)信息資源重復(fù)建設(shè)，也限制了數(shù)據(jù)信息資源功能的最大發(fā)揮。可見，要想人工智能應(yīng)用于老年健康管理，積極突破數(shù)據(jù)壁壘勢在必行。
其三，從健康服務(wù)相關(guān)主體來看，養(yǎng)老機(jī)構(gòu)、社區(qū)服務(wù)中心、醫(yī)療機(jī)構(gòu)與企業(yè)的合作不足。養(yǎng)老服務(wù)機(jī)構(gòu)、醫(yī)療機(jī)構(gòu)等服務(wù)機(jī)構(gòu)本身不生產(chǎn)人工智能設(shè)備，而是通過引進(jìn)人工智能設(shè)備服務(wù)于老年人，科技企業(yè)才是人工智能產(chǎn)品的生產(chǎn)者。服務(wù)機(jī)構(gòu)最了解老年健康管理全過程需要什么樣的人工智能產(chǎn)品，而科技企業(yè)則在技術(shù)上獨(dú)占優(yōu)勢。二者通過跨界合作發(fā)揮各自的優(yōu)勢，才能明確研發(fā)內(nèi)容，最大程度縮短研發(fā)周期，以滿足老年人健康管理的需要。然而目前國內(nèi)各級醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)在該領(lǐng)域的開拓相對滯后，除了發(fā)達(dá)城市的大型房地產(chǎn)公司通過與科技公司合作建設(shè)高端養(yǎng)老基地，應(yīng)用人工智能參與老年健康管理服務(wù)，實現(xiàn)了企業(yè)間的人工智能合作外，多數(shù)醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)有待進(jìn)一步跟進(jìn)。與此同時，醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)提升自身對人工智能產(chǎn)品的駕馭能力也離不開同科技企業(yè)的有效合作。兩者有效合作的缺乏在一定程度上制約了老年健康管理過程中的人工智能創(chuàng)新能力的提升。兩者如何建立合作機(jī)制，共同推進(jìn)人工智能的技術(shù)創(chuàng)新與應(yīng)用是人們不得不思考的當(dāng)務(wù)之急。
其四，從研發(fā)主體看，老年健康管理領(lǐng)域的人工智能發(fā)展受制于稀缺的專業(yè)人才。人工智能任何相關(guān)技術(shù)方面的突破都依賴于人才，可以說其發(fā)展能力取決于人才數(shù)量?！度蛉斯ぶ悄苋瞬虐灼凤@示全球AI領(lǐng)域的人才缺口達(dá)到百萬量級，2017年工信部發(fā)言人指出在我國人工智能人才缺口超過500萬，稀缺的專業(yè)人才資源是制約全球人工智能技術(shù)發(fā)展和應(yīng)用落地的一大短板。人工智能的專業(yè)人才既要掌握數(shù)據(jù)挖掘、語音圖像識別等計算機(jī)層面知識，又要了解人工智能應(yīng)用領(lǐng)域的客觀狀況。AlphaGo之所以能戰(zhàn)勝人類圍棋世界冠軍，在一定程度上是因為其設(shè)計者DemisHassabis本人就是天才棋手①。因此，人工智能老年健康領(lǐng)域的專業(yè)人才需要集計算機(jī)專業(yè)技術(shù)與健康養(yǎng)老服務(wù)行業(yè)實踐于一身，才能研發(fā)出適合老年群體的智能健康醫(yī)療設(shè)備。目前國內(nèi)的人工智能專業(yè)性人才缺乏，且多集中于制造業(yè)、互聯(lián)網(wǎng)等領(lǐng)域的技術(shù)開發(fā)工作，雖然一些科技公司與醫(yī)療機(jī)構(gòu)合作取得初步的成果，但在醫(yī)療領(lǐng)域結(jié)合上缺乏深度，直接針對健康服務(wù)領(lǐng)域的人工智能人才更是不足，阻礙了老年健康領(lǐng)域人工智能技術(shù)的推行。
三、未來選擇：人工智能時代老年健康管理的關(guān)鍵路徑
人工智能時代的到來，為老年健康管理創(chuàng)造了全新的環(huán)境，同時也對政府、社區(qū)、醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)等提出了更高的要求。面對人工智能的迅速發(fā)展，需積極推進(jìn)人工智能與老年健康管理的深度融合，以促進(jìn)適應(yīng)時代訴求的老年健康管理智能化。
（一）構(gòu)建人工智能嵌入老年健康管理的管理機(jī)制
DouglassC.North指出制度是社會的游戲規(guī)則，規(guī)定了人與人之間的行為范式②。人工智能時代老年健康管理迫切需要現(xiàn)有機(jī)制的突破與創(chuàng)新，當(dāng)前必須做好三個層面的具體工作。
一是形成專業(yè)的領(lǐng)導(dǎo)機(jī)制。人工智能科學(xué)嵌入老年健康管理離不開政府部門的統(tǒng)一規(guī)劃和部署。2018年國家醫(yī)療保障局成立，整合了此前散落在人社、民政、衛(wèi)計委、發(fā)改委等多個部門的相關(guān)醫(yī)療職能，改變了“九龍治水”的管理局面，為人工智能在醫(yī)療行業(yè)、健康領(lǐng)域的嵌入提供了契機(jī)。在老年健康領(lǐng)域推廣人工智能應(yīng)納入醫(yī)療保障局的工作內(nèi)容，積極推動醫(yī)療機(jī)構(gòu)、養(yǎng)老機(jī)構(gòu)、社區(qū)養(yǎng)老服務(wù)中心等與科技企業(yè)的合作，全方位部署人工智能在老年健康管理中的應(yīng)用格局，從傳感器，到智能化的可穿戴設(shè)備，健康服務(wù)機(jī)器人、智能護(hù)理床、陪護(hù)機(jī)器人等服務(wù)機(jī)器人，從智能家居設(shè)備、養(yǎng)老服務(wù)機(jī)構(gòu)智能設(shè)備，到智能醫(yī)療機(jī)器，從老年人健康數(shù)據(jù)建設(shè)到疾病的預(yù)防、治療、康復(fù)與護(hù)理等，培養(yǎng)一支兼具智能理念和實踐經(jīng)驗的新型領(lǐng)導(dǎo)隊伍，確保政府部門在人工智能應(yīng)用中始終掌握主動權(quán)。
二是培養(yǎng)多元主體信息共享機(jī)制。人工智能的發(fā)展與應(yīng)用依賴于數(shù)據(jù)，因此，人工智能嵌入老年健康管理，一方面需要挖掘分析大量老年健康數(shù)據(jù)，以便人工智能設(shè)備的研發(fā)，另一方面需要醫(yī)療機(jī)構(gòu)、養(yǎng)老機(jī)構(gòu)、社區(qū)居家服務(wù)中心、老年人等相互間的數(shù)據(jù)連通與安全共享，促使多方有效參與老年健康管理。加快健康養(yǎng)老信息平臺建設(shè)迫在眉睫，要著力提升多元參與主體的數(shù)據(jù)素養(yǎng)和技術(shù)素養(yǎng)水平，促進(jìn)多元主體相互間協(xié)同配合，協(xié)調(diào)老年健康數(shù)據(jù)在各部門間的流通，實現(xiàn)數(shù)據(jù)信息的交互及供需的有效匹配，從而打破數(shù)據(jù)壁壘，為提升老年健康管理水平提供數(shù)據(jù)支撐。
三是建構(gòu)道德倫理矯正機(jī)制。享受人工智能給老年健康管理帶來巨大便利的同時，也必須正視其對道德倫理的挑戰(zhàn)。首先，進(jìn)一步完善信息保護(hù)機(jī)制，減少甚至消除老年人對個人信息數(shù)據(jù)泄露的擔(dān)憂。其次，科學(xué)認(rèn)識和使用人工智能。雖然現(xiàn)有的人工智能在某些層面和維度接近、達(dá)到甚至超過了人類智能，但其工具性色彩沒有改變，人工智能在老年健康管理中的應(yīng)用旨在提高健康管理水平，而不是取代醫(yī)護(hù)人員和親朋好友。兒女的關(guān)心、好友的慰問以及老年人必要的社交互動都不可或缺。最后應(yīng)通過技術(shù)發(fā)展，為人工智能注入情感，促使人機(jī)交互更加和諧。
（二）構(gòu)建以人工智能為核心載體的老年健康技術(shù)系統(tǒng)
推進(jìn)各級醫(yī)療機(jī)構(gòu)和各地養(yǎng)老機(jī)構(gòu)在老年健康管理中發(fā)揮更大的作用，需要通過智能化處理系統(tǒng)和便捷高效的急救處理流程，即系統(tǒng)能自動采集老年人身體狀況數(shù)據(jù)并進(jìn)行分析，當(dāng)發(fā)生意外跌倒或生命體征數(shù)據(jù)出現(xiàn)異常，智能呼叫相應(yīng)的醫(yī)療機(jī)構(gòu)，使老人及時、準(zhǔn)確地獲取醫(yī)療服務(wù)。為此，應(yīng)重點做好兩個層面的工作。
一方面，建設(shè)針對老年健康管理的智能處理系統(tǒng)。智能化系統(tǒng)基于計算機(jī)網(wǎng)絡(luò)技術(shù)和信息技術(shù)，強(qiáng)化老年健康的數(shù)據(jù)挖掘系統(tǒng)和數(shù)據(jù)存儲系統(tǒng)建設(shè)，有效整合老年健康管理智能化進(jìn)程中的各類非數(shù)值型、非結(jié)構(gòu)化數(shù)據(jù)，同時有針對性地引進(jìn)合適的人工智能技術(shù)，如生物識別技術(shù)、自然語言處理、機(jī)器學(xué)習(xí)、虛擬等，提升人機(jī)交互過程中老年健康數(shù)據(jù)的處理效率，并以此形成由知識庫、數(shù)據(jù)庫、推理機(jī)、解釋器和知識獲取等組成的老年健康管理系統(tǒng)，為提高老年健康管理水平奠定基礎(chǔ)。
另一方面，創(chuàng)新以人工智能為基礎(chǔ)的醫(yī)療流程。智能系統(tǒng)的生命在于應(yīng)用，老年健康管理途徑與方式的優(yōu)化必須以智能處理流程的創(chuàng)新為依托。其一，通過人工智能實現(xiàn)老年人健康狀況的自動檢測，根據(jù)不間斷、全方位的健康數(shù)據(jù)跟蹤，智能評估老年人身體與心理的健康狀況，并基于數(shù)據(jù)分析提出智慧決策，確定老年人在健康方面應(yīng)采取的措施。其二，智能系統(tǒng)要在識別老年人緊急救助需求的基礎(chǔ)上，主動通知醫(yī)療機(jī)構(gòu)，使老年人及時得到救助。至于醫(yī)療機(jī)構(gòu)的選擇應(yīng)符合分級診療原則與就近原則。這對于減少老年人獨(dú)居風(fēng)險，為空巢老人提供“健康保險”有積極的現(xiàn)實意義。
（三）構(gòu)建“?！蟆t(yī)/養(yǎng)”在人工智能領(lǐng)域的深度合作機(jī)制
學(xué)校是人才培養(yǎng)的重要陣地，科技企業(yè)是人工智能產(chǎn)業(yè)發(fā)展的主力軍，而醫(yī)療服務(wù)機(jī)構(gòu)與養(yǎng)老機(jī)構(gòu)是老年健康管理的重要參與者。推進(jìn)人工智能在老年健康管理領(lǐng)域的應(yīng)用，迫切需要三者的深度協(xié)作，以達(dá)到通識成材、借勢運(yùn)力、以智發(fā)展的目標(biāo)。
其一，探索高校與企業(yè)協(xié)同人才培養(yǎng)模式。相比美國人工智能人才數(shù)量，我國明顯滯后。據(jù)領(lǐng)英數(shù)據(jù)顯示，我國從業(yè)經(jīng)驗10年以上的AI人才占AI人才總數(shù)比例不足40%，而美國這一比例超過70%；美國人工智能基礎(chǔ)層、技術(shù)層和應(yīng)用層的人才數(shù)量占比分別為22.7%、37.4%和39.9%，而中國為3.3%、34.9%和61.8%，人才培養(yǎng)勢在必行。如上文所述，人工智能的專業(yè)人才既要掌握數(shù)據(jù)挖掘、語音圖像識別等計算機(jī)層面知識，又要了解人工智能應(yīng)用領(lǐng)域的客觀狀況?？萍计髽I(yè)需要高校的理論與人才的支持，而高校則可借助企業(yè)的數(shù)據(jù)資源和技術(shù)平臺推進(jìn)科研理論進(jìn)展，將研究價值落地。因此，高校應(yīng)加強(qiáng)人工智能相關(guān)學(xué)科建設(shè)，吸引國際頂級科學(xué)家和高層次人才，加強(qiáng)與科技企業(yè)、國外高校及相關(guān)機(jī)構(gòu)的合作，將技術(shù)教學(xué)貫穿到實訓(xùn)項目中，讓學(xué)生在校所學(xué)與企業(yè)實踐有機(jī)結(jié)合，培養(yǎng)貫通人工智能基礎(chǔ)理論、軟硬件技術(shù)與醫(yī)療服務(wù)領(lǐng)域應(yīng)用的縱向跨界人才。人工智能校企合作將有助于人工智能在老年健康領(lǐng)域的加速發(fā)展，為人工智能應(yīng)用打開新局面。
其二，搭建醫(yī)療服務(wù)機(jī)構(gòu)與企業(yè)合作平臺。近年來，阿里巴巴、百度、騰訊和華為等國內(nèi)企業(yè)在人工智能領(lǐng)域的崛起，為老年健康管理的轉(zhuǎn)型提供了技術(shù)支撐。人工智能本身就涉及多重技術(shù)，不同行業(yè)或領(lǐng)域的關(guān)鍵技術(shù)必然存在差異，加快人工智能在老年健康管理中的應(yīng)用，醫(yī)療服務(wù)機(jī)構(gòu)既要借助科技企業(yè)的技術(shù)優(yōu)勢，引入智能技術(shù)，又要借助科技企業(yè)的智力優(yōu)勢，培育服務(wù)人才。這就要求醫(yī)療機(jī)構(gòu)積極通過研發(fā)外包的途徑，由科技企業(yè)打造契合老年健康管理需求的智能軟件與硬件，加快老年健康管理智能產(chǎn)品的開發(fā)與推廣，促進(jìn)產(chǎn)品從監(jiān)護(hù)提醒類、健康監(jiān)測類，到醫(yī)療設(shè)備類、陪護(hù)聊天類，關(guān)注老年人身體健康的同時注意開發(fā)心理健康護(hù)理機(jī)器人，實現(xiàn)智能產(chǎn)品的多元化與精準(zhǔn)化。與此同時，醫(yī)療機(jī)構(gòu)通過與科技企業(yè)的合作，提高本機(jī)構(gòu)內(nèi)部人工智能的應(yīng)用能力。
（四）構(gòu)建老年健康管理人工智能產(chǎn)品的定價與補(bǔ)貼機(jī)制
人工智能在老年健康領(lǐng)域推行受阻的一個很重要的原因是企業(yè)囿于無利可圖與老人抱怨收費(fèi)高現(xiàn)象并存。老年健康領(lǐng)域人工智能產(chǎn)品與服務(wù)的價格既不能完全市場化也不能嚴(yán)控低價，應(yīng)建立合理的定價機(jī)制與相應(yīng)的財政保障機(jī)制，以平衡市場主體盈利與老年人經(jīng)濟(jì)承受力來促進(jìn)人工智能在老年健康領(lǐng)域的廣泛應(yīng)用。
一方面，合理確定老年健康領(lǐng)域人工智能產(chǎn)品的價格。老年人的健康管理產(chǎn)品與服務(wù)具有一定的福利性，過高的價格會忽略老年人的經(jīng)濟(jì)承受能力，過低的價格又影響社會資本的收益率與參與積極性，阻礙該領(lǐng)域的進(jìn)一步發(fā)展。根據(jù)資本資產(chǎn)定價模型，任何資產(chǎn)的期望收益率都由無風(fēng)險利率和對所承擔(dān)風(fēng)險的補(bǔ)償—風(fēng)險溢價兩部分構(gòu)成，考慮到服務(wù)對象的特殊性，老年健康領(lǐng)域人工智能產(chǎn)品合理的投資收益率應(yīng)等于或略低于市場平均投資收益率，兼顧經(jīng)濟(jì)效益與社會效益。
另一方面，建立相應(yīng)的財政補(bǔ)貼機(jī)制。雖然老年人收入來源更加多元，自報需要照護(hù)服務(wù)的比例不斷提高，越來越多的老年人有能力購買健康管理設(shè)備，但價格仍然是影響其選擇與否的關(guān)鍵因素之一。而且受年齡、身體狀況、收入等多重因素影響，有必要分地區(qū)、分群體進(jìn)行大面積的調(diào)查統(tǒng)計，找到不同身體狀況與經(jīng)濟(jì)狀況的老年人有能力和意愿支付的平均價格。根據(jù)計算出來的市場價格與老年人可支付的價格，分類別分等級進(jìn)行補(bǔ)貼，對于經(jīng)濟(jì)困難的失能半失能老人要免費(fèi)配置相應(yīng)的智能設(shè)備。
此外，加強(qiáng)老年健康管理人工智能應(yīng)用狀況的監(jiān)管體系和績效評價體系。當(dāng)前人工智能技術(shù)整體還處在較低的發(fā)展層次，在認(rèn)知能力、感知行為、風(fēng)險對抗等諸多方面仍比較笨拙，應(yīng)在加強(qiáng)人工智能嵌入的可能性風(fēng)險管理的基礎(chǔ)上，采取第三方評估方式，科學(xué)評價人工智能應(yīng)用過程的技術(shù)適用、服務(wù)質(zhì)量等環(huán)節(jié)。推進(jìn)老年健康管理領(lǐng)域的人工智能應(yīng)用的不斷改進(jìn)與發(fā)展。
算法是指由計算機(jī)執(zhí)行的一系列獨(dú)立的指令和動作。從初始狀態(tài)和初始輸入開始，這些指令描述了完整的計算步驟――通過一系列有限的、確切的指令，產(chǎn)生并輸出答案和數(shù)據(jù)，最終止于結(jié)束狀態(tài)。
人工智能的算法是一套利用機(jī)器智能解決問題的復(fù)雜手段。過去，我們給計算機(jī)下達(dá)規(guī)則式的指令來解決問題；現(xiàn)在，我們只要告訴計算機(jī)想解決的問題，它就可以自行選擇算法來解決問題――這便是人工智能帶來的根本性變革。
人工智能最重要的是學(xué)習(xí)能力，即根據(jù)機(jī)器以往的經(jīng)驗來不斷優(yōu)化算法。第一次人工智能的浪潮始于上世紀(jì)70年代，當(dāng)時的人工智能算法采用的是符號邏輯推理規(guī)則，以實現(xiàn)知識表征。由于缺乏自我學(xué)習(xí)能力，那時的人工智能無法解決新領(lǐng)域中出現(xiàn)的問題。第二代人工智能雖然在學(xué)習(xí)和感知能力上表現(xiàn)更佳，但由于當(dāng)時的機(jī)器學(xué)習(xí)模型不具備大量吸收訓(xùn)練數(shù)據(jù)的能力，與人類的水平仍有很大差距。
算法的發(fā)展
大約在10年前，深層與結(jié)構(gòu)化機(jī)器學(xué)習(xí)，或稱為深度學(xué)習(xí)的新范式，讓人工智能算法的智能程度越來越高。傳統(tǒng)的機(jī)器學(xué)習(xí)方法讓電腦學(xué)習(xí)的“知識”，要由人來設(shè)計并輸入，因為需要掌握大量的專業(yè)知識，導(dǎo)致特征工程成為機(jī)器學(xué)習(xí)的瓶頸。深度學(xué)習(xí)打破了這一瓶頸，通過多層結(jié)構(gòu)算法，機(jī)器對數(shù)據(jù)集的“特征”進(jìn)行篩選和提取，通過反復(fù)訓(xùn)練，最終獲得了提取抽象概念的能力。
一、美麗的誤解：算法默認(rèn)是公平的
建立在算法模型基礎(chǔ)上的人工智能給社會生活帶來巨大便利，如網(wǎng)絡(luò)約車、區(qū)塊鏈、互聯(lián)網(wǎng)金融等帶來了社會進(jìn)步，但其潛在的弊端不容忽視。2016年哈佛大學(xué)肯尼迪學(xué)院的分析報告指出，目前針對犯罪傾向性預(yù)測的人工智能系統(tǒng)，無論技術(shù)人員如何調(diào)整機(jī)器學(xué)習(xí)的策略和算法，人種和膚色都成為無法抹去的高優(yōu)先識別變量。那么看似技術(shù)中立的算法為什么會產(chǎn)生歧視？
算法本質(zhì)是互聯(lián)網(wǎng)的編程技術(shù)，但這種編程技術(shù)絕非中立。谷歌公司的數(shù)碼相冊軟件將深色皮膚的人標(biāo)記為大猩猩，展示了科技錯誤如何轉(zhuǎn)變成傷害，進(jìn)而導(dǎo)致社會不安與仇恨。正如這里所示，算法歧視在很多情況下是難以預(yù)料的、無意識的副產(chǎn)品，而非編程人員有意識的選擇，更增加了識別問題根源或者解決問題的難度。那么算法歧視是如何出現(xiàn)的？首先，算法結(jié)果建立在其所使用的基礎(chǔ)數(shù)據(jù)之上，基礎(chǔ)數(shù)據(jù)的不完善將直接影響算法輸出的科學(xué)性。數(shù)據(jù)本應(yīng)是社會現(xiàn)實的反映，但如果編程數(shù)據(jù)本身不正確、不完整或過時，輸出的結(jié)果則會以偏概全。我國的裁判文書上網(wǎng)制度有待完善，各省關(guān)于類案類判制度的試點也還存在“數(shù)據(jù)孤島”等“先天不足”，這不可避免地會損害算法輸出結(jié)果的公平性。其次，算法的設(shè)計、目的、成功標(biāo)準(zhǔn)、數(shù)據(jù)使用體現(xiàn)了設(shè)計者、開發(fā)者的主觀選擇，他們可能將自己的偏見嵌入算法系統(tǒng)，這導(dǎo)致算法繼承了人類決策者的種種偏見。第三，算法決策是在用過去預(yù)測未來，而過去的歧視可能會在算法中得到鞏固并在未來得到加強(qiáng)，因為錯誤輸入形成的錯誤輸出作為反饋，將進(jìn)一步加深錯誤。第四，算法決策不僅會將過去的歧視做法代碼化，而且會創(chuàng)造自己的現(xiàn)實，形成一個“自我實現(xiàn)的歧視性反饋循環(huán)”。
二、算法歧視的治理難點
人工智能的算法決策具有典型的“黑箱”特點，連設(shè)計者可能都不知道算法如何決策，要在系統(tǒng)中發(fā)現(xiàn)有沒有存在歧視和歧視根源，在技術(shù)上非常困難。如果按照現(xiàn)有的法律責(zé)任規(guī)則，由于系統(tǒng)的自主學(xué)習(xí)、決策能力很強(qiáng)，它的開發(fā)者無法預(yù)測最終將輸出什么結(jié)果，那么黑箱的存在難以查找事故原因，將不可避免地產(chǎn)生責(zé)任鴻溝。除了如何通過設(shè)計確保算法和人工智能系統(tǒng)的公平性外，算法的治理難點還有以下方面。
首先，法律工具主義思維盛行。工具主義是指將各種科技成果視為解決人類問題、增強(qiáng)人類能力的工具，其在法律領(lǐng)域是實用主義法律觀的體現(xiàn)。電腦量刑、類案類判輸出的結(jié)果之所以往往為民眾質(zhì)疑，是因為只講手段不問目的的工具主義割裂了法律和道德的關(guān)系，導(dǎo)致輸出結(jié)果無法取得社會認(rèn)同。工具理性取代價值理性的弊端在現(xiàn)代化早期已經(jīng)暴露無遺了，技術(shù)本身并不是目的，也無法自動形成自己的目的。
其次，算法的透明性問題難以公開。算法的輸出是“黑箱”過程，即便人工智能最終的應(yīng)用出現(xiàn)嚴(yán)重后果，算法的過程也無從得知。人們無法判斷損害到底如何造成、更不清楚算法本身是如何編寫的。對于掌握先進(jìn)科技的企業(yè)而言，算法往往屬于企業(yè)的“商業(yè)秘密”，是受到法律名正言順保護(hù)的“黑箱”。當(dāng)利用犯罪風(fēng)險評估軟件對犯罪嫌疑人進(jìn)行評估時，決定司法判決結(jié)果的就不再是規(guī)則，而是代碼。而編程人員將既定規(guī)則寫進(jìn)代碼時，不可避免地會對這些規(guī)則進(jìn)行調(diào)整，但公眾、官員以及法官并不知曉，無從審查嵌入到自主決策系統(tǒng)中的規(guī)則的透明性、可責(zé)性以及準(zhǔn)確性。在缺乏必要的問責(zé)機(jī)制的情況下，無法矯正的算法歧視對刑事司法是一種嘲諷。
第三，運(yùn)用法律規(guī)制算法歧視在操作層面還需考慮以下方面：第一，公平可以量化、形式化嗎？如何被翻譯成操作性的算法？第二，公平被量化為計算問題會帶來風(fēng)險嗎？第三，如果公平是機(jī)器學(xué)習(xí)和人工智能的目標(biāo)，誰來決定公平的考量因素？第四，如何讓算法、機(jī)器學(xué)習(xí)、人工智能具有公平理念，自主意識到數(shù)據(jù)挖掘和處理中的歧視問題？
三、通向公正的算法規(guī)制
互聯(lián)網(wǎng)時代不但提供了各種迅速匯聚信息的搜索引擎，也為人與人之間的
溝通帶來前人難以想象的便利，在中國更是興起了以馬云為成功典范、全民狂歡式的O2O（Online to Offline 線上線下模式）的電商經(jīng)濟(jì)。這是我們的時代，它造就了我們的生存方式。然而，對于互聯(lián)網(wǎng)時代的批判與反思都尚且無法塵埃落定之際，阿爾法狗大敗李世石的棋局也讓全世界對人類未來有了更新的認(rèn)知：無論我們是否已經(jīng)做好準(zhǔn)備（顯然大多數(shù)人沒有），人工智能所裹挾的未來似乎已經(jīng)降臨。
在西方文學(xué)史上，我們能清晰地觸摸到技術(shù)的烙?。郝L的中世紀(jì)是19世紀(jì)浪漫主義者眼中的黃金時代，是他們的鄉(xiāng)愁與烏托邦。盡管征戰(zhàn)連連，普通民眾的生存條件惡劣，但那畢竟是持續(xù)了千年的“穩(wěn)定”狀態(tài)。在這樣的時代，生活的變革并不劇烈，一個人的世界就是父輩口中的那個世界，它不會在某一天變得全然陌生。這是工業(yè)時代（機(jī)械時代）對農(nóng)耕時代的緬懷。而我們的時代給世界帶來的“陌生化”，比起工業(yè)時代而言則有過之而無不及。技術(shù)的頻繁更新（各種補(bǔ)丁、最新版本的下載通知）僅僅是其“變革”力量的冰山一角而已。一方面是剛剛用熟的工具，還沒變得趁手，已然變幻了模樣；另一方面，則是我們自身隨之發(fā)生的改變。以博客―微博―微信朋友圈的更新為例：僅僅在十年之內(nèi)，無論空間距離如何遙遠(yuǎn)，人們的即時交流已經(jīng)如此方便，而人的表達(dá)方式也已經(jīng)全然不同。這一點，從行文篇幅急劇縮短、配圖的日益豐富都表露無遺。同樣是互聯(lián)網(wǎng)，為人的各種煩瑣事務(wù)決策提供了充分的信息源，但是海德格爾有關(guān)人在技術(shù)時代被“預(yù)置”的擔(dān)憂卻成為事實：一位母親在為自己的孩子挑選保姆之際，可能非常感謝家政公司的清晰網(wǎng)頁與詳盡資料，但是“保姆超市”這一稱謂卻很可能讓她備感不適，同時讓她真切體會到自己也不過是一堆“人力資源”資料中一紙信息而已。事實上，我們的父輩已經(jīng)親歷了科技所能帶來的巨大社會變革：網(wǎng)絡(luò)和手機(jī)上網(wǎng)。很多老年人無法像年輕人一樣熟練地操作電子產(chǎn)品，但是他們的生活由此所受到的沖擊一點也不比年輕人少，而且這種沖擊很可能是以負(fù)面影響居多。木心的《從前慢》一詩如果從這個方向來解讀，就絕非是對前網(wǎng)絡(luò)時代的浪漫主義抒懷，而是今天很多老年人心境的真實寫照，他們在網(wǎng)絡(luò)生活面前手足無措，并日益與年輕一代隔絕。他們用了將近一生的時間來熟悉、學(xué)習(xí)并參與其建造的那個世界消失了，或者忽然之間陌生了。
比起互聯(lián)網(wǎng)時代，人工智能時代帶給世界的變化會更加劇烈和難以想象。無論是否正視人工智能的發(fā)展前景及其對人類的影響，任何人類在技術(shù)上的重大突破，首先給予普通受眾的就是心理上的強(qiáng)烈沖擊，簡言之，就是從對待天方夜譚式的不相信，到親見親歷的難以相信和恐懼，然后再到習(xí)以為常。在交通工具的發(fā)明史上，是蒸汽火車與馬車的競賽，第一架飛機(jī)的試飛；在溝通交流的發(fā)明史上，是貝爾的電話；在毀滅性武器的發(fā)明史上，則是廣島的原子彈投放。強(qiáng)人工智能與超人工智能的出現(xiàn)所引發(fā)的心理地震，可能遵循的是同一條曲線。
雖然棋種不同，機(jī)器人戰(zhàn)勝國手的新聞，二十年前早有報道。而阿爾法狗引發(fā)的大量討論與關(guān)注，其焦點并非是它所代表的精于計算的弱人工智能（在某個特定領(lǐng)域遠(yuǎn)遠(yuǎn)超越人類但是能為人類所用），而是在它之后可能出現(xiàn)的強(qiáng)人工智能（機(jī)器在哲學(xué)的意義上變得和人一樣：擁有自覺意識的機(jī)器）與超人工智能（人類無法想象之物，或人類全新的存在形式，比如人機(jī)一體）。它們不僅涉及非常棘手的人機(jī)之間的倫理問題，而且會帶來一個人類進(jìn)程上前所未有的悖論：我們像上帝一樣創(chuàng)造了某物，但是它遠(yuǎn)遠(yuǎn)比我們強(qiáng)大，并可能在極短的時間內(nèi)成為遠(yuǎn)遠(yuǎn)超乎我們的理解與想象的某物：“像神一樣地永生還是像恐龍一樣徹底毀滅?！边@樣的形而上命題在不久的將來很有可能成為現(xiàn)實；換言之，人類正在創(chuàng)造一個不可知的上帝。另外，如果人類可以造出和自己一樣的、甚至迅速超越自己的機(jī)器，那么人類自身是否也是被造出的機(jī)器，人類文明的發(fā)展史，在這些發(fā)展史之中所結(jié)晶的人文主義者所珍視的一切，是否是某個被預(yù)置的實驗結(jié)果？
根據(jù)強(qiáng)人工智能領(lǐng)域相關(guān)專家的保守估計，強(qiáng)人工智可能在2075年實現(xiàn)。這場變革很可能為我們以及我們的下一代所親見與親歷。難怪跨學(xué)科的杰出人物弗諾?文奇（Vernor Vinge）說，“我們正站在變革的邊緣，而這次變革將和人類的出現(xiàn)一般意義重大?！碑?dāng)然，從另一個角度（技術(shù)的不可靠）而言，前文所提出的問題也會被非常干脆地一筆勾銷：不需要等到超人工智能的出現(xiàn)，僅僅是忠實執(zhí)行人類指令的弱人工智能就可能將人類消滅。我國翻譯出版的第一部西方短篇科幻小說集《魔鬼三角與UFO》所選的《機(jī)器人“俾斯麥”》說的正是這樣的故事：想要減肥的一家人，定制了一個機(jī)器人，想用它超強(qiáng)的執(zhí)行力監(jiān)督全家的減肥進(jìn)程。故事的結(jié)尾不難想象，機(jī)器人為了徹底執(zhí)行“減肥”這一任務(wù)，在房屋周圍布置了電網(wǎng)，一家人誰也出不去，最終因反抗機(jī)器人的專制而死于非命。
二
英國系列短劇《黑鏡》（The Black Mirror）是當(dāng)代反烏托邦的代表之作，其中討論人工智能的單元非常有趣?？萍紗栴}是這部在豆瓣上評價甚高的系列劇關(guān)注的主題之一。不僅是網(wǎng)絡(luò)時代的諸種面相在《黑鏡》系列中得到了戲劇性的展示，比如偷窺、“屏蔽”等等；人工智能在人類生活中可能存在的形式、對人類生活可能造成的影響也在該劇中得到極富戲劇形式的展現(xiàn)。它們大致可歸納為三個主題，分別與第一季第三集（《關(guān)于你的一切》）、第二季第一集（《馬上回來》）和第二季圣誕特別篇《白色圣誕》相對應(yīng)。盡管第一季第二集（《1500萬的價值》）是以一個虛擬未來為故事背景的，但是在科幻外殼之下，它的主題仍然是商業(yè)利益對于個人自由的收買，并從另一個角度提示了資本與技術(shù)結(jié)合的巨大能量。在下文討論的三個劇集中，編劇對科技所持的批判與悲觀立場固然一覽無余，但僅僅停留在這種悲觀立場的解讀顯然是不充分的；由這些劇集所提出和所形成的一些有關(guān)科技的“文學(xué)”（影視）敘事模式，以及它們所引發(fā)的一些問題仍然值得更一步的討論。
意識復(fù)制：金屬容器里的人類意識副本
《白色圣誕》的敘事采用了俄羅斯套娃的模式，包含了好幾個故事，其中討論的人工智能是這部系列劇中最令人感到恐怖的。雖然這種技術(shù)有幾種實施方式，但其核心就是意識與身體的分離――意識的復(fù)制。當(dāng)然，劇中也涉及智能眼這種與記憶粒類似的植入人體的人工智能，因前文已做討論，這里不再贅述。人的意識可以被復(fù)制，而且在未來這只不過是一個小手術(shù)而已。在該劇的第二個故事中，一位女子就做了這個手術(shù)。復(fù)制的意識被安置在一個蛋形金屬容器內(nèi)，在專業(yè)人員的“調(diào)教”下，“它”明白了自己的使命：為“自己”服務(wù)！或者說，為那個被復(fù)制的意識與身體服務(wù)！這真是關(guān)于人的“自我奴役”的最佳隱喻與諷刺了。而且，這種意識復(fù)制也給哲學(xué)家制造了很大的難題。人是因為其精神力量被稱之為人的。而被復(fù)制的意識在人的倫理學(xué)中應(yīng)該占據(jù)一種什么樣的位置呢？人可以毫無顧慮地讓自己的意識為自己服務(wù)嗎？或者使其成為最完美的奴役？因為這個被復(fù)制的意識是最了解它曾經(jīng)所屬的身體所需的。
最后的那個故事，則是專業(yè)人員如何誘使一個殺人犯承認(rèn)自己的罪行。殺人犯的意識被復(fù)制出來，同樣盛放在蛋形金屬容器里面。專業(yè)技術(shù)人員為被復(fù)制的意識虛擬了一個場景，就是案發(fā)現(xiàn)場的木屋，并且虛擬了時間，他自己的意識也進(jìn)入其中，以講故事的友好姿態(tài)獲得殺人犯（意識）的信任，對方投桃報李，將罪行的前因后果全都和盤托出。審問金屬容器中的意識副本，遠(yuǎn)比審問現(xiàn)實中的罪犯本人來得容易，對一個罪犯的囚禁與懲罰，也可以通過扭曲他的意識副本的時間和空間而實現(xiàn)。顯然，劇中已經(jīng)將人自身與其意識副本等同，否則意識副本的懺悔，是無法用來給罪犯本人定罪的。
如果說前面兩個故事的人工智能，還讓人保有人的身體，那么《白色圣誕》中的人工智能就走得太遠(yuǎn)，直接將人的意識從它所屬的身體中復(fù)制剝離開。劇中這種技術(shù)的實施指向兩個目的：一是為“自己”服務(wù)；二是實現(xiàn)法制正義，讓罪犯伏法?？剂科渲械膫惱硪饬x，上文所提到的問題就會一再浮現(xiàn)：人是否有權(quán)讓自己的意識成為這樣的一種奴役？人是否有權(quán)對他人的意識做這樣一種處置，即使是一個罪犯的意識？顯然，做手術(shù)的女子在得到自我意識的服務(wù)時極為享受；但是這份被復(fù)制的意識，最初是極其抗拒被困在金屬容器中的安排的。
三
拋開劇中所涉及的倫理問題不談，僅僅著眼于這種技術(shù)本身，也足以讓人隱隱生畏。既然意識能夠從身體中被復(fù)制或剝離，那么人也同樣可以為自我意識找到新的身體――像仿真機(jī)器人那樣的身體，或者干脆就是金屬機(jī)器的身體。乍聽起來，這是天方夜譚，但是在現(xiàn)實生活中，已經(jīng)有人在做將自我意識上傳到電腦，以到達(dá)“永生”的實驗了。人的脆弱，人的局限很多時候都體現(xiàn)在肉體上。病痛，衰老對每一個人而言都是不可逃脫的命運(yùn)，肉體的衰亡也必定導(dǎo)致意識的消失。如果意識脫離身體這種人工智能成為現(xiàn)實，人的存在方式就有可能發(fā)生根本性的轉(zhuǎn)折。人與機(jī)器之間的界限將變得越來越模糊。為了拋棄人的脆弱與局限性，人有可能將自身改造為機(jī)器的那種樣式。到那個時候，恐怕所有的文學(xué)都不再具有閱讀的價值，因為文學(xué)中所描述的，正是肉身與精神兼具的人，是必然從年輕走向衰老的鮮活的身體。
新事物的發(fā)展會對社會原有規(guī)范產(chǎn)生沖擊，因此社會規(guī)范需要不斷調(diào)整來應(yīng)對這些問題。人工智能的出現(xiàn)對傳統(tǒng)社會規(guī)范特別是刑法犯罪主體認(rèn)定、罪名設(shè)置等提出了深刻地挑戰(zhàn)。[1]面對這些刑法應(yīng)該如何應(yīng)對值得我們深入思考。
一、人工智能對刑法傳統(tǒng)制度的沖擊
人工智能大致可分為弱人工智能、強(qiáng)人工智能和超人工智能階段。超人工智能在當(dāng)下來看太過科幻化，我們暫且不在本文中討論。弱人工智能具有超強(qiáng)的運(yùn)算和學(xué)習(xí)能力，但只能在人類設(shè)定的算法程序下實施著特定動作；而強(qiáng)人工智能除了具備弱人工智能的優(yōu)點外還可能像人類一樣擁有自主意識。
（一）弱人工智能對刑法的影響
1.弱人工智能對犯罪主體認(rèn)定的沖擊。無人駕駛汽車造成的交通案件是人工智能對犯罪主體認(rèn)定提出挑戰(zhàn)的典型代表。無人駕駛技術(shù)參與的交通肇事與一般交通肇事在本質(zhì)上是一樣的，唯一的爭論焦點就在于人工智能可否成為交通事故的責(zé)任者。在現(xiàn)行刑法領(lǐng)域內(nèi)，犯罪都是“人”在實施的，這里的“人”指的是自然人和法人，從目前的刑法條文來看人工智能不是犯罪構(gòu)成要件中的“人”。[2]無人駕駛汽車可以完全由人工智能來操作，那么在“人”退居幕后的情況下交通肇事的行為是由誰實施的呢？刑法學(xué)上刑事主體的歸責(zé)原則是“無行為無犯罪”，如今人工智能仍只是被視為高科技產(chǎn)品，違反交通法規(guī)并不是它的“本意”。既然其沒有支配行為的意志，將其認(rèn)定為犯罪主體在目前來看是不合適的。
2.弱人工智能對罪名設(shè)置的影響。弱人工智能在現(xiàn)階段仍被視為工具，它在特定程序的控制下“聽命”于人類，這使其很容易被不懷好意之徒利用而成為“得力”的犯罪工具，但是由于人工智能的類人化特點使其與傳統(tǒng)的犯罪工具相比大相徑庭，例如有人利用人工智能進(jìn)行在現(xiàn)階段應(yīng)該如何定罪呢？我們發(fā)現(xiàn)現(xiàn)行刑法并沒有針對這種行為的罪名設(shè)置，根據(jù)罪刑法定原則無法對其定罪。
（二）強(qiáng)人工智能對刑法的影響
1.人工智能對主體責(zé)任判斷的沖擊。強(qiáng)人工智能可能像人類一樣擁有自主意識而被賦予主體資格獨(dú)立承擔(dān)刑事責(zé)任，而刑事責(zé)任的承擔(dān)需要分析積極因素和消極因素兩個方面，積極因素包括罪過（故意、過失）、目的等，消極因素包括責(zé)任阻卻事由等，所以說刑事責(zé)任的判斷是需要分析主體的主觀意識的。而主觀意識往往是不可觀的，在傳統(tǒng)犯罪中我們可以通過客觀行為判斷出主體的主觀意識；而強(qiáng)人工智能體的算法邏輯和人類的思維邏輯可能是完全不同的，也就是說我們無法通過客觀行為來判斷它的主觀意識，那么在這種情況下我們該如何判斷人工智能的主觀意識呢？
2.人工智能對刑罰制度的影響。人工智能從本質(zhì)上來講是由特定程序控制的計算機(jī)。鑒于人工智能心智和形體可分離的特殊性，一旦被賦予刑事主體資格，在人工智能觸犯刑法時要規(guī)制的是控制它行為的特定程序，而不是該程序的外在載體即計算機(jī)。因此我們對人工智能適用刑罰時，重點是如何限制其程序的自由或者剝奪其程序的生命等。簡單的切斷電源、斷開網(wǎng)絡(luò)或者單純地限制人工智能形體的自由，并不能達(dá)到規(guī)制人工智能的目的，因為人工智能的程序是由預(yù)先輸入的命令語句所決定的，以上措施可使人工智能體暫時無法工作但是其內(nèi)在特定程序并未改變，在接通電源和網(wǎng)絡(luò)或者解除對其自由地限制后很難保證其不會犯同樣的罪行。
二、人工智能時代刑法的制度重構(gòu)
（一）刑法對弱人工智能階段所產(chǎn)生問題的回應(yīng)
1.刑法關(guān)于弱人工智能對犯罪主體認(rèn)定帶來的沖擊的回應(yīng)
以無人駕駛汽車造成的交通肇事案件為例，按照“無行為無犯罪”的傳統(tǒng)刑法規(guī)則原則來看，似乎傳統(tǒng)意義上的肇事者已經(jīng)“難覓蹤跡”了。[3]筆者認(rèn)為，可以從如下方面來應(yīng)對人工智能對犯罪主體認(rèn)定帶來的沖擊：
（1）以交通肇事罪追究無人駕駛汽車使用者的責(zé)任。在無人駕駛汽車的行駛中，雖然無人駕駛汽車主要靠車內(nèi)智能駕駛儀來實現(xiàn)車輛的行駛，但這并不是說免除了使用者的一切注意義務(wù)，特別是車輛在情況復(fù)雜的道路上行駛時，使用者更要盡到注意義務(wù)，若是由于使用者未盡到注意義務(wù)造成重大交通事故，則可以交通肇事罪追究無人駕駛汽車使用者的責(zé)任。
（2）以產(chǎn)品犯罪追究無人駕駛汽車生產(chǎn)者和銷售者的責(zé)任。在現(xiàn)階段無人駕駛汽車仍被當(dāng)做產(chǎn)品來看待，那么無人駕駛汽車的生產(chǎn)者和銷售者就要為此承擔(dān)一定程度的產(chǎn)品質(zhì)量保證責(zé)任，如果不是由于現(xiàn)有技術(shù)瓶頸，而是無人駕駛汽車存在質(zhì)量問題導(dǎo)致重大交通事故的發(fā)生，則可以生產(chǎn)銷售偽劣產(chǎn)品罪等產(chǎn)品犯罪來追究生產(chǎn)者和銷售者的責(zé)任。[4]
（3）由社會保險來承擔(dān)責(zé)任。如果說該事故是由于當(dāng)下技術(shù)瓶頸等非人為因素造成的，是社會發(fā)展所帶來的風(fēng)險。[5]那么此時可以選擇由社會保險來承擔(dān)這份責(zé)任。
2.刑法關(guān)于弱人工智能對罪名設(shè)置影響的回應(yīng)。針對可能有人利用人工智能犯罪而法無明文規(guī)定的情況，在罪名設(shè)置方面有增設(shè)新的罪名或者對傳統(tǒng)刑法罪名進(jìn)行修正兩種方案。增設(shè)新的罪名如“濫用人工智能罪”等口袋罪名，在人工智能的外延尚未徹底界定清楚的情況下貿(mào)然增設(shè)口袋罪會顯得過于寬泛而無法準(zhǔn)確定罪量刑。鑒于此筆者認(rèn)為可以對傳統(tǒng)刑法罪名作出針對性修改使其可以囊括該種類型的犯罪行為，這樣就可以達(dá)到制裁此類犯罪維護(hù)社會秩序的目的。
（二）刑法對強(qiáng)人工智能階段所產(chǎn)生問題的回應(yīng)
1.強(qiáng)人工智能階段刑法對人工智能主體責(zé)任判斷的回應(yīng)。上文中我們提到由于人工智能的特殊性我們可能無法通過傳統(tǒng)方式分析出它的主觀意識。[6]對于此筆者認(rèn)為，既然人工智能是由算法程序控制的，我們不妨通過探究算法邏輯并摸索出算法程序的特點，進(jìn)而通過分析人工智能的算法程序來判斷它的主觀意識，最終得出其應(yīng)當(dāng)承擔(dān)的刑事責(zé)任。
2.強(qiáng)人工智能階段刑法對人工智能刑罰制度的回應(yīng)。由于人工智能體的特殊性，現(xiàn)行刑罰制度無法對其直接適用，因此我們需要創(chuàng)造出針對人工智能程序的特有刑罰。比如我們可以考慮通過更高級別的命令語句修改或者重新編寫其程序，以此降低或者終止它的學(xué)習(xí)和運(yùn)算能力，這樣就可以達(dá)到規(guī)制人工智能程序的目的。
結(jié)語
人工智能已全面參與到我們的生產(chǎn)生活之中，并對我們的現(xiàn)行社會規(guī)范產(chǎn)生了深刻的影響，刑法作為人類社會穩(wěn)定的重要調(diào)節(jié)器受到了人工智能的多方面挑戰(zhàn)。因此刑法需要做出針對性的改變，盡量減少人工智能對人類社會造成的消極影響并讓其更好的服務(wù)于人類的當(dāng)下與未來。
參考文獻(xiàn)
[1] 王軍：《人工智能的倫理問題：挑戰(zhàn)與應(yīng)對》，載《倫理學(xué)研究》2018年第4期。
[2] 何麗：《基于人工智能視域下的法律主體研究》，載《政法學(xué)刊》2018年第3期。
[3] 譚釗：《淺談無人駕駛汽車的前景和面臨的挑戰(zhàn)》，載《東方法學(xué)》2017年第8期。
[4] 林偉杰：《產(chǎn)品質(zhì)量法釋義》，中國民藝出版社2006年4月版。
一、人工智能技術(shù)的定義及其技術(shù)特點
（1）人工智能技術(shù)是指通過計算機(jī)的算法對人腦控制人類的活動進(jìn)行技術(shù)模擬，發(fā)出與人類行為相似的系統(tǒng)指令，從而能夠解決傳統(tǒng)學(xué)科難以解決的問題。人工智能技術(shù)作為一門新興的學(xué)科，不僅包含數(shù)學(xué)、計算機(jī)學(xué)等傳統(tǒng)學(xué)科，也包括了哲學(xué)、心理學(xué)、倫理學(xué)等學(xué)科。因此，人工智能技術(shù)可以說是全面地模擬人腦，以期達(dá)到人腦控制下的行為反應(yīng)，最終達(dá)到單純依靠機(jī)械來完成高危險、復(fù)雜的工作。（2）人工智能最大的技術(shù)特點即為可以利用計算機(jī)模擬運(yùn)算來達(dá)到人腦思考的效果。與人腦思考相比，人工智能技術(shù)能夠更有效地進(jìn)行信息的采集、問題的分析與處理，在這種優(yōu)勢的促進(jìn)下，復(fù)雜的腦力活動將逐漸被計算機(jī)的智能運(yùn)算所代替。通過這種方式，可以極大的減少人力勞動與人力成本的資源投入，同時提高工作效率，實現(xiàn)產(chǎn)業(yè)結(jié)構(gòu)的優(yōu)化配置，最終提高生產(chǎn)力的發(fā)展水平。
二、人工智能在電氣自動化控制中的應(yīng)用
如何保證電氣設(shè)備有條不紊地運(yùn)轉(zhuǎn)一直是電氣自動化領(lǐng)域中亟須解決的問題，然而這個問題本身具有極大的復(fù)雜性，電氣自動化控制領(lǐng)域中的人才培養(yǎng)十分不宜且后備力量嚴(yán)重不足。而人工智能技術(shù)的出現(xiàn)則有效的緩解了人才缺乏的壓力，通過計算機(jī)的智能運(yùn)算，可以有效的代替人腦對電氣產(chǎn)品進(jìn)行設(shè)計，而且當(dāng)電氣自動化工作過程中出現(xiàn)問題時，計算機(jī)也會及時做出反應(yīng)。在電氣自動化控制領(lǐng)域中實施人工智能技術(shù)，可以有效的降低生產(chǎn)成本，實現(xiàn)電氣系統(tǒng)控制下生產(chǎn)結(jié)構(gòu)的優(yōu)化。（1）電氣類產(chǎn)品設(shè)計時，人工智能可以對產(chǎn)品設(shè)計進(jìn)行優(yōu)化。由于傳統(tǒng)的設(shè)計方式在前期會有一個漫長的產(chǎn)品試驗過程，需通過歸納法得到相關(guān)設(shè)計經(jīng)驗后再由產(chǎn)品設(shè)計師進(jìn)行手工完成，而這一過程很難達(dá)到產(chǎn)品預(yù)期的效果，且前期的試驗與后期的制作方式都需要投入大量的人力物力與財力，所以，這樣的生產(chǎn)方式顯然不適用于當(dāng)今社會科技快速發(fā)展的需要。人工智能技術(shù)的加入極大的改善了這種情況，優(yōu)化了產(chǎn)品的設(shè)計過程。首先，CAD等電腦設(shè)計系統(tǒng)軟件的出現(xiàn)，輔助人們進(jìn)行前期產(chǎn)品的試驗，由于計算機(jī)相比于人腦具有準(zhǔn)確率高、運(yùn)算快速等特點，因此這一前期的試驗周期得到了極大的縮短。（2）面對電氣自動化控制過程中出現(xiàn)的故障與事故，人工智能技術(shù)可以及時預(yù)防與解決問題。人工智能技術(shù)的出現(xiàn)與發(fā)展則有效地改善了這種情況，特別是處理在變壓器、發(fā)動機(jī)等問題上，人工智能技術(shù)的表現(xiàn)尤為突出。例如，如果變壓器工作不暢，出現(xiàn)故障時，早期的解決方法一般是先對變壓器產(chǎn)生的氣體進(jìn)行收集、提取，然后分析得到的氣體，最后根據(jù)分析得出的結(jié)論來判斷故障出現(xiàn)的原因。這種方法不僅耗費(fèi)大量人力與財力，最重要的是分析問題的周期相當(dāng)長，此外，這種解決方法并不能保持一個較高的準(zhǔn)確率，一旦出現(xiàn)不到位的診斷，后果不堪設(shè)想。人工智能技術(shù)則不會出現(xiàn)這種問題，計算機(jī)會根據(jù)專家的技術(shù)指導(dǎo)與平常機(jī)器故障的樣本收集，對所產(chǎn)生的問題進(jìn)行及時有效的分析，最終生成解決方案，不僅可以提高分析問題的準(zhǔn)確率，也可以縮短分析問題的周期，全面的提高處理問題的效率。（3）人工智能技術(shù)可以簡化電氣自動化的控制流程。電氣自動化領(lǐng)域的操作流程非常的繁瑣，對于操作的步驟要求也非常嚴(yán)格，一旦出現(xiàn)細(xì)微的操作問題，則可能引起嚴(yán)重的機(jī)器故障發(fā)生，并造成無法估量的損失。如何保證電氣設(shè)備能夠有效穩(wěn)定的運(yùn)作，并在控制過程中盡量實現(xiàn)操作的簡單化、程序化是每個研究人員關(guān)心的難題。人工智能技術(shù)的出現(xiàn)與發(fā)展有效的解決了這個難題，通過對日常資料的儲存與分析，可以在機(jī)器發(fā)生事故時采取有效及時的措施，最大程度上保證社會的和諧發(fā)展。此外，人工智能技術(shù)通過對電氣設(shè)備的遠(yuǎn)端操控，實現(xiàn)了控制流程的簡單化、程序化，方便技術(shù)人員對電氣設(shè)備進(jìn)行定期的檢查與維修，節(jié)約時間的同時，也降低運(yùn)行成本。
三、總結(jié)
計算機(jī)技術(shù)的發(fā)展促進(jìn)了人工智能技術(shù)的不斷創(chuàng)新與發(fā)展，這項技術(shù)已經(jīng)在社會各個領(lǐng)域中起到了極大的作用，方便了人們的生活，并不斷促進(jìn)社會進(jìn)步。電氣自動化控制行業(yè)與居民的安定生活、社會的和諧發(fā)展息息相關(guān)，因此更應(yīng)大力發(fā)展人工智能技術(shù)。本文主要闡述了人工智能技術(shù)的定義特點以及在電氣自動化控制中的具體應(yīng)用，希望能為我國的電氣設(shè)備的發(fā)展上提供幫助。
參 考 文 獻(xiàn)
提到機(jī)器人法則，你第一時間想到的，可能是科幻作家阿西莫夫在短篇小說集《我，機(jī)器人》中描述的機(jī)器人三定律：一，機(jī)器人不得傷害人類，或袖手旁觀坐視人類受到傷害；二，除非違背第一法則，否則機(jī)器人必須服從人類的命令；三，除非違背第一、二法則，否則機(jī)器人必須保護(hù)自己。
阿西莫夫的機(jī)器人三定律就因其高度的概括性和嚴(yán)密的邏輯而為人稱道，被許多科幻作品引用并發(fā)揚(yáng)光大。連現(xiàn)代人工智能的研究亦多考慮此法則，甚至將其應(yīng)用在實際開發(fā)中。但阿西莫夫設(shè)計法則的本意并非要證明其完美無缺，恰恰相反，他在小說中不斷探討上述法則的局限性，引導(dǎo)讀者思考這樣的問題：機(jī)器人與人類到底應(yīng)當(dāng)以怎樣的方式共處？機(jī)器人是否可能擁有靈魂，而不只是徒具人類外形的機(jī)器？如果一個機(jī)器人有了靈魂，那么它是否仍應(yīng)服從這些法則？
在《機(jī)器紀(jì)元》中所設(shè)置的二法則，隱含了與阿西莫夫的機(jī)器人三定律完全不同的意味。機(jī)器人三定律并未限制機(jī)器人的自我完善和自我發(fā)展，而是明確規(guī)定了機(jī)器人對人類的從屬地位?！稒C(jī)器紀(jì)元》的二法則別出心裁：一方面，沒有要求機(jī)器人必須完全服從人類；另一方面，不能傷害的對象并未指定人類，而是要求不得傷害任何生命。一個具有了自己的意志和靈魂的機(jī)器人是不是生命？如果必須在傷害人類和傷害這樣的機(jī)器人之間做選擇的話，應(yīng)當(dāng)如何選擇？
電影中的人類采用了簡單粗暴的辦法：限制機(jī)器人的應(yīng)用、限制機(jī)器人的自我發(fā)展，不讓機(jī)器人去考慮人與機(jī)器人孰輕孰重，更不讓機(jī)器人有機(jī)會發(fā)展出自己的意志與靈魂。
False Tale
無所適從的定義
其實，無論阿西莫夫的機(jī)器人三定律，還是《機(jī)器紀(jì)元》的二法則，都有一個很明顯的問題：以不得傷害人類為例，這條法則沒有定義清楚什么是傷害，怎樣的程度是傷害，怎樣就不是?？赡芤恍┤擞X得在機(jī)器人的監(jiān)督下鍛煉身體有益身心健康，而另一些人卻會覺得每天被機(jī)器人逼著跑步讓人身心俱疲。那么機(jī)器人該怎么做？是聽任主人疏于鍛煉，身體受損，還是逼迫主人運(yùn)動？
其次，這些法則也沒有定義清楚，如果機(jī)器人陷入了不得不傷害人類的情況時，應(yīng)當(dāng)如何判斷。例如，假設(shè)未來機(jī)器人替代人類成為汽車司機(jī)，當(dāng)機(jī)器人司機(jī)在駕車時，發(fā)現(xiàn)有人沖上了馬路，剎車已經(jīng)來不及了，不改變方向會撞傷他，而改變方向會導(dǎo)致車輛撞上障礙物傷害乘車者，那么機(jī)器人應(yīng)該如何反應(yīng)？
這就是機(jī)器人三定律及其他類似法則所碰到的問題。人類的道德、倫理、社會習(xí)慣、心理差異，很難用簡單的語言概括成型，就連人類自己都為此傷透腦筋，更何況只能遵循邏輯來判斷的機(jī)器人呢？
蹣跚學(xué)步的倫理
人工智能時代，網(wǎng)絡(luò)空間安全威脅全面泛化，如何利用人工智能思想和技術(shù)應(yīng)對各類安全威脅，是國內(nèi)外產(chǎn)業(yè)界共同努力的方向。本報告從風(fēng)險演進(jìn)和技術(shù)邏輯的角度，將網(wǎng)絡(luò)空間安全分為網(wǎng)絡(luò)系統(tǒng)安全、網(wǎng)絡(luò)內(nèi)容安全和物理網(wǎng)絡(luò)系統(tǒng)安全三大領(lǐng)域；在此基礎(chǔ)上，本報告借鑒 Gartner 公司的 ASA 自適應(yīng)安全架構(gòu)模型，從預(yù)測、防御、檢測、響應(yīng)四個維度，提出人工智能技術(shù)在網(wǎng)絡(luò)空間安全領(lǐng)域的具體應(yīng)用模式。與此同時，本報告結(jié)合國內(nèi)外企業(yè)最佳實踐，詳細(xì)闡釋人工智能賦能網(wǎng)絡(luò)空間安全（AI+安全）的最新進(jìn)展。最后，本報告提出，人工智能安全將成為人工智能產(chǎn)業(yè)發(fā)展最大藍(lán)海，人工智能的本體安全決定安全應(yīng)用的發(fā)展進(jìn)程，「人工+「智能將長期主導(dǎo)安全實踐，人工智能技術(shù)路線豐富將改善安全困境，網(wǎng)絡(luò)空間安全將驅(qū)動人工智能國際合作。
目 錄
第一章 人工智能技術(shù)的發(fā)展沿革
(一) 人工智能技術(shù)的關(guān)鍵階段
(二) 人工智能技術(shù)的驅(qū)動因素
(三) 人工智能技術(shù)的典型代表
(四) 人工智能技術(shù)的廣泛應(yīng)用
第二章 網(wǎng)絡(luò)空間安全的內(nèi)涵與態(tài)勢
(一) 網(wǎng)絡(luò)空間安全的內(nèi)涵
(二) 人工智能時代網(wǎng)絡(luò)空間安全發(fā)展態(tài)勢
1、網(wǎng)絡(luò)空間安全威脅趨向智能2、網(wǎng)絡(luò)空間安全邊界開放擴(kuò)張3、網(wǎng)絡(luò)空間安全人力面臨不足4、網(wǎng)絡(luò)空間安全防御趨向主動
第三章 人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用模式
(一) AI+安全的應(yīng)用優(yōu)勢
(二) AI+安全的產(chǎn)業(yè)格局
(三) AI+安全的實現(xiàn)模式
1、人工智能應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全2、人工智能應(yīng)用于網(wǎng)絡(luò)內(nèi)容安全3、人工智能應(yīng)用于物理網(wǎng)絡(luò)系統(tǒng)安全
第四章 人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用案例
網(wǎng)絡(luò)系統(tǒng)安全篇
（一）病毒及惡意代碼檢測與防御
（二）網(wǎng)絡(luò)入侵檢測與防御
第三章 人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用模式
人工智能技術(shù)日趨成熟，人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用（簡稱 AI+安全）不僅能夠全面提高網(wǎng)絡(luò)空間各類威脅的響應(yīng)和應(yīng)對速度，而且能夠全面提高風(fēng)險防范的預(yù)見性和準(zhǔn)確性。因此，人工智能技術(shù)已經(jīng)被全面應(yīng)用于網(wǎng)絡(luò)空間安全領(lǐng)域，在應(yīng)對智能時代人類各類安全難題中發(fā)揮著巨大潛力。
（一）AI+安全的應(yīng)用優(yōu)勢
人們應(yīng)對和解決安全威脅，從感知和意識到不安全的狀態(tài)開始，通過經(jīng)驗知識加以分析，針對威脅形態(tài)做出決策，選擇最優(yōu)的行動脫離不安全狀態(tài)。類人的人工智能，正是令機(jī)器學(xué)會從認(rèn)識物理世界到自主決策的過程，其內(nèi)在邏輯是通過數(shù)據(jù)輸入理解世界，或通過傳感器感知環(huán)境，然后運(yùn)用模式識別實現(xiàn)數(shù)據(jù)的分類、聚類、回歸等分析，并據(jù)此做出最優(yōu)的決策推薦。
當(dāng)人工智能運(yùn)用到安全領(lǐng)域，機(jī)器自動化和機(jī)器學(xué)習(xí)技術(shù)能有效且高效地幫助人類預(yù)測、感知和識別安全風(fēng)險，快速檢測定位危險來源，分析安全問題產(chǎn)生的原因和危害方式，綜合智慧大腦的知識庫判斷并選擇最優(yōu)策略，采取緩解措施或抵抗威脅，甚至提供進(jìn)一步緩解和修復(fù)的建議。這個過程不僅將人們從繁重、耗時、復(fù)雜的任務(wù)中解放出來，且面對不斷變化的風(fēng)險環(huán)境、異常的攻擊威脅形態(tài)比人更快、更準(zhǔn)確，綜合分析的靈活性和效率也更高。
因此，人工智能的「思考和行動邏輯與安全防護(hù)的邏輯從本質(zhì)上是自洽的，網(wǎng)絡(luò)空間安全天然是人工智能技術(shù)大顯身手的領(lǐng)域。
（1）基于大數(shù)據(jù)分析的高效威脅識別：大數(shù)據(jù)為機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法提供源源動能，使人工智能保持良好的自我學(xué)習(xí)能力，升級的安全分析引擎，具有動態(tài)適應(yīng)各種不確定環(huán)境的能力，有助于更好地針對大量模糊、非線性、異構(gòu)數(shù)據(jù)做出因地制宜的聚合、分類、序列化等分析處理，甚至實現(xiàn)了對行為及動因的分析，大幅提升檢測、識別已知和未知網(wǎng)絡(luò)空間安全威脅的效率，升級精準(zhǔn)度和自動化程度。
（2）基于深度學(xué)習(xí)的精準(zhǔn)關(guān)聯(lián)分析：人工智能的深度學(xué)習(xí)算法在發(fā)掘海量數(shù)據(jù)中的復(fù)雜關(guān)聯(lián)方面表現(xiàn)突出，擅長綜合定量分析相關(guān)安全性，有助于全面感知內(nèi)外部安全威脅。人工智能技術(shù)對各種網(wǎng)絡(luò)安全要素和百千級維度的安全風(fēng)險數(shù)據(jù)進(jìn)行歸并融合、關(guān)聯(lián)分析，再經(jīng)過深度學(xué)習(xí)的綜合理解、評估后對安全威脅的發(fā)展趨勢做出預(yù)測，還能夠自主設(shè)立安全基線達(dá)到精細(xì)度量網(wǎng)絡(luò)安全性的效果，從而構(gòu)建立體、動態(tài)、精準(zhǔn)和自適應(yīng)的網(wǎng)絡(luò)安全威脅態(tài)勢感知體系。
（3）基于自主優(yōu)化的快速應(yīng)急響應(yīng)：人工智能展現(xiàn)出強(qiáng)大的學(xué)習(xí)、思考和進(jìn)化能力，能夠從容應(yīng)對未知、變化、激增的攻擊行為，并結(jié)合當(dāng)前威脅情報和現(xiàn)有安全策略形成適應(yīng)性極高的安全智慧，主動快速選擇調(diào)整安全防護(hù)策略，并付諸實施，最終幫助構(gòu)建全面感知、適應(yīng)協(xié)同、智能防護(hù)、優(yōu)化演進(jìn)的主動安全防御體系。
（4）基于進(jìn)化賦能的良善廣域治理：隨著網(wǎng)絡(luò)空間內(nèi)涵外延的不斷擴(kuò)展，人類面臨的安全威脅無論從數(shù)量、來源、形態(tài)、程度和修復(fù)性上都在超出原本行之有效的分工和應(yīng)對能力，有可能處于失控邊緣，人工智能對人的最高智慧的極限探索，也將拓展網(wǎng)絡(luò)治理的理念和方式，實現(xiàn)安全治理的突破性創(chuàng)新。人工智能不僅能解決當(dāng)下的安全難題，而通過在安全場景的深化應(yīng)用和檢驗，發(fā)現(xiàn)人工智能的缺陷和不足，為下一階段的人工智能發(fā)展和應(yīng)用奠定基礎(chǔ)，指明方向，推動人工智能技術(shù)的持續(xù)變革及其更廣域的賦能。
（二）AI+安全的產(chǎn)業(yè)格局
人工智能以其獨(dú)特的優(yōu)勢正在各類安全場景中形成多種多樣的解決方案。從可觀察的市場指標(biāo)來看，近幾年來人工智能安全市場迅速成長， 公司在 2018 年的研究表明，在網(wǎng)絡(luò)安全中人工智能應(yīng)用場景增多，同時地域覆蓋范圍擴(kuò)大，將進(jìn)一步擴(kuò)大技術(shù)在安全領(lǐng)域的應(yīng)用，因此人工智能技術(shù)在安全市場內(nèi)將快速發(fā)展，預(yù)計到 2024 年，可用在安全中的人工智能技術(shù)市場規(guī)模將超過 350 億美元，在 2017-2024 年之間年復(fù)合增長率（CAGR）可達(dá) 31%。
MarketsandMarkets 公司在 2018 年 1 月的《安全市場中人工智能》報告則認(rèn)為，2016 年 AI 安全市場規(guī)模就已達(dá) 29.9 億美元、2017 年更是達(dá)到 39.2 億美元，預(yù)測在 2025 年將達(dá)到 348.1 億美元，年復(fù)合增長率為 31.38%。而愛爾蘭的 Research and Markets 公司在 2018 年 4 月份了專門的市場研究報告，認(rèn)為到 2023 年人工智能在安全領(lǐng)域應(yīng)用的市場規(guī)模將達(dá) 182 億美元，年復(fù)合增長率為 34.5%。由于機(jī)器學(xué)習(xí)對付網(wǎng)絡(luò)犯罪較為有效，因此機(jī)器學(xué)習(xí)作為單一技術(shù)將占領(lǐng)最大的一塊市場，到 2023 年其市場規(guī)模預(yù)計可達(dá) 60 億美元。
除了傳統(tǒng)安全公司致力于人工智能安全，大型互聯(lián)網(wǎng)企業(yè)也在積極開展人工智能安全實踐，如 Google、Facebook、Amazon、騰訊、阿里巴巴等均在圍繞自身業(yè)務(wù)積極布局人工智能安全應(yīng)用。
（三）AI+安全的實現(xiàn)模式
人工智能是以計算機(jī)科學(xué)為基礎(chǔ)的綜合交叉學(xué)科，涉及技術(shù)領(lǐng)域眾多、應(yīng)用范疇廣泛，其知識、技術(shù)體系實際與整個科學(xué)體系的演化和發(fā)展密切相關(guān)。因此，如何根據(jù)各類場景安全需求的變化，進(jìn)行 AI 技術(shù)的系統(tǒng)化配置尤為關(guān)鍵。
本報告采用 Gartner 公司 2014 年提出的自適應(yīng)安全架構(gòu)（ASA，Adaptive SecurityArchitecture）來分析安全場景中人工智能技術(shù)的應(yīng)用需求，此架構(gòu)重在持續(xù)監(jiān)控和行為分析，統(tǒng)合安全中預(yù)測、防御、檢測、響應(yīng)四層面，直觀的采用四象限圖來進(jìn)行安全建模。其中「預(yù)測指檢測安全威脅行動的能力；「防御表示現(xiàn)有預(yù)防攻擊的產(chǎn)品和流程；「檢測用以發(fā)現(xiàn)、監(jiān)測、確認(rèn)及遏制攻擊行為的手段；「響應(yīng)用來描述調(diào)查、修復(fù)問題的能力。
本報告將 AI+安全的實現(xiàn)模式按照階段進(jìn)行分類和總結(jié)，識別各領(lǐng)域的外在和潛在的安全需求，采用 ASA 分析應(yīng)用場景的安全需求及技術(shù)要求，結(jié)合算法和模型的多維度分析， 尋找 AI+安全實現(xiàn)模式與適應(yīng)條件，揭示技術(shù)如何響應(yīng)和滿足安全需求，促進(jìn)業(yè)務(wù)系統(tǒng)實現(xiàn)持續(xù)的自我進(jìn)化、自我調(diào)整，最終動態(tài)適應(yīng)網(wǎng)絡(luò)空間不斷變化的各類安全威脅。
1、人工智能應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全
人工智能技術(shù)較早應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全領(lǐng)域，從機(jī)器學(xué)習(xí)、專家系統(tǒng)以及過程自動化等到如今的深度學(xué)習(xí)，越來越多的人工智能技術(shù)被證實能有效增強(qiáng)網(wǎng)絡(luò)系統(tǒng)安全防御：
機(jī)器學(xué)習(xí) (ML， Machine Learning):在安全中使用機(jī)器學(xué)習(xí)技術(shù)可增強(qiáng)系統(tǒng)的預(yù)測能力，動態(tài)防御攻擊，提升安全事件響應(yīng)能力。專家系統(tǒng)（ES， Expert System）：可用于安全事件發(fā)生時為人提供決策輔助或部分自主決策。過程自動化 (AT， Automation )：在安全領(lǐng)域中應(yīng)用較為普遍，代替或協(xié)助人類進(jìn)行檢測或修復(fù)，尤其是安全事件的審計、取證，有不可替代的作用。深度學(xué)習(xí)（DL， Deep Learning）：在安全領(lǐng)域中應(yīng)用非常廣泛，如探測與防御、威脅情報感知，結(jié)合其他技術(shù)的發(fā)展取得極高的成就。
如圖 3 所示，通過分析人工智能技術(shù)應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全，在四個層面均可有效提升安全效能：
預(yù)測：基于無監(jiān)督學(xué)習(xí)、可持續(xù)訓(xùn)練的機(jī)器學(xué)習(xí)技術(shù)，可以提前研判網(wǎng)絡(luò)威脅，用專家系統(tǒng)、機(jī)器學(xué)習(xí)和過程自動化技術(shù)來進(jìn)行風(fēng)險評估并建立安全基線，可以讓系統(tǒng)固若金湯。
防御：發(fā)現(xiàn)系統(tǒng)潛在風(fēng)險或漏洞后，可采用過程自動化技術(shù)進(jìn)行加固。安全事件發(fā)生時，機(jī)器學(xué)習(xí)還能通過模擬來誘導(dǎo)攻擊者，保護(hù)更有價值的數(shù)字資產(chǎn)，避免系統(tǒng)遭受攻擊。
檢測：組合機(jī)器學(xué)習(xí)、專家系統(tǒng)等工具連續(xù)監(jiān)控流量，可以識別攻擊模式，實現(xiàn)實時、無人參與的網(wǎng)絡(luò)分析，洞察系統(tǒng)的安全態(tài)勢，動態(tài)靈活調(diào)整系統(tǒng)安全策略，讓系統(tǒng)適應(yīng)不斷變化的安全環(huán)境。
響應(yīng)：系統(tǒng)可及時將威脅分析和分類，實現(xiàn)自動或有人介入響應(yīng)，為后續(xù)恢復(fù)正常并審計事件提供幫助和指引。
因此人工智能技術(shù)應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全，正在改變當(dāng)前安全態(tài)勢，可讓系統(tǒng)彈性應(yīng)對日益細(xì)化的網(wǎng)絡(luò)攻擊。在安全領(lǐng)域使用人工智能技術(shù)也會帶來一些新問題，不僅有人工智能技術(shù)用于網(wǎng)絡(luò)攻擊等伴生問題，還有如隱私保護(hù)等道德倫理問題，因此還需要多種措施保證其合理應(yīng)用?？偠灾?，利用機(jī)器的智慧和力量來支持和保障網(wǎng)絡(luò)系統(tǒng)安全行之有效。
2、人工智能應(yīng)用于網(wǎng)絡(luò)內(nèi)容安全
人工智能技術(shù)可被應(yīng)用于網(wǎng)絡(luò)內(nèi)容安全領(lǐng)域，參與網(wǎng)絡(luò)文本內(nèi)容檢測與分類、視頻和圖片內(nèi)容識別、語音內(nèi)容檢測等事務(wù)，切實高效地協(xié)助人類進(jìn)行內(nèi)容分類和管理。面對包括視頻、圖片、文字等實時海量的信息內(nèi)容，人工方式開展網(wǎng)絡(luò)內(nèi)容治理已經(jīng)捉襟見肘，人工智能技術(shù)在網(wǎng)絡(luò)內(nèi)容治理層面已然不可替代。
在網(wǎng)絡(luò)內(nèi)容安全領(lǐng)域所應(yīng)用的人工智能技術(shù)如下：
自然語言處理（NLP， Natural Language Processing）：可用于理解文字、語音等人類創(chuàng)造的內(nèi)容，在內(nèi)容安全領(lǐng)域不可或缺。圖像處理（IP， Image Processing）：對圖像進(jìn)行分析，進(jìn)行內(nèi)容的識別和分類，在內(nèi)容安全中常用于不良信息處理。視頻分析技術(shù) (VA， Video Analysis)：對目標(biāo)行為的視頻進(jìn)行分析，識別出視頻中活動的目標(biāo)及相應(yīng)的內(nèi)涵，用于不良信息識別。
如圖 4 所示，通過分析人工智能技術(shù)應(yīng)用于網(wǎng)絡(luò)內(nèi)容安全，在四個層面均可有效提升安全效能：
預(yù)防階段：內(nèi)容安全最重要的是合規(guī)性，由于各領(lǐng)域的監(jiān)管法律/政策的側(cè)重點不同而有所區(qū)別且動態(tài)變化。在預(yù)防階段，可使用深度學(xué)習(xí)和自然語言處理進(jìn)行相關(guān)法律法規(guī)條文的理解和解讀，并設(shè)定內(nèi)容安全基線，再由深度學(xué)習(xí)工具進(jìn)行場景預(yù)測和風(fēng)險評估，并及時將結(jié)果向網(wǎng)絡(luò)內(nèi)容管理人員報告。
防御階段：應(yīng)用深度學(xué)習(xí)等工具可完善系統(tǒng)，防范潛在安全事件的發(fā)生。
檢測階段：自然語言、圖像、視頻分析等智能工具能快速識別內(nèi)容，動態(tài)比對安全基線，及時將分析結(jié)果交付給人類伙伴進(jìn)行后續(xù)處置，除此之外，基于內(nèi)容分析的情感人工智能也已逐步應(yīng)用于輿情預(yù)警，取得不俗成果。
響應(yīng)階段：在后續(xù)調(diào)查或留存審計資料階段，過程自動化同樣不可或缺。
3、人工智能應(yīng)用于物理網(wǎng)絡(luò)系統(tǒng)安全
隨著物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)、5G 等技術(shù)的成熟，網(wǎng)絡(luò)空間發(fā)生深刻變化，人、物、物理空間通過各類系統(tǒng)實現(xiàn)無縫連接，由于涉及的領(lǐng)域眾多同時接入的設(shè)備數(shù)量巨大，傳感器網(wǎng)絡(luò)所產(chǎn)生的數(shù)據(jù)可能是高頻低密度數(shù)據(jù)，人工已經(jīng)難以應(yīng)對，采用人工智能勢在必行。但由于應(yīng)用場景極為復(fù)雜多樣，可供應(yīng)用的人工智能技術(shù)將更加廣泛，并會驅(qū)動人工智能技術(shù)自身新發(fā)展。
