行業(yè)新聞
反思人工智能領(lǐng)域的神話現(xiàn)象
我的位置：主頁(yè) >行業(yè)新聞
2017年7月，國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，制定了我國(guó)人工智能未來(lái)發(fā)展的戰(zhàn)略部署。人工智能的健康發(fā)展，關(guān)系到這一國(guó)家戰(zhàn)略的有效實(shí)施。目前，從技術(shù)、管理、倫理和法律等角度提出的治理舉措，顯性地護(hù)航了該戰(zhàn)略的實(shí)施。人工智能與其他學(xué)科的有效融合，將有效推動(dòng)人工智能戰(zhàn)略的實(shí)施。而一些不良影響因素的存在，則會(huì)阻礙其相互融合以及戰(zhàn)略實(shí)施。其中，人工智能領(lǐng)域的神話現(xiàn)象就是一個(gè)重要的不良影響因素。從文化角度看，神話現(xiàn)象的存在會(huì)對(duì)人工智能的健康發(fā)展造成隱性影響。
神話現(xiàn)象的表現(xiàn)形式
人工智能領(lǐng)域的神話現(xiàn)象是技術(shù)神話的一種表現(xiàn)形式，具體表現(xiàn)為奇點(diǎn)來(lái)臨、人工智能成為主體、人工智能成為偶像、人工智能話語(yǔ)神話四個(gè)方面。
第一種神話形式是奇點(diǎn)神話。“奇點(diǎn)來(lái)臨”是庫(kù)茨維爾（Ray Kurzweil）提出的概念。這一概念是對(duì)人工智能與人類關(guān)系的特定特征的描述，本意可以看作人工智能超越人類的特征。今天，這個(gè)概念被演繹出一種時(shí)代變更的特征，即人類被智能機(jī)器超越的特征。然而，懸置這一特征，我們會(huì)發(fā)現(xiàn)一個(gè)被掩蓋的事情，即超級(jí)人工智能降臨的時(shí)刻?！俺健迸c“降臨”是描述人工智能與人類關(guān)系的兩個(gè)不同的概念?！俺健苯⒃谥悄苓M(jìn)化的基礎(chǔ)上，指經(jīng)過(guò)特定時(shí)間與技術(shù)發(fā)展，人工智能在與人類智能相對(duì)齊后，會(huì)勝過(guò)人類智能。而“降臨”則不是建立在延續(xù)性的基礎(chǔ)上，對(duì)于人工智能而言，指的是在某個(gè)特定時(shí)刻“意識(shí)覺(jué)醒”的發(fā)生。所以，從時(shí)間觀念來(lái)看，奇點(diǎn)來(lái)臨是時(shí)刻發(fā)生意義上的現(xiàn)象，而并不是延續(xù)演化意義上的經(jīng)驗(yàn)事件。這樣的話，人工智能作為一種神話形象就存在了。所以，接受奇點(diǎn)來(lái)臨的可能性結(jié)果，會(huì)導(dǎo)致人工智能發(fā)展中神話現(xiàn)象的產(chǎn)生。
第二種神話形式是主體神話。智能體的出現(xiàn)讓我們看到了與人類類似的現(xiàn)象，即從無(wú)到有的一個(gè)發(fā)生過(guò)程。智能體可以從一個(gè)無(wú)的環(huán)境中生成。人工智能類似于人的一點(diǎn)，在于空間記憶細(xì)胞的結(jié)構(gòu)。人工智能領(lǐng)域的相關(guān)實(shí)驗(yàn)（如智能體的空間學(xué)習(xí)）表明：智能體的空間記憶細(xì)胞的結(jié)構(gòu)，類似于人類、動(dòng)物的空間記憶細(xì)胞的結(jié)構(gòu)。更為有趣的是，深度學(xué)習(xí)網(wǎng)絡(luò)中的每層神經(jīng)元的統(tǒng)計(jì)特性，與大腦皮質(zhì)層層級(jí)結(jié)構(gòu)中神經(jīng)元的統(tǒng)計(jì)特性非常接近。這些經(jīng)驗(yàn)性研究有一個(gè)明顯的假設(shè)：智能體作為一種新的主體形式，與人類主體有著極強(qiáng)的類似性。當(dāng)然，人工智能作為新的主體還有更深的含義，即從智能體演化為新的主體。因?yàn)閮?nèi)在結(jié)構(gòu)的相似性，目前智能體的認(rèn)知、決策能力趨近于人，可能只是時(shí)間問(wèn)題。這并不是人類設(shè)計(jì)的結(jié)構(gòu)，而似乎成為智能體的先天結(jié)構(gòu)。智能體通過(guò)認(rèn)知、情感等能力獲得道德能力，將成為其邁向主體過(guò)程的必要鋪墊。
第三種神話形式是偶像神話。在一些領(lǐng)域，人工智能能夠自主作出決策判斷，看出人無(wú)法看出的問(wèn)題，從而獲得決策權(quán)。人們對(duì)于智能體的狂迷、崇拜態(tài)度，使新的偶像得以產(chǎn)生。這是在宗教性偶像之外的技術(shù)偶像，會(huì)對(duì)人類自身的自主性產(chǎn)生極大影響。在這種情況下，決策與自主權(quán)具有了被讓渡出去的可能性。
第四種神話形式是話語(yǔ)神話。有學(xué)者指出，人工智能產(chǎn)生了一套話語(yǔ)體系，在這一意義上成為現(xiàn)代人再造的一個(gè)新的神話，表達(dá)了人對(duì)于技術(shù)無(wú)限進(jìn)步的質(zhì)疑和恐懼，同時(shí)又借助于對(duì)其批判來(lái)捍衛(wèi)人之為人的固有尊嚴(yán)。人工智能話語(yǔ)神話的出現(xiàn)，意味著人類對(duì)其演化的必然性以及不可干預(yù)性的擔(dān)憂與恐懼，同時(shí)也意味著基于人文主義的一種“保衛(wèi)戰(zhàn)”。然而，這一論述的不足之處也非常明顯。從歷史上看，一些權(quán)力（如政治權(quán)力）的合法性，有時(shí)會(huì)來(lái)自神話賦權(quán)，如君權(quán)神授、元代之長(zhǎng)生天等講法，都反映了這一觀念。所以，神話不僅是一種話語(yǔ)，更能夠賦予權(quán)力合法性。人工智能也是如此，相關(guān)神話讓某些學(xué)術(shù)活動(dòng)、科研活動(dòng)具有了特定的合法形式。
神話現(xiàn)象的成因
要理解人工智能領(lǐng)域神話現(xiàn)象的形成，還需要從神話本身入手。對(duì)于神話的理解，可以劃分為兩種，即理性理解與非理性理解。在前者中，神話被看作精神的外化產(chǎn)物、前理性階段、政權(quán)合法性根據(jù)。馬克思將神話看作人類想象力的外化，是以想象力征服和支配自然的產(chǎn)物。他在《〈政治經(jīng)濟(jì)學(xué)批判〉導(dǎo)言》中指出：“任何神話都是用想象和借助想象以征服自然力，支配自然力，把自然力加以形象化；因而，隨著這些自然力之實(shí)際上被支配，神話也就消失了?！睂⑸裨捒醋髑袄硇噪A段的觀點(diǎn)主要來(lái)自卡西爾（Ernst Cassirer），他將神話看作前理性階段、一個(gè)充滿了迷魅的時(shí)期。布留爾（Lucien Lévy-Bruhl）對(duì)原始思維的討論，可以看作對(duì)原始神話思維的討論。前理性階段意味著神話作為理性之源的地位確立。沃格林（Eric Voegelin）則將神話看作政治合法性的根據(jù)。在非理性視野中，神話與創(chuàng)世、恐懼與狂迷和祈求聯(lián)系在一起，一種通過(guò)非理性方式獲得根據(jù)的形式確立起來(lái)?？梢钥闯觯胂罅Τ蔀樯裨捚鹪吹尿?qū)動(dòng)力，人類對(duì)于自然界的無(wú)知與恐懼放大了對(duì)于自然的想象力，最終導(dǎo)致了神話的產(chǎn)生。
現(xiàn)代神話的發(fā)生除了人類想象力之外，還有另外一些因素在起作用。在現(xiàn)代社會(huì)中，國(guó)家神話、技術(shù)神話與資本神話成為主要的表現(xiàn)形式。國(guó)家神話曾被卡西爾作為重要現(xiàn)象系統(tǒng)討論過(guò)。當(dāng)前，資本神話已成為一種普遍現(xiàn)象。資本具有強(qiáng)大的力量，在資本力量的驅(qū)動(dòng)下，一系列神話現(xiàn)象被制造出來(lái)，如各類影星、歌星、人工智能、元宇宙等。技術(shù)神話主要是在更為經(jīng)驗(yàn)化的形式上被加以討論，一種形式就是信息媒介技術(shù)導(dǎo)致的數(shù)字神話。莫斯可（Vincent Mosco）討論了數(shù)字技術(shù)神話的確立，并指出數(shù)字信息技術(shù)發(fā)展導(dǎo)致了歷史、地理與政治的終結(jié)。然而，人工智能領(lǐng)域中的神話現(xiàn)象并沒(méi)有得到充分關(guān)注。
人工智能神話作為現(xiàn)代神話的一種典型類型，其產(chǎn)生的一個(gè)最基礎(chǔ)因素是想象。在原始時(shí)期，人類對(duì)自然界缺乏認(rèn)知且無(wú)力掌控，所以將想象力作為一種支配因素。隨著科學(xué)技術(shù)的發(fā)展，想象力逐漸退卻，科學(xué)成為主要的支配形式。在人工智能迅猛發(fā)展的今天，這一情況變得更為復(fù)雜。對(duì)自然界的原始恐懼為對(duì)機(jī)器的現(xiàn)代恐懼所取代，盧德主義依然有其存在的土壤，這種恐懼滋生著人工智能領(lǐng)域的神話現(xiàn)象。想象依然是影響人工智能發(fā)展中神話形成的主要原因，但是這種想象已表現(xiàn)為對(duì)技術(shù)的過(guò)度想象。然而，容易被忽略的是科學(xué)理性因素。在科學(xué)領(lǐng)域，人工智能取得了很多令人驚異的成果，如類似于動(dòng)物進(jìn)化的智能體演化方式、能夠自我復(fù)制的智能體等。這些成果無(wú)形之中刺激著敏感者的神經(jīng)，使其以一種恐懼的心態(tài)看待智能體在悄然之中的變化。同時(shí)，現(xiàn)實(shí)場(chǎng)景以及生活自身的深度智能化，也成為社會(huì)實(shí)踐活動(dòng)合法性的重要根據(jù)。
我們需要防范人工智能領(lǐng)域神話現(xiàn)象的可能后果。這是一種技術(shù)文化現(xiàn)象，其后果往往是隱性的，并不像人工智能本身及其應(yīng)用產(chǎn)生的顯性風(fēng)險(xiǎn)和社會(huì)風(fēng)險(xiǎn)那樣引人關(guān)注。以人工智能倫理為例，現(xiàn)在人們的目光多集中在人工智能產(chǎn)生的安全、隱私、偏見(jiàn)和信任等問(wèn)題上，大量規(guī)范也被陸續(xù)制定出來(lái)。然而，文化方面的問(wèn)題因其隱性而容易被忽略。比如，人工智能話語(yǔ)神話導(dǎo)致的技術(shù)傲慢、過(guò)度想象化導(dǎo)致的人工智能領(lǐng)域的神話現(xiàn)象等。所以，我們需要認(rèn)真對(duì)待此類問(wèn)題。
防范神話現(xiàn)象形成的途徑
第一，重建信任以消除對(duì)機(jī)器的現(xiàn)代恐懼。根據(jù)馬克思的理論邏輯，人工智能神話的形成主要是對(duì)人工智能的想象所導(dǎo)致，過(guò)度的想象導(dǎo)致了人工智能神話的形成。過(guò)度想象的深處是人類對(duì)于機(jī)器的不信任。如今，人工智能深度學(xué)習(xí)算法層次使得黑箱效應(yīng)更加嚴(yán)重，甚至有時(shí)連技術(shù)專家都束手無(wú)策。對(duì)此，我們需要對(duì)人工智能進(jìn)行科學(xué)普及，讓黑箱不再“全黑”，并讓有關(guān)企業(yè)的信息更為透明。此外，還有文化上的因素。目前大眾文化中如“敵托邦”的科幻作品就在塑造著對(duì)機(jī)器人的特定恐懼。德國(guó)學(xué)者肯內(nèi)（Christopher Coenen）指出，從歷史上看，西方思想文化史中存在著極濃厚的對(duì)于機(jī)器的不信任觀念，這種觀念深深地影響了今天人們對(duì)于人工智能的態(tài)度及文化。因此，對(duì)這些因素也需要加以重視?？傮w來(lái)說(shuō)，重新構(gòu)建人類對(duì)于機(jī)器的信任心理及文化，消除對(duì)機(jī)器的現(xiàn)代恐懼尤為重要。
第二，充分挖掘人工智能意識(shí)發(fā)生的條件。關(guān)于主體神話，盡管相比當(dāng)下專用人工智能研究的大眾性來(lái)說(shuō)，通用人工智能研究屬于小眾研究，但這種研究的結(jié)果卻是革命性的?！爸悄鼙ā薄爸悄苡X(jué)醒”等都展示了這一點(diǎn)。牛津大學(xué)的弗洛里迪（Luciano Floridi）從中看到了一個(gè)超歷史的可能性。盡管人工智能從多個(gè)方面具有與人類智能的相似性，但人工智能的意識(shí)絕不是設(shè)計(jì)生成的，而更多是一種自然發(fā)生的結(jié)果，如同果熟落地、花開(kāi)花落一樣。當(dāng)意識(shí)發(fā)生的條件具備之時(shí)，也就是意識(shí)的生成之時(shí)。對(duì)這種發(fā)生條件的分析，是人工智能哲學(xué)要承擔(dān)的任務(wù)。
第三，形成增強(qiáng)智能的意識(shí)以平衡人類與人工智能的關(guān)系。這是針對(duì)偶像神話的一種舉措。盡管人工智能具有超強(qiáng)的感知和信息獲取能力，也具有超強(qiáng)的算力，然而在作出決策方面，有限度地交給機(jī)器可能是明智之舉。這一點(diǎn)就是增強(qiáng)智能觀念所著重強(qiáng)調(diào)的。增強(qiáng)智能是一種設(shè)計(jì)模式，用來(lái)實(shí)現(xiàn)在人與人工智能的合作中以人為中心的合作模式，可以增強(qiáng)包括學(xué)習(xí)、決策和新經(jīng)驗(yàn)在內(nèi)的認(rèn)知能力。增強(qiáng)智能不是一種實(shí)體性的技術(shù)類型，不像人工智能那樣去模擬人類的思維和行動(dòng)，創(chuàng)造出一個(gè)類人的形象，而是更多呈現(xiàn)出一種人與人工智能體的關(guān)系樣態(tài)。增強(qiáng)智能的目標(biāo)是讓人—機(jī)實(shí)現(xiàn)合作，產(chǎn)生一種既不是機(jī)器也不是人類單獨(dú)獲得的積極后果。
第四，對(duì)于奇點(diǎn)臨近有一種正確的認(rèn)識(shí)。奇點(diǎn)臨近是一種神話重構(gòu)抑或趨勢(shì)預(yù)測(cè)？如果是未來(lái)學(xué)家的趨勢(shì)預(yù)測(cè)，那么應(yīng)該在這種宏大敘事中找到發(fā)生的最初跡象，從微小跡象預(yù)判可能發(fā)生的事情。能夠生成智能體的環(huán)境、能夠自我復(fù)制的智能體等科學(xué)成果的提出，或許就是微小跡象。但我們不應(yīng)該只是從一個(gè)證偽/證實(shí)的角度去分析所面對(duì)的問(wèn)題。因?yàn)槲⑿〔⒉灰馕吨纥c(diǎn)沒(méi)有到來(lái)，而是要作出前瞻式判斷。如果是神話重構(gòu)，那么我們也要看到這種重構(gòu)話語(yǔ)的合理之處，一種時(shí)刻性時(shí)間觀念隱含在其中。這種時(shí)間觀念早已在傳統(tǒng)的“時(shí)機(jī)”中有所體現(xiàn)，但現(xiàn)代性的發(fā)展使這種觀念被持續(xù)性的時(shí)間觀念所遮蔽。
第五，建立一種倫理學(xué)的應(yīng)對(duì)方式。人工智能并不是簡(jiǎn)單的技術(shù)，而是有很多超越技術(shù)的地方。比如，超級(jí)智能體可能的自覺(jué)意識(shí)、奇點(diǎn)帶來(lái)的機(jī)器超越和取代人類、成為主體的自主意識(shí)等。如果說(shuō)這種超越可能過(guò)于久遠(yuǎn)，那么我們需要看到，人工智能展現(xiàn)出了一種匯聚能力。人工智能將諸多技術(shù)匯聚，甚至成為開(kāi)啟未來(lái)智慧城市、數(shù)字化轉(zhuǎn)型的必要技術(shù)基礎(chǔ)，這對(duì)于未來(lái)的影響是深遠(yuǎn)的。從這個(gè)角度看，約納斯（Hans Jonas）的責(zé)任倫理學(xué)是必要的，有助于我們建立起技術(shù)會(huì)影響未來(lái)的觀念。此外，我們還可以通過(guò)美德倫理學(xué)的有效復(fù)興，應(yīng)對(duì)人工智能帶給我們的種種問(wèn)題（如技術(shù)性傲慢）。謙遜作為一種美德，能夠?yàn)榭朔夹g(shù)性傲慢提供一劑良藥。但這不是深層的，需要找到更為深入的方式。究其根本，技術(shù)性傲慢還是理性傲慢的體現(xiàn)?；蛟S，進(jìn)一步分析記憶及其在智能時(shí)代的作用，有助于問(wèn)題的進(jìn)一步解決。
