人類是否能造出有道德的機器人
2018年12月18日,歐盟人工智能高級別專家組發(fā)布了一份人工智能道德準(zhǔn)則草案。在許多人擔(dān)憂人工智能取代人類、破壞倫理的大背景下,該草案旨在指導(dǎo)人們制造一種“可信賴的人工智能”。如何才能讓機器人更令人信賴?可否賦予它們道德修養(yǎng)呢?就此話題,作者采訪了美國匹茲堡大學(xué)科學(xué)哲學(xué)和科學(xué)史系杰出教授、西安交通大學(xué)長江講座教授科林·艾倫。
問:什么是人工智能的“道德”?
艾倫:人工智能的“道德”,或者說“道德機器”“機器道德”,有很多不同的含義。我將這些含義歸為3種。第一種含義中,機器應(yīng)具有與人類完全相同的道德能力。第二種含義中,機器不用完全具備人類的能力,但它們對道德相關(guān)的事實應(yīng)該具有敏感性,并且能依據(jù)事實進行自主決策。第三種含義則是說,機器設(shè)計者會在最低層面上考慮機器的道德,但是并沒有賦予機器人關(guān)注道德事實并做出決策的能力。
就目前而言,第一種含義所設(shè)想的機器仍是一個科學(xué)幻想。所以,我在《道德機器》一書中略過了對它的探討,而更有興趣探討那些介乎第二、第三種意義之間的機器。當(dāng)下,我們希望設(shè)計者在設(shè)計機器人時能夠考慮道德因素。這是因為,在沒有人類直接監(jiān)督的情況下,機器人可能將在公共領(lǐng)域承擔(dān)越來越多的工作。這是我們第一次創(chuàng)造可以無監(jiān)督地運行的機器,這也是人工智能倫理問題與以往一些科技倫理問題之間最本質(zhì)的區(qū)別。在這樣的“無監(jiān)督”情境中,我們希望機器能夠做出更道德的決策,希望對機器的設(shè)計不僅僅要著眼于安全性,更要關(guān)注人類在乎的價值問題。
問:如何讓人工智能具有道德?
艾倫:首先要說的是,人類自己還不是完全道德的,將一個人培養(yǎng)成有道德的人可不是一件容易的事。人類的本質(zhì)都是出于利己主義做事,而不考慮他人的需求和利益。然而,一個道德的智能體必須學(xué)會克制自己的欲望以方便他人。我們現(xiàn)在構(gòu)建的機器人,其實并不具有自己的欲望,也沒有自己的動機,因為它們沒有自私的利益。所以,訓(xùn)練人工智能和訓(xùn)練人的道德是有很大差異的。對機器的訓(xùn)練問題在于,我們怎樣才能賦予機器一種能力,讓它敏感地察覺到哪些對人類的道德價值觀而言是重要的事情。此外,機器需要認識到它的行為會對人類造成痛苦嗎?我認為是需要的。我們可以考慮通過編程,使機器按照這種方式行事,且無需考慮怎么讓機器人優(yōu)先考慮他者利益,畢竟目前的機器還不擁有利己的本能。
問:發(fā)展人工智能的道德應(yīng)采用怎樣的模式?
艾倫:我們曾在《道德機器》中討論了機器道德發(fā)展模式,認為“自上而下”和“自下而上”相混合的模式是最佳答案。首先談一談“自上而下”和“自下而上”意味著什么。我們以兩種不同的方式使用這兩個術(shù)語。一個是工程的視角,也就是一些技術(shù)和計算機科學(xué)的視角,例如機器學(xué)習(xí)和人工進化,而另一個則是倫理學(xué)視角。機器學(xué)習(xí)和人工進化并不從任何原則開始,它們只是試圖使機器符合特定類型的行為描述,并且在給定輸入使機器以這種方式行事時,它的行為能夠符合特定類型,這叫“自下而上”。與之相比,“自上而下”的方法則意味著一個清晰的、將規(guī)則賦予決策過程的模式,并且試圖寫出規(guī)則來指導(dǎo)機器學(xué)習(xí)。我們可以說,在工程領(lǐng)域中,“自下向上”是從數(shù)據(jù)當(dāng)中學(xué)習(xí)經(jīng)驗,而“自上向下”則是用確定的規(guī)則進行預(yù)編程。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
-
8 每日AI全球觀察
- 1 特斯拉工人被故障機器人打成重傷,索賠3.6億
- 2 【行業(yè)深度研究】退居幕后四年后,張一鳴終于把算法公司變成AI公司?
- 3 AI 時代,阿里云想當(dāng)“安卓” ,那誰是“蘋果”?
- 4 拐點已至!匯川領(lǐng)跑工控、埃斯頓份額第一、新時達海爾賦能扭虧為盈
- 5 硬剛英偉達!華為發(fā)布全球最強算力超節(jié)點和集群
- 6 隱退4年后,張一鳴久違現(xiàn)身!互聯(lián)網(wǎng)大佬正集體殺回
- 7 00后華裔女生靠兩部AI電影狂賺7.8億人民幣,AI正式進軍好萊塢
- 8 谷歌“香蕉”爆火啟示:國產(chǎn)垂類AI的危機還是轉(zhuǎn)機?
- 9 機器人9月大事件|3家國產(chǎn)機器人沖刺IPO,行業(yè)交付與融資再創(chuàng)新高!
- 10 美光:AI Capex瘋投不止,終于要拉起存儲超級周期了?
- 生產(chǎn)部總監(jiān) 廣東省/廣州市
- 資深管理人員 廣東省/江門市
- Regional Sales Manager 廣東省/深圳市
- 銷售總監(jiān) 廣東省/深圳市
- 結(jié)構(gòu)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 自動化高級工程師 廣東省/深圳市
- 技術(shù)專家 廣東省/江門市
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 封裝工程師 北京市/海淀區(qū)