近日,牛津大學官方發(fā)布一則最新動態(tài),牛津大學人工智能倫理研究所(Institute for Ethics in AI)委任了由 7 位哲學家組成的首個學術研究團隊。

該團隊將在 10 月份迎來首任所長,來自倫敦國王學院 Yeoh Tiong Lay Centre for Politics, Philosophy and Law 的主任 John Tasioulas 教授。

圖片來源:牛津大學官網

隨著人工智能技術飛速發(fā)展,人臉識別、語音助理、醫(yī)學診療機器助手等新型應用對人們的生產生活帶來了極大地變革,同時也催生了人工智能的倫理學和跨人類主義的倫理學問題。

AI 倫理上升為國家戰(zhàn)略

八月底,SpaceX 、特斯拉等公司的創(chuàng)始人埃隆?馬斯克(Elon Musk),為自己旗下的腦機接口公司 Neuralink 舉行發(fā)布會,向公眾展示了將 Neuralink 芯片植入小豬顱內,并實時讀取豬腦信息。

該消息一出,便引來一些網友的擔心,從倫理道德的角度來看,這類技術的發(fā)展會不會給人類帶來意想不到的危機?

今年上半年,美國五角大樓已正式公布人工智能五大倫理原則,即負責、公平、可追蹤、可靠和可控。無論作戰(zhàn)還是非作戰(zhàn)人工智能系統(tǒng),均須遵守上述原則,否則美國防部將不予部署。

8 月 5 日,中國國家標準化管理委員會、中央網信辦、國家發(fā)展改革委、科技部、工業(yè)和信息化部發(fā)布關于印發(fā)《國家新一代人工智能標準體系建設指南》的通知。

人工智能標準體系框架圖

《指南》將人工智能標準體系結構分為 “A 基礎共性”、“B 支撐技術與產品”、“C 基礎軟硬件平臺”、“D 關鍵通用技術”、“E 關鍵領域技術”、“F 產品與服務”、“G 行業(yè)應用”、“H 安全 / 倫理” 八個部分,其中 “H 安全 / 倫理” 標準貫穿于其他部分,立足于規(guī)范人工智能服務沖擊傳統(tǒng)道德倫理和法律秩序而產生的要求建立相關標準,為人工智能建立合規(guī)體系。

牛津AI倫理研究所團隊陣容

2019 年 6 月,美國黑石集團聯(lián)合創(chuàng)始人、全球主席兼首席執(zhí)行官蘇世民(Stephen A． Schwarzman)向牛津大學捐贈 1．5 億英鎊,支持牛津大學成立了 AI 倫理研究所。

該研究所下設在蘇世民人文中心內,隸屬于哲學系,致力于研究解決人工智能帶來的重大倫理挑戰(zhàn),研究范圍涉及從人臉識別到選民分析,從腦機接口到武器化無人機,以及正在進行的關于人工智能將如何在全球范圍內影響就業(yè)的相關討論。

據報道,在牛津大學發(fā)展史上,蘇世民人文中心將首次匯集牛津大學的人文學科研究實力,以多學科融合的研究背景,讓人工智能倫理道德領域的研究從中受益。

剛組建的首個學術研究團隊,最初將由以下 7 位哲學家組成:

主任:John Tasioulas 教授,他將從倫敦國王學院加入該團隊,擔任主任一職,他是該學院政治、哲學和法律方面的首任主席(inaugural Chair),也是 Yeoh Tiong Lay 政治、哲學和法律中心(Yeoh Tiong Lay Centre for Politics, Philosophy & Law)的主任。他曾在牛津大學任教道德與法律哲學 12 年,曾在芝加哥、哈佛、墨爾本擔任訪問學者,并擔任過世界銀行人權顧問。

哲學副教授:Carissa Véliz 博士,曾任牛津大學 Uehiro 實踐倫理中心和 Wellcome 倫理與人文中心的研究員,并將成為赫特福德學院的輔導研究員。

哲學副教授:Milo Phillips-Brown 博士,他將從麻省理工學院加入該團隊,他是倫理學與技術領域的杰出學者,還是 Jain Family Institute 數字道德與治理的高級研究員,并將成為耶穌學院的導師研究員。

Carina Prunkl 博士和 Ted Lechterman 博士,這兩位博士將以博士后研究學者的身份加入團隊,他們分別來自牛津大學人類未來研究所和柏林赫蒂治理學院。

另外,團隊還有兩名博士生,將在下一學年加入。

AI 倫理研究已迫在眉睫

任職前,Tasioulas 教授圍繞一些問題,談了他對研究所的愿景。

當被問到 “人工智能倫理學為什么這么重要”,Tasioulas 教授表示:“人工智能將繼續(xù)對人們生活中的許多方面產生變革性的影響,從醫(yī)學到法律再到我們如何實現(xiàn)民主,它提出了深刻的倫理問題,其中涉及隱私、歧視以及自動決策在充實的人類生活中的地位等問題,社會生活中的每一個個體都不可避免地要面對這些問題。我不希望人工智能倫理學被視為一個狹隘的專業(yè),相反,對于那些認真關注人類面臨重大挑戰(zhàn)的人,AI 倫理學更應該成為他們必須解決的問題。如果人工智能想要推動人類的繁榮發(fā)展和社會的公平正義,AI 倫理學絕對不是可選項或奢侈品,而是必要的�！�

“鑒于人工智能將一直存在,所以我們必須提高圍繞人工智能倫理的辯論水平,并反饋給公民和立法者,以促進更加廣泛的民主進程。人工智能領域的法規(guī)和政策對于民主決策至關重要,但致力于 AI 倫理問題研究的專家所持的論點和見解,會提高審議過程的質量�！盩asioulas 教授說。

當談到研究所的預期目標時,Tasioulas 教授說:“我的目標是讓研究所為人工智能倫理學的探討帶來最高標準的學術嚴謹性,研究所深深扎根于哲學,同時還將借鑒其他學科,如文學、醫(yī)學、歷史、音樂、法律和計算機科學。這是在這一領域在彌合科學與人文科學之間鴻溝的一次激進嘗試,而牛津大學在這方面有著得天獨厚的優(yōu)勢。”

Tasioulas 教授表示,這次 COVID-19 大流行恰恰說明了為什么哲學必須在民主決策中發(fā)揮關鍵作用,新冠大流行表明,僅僅 “遵循科學” 是永遠不夠的�？傄�做出價值判斷,比如風險在社會中的分配,以及繁榮與健康之間的權衡。

當被問及對于整個 AI 倫理學領域的研究目標的時候,Tasioulas 教授說:“生物倫理學就是一個很好的例子,它說明了倫理學在解決社會面臨的重大問題上的作用,但它也是一個警示性的故事。生物倫理學有真正杰出的人物,他們有很強的哲學背景,為了推動這門學科的發(fā)展,他們汲取了更深的道德和政治哲學方面的專業(yè)知識。但目前,你聽到的很多關于人工智能倫理學的內容都缺乏這種深度,太多的是公司治理語言的翻版,甚至只是一些聲音和流行語。而一個可持續(xù)的人工智能倫理學發(fā)展需要立足于更深更廣的東西,這必須包括哲學和更普遍的人文科學。牛津大學的人工智能倫理學研究所恰恰可以起到這種作用,將知識的嚴謹性和清晰度引導到公共辯論和決策領域�！�

“科學可以告訴我們行為的后果,但它并不能告訴我們應該追求哪些目標,也不能告訴我們?yōu)榱藢崿F(xiàn)這些目標,什么樣的犧牲是合理的。我們想要讓人工智能成為用技術解決社會挑戰(zhàn)的一部分,就這件事而言,我們不可避免地也要解決倫理問題。人工智能倫理學是一種使所涉及的價值判斷變得更加清晰的方法,也是一種支持更嚴謹、更包容辯論的方式。” Tasioulas 教授表示。

應對重大的全球性挑戰(zhàn)

研究所指導小組主席 Sir Nigel Shadbolt 教授領導了最初的提議,他表示:“我很高興歡迎這群令人敬畏的學者加入研究所的教師團隊,我們的愿景是建立一個能夠為人工智能倫理學奠定基礎的研究所,從而為我們對這項非凡技術的使用提供幫助。這個偉大的團隊和他們所進行的研究,將有助于確保人工智能技術對于人類的經驗起到增強的作用,而非削弱�！�

牛津大學副校長 Louise Richardson 教授說:“這是牛津大學一個重要的里程碑,因為這個優(yōu)秀的領導團隊將加速推進我們團結人文學者和科學家的工作,以應對重大的全球性挑戰(zhàn)�！�

牛津大學人文科學系主任 Karen O'Brien 教授說:“我們很高興能任命 John Tasioulas 這樣的人才擔任研究所的首任所長,John 是一位杰出的道德和法律哲學家,他對研究所和整個人工智能倫理學領域的發(fā)展愿景給我們留下了深刻印象。他在倫敦國王學院成功建立了研究中心,在這方面擁有寶貴的經驗�！�

“幾乎在一夜之間,人工智能倫理學研究所已經成為人工智能倫理學領域的領先研究中心。該研究所擁有了一支由 7 位杰出研究人員組成的核心學術團隊,研究所可以開展新的研究,并舉辦更多的活動,將學術專家、技術人員、政府領導者以及廣大公眾聚集一堂�！� Karen 教授表示。

蘇世民在評論這一任命時,補充道:“人工智能有可能成為一股善的力量,但如果不以道德和負責任的方式應用它,也會帶來巨大的風險。牛津大學在探索這些考慮因素方面具有獨特的優(yōu)勢,就像它在過去的千年里幫助解決社會上面臨的最緊迫的倫理問題一樣,我很期待看到 John 和研究所即將作出的貢獻�！�

該研究所還將把人工智能倫理學應用于應對 COVID-19 大流行病等挑戰(zhàn)。今年早些時候,該研究所指導小組的 Michael Parker 教授向英國政府提供了關于聯(lián)系追蹤應用程序開發(fā)的倫理學基礎方面的建議。他還是政府緊急情況科學咨詢小組(SAGE)的成員,并參與撰寫了有關技術如何減緩病毒傳播速度的研究報告。

Véliz 博士說:“作為研究所,我們的目標是進行極其嚴謹的研究,該研究完全獨立于大科技(Big Tech)的壓力,并為確保人工智能只以符合最高道德標準的方式構建和實施做出貢獻�！�