新華社北京3月18日電 人工智能的倫理原則近來備受關(guān)注。聯(lián)合國(guó)教科文組織總干事阿祖萊在3月初舉行的“推動(dòng)人性化人工智能全球會(huì)議”上就表示，目前還沒有適用于所有人工智能開發(fā)和應(yīng)用的國(guó)際倫理規(guī)范框架。

對(duì)于科幻作家阿西莫夫上世紀(jì)設(shè)計(jì)、防止機(jī)器人失控的著名“機(jī)器人三定律”，業(yè)界早已認(rèn)識(shí)到其局限性。“機(jī)器人三定律，歷史上看貢獻(xiàn)很大，但現(xiàn)在停留在三定律上，已遠(yuǎn)遠(yuǎn)不夠?！睂＜医战邮苡浾卟稍L時(shí)這樣說。

新局面，呼吁倫理新原則

科學(xué)家先前一直希望以最簡(jiǎn)單的辦法，確保以機(jī)器人為代表的人工智能不給人類帶來任何威脅?！皺C(jī)器人三定律”規(guī)定：機(jī)器人不能傷害人類；它們必須服從于人類；它們必須保護(hù)自己。后來還加入了“第零定律”：機(jī)器人不得傷害人類整體，不得因不作為使人類整體受到傷害。

“機(jī)器人不能傷害人，但機(jī)器人會(huì)以什么方式傷害到人？這種傷害有多大？傷害可能以什么形式出現(xiàn)？什么時(shí)候可能發(fā)生？怎樣避免？這些問題在今天要么需要細(xì)化，要么需要有更具體的原則來防范，而不能停留在七八十年前的認(rèn)識(shí)水平。”中國(guó)人工智能學(xué)會(huì)AI倫理專業(yè)委員會(huì)負(fù)責(zé)人、中國(guó)科學(xué)技術(shù)大學(xué)機(jī)器人實(shí)驗(yàn)室主任陳小平教授說。

全球知名的艾倫人工智能研究所首席執(zhí)行官埃齊奧尼兩年前就在一次演講中呼吁更新“機(jī)器人三定律”。他還提出，人工智能系統(tǒng)必須遵守適用于其操作人員的所有法律條文；人工智能系統(tǒng)必須明確表示它不是人類；未經(jīng)信息來源明確許可，人工智能系統(tǒng)不能保留或披露機(jī)密信息等。在當(dāng)時(shí)，這些頗有新意的意見引發(fā)業(yè)界熱議。

美國(guó)人工智能倫理領(lǐng)域知名學(xué)者、麻省理工學(xué)院教授泰格馬克近年推廣的“AI有益運(yùn)動(dòng)”提出，需有新倫理原則確保未來人工智能和人類的目標(biāo)一致。這項(xiàng)活動(dòng)曾獲得霍金等眾多全球頂級(jí)科學(xué)家以及知名IT企業(yè)支持。

“人工智能在乘數(shù)效應(yīng)的推動(dòng)下會(huì)變得越來越強(qiáng)大，留給人類試錯(cuò)的空間將越來越小。”泰格馬克說。

人為本，全球探路新倫理

當(dāng)前全球?qū)θ斯ぶ悄苄聜惱淼难芯咳遮吇钴S。不少人對(duì)人工智能心存芥蒂，多半來自其高速發(fā)展帶來的未知性，“保護(hù)人類”成為首當(dāng)其沖的關(guān)切。

“必須確保人工智能以人為本的發(fā)展方向?！卑⒆嫒R呼吁。

美國(guó)機(jī)器智能研究院奠基人尤德科夫斯基提出了“友好人工智能”的概念，認(rèn)為“友善”從設(shè)計(jì)伊始就應(yīng)當(dāng)被注入機(jī)器的智能系統(tǒng)中。

新倫理原則不斷提出，但突出以人為本的理念始終不變。百度公司創(chuàng)始人李彥宏在2018年中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上提出了“人工智能倫理四原則”，首要原則就是安全可控。

美國(guó)電氣和電子工程師協(xié)會(huì)規(guī)定，人工智能要優(yōu)先考慮對(duì)人類和自然環(huán)境的好處的最大化。

新的倫理原則制定也正提上各國(guó)政府的議事日程。

中國(guó)政府2017年7月發(fā)布《新一代人工智能發(fā)展規(guī)劃》時(shí)就指出，建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力；2018年4月，歐盟委員會(huì)發(fā)布的文件《歐盟人工智能》提出，需要考慮建立適當(dāng)?shù)膫惱砗头煽蚣?，以便為技術(shù)創(chuàng)新提供法律保障；今年2月11日，美國(guó)總統(tǒng)特朗普簽署行政令，啟動(dòng)“美國(guó)人工智能倡議”，該倡議的五大重點(diǎn)之一便是制定與倫理有關(guān)聯(lián)的人工智能治理標(biāo)準(zhǔn)。

存憂慮，跨界共商新問題

陳小平呼吁，為規(guī)避人工智能發(fā)展過程中的倫理道德風(fēng)險(xiǎn)，人工智能學(xué)術(shù)界和產(chǎn)業(yè)界，以及倫理、哲學(xué)、法律等社會(huì)學(xué)科各界應(yīng)參與原則制定并緊密合作。

他認(rèn)為，雖然從短期看還沒有證據(jù)指向人工智能有重大風(fēng)險(xiǎn)，但依然存在隱私泄露、技術(shù)濫用等問題。而無人駕駛、服務(wù)類機(jī)器人的倫理原則也須盡快探討制定。

美國(guó)電氣和電子工程師協(xié)會(huì)還規(guī)定，為了解決過錯(cuò)問題，避免公眾困惑，人工智能系統(tǒng)必須在程序?qū)用婢哂锌勺坟?zé)性，證明其為什么以特定方式運(yùn)作。

“就長(zhǎng)期來看，不能等到出現(xiàn)了嚴(yán)重的問題，再制定措施去防止。”陳小平認(rèn)為，人工智能和其他技術(shù)的特點(diǎn)不一樣，很多人工智能技術(shù)具有自主性。例如自主機(jī)器人在現(xiàn)實(shí)社會(huì)中具有物理行動(dòng)能力，如果沒有適當(dāng)?shù)姆婪洞胧?，一旦出現(xiàn)嚴(yán)重問題，可能危害較大。

陳小平希望更多人參與人工智能倫理研究，尤其是科學(xué)家和工程師，因?yàn)榍∏∷麄冏盍私鈫栴}的根源、危險(xiǎn)可能發(fā)生的方式、細(xì)節(jié)和相關(guān)技術(shù)進(jìn)展，“他們不說，外界只能去猜，難以得出正確的判斷和適當(dāng)?shù)膽?yīng)對(duì)措施”。

他還提醒，在防范風(fēng)險(xiǎn)的同時(shí)應(yīng)該注意平衡，避免因?yàn)檫^度限制或使用不合適的降低風(fēng)險(xiǎn)方式造成遏制產(chǎn)業(yè)發(fā)展的副作用。（據(jù)新華社北京3月18日電）