技術(shù)必須遵從人民的權(quán)利，歐盟發(fā)布人工智能白皮書

戴姆勒：人類仍將是技術(shù)的創(chuàng)造者

圖片來源：戴姆勒

1814年，英國人喬治·斯蒂芬森發(fā)明了人類歷史上第一臺蒸汽機車，被稱為“旅行者號”，它在前進(jìn)時不斷從煙囪里冒出火來，因此被稱為“火車”。

1825年英國建成第一條鐵路，當(dāng)年9月，“旅行者號”機車拖著三十多節(jié)小車廂正式試車，以每小時24千米的速度跑完了40千米的路程。

當(dāng)時，在技術(shù)懷疑論者看來，火車頭是“邪惡之物”，他們預(yù)測人類會因為這項“地獄般的”發(fā)明吞下惡果。例如擔(dān)心火車上冒的煙會毒害乘客，火車氣流會引發(fā)肺炎，火車快速的節(jié)奏會讓大腦產(chǎn)生錯亂等等。

懷疑論者為何又改變了看法了呢？

戴姆勒董事會成員、負(fù)責(zé)誠信經(jīng)營與法律事務(wù)白韻格（Renata Jungo Brungger）女士提出了兩個方面的原因：一是因為隨著時間推移，人們完全適應(yīng)了這些科技的存在，甚至開始明白了新科技的價值。還有就是，遲早，制約這些新科技的規(guī)則會制定出來。

德國時間2019年9月10日上午，她在當(dāng)天開幕的法蘭克福車展上關(guān)于戴姆勒人工智能指導(dǎo)原則的演講時認(rèn)為，今天數(shù)字化轉(zhuǎn)型也正經(jīng)歷著同樣的變革，人工智能的興起也同樣如此，它們帶來了相似的挑戰(zhàn)。

咨詢公司普華永道（PwC）預(yù)計，到2030年，人工智能將帶動中國、北美和歐洲GDP分別增長約26%、14%和10%。這一技術(shù)不僅有助于克服氣候行動帶來的諸多挑戰(zhàn)，而且能進(jìn)一步優(yōu)化在交通運輸、醫(yī)藥和農(nóng)業(yè)等多個領(lǐng)域所取得的成效。

汽車商業(yè)評論注意到，雖然技術(shù)專家、商界領(lǐng)袖和政府官員都認(rèn)同人工智能是世界上最具變革性的技術(shù)之一，但他們普遍注意到，這也給個人隱私和日常生活也帶來了新的風(fēng)險。

白韻格說：“人工智能已經(jīng)全面融入到了我們的日常生活當(dāng)中，在自動駕駛領(lǐng)域就是很好的例證。然而有史以來，每項發(fā)明都充滿魅力，同時也讓人心生敬畏?！?/p>

她表示，對于大多數(shù)人工智能應(yīng)用來說，大量的數(shù)據(jù)必不可少，包括個人數(shù)據(jù)。然而很多客戶并不希望自己的個人信息被泄露。他們擔(dān)心數(shù)據(jù)保護(hù)并不完善、數(shù)據(jù)被篡改，或者因此造成失控。有些人甚至擔(dān)心如此發(fā)達(dá)的人工智能系統(tǒng)有一天會統(tǒng)治世界。

如何在抓住人工智能所帶來的機遇的同時，化解隨之而來的危機、恐懼和挑戰(zhàn)？

為此，戴姆勒確定了四項原則：合理利用；可解釋；保護(hù)隱私；安全且可靠。白韻格強調(diào)：“人類仍將是技術(shù)的創(chuàng)造者！”

博世：人類必須保留對人工智能所做決策的最終控制權(quán)

圖片來源：博世

當(dāng)?shù)貢r間2020年2月19日，德國工業(yè)巨頭博世也提出了類似的《AI道德準(zhǔn)則》，即人工智能必須安全、可靠且可解釋，人類應(yīng)始終保留對人工智能的控制權(quán)。

博世是在當(dāng)天柏林召開的第七屆博世互聯(lián)世界大會（BCW）開幕式上發(fā)布這一指導(dǎo)方針的。

“人工智能是服務(wù)于人類的工具，任何可能對人造成影響的人工智能決策都需要人類的監(jiān)管?！辈┦朗紫瘓?zhí)行官沃爾克馬爾·鄧納爾（Volkmar Denner）如此表示。

此前，博世決定以《世界人權(quán)宣言》體現(xiàn)的價值觀為基礎(chǔ)，積極應(yīng)對人工智能技術(shù)使用過程中出現(xiàn)的道德倫理問題。

博世集團(tuán)首席數(shù)字官兼首席技術(shù)官 Michael Bolle博士說：“只有當(dāng)人們不再將人工智能視為神秘的‘黑匣子’時，信任的種子才會萌芽。而信任將是成就互聯(lián)化世界不可或缺的要素?！?/p>

他表示，新發(fā)布的博世《AI道德準(zhǔn)則》秉持“科技成就生活之美”的理念，將創(chuàng)新精神與社會責(zé)任相結(jié)合。

根據(jù)博世《AI道德準(zhǔn)則》，人工智能必須在某種程度的人為介入或影響的條件下做出決策。它包含了三種機制，它們遵守著一個共同的原則，即博世開發(fā)的人工智能產(chǎn)品中，人類必須保留對人工智能所做決策的最終控制權(quán)。

第一種機制為人工控制（human-in-command），適用于人工智能僅作為一種輔助工具出現(xiàn)的情境。例如，在決策支持系統(tǒng)中，人工智能協(xié)助人們對物體或生物進(jìn)行分類。

第二種機制為使用階段的人為干預(yù)（human-in-the-loop），適用于人工智能系統(tǒng)可以進(jìn)行自主決策，但人類能夠隨時干預(yù)其決策的情境。比如駕駛輔助系統(tǒng)，駕駛員可以直接干預(yù)停車輔助系統(tǒng)的決策等。

第三種機制為設(shè)計階段的人為干預(yù)（human-on-the-loop），適用于緊急制動系統(tǒng)等應(yīng)用。開發(fā)此類智能產(chǎn)品時，專家將定義參數(shù)作為人工智能決策的基礎(chǔ)，而人類不參與決策，由人工智能進(jìn)行。但是，工程師可以隨時追溯檢查機器是否遵守所設(shè)定的參數(shù)進(jìn)行決策，必要情況下可以修改參數(shù)。

博世計劃在今后兩年對近2萬名員工進(jìn)行人工智能培訓(xùn)?！禔I道德準(zhǔn)則》也會作為培訓(xùn)內(nèi)容的一部分。

據(jù)稱，到2025年，每款博世產(chǎn)品都將帶有人工智能功能，或者在開發(fā)和生產(chǎn)過程中運用人工智能技術(shù)。

普華永道的一份報告顯示，自2018年以來，歐洲各種組織共發(fā)表了44份報告，對“人工智能倫理”提出了建議。

臉書：承諾加強應(yīng)對網(wǎng)絡(luò)有害信息

圖片來源：麻省理工科技評論

汽車商業(yè)評論注意到，無論是戴姆勒還是博世，它們對人工智能的關(guān)注更多的落腳點是人類對人工智能的控制權(quán)，但是來自硅谷的巨頭，他們對人工智能的關(guān)注點，更多在于隱私方面。

人工智能如今出現(xiàn)在蘋果的Siri和Face ID等產(chǎn)品中，也為谷歌的搜索引擎、自動駕駛汽車以及Facebook的廣告業(yè)務(wù)提供動力。2020年1月以來，F(xiàn)acebook、谷歌以及蘋果高層紛紛造訪布魯塞爾，因為歐盟將對人工智能監(jiān)管出臺政策。

首先是谷歌母公司Alphabet首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）來到比利時布魯塞爾。然后，蘋果公司負(fù)責(zé)人工智能的高級副總裁約翰·詹納安德里亞（John Giannandrea）也出現(xiàn)在這里。

2018年以來，歐盟通過了有關(guān)數(shù)字隱私的法律法規(guī)，并在反壟斷問題上對谷歌和其他公司進(jìn)行懲處，這也促使世界其他地方相繼對科技行業(yè)巨頭采取更嚴(yán)厲的行動。

歐盟委員會的新的人工智能政策也可能成為其他國家和地區(qū)競相效仿的模板，諸如谷歌、臉書和蘋果等這些在人工智能上押下重注的科技巨頭非常擔(dān)心。

皮查伊在造訪布魯塞爾期間發(fā)表演講承認(rèn)人們確實擔(dān)心人工智能可能帶來的負(fù)面影響，需要對人工智能進(jìn)行適當(dāng)?shù)谋O(jiān)管，但他認(rèn)為“需要找到一個平衡點”，以確保規(guī)則不會扼殺創(chuàng)新。

德國時間2月17日，臉書（Facebook）首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）也加入前往布魯塞爾的行列，與歐盟委員會執(zhí)行副主席瑪格麗特·韋斯塔格爾（Margrethe Vestager）等當(dāng)?shù)毓賳T會面。他希望通過承諾加強應(yīng)對網(wǎng)絡(luò)有害信息來換取歐盟降低針對域外企業(yè)的市場準(zhǔn)入門檻。

多年來，美國立法者和監(jiān)管機構(gòu)基本上不干涉硅谷公司的發(fā)展，允許這些公司不受阻礙地發(fā)展，對社交網(wǎng)絡(luò)上虛假信息的傳播等問題幾乎不加審查。

韋斯塔格爾將歐洲在科技監(jiān)管方面更為強硬的立場比作其對農(nóng)業(yè)的監(jiān)管。美國所允許使用的許多殺蟲劑和化學(xué)藥品在歐洲都是被禁用的。

她表示，歐洲的做法是，如果事情有風(fēng)險，那么整個社會都希望對此進(jìn)行監(jiān)管，“對我們來說，最重要的是創(chuàng)建一個讓人們覺得他們可以確信所發(fā)生事情的社會”。

韋斯塔格爾負(fù)責(zé)統(tǒng)籌協(xié)調(diào)關(guān)于歐洲人工智能政策的初稿。2019年12月1日正式出任歐盟委員會主席的物理學(xué)家馮德萊恩（Ursula von der Leyen）上任之初就給了韋斯塔格爾100天的最后期限，讓她在截止日期之前公布一份關(guān)于人工智能的初步提案。

韋斯塔格爾表示自己并不擔(dān)心人工智能在Spotify上推薦一首歌曲或在Netflix上推薦一部電影，她關(guān)注的是決定誰能獲得貸款或診斷出什么疾病的人工智能算法。

她對面部識別技術(shù)的廣泛應(yīng)用格外擔(dān)憂，并表示在這項技術(shù)“無處不在”之前可能需要有新的限制。當(dāng)時還曾經(jīng)傳出歐盟人工智能白皮書草案建議3至5年內(nèi)禁止人臉識別技術(shù)應(yīng)用于公共場所。

歐盟：技術(shù)必須遵從人民的權(quán)利

圖片來源：博歐盟委員會

2月19日，也就是博世推出《AI道德準(zhǔn)則》的當(dāng)天，歐盟委員會主席馮德萊恩在布魯塞爾發(fā)布了《人工智能白皮書》，它包括了有關(guān)企業(yè)如何使用人工智能這一史無前例的規(guī)定。

這份大約30頁的白皮書由政策框架和未來監(jiān)管框架要素兩部分組成，概述了歐委會的AI戰(zhàn)略：既要在經(jīng)濟上迅速發(fā)展以贏下科技競爭，又要在道德上符合歐洲大陸的價值標(biāo)準(zhǔn)。

歐盟委員會指出，人工智能發(fā)展迅猛，歐洲需要為此增加投資，同時也要應(yīng)對一系列潛在風(fēng)險。馮德萊恩強調(diào)，技術(shù)必須遵從人民的權(quán)利。

白皮書提出要建立一個“可信賴的人工智能框架”，重點聚焦三大目標(biāo)：研發(fā)以人為本的技術(shù)；打造公平且具有競爭力的經(jīng)濟；建設(shè)開放、民主和可持續(xù)的社會。

雖然未來3到5年人臉識別限制條款并未出現(xiàn)在這次正式公布的白皮書中，但白皮書還是在保護(hù)公民隱私和數(shù)據(jù)安全方面制定了一系列措施。

針對人臉識別，白皮書稱，收集和使用生物數(shù)據(jù)用于遠(yuǎn)程識別目的對基本權(quán)利有特定風(fēng)險，歐盟數(shù)據(jù)保護(hù)規(guī)則原則上禁止以識別特定自然人為目的處理生物數(shù)據(jù)，特殊條件除外。

白皮書表示：“為解決在公共場所以此目的使用人工智能可能引起的社會關(guān)切，避免在內(nèi)部市場出現(xiàn)分裂，歐盟委員會將在歐洲展開廣泛辯論，討論可能正當(dāng)?shù)膽?yīng)用情況（如有）和共同保障措施。”

同時，人工智能企業(yè)必須通過相關(guān)部門的安全測試和資質(zhì)審核才能進(jìn)入歐盟市場。其中，醫(yī)療設(shè)備、自動駕駛、社會保障和移動支付等“高風(fēng)險”行業(yè)的人工智能企業(yè)均被列為重點審核和監(jiān)管對象。

歐盟司法委員雷恩德斯指出：“如果自動駕駛汽車出現(xiàn)交通事故，誰將為此承擔(dān)責(zé)任？我們必須對類似問題作出規(guī)定?！?/p>

未來三個月內(nèi)，歐盟的這份人工智能白皮書將接受各界人士的公開咨詢，再根據(jù)反饋結(jié)果進(jìn)行相應(yīng)修訂。

2020年底，歐盟將制定出臺《歐盟數(shù)字服務(wù)法》等具有法律約束力的數(shù)字規(guī)則，從而對規(guī)范市場準(zhǔn)入、強化企業(yè)責(zé)任和保護(hù)基本權(quán)利等問題作出明確規(guī)定。

這些規(guī)定不僅適用于歐洲本地企業(yè)，也將對在歐盟運營的第三國數(shù)字企業(yè)產(chǎn)生重要影響。

白皮書：歐洲新數(shù)字戰(zhàn)略的開始 

圖片來源：博世

2010 年以來，歐盟把實現(xiàn)智能增長作為其三大增長目標(biāo)（智能型增長、可持續(xù)增長和包容性增長）之一。

2013 年，宣布正式實施“人類大腦計劃”和“石墨烯計劃”兩個“未來新興技術(shù)旗艦計劃”。 歐盟人類大腦計劃的主要研究目標(biāo)是實現(xiàn)對人類大腦的人工模擬，是世界上第一個腦科學(xué)大科學(xué)工程。

此項計劃不僅致力于揭示人類大腦的活動機理和人類認(rèn)知的本質(zhì)，而且其理論成果可直接為人工智能發(fā)展提供最有力的支持。汽車商業(yè)評論認(rèn)為，這可能也是為什么戴姆勒和博世都更加強調(diào)人類對人工智能主導(dǎo)的重要原因。

圍繞實現(xiàn)智能增長的目標(biāo)，歐盟大力推進(jìn)“數(shù)字議程”的實施，著力于構(gòu)建“數(shù)字單一市場”，加速“工業(yè)4.0”進(jìn)程。2017 年，歐盟正式宣布其覆蓋全部成員國的數(shù)字單一市場步入正式建設(shè)階段。

2018 年，歐盟啟動第 3 個未來新興技術(shù)旗艦計劃“量子技術(shù)”，積極發(fā)展量子網(wǎng)絡(luò)通信和量子計算機等，在數(shù)據(jù)傳輸、分析、處理能力上為人工智能發(fā)展奠定基礎(chǔ)。

從數(shù)字醫(yī)療到精準(zhǔn)農(nóng)業(yè)，從自動駕駛到智慧城市，人工智能技術(shù)應(yīng)用領(lǐng)域廣泛，經(jīng)濟潛力巨大，盡管如此，歐盟在人工智能研發(fā)和應(yīng)用方面已經(jīng)落后于美國和中國。

世界知識產(chǎn)權(quán)組織最新發(fā)布的統(tǒng)計報告表明，目前全球85%以上的人工智能相關(guān)技術(shù)專利來自中美兩國企業(yè)。

最細(xì)發(fā)布的歐盟《人工智能白皮書》表示，歐洲需要大幅提高人工智能研究和創(chuàng)新領(lǐng)域的投資水平，目標(biāo)是未來10年中，每年在歐盟吸引200億歐元的AI技術(shù)研發(fā)和應(yīng)用資金。

歐盟估算，歐盟人工智能等數(shù)字技術(shù)的現(xiàn)有經(jīng)濟規(guī)模為3000億歐元，占?xì)W盟國內(nèi)生產(chǎn)總值的2.4%，5年之后這一數(shù)字將是目前的三倍。人工智能等產(chǎn)業(yè)已經(jīng)為歐盟創(chuàng)造了570萬個就業(yè)崗位，5年后這一數(shù)字最少將會翻一番。

目前，博世在全球7個地點設(shè)立了人工智能中心。作為巴登符騰堡州“Cyber Valley”研究聯(lián)盟的創(chuàng)始成員之一，博世將投資1億歐元用于建設(shè)人工智能園區(qū)，該園區(qū)的700名專家將很快能夠與外部研究人員和初創(chuàng)公司并肩工作。

毫無疑問，這份白皮書代表了歐洲新數(shù)字戰(zhàn)略的開始，同時對美國及中國科技企業(yè)提出了更高的要求。

因此，韋斯塔格表示，人工智能等數(shù)字戰(zhàn)略的出臺，為歐盟提供了成為世界先進(jìn)技術(shù)領(lǐng)導(dǎo)者的第二次機會。

返回第一電動網(wǎng)首頁 >