11月2日,全球首屆人工智能(AI)安全峰會在英國布萊切利公園閉幕后不久,英國首相蘇納克返回倫敦,與特斯拉創(chuàng)始人馬斯克(Elon Musk)進(jìn)行了一場長達(dá)40分鐘的對談。
兩人在對談中討論了AI帶來的風(fēng)險和政府應(yīng)如何應(yīng)對這些風(fēng)險等話題。馬斯克還闡述了自己對AI的幾項預(yù)測,比如,“終有一天,人們將不再需要工作”。
人類還需要工作嗎?
蘇納克所領(lǐng)導(dǎo)的保守黨希望看到更多英國人重返勞動力市場,因此,他在對談中向馬斯克表達(dá)了對AI搶走人們工作的擔(dān)憂。
但馬斯克表達(dá)了他對AI更理想化的看法。他稱,AI不會“搶走”人類的工作,因為到了一定的階段,人類將不再需要任何工作。
馬斯克認(rèn)為,AI將成為“歷史上最具顛覆性的力量”,AI將能夠“做任何事情”,人們只有在為了“個人滿足感”而想要工作時,才會決定要不要工作。
蘇納克的岳父、印度億萬富翁穆爾西(Narayana Murthy)本周提出一項具有爭議性的建議,稱印度年輕人每周應(yīng)工作70小時,以提高國家生產(chǎn)力,并與更大的經(jīng)濟(jì)體競爭,這引發(fā)了輿論反彈。
當(dāng)蘇納克強(qiáng)調(diào)工作給人帶來的意義和動力時,馬斯克笑稱:“我常對此懷疑,比如凌晨3點(diǎn)熬夜工作的時候,我會想,我為什么要做這個,我可以用AI來做這個。”
馬斯克肯定了AI帶來的積極可能性,稱未來會是“不缺商品和服務(wù)”的富足時代,屆時“我們不是全民擁有基本收入,而是全民高收入”。
但馬斯克同時提出,在AI盛行的未來社會中,保持人類對機(jī)器人的控制至關(guān)重要,因此必須有一個“物理性的開關(guān)”,以防止AI出錯。
AI“裁判”
馬斯克一直認(rèn)為,政府應(yīng)當(dāng)在AI治理方面應(yīng)發(fā)揮作用,以“維護(hù)公眾利益”。
2日,他在與蘇納克的對談中表示,“(監(jiān)管)確實會讓人討厭?!艺J(rèn)為,多年來我們已經(jīng)意識到,有裁判是件好事”。
事實上,今年9月,馬斯克等美國科技巨頭公司高管與美國國會舉行閉門會議,討論AI的監(jiān)管問題時,馬斯克就提出,希望為AI設(shè)立一個“裁判員”。他當(dāng)時稱,各方對監(jiān)管AI已達(dá)成“一致性共識”。
今年更早些時候,馬斯克簽署了一封聯(lián)名信,信件呼吁出于安全考慮暫停先進(jìn)AI的開發(fā)。但有批評人士認(rèn)為,馬斯克此舉是在給自己的AI公司發(fā)展?fàn)幦r間。馬斯克于2015年與他人共同創(chuàng)立了OpenAI,但幾年后因在AI安全問題上發(fā)生沖突而離開。今年7月,他成立了自己的人工智能公司xAI。
不過,對于AI的全球治理已經(jīng)展開行動。本周,美國總統(tǒng)拜登發(fā)布了一份關(guān)于AI的行政令,旨在規(guī)范美國企業(yè)開發(fā)AI并敦促監(jiān)管機(jī)構(gòu)進(jìn)行監(jiān)督。歐盟則希望在今年年底前通過有關(guān)AI技術(shù)的法規(guī)。七國集團(tuán)(G7)也將為AI公司制定行為準(zhǔn)則。
本屆人工智能安全峰會也發(fā)布了《布萊奇利宣言》。行業(yè)前沿的AI開發(fā)商同意將與政府合作,在新的前沿模型發(fā)布前對其進(jìn)行測試,以幫助管理AI技術(shù)快速發(fā)展所帶來的風(fēng)險。但峰會并未建立任何具有約束力的監(jiān)管框架,蘇納克對此回應(yīng)稱,在立法之前,監(jiān)管必須以經(jīng)驗為基礎(chǔ)。
歐洲工商管理學(xué)院(INSAED)的決策科學(xué)和技術(shù)管理教授埃夫根尼奧(Theos Evgeniou)此前接受第一財經(jīng)記者專訪時也表示,商業(yè)需要監(jiān)管,即使是科技高管也在呼吁監(jiān)管,這是因為如果沒有監(jiān)管,人們將不信任技術(shù),從而失去創(chuàng)新和進(jìn)步的可能。
“監(jiān)管并不反對創(chuàng)新,監(jiān)管也可以支持創(chuàng)新,理解這一點(diǎn)非常重要?!卑7蚋釆W說,但監(jiān)管很難“一次到位”,重要的是建構(gòu)一個能夠持續(xù)學(xué)習(xí)、不斷適應(yīng)、快速修復(fù)的監(jiān)管程序與體系。