本文是對史丹佛大學的Michael Webb的採訪實錄，他接受了馬斯克的資助，正在研究如何使人工智慧的經濟影響保持對人類有益。本文來自forbes，作者：David J. Parnell。機器之心編譯出品。
史蒂夫·霍金在接受BBC採訪時表示：「人工智慧將會自己起飛，並保持一個持續的增長率進行自我的重新設計。而人類則受限於緩慢的生物進化，將無法與之競爭，從而被取代。」
比爾·蓋茨在Reddit上說：「我站在擔憂超級智慧的陣營。一開始，機器將為我們做很多工作並且不會變成超級智慧。如果我們管理到位，這會取得較為積極的結果。但在那之後的幾十年，人工智慧有可能變得非常強大，足以引發我們的擔憂。在這一點上我同意伊隆·馬斯克等人，我不理解為什麼有些人對此漠不關心。」
伊隆·馬斯克在麻省理工學院AeroAstro百年學術研討會（MIT AeroAstro Centennial Symposium）說：「我越發傾向於認為應該對人工智慧的發展加以管控和監督，或許應該在國家和全球層面上，以此來確保我們不會做下蠢事。」
人工智慧日益變成現實，全世界的許多聰明人都非常嚴肅地對待這件事。雖然人工智慧末日的情節看起來不大可能實現——至少從目前看來是這樣，但今天的確帶來了對經濟和勞動力市場的實際挑戰。
馬斯克一直努力確保「人工智慧對人類永遠有益」，向未來生命研究所（Future of Life Institute）捐助了1000萬美元來支持存在性威脅、人工智慧相關政策等方面的研究。今天我們採訪了斯坦福大學的Michael Webb，他是馬斯克的被資助者，正在研究如何使人工智慧的經濟影響保持對人類有益。
定義人工智慧
Parnell ：你可以定義一下人工智慧嗎？這個詞目前被濫用了，有著太多的定義，在你看來，應該如何定義人工智慧？
Webb：對這個問題，我有一個有意思的答案和一個嚴肅的答案。有意思的答案是，人工智慧就是可以完成現在的計算機所無法完成的所有工作。50多年前，人們按照某些任務來定義人工智慧，比如說會下國際象棋。下國際象棋曾經被認為是一種機器永遠無法做到的典型的人類能力。這個定義很明確——如果你能下國際象棋，就具有智慧。之後就出現了一些特定算法使計算機能像人類一樣下國際象棋。
之後，人們開始建議說，或許國際象棋不是對智慧很好的定義，於是又想出了其他典型的人類能力。這種定義智慧的模式不斷重複。在10年前，人們定義的智慧標準是能夠完成駕駛行為中的一系列複雜決策：在三維環境下的移動以及與多個自主實體的交互。結果我們現在有了自動駕駛汽車，但人們依然不是很確定我們是否已經擁有了人工智慧。
關於那個嚴肅的答案。首先需要聲明的是，「人工智慧」經常與「機器學習」混用。機器學習有一個被廣泛認可的定義：一些通過使用數據（通常是大量數據集）來學習特定事物的計算機算法。它們所學習的可以是物體識別、圖像識別，也可以是閱讀法律文件，等等。
人工智慧應該分開來理解。「人工」意味著它需要被計算機控制，或者它是我們創造出來的某些東西。「智慧」可以被定義成人類能夠做到的任何事情，以一些較為抽象的術語來表示。
創造人工智慧的挑戰
Parnell：我們在創造人工智慧時面臨哪些主要挑戰？
Webb：我認為這個故事的背景應該從摩爾定律開始，它是指計算能力的指數級增長，具體來說，是指我們在一個微型集成晶片上能安裝多少電路以及成本是多少。這項技術在過去幾年中表現越來越好，帶來了計算能力的巨大提升。我們也看到了在過去5-10年間特定算法的能力發生了巨大變化。算法是指令的基本設置，能夠告訴機器如果獲取數據並從中學習。其中的一些算法在很久以前就被發明出來了——比如說在70年代和80年代，在很長一段時間，這些算法沒有體現出任何價值。但結果發現，如果我們有了足夠的計算能力，它們可以表現的非常出色。
另外一個關於摩爾定律的重要事實在於，我們現在擁有了更多數據，機器可以從中學習。消費者可以藉助互聯網完成的事情數量呈指數級增長。例如，亞馬遜獲得了大量關於用戶購買習慣的數據。我們可以輕易列舉出很多這樣的例子。
近期人工智慧領域的進步主要體現在哪幾個方面？
Parnell：過去5-10年中出現了哪些進步，可以說明我們正在真正實現人工智慧？
Webb：其中一個令人異常興奮的經典算法就是卷積神經網絡。這些非常複雜的算法在近幾年給計算機的能力帶來了巨大提升，可以讓計算機去做更多的事情，讓它們可以看、聽、甚至是翻譯，在某些領域已經達到甚至超過了人類水平。
因此，目前計算機基本具有了「看」的能力。例如，如果我交給它一張圖片——一堆像素——同時它擁有正確的訓練過的算法，它就能看懂圖片並加上標籤。這在兩年前根本是不可能的。而今天這個問題解決了。
計算機還能「聽」和「理解」。和計算機視覺領域一樣，語音識別也同樣取得了進展。這些進展目前還沒有完全體現在Siri和Google Voice上，但你或許會發現Siri或者微軟的Cortana已經比十幾年前好了太多。請記住，這些東西還完全沒有達到人類水平，但它們正朝著那個方向前進，並且將很快到達那裡。
近期，我們也看到了機器人領域的巨大進步。對於機器人來說，困難在於讓它「看懂」和「理解」它所在的世界，然後再與這個世界進行交互。結果表明，（機器人）行走是一個難題。我們近期看到了在讓機器人「看見」這方面取得的巨大突破，將捲積神經網絡應用在機器人視覺上，然後將它們與那些能夠訓練機器人有效行走的算法結合起來，從而使機器人能夠去做一些人類要求的事情。
例如，近期有一個具備了不可思議學習能力的機器人。如果你交給它一本某品牌咖啡機的使用手冊，它能夠從手冊中學習到很多東西，當你把一個不同的咖啡機排在它面前時，它已經能夠學會這台新咖啡機的工作原理，然後就可以使用這個全新咖啡機幫你做一杯濃縮咖啡。
更酷的事情在於，一旦你將這些機器人釋放到真實世界，它們能夠全部連接到一個統一的「雲引擎」，這裡保存著所有接入機器人的「主算法」，這意味著外面任何一個機器人所做的事情和學習的東西，都會立即傳給中央引擎，然後其他機器人都會在第一時間學習到這些經驗。因此，這些機器人不僅能夠各自學習，還擁有一個能夠從所有機器人中進行學習的超級大腦。這必將使整個系統的學習速度實現指數級提升。
技術性失業的歷史教訓
Parnell：我們已經看到了歷史上的多次科技革命。在有些時候，它們和失業、社會化抵制緊密聯繫在一起，比如說之前的盧德革命，你對此怎麼看？
Webb：是的，歷史經驗告訴我們，這種事情已經不是第一次發生了。從第一個工業革命開始，人們發明了取代大量勞動力的機器。但在每次變革中，在一定時期的錯位和產業轉型之後，對於那些相同的勞動力，就會出現新的機會，並且他們會變得更有效率。因此，歷史經驗的第一課就是，我們非常擅長為過去的勞動力尋找新機會。
第二點是關於伴隨著人工智慧所出現的擔憂。這類似於19世紀大家對蒸汽動力的討論和對其波及範圍的擔憂。這一次也許有些不一樣，因為現在的機器更加智慧，更加接近人。但我們在歷史上也遇到過類似情況。我最近做了許多關於歷史研究，如果我們看一下19世紀60年代，就會發現當時就有很多和我們今天相同的擔憂。事實上， 美國總統Lyndon Johnson執政期間的勞工部長Willard Wirtz就曾公開表示，如今的機器有著和高中畢業生相同的技能，這種新技術即將創造「a human slag-heap」）。有一份諾貝爾獎得主Linus Pauling所領導的總統報告，它警告說會出現一場帶來「幾近無限的生產能力」的革命，這需要從根本上對現有的價值觀念和體系進行一次重新審核。
因此，有人會問什麼原因使當今時點與歷史上產生了不同。在上世紀60年代就存在這些技術進步，機器能夠完成一些令人印象深刻的任務。但當涉及到一些認知任務時，那些機器所擅長的是處理一些經過預先手工編程的任務，或者進行一些預設程序的計算，它們實際上不是在學習東西。
因此，如果你想要去訓練一台機器來識別銀行交易中的詐騙交易，你必須預先準確的告訴它所需要查找的內容。而今天的區別在於，你完全不需要這麼做了。你所做的一切就是將一些標記上「欺騙性的」和「非欺騙的」數據交給計算機，然後機器依靠算法就能學會應該去查找哪些內容，然後告訴你是否存在欺詐行為。這就是今天本質的不同。
Parnell：我看到了在法律行業有些特定的勞動力正在被取代。這種現像在其他行業也很常見，一些逐漸智慧化的軟體取代了人們的工作。在你看來，這個過程有跡可尋嗎？在未來5-10年將如何發展？
Webb：有個粗略的答案就是，這毫無疑問將會對經濟產生重大影響。但很難精確的說誰將獲益，誰將受損，以及這個過程（取代人類勞動力的過程）將以何種方式，按照何種順序，遵循那種時間框架進行下去。
誠然，關於人工智慧的進步如何付諸行業應用，以及按照何種速度進行應用等，依然存在很多問題。有些問題是關於人類勞動力被取代的程度。例如，是否造成了有些勞動力過剩並使它們再也找不到其他工作？如果是這樣的話，工會是否會組織一場努力抗爭來抵抗這種現象，他們會成功嗎？哪些公司能想像得出，要如何重置生產流程以充分利用這些新技術，然後利用風險偏好和資金渠道，切實實現這一重置？政府——我們的政策制定者——會參與其中，試圖放緩或實際上加速這一過程，讓人口中那些否則就會處於劣勢的特定階層更加受益嗎？
確切的答案是我們不知道。我們現在能做的事情就是觀察歷史上的特定判例，然後嘗試著發現其中的異同。我們也可以更加審慎的研究目前所發生的事情。我們能做一些在一定程度上可信的建模演練，建立經濟模型，希望從擁有的現實世界的數據中獲取盡可能多的信息，然後藉助這些模型來理解技術自動化（取代工作）所造成的影響。
這尤其會對中產階級產生哪些影響？
Parnell：這對中產階級將產生哪些影響？如果你將這個過程看成是一條連續的曲線，技術未來將取代人類的大部分工作內容。在那種情況下，我認為很多財富可能會被重新分配給全球範圍內的上層人群中：資本從更大的中產階級中逃離出來並集中在少數人手中。對無技能勞動力的需求會上升，因為用自動化技術取代他們在經濟上不划算。因此，全球財富將出現兩極分化，你如何看待這個問題？
Webb：你提到一個有趣的事實，在最近的20年或者30年，高技能工作的工資和就業率出現了巨大增長，低技能工作的工資和就業率也出現了增長。而處在中間的群體彷彿被掏空了，就業率出現了下降。儘管他們的工資也有所增長，但是與就業譜系中的上層和下層相比，差得很遠。
我們依然不知道這個原因是什麼。我們知道，有一個確定的因素是服務相關職業的崛起，這解釋了一大部分，但並不能解釋全部。現在，我們並不知道，其中有多大比例是由於自動化引起的，有多少是由於外包和其他因素引起的。
展望未來，這種空心的趨勢是否會繼續發展，取決於導致它的原因是否會繼續存在。很肯定的事，隨著新的機器學習算法被用在自動化中，用來取代人類勞動，而非增強（人類的勞動能力），那麼這些算法帶來的大部分收益很可能進入資本所有者以及提供這些算法服務的人的腰包裡。這將導致失業率上升，社會不均惡化等——如果沒有相應的政策法規進行干預的話。
但是，為什麼算法會取代人，而不是增強人呢？技術史的大部分，包括最近，創新都會讓人類變得效率更高，而不會取代人類的工作。也有可能，這些算法最終將通過增強人類的能力，從而增加工資和就業率。這很難說。
如何影響知識經濟
Parnell：那些主要依賴知識產權的專業性服務產業——都有可能受到巨大影響。如果當前這一趨勢繼續下去，機器日益智慧化並最終可以像人一樣思考和學習——我認為這最終會發生的，不過誰知道多久才會發生呢——這些服務性產業會有什麼變化？當機器處理問題速度越來越快，越來越智慧，它可以獲取地球上任何有關給出事例的信息，如果你是律師或者會計師，工程師等等，可能會變得多餘。對此，你有何看法？
Webb：我認為這並不是事實的全部。是的，這些事務所的部分價值在於他們的智力所有權和智力能量，而這只是事實的主要情況，但並非所有。比如，我僱傭一名律師，我並不僅僅是僱傭他的知識服務，還包括我和他的客戶關係，我需要找個我可以信賴的人。一旦你想實現更高水平的合作，某種程度上，你也是在僱傭名聲甚至恐嚇的能力。當然，那些事情中的某些部分可能難以抵制自動化，不過，有些卻不那麼容易被自動化。
這將如何影響大型律師事務所
Parnell：實際上，僱傭一家律師事務所的同時還會涉及大量無形的東西，其中主要部分就是這些事務所解決問題的能力。你認為計算機和軟體會發展到這樣一個程度：可以像今天那些最好的代理人一樣很好的「思考」，善於解決難題嗎？
Webb：我認為這有可能，你可能會看到律師事務在重構其運營方式，以及自身增值的方式。本能地說，我發現不太可能看到律師事務所真的消失。理論上，有可能會出現某種軟體可以做到合夥人所做的事情。人們可能會僱傭算法而不是僱傭一家真實的事務所。不過，即使這些成為可能——我認為，技術上看，路漫漫，其修遠兮——即使如此，人們從僱傭一家事務所中得到的並不只是解決難題；也是在僱傭事務所的品牌聲譽。
如果我是財富500強公司法務部門的頭兒，我會去找CEO說，「 我們需要哈佛法學院的畢業生來做這些工作」，這是看中了他們的聲譽。或者僱傭頂級諮詢公司，當你僱傭麥肯錫時，你不僅僅是在僱傭他們找到問題的解決之道，也是在僱傭他們的聲譽，你可以告訴公司的人這些高智商的人會找到解決問題的辦法，因為他們是這個行業最棒的，可以信任他們，即使你已經知道了他們將要提供給你的解決方案。
結果，你會看到市場還是會越來越訴諸那些稀有的職業技能和精英品牌。我不會懷疑精英律師的創造力，他們會想辦法通過使用這些算法以提高自身地位，而不會坐以待斃。
這將如何影響大型律師事務所以外的事務所和律師？
Parnell：那麼，那些沒有解決最困難案子的事務所和律師，會怎樣呢？
Webb：除了精英企業一邊的事情之外，還有兩件值得關注的事情。實際上，它們比聲譽更加普適和重要。
首先，這個國家有太多沒有被滿足的法律需求。你會聽到刑事司法體系內發生的可怕事情；但是，對所有部門法律來說，有太多人和公司想要獲得好的法律建議和代理，卻付不起法律服務的錢。如果算法取代了這部分法律工作，這對律師來說很經濟，因為他們可以承擔以前兩倍多的案子。那部分「額外」的案子過去沒有人做，因為它不經濟。所以，現在，律師的效率是以前的兩倍，薪水也比以前多，但你所僱傭的律師總數卻沒有變化！所以，沒有人會失業，但每個人的薪水都增加了。我並不是說著一定會發生，我只是說，這是一個明確的可能性。
其次，律師的一大部分工作是向客戶、陪審團、最高法院法官等起草意見和解釋事情。現在，機器學習算法在解釋上的表現還很糟糕。它們不能起草意見。它們擅長於預測事情，甚至也可能擅長於預測「如果你對法官說這些話，你贏官司的可能性會增大」這樣的事情，或「如果你在這份合同中使用了這些表達，那你可能會遇到麻煩」。但是，我想，在許多需要創造性邏輯推理的法律語境中，預測是非常困難的。當然，如果你與研究自然語言處理（NLP，可能正是解決這個問題的領域）的AI研究者聊天，他們不會認為機器的這些能力會很快出現——至少在5年內不會出現，或許在10年後有可能出現。
但是，再次強調，或許這些預測將令人疑惑，就像象棋算法和無人駕駛汽車一樣。我們明年聖誕節會擁有全功能的機器超級律師嗎？我不這麼認為。花上100年，或許機器才能完成人類能做的事情——那個世界將與我們現在的經驗大不同，因此很難推測究竟是什麼樣。對我們的人生來說，甚至對我們孩子的人生來說，我認為我們依然處在我剛講過的世界裡。但是，我很歡迎大家來辯論這個預言。
聚焦在職業發展技能上
Parnell：想到這些，你如何才能準備好，在接下來的10－20年裡成為一名年輕的專業人員呢？我認為，剛剛我們已經討論了很多，那就是較軟性的技能，人類的特徵——例如，創造力、溝通力、領導團隊的能力——在未來將擁有更高的價值。這些都是非常「人類」的特徵，在科技不斷開發出更好的問題解決算法的同時，你能保持自己與眾不同的特質。
Webb：一部分是正確的。有很多證據證明社交能力在勞動力市場上變得越來越重要，這是毋庸置疑的。最近有一篇新發表的論文發現，在過去20年中，社交技能的回報變得越來越重要。我很肯定，這對律師來說尤為如此。
但是，還有一些其他事情不容忽視。首先，律師將承擔重要的角色，幫助我們思考社會如何才能最好地管理這些新算法，以及使用這些算法的公司和產品。比如說，無人駕駛汽車出事後，誰應該負責？目前的法律根本無法想像未來的用戶數據會被怎樣使用，那我們如何保護數據的安全？我們想要算法地做出哪些影響我們生活的重要決定？這些決定是由算法單獨做出的，沒有任何人類干預，並且決定的過程不透明，不清楚它們是如何「思考」的。法律問題簡直無窮無盡。我們想出來的答案，大部分將位於最壞與最好的結果之間。
第二，我之前提到過，律師可能被算法增強（效率更高）的一些方法。一些人和公司可能會通過重新想像律師的工作，以及人類律師與新興算法之間的交互來獲得這種增強。真正做到這一點的人將得到很多很多錢，這些人將在本世紀及之後的時間裡，重新塑造法律界的模樣。
消息/圖片來源：Source |
收藏
分享
分享
提升卡
置頂卡
沉默卡
喧囂卡
變色卡
顯身卡
