|
“技術奇點”就快到了。這是真的…… 呃，也可能還沒有吧。技術奇點指真正的人工智能開始出現、實現自我感知并通過創造比自身更好的實體來開始遞歸自我改進的事件。這只是其中一種表述。[1] [2] [3] 在大多數人的觀點中，技術奇點事件毫無疑問將是破壞性的[4]，甚至可能是所有技術進步中最具破壞性的。當然，科幻作家幾十年來一直在探索人工智能的未來究竟是美好的愿景還是一場災難，而且后者似乎是主流看法。與機器人制造出更好的機器人相關的知名影片在集體流行意識中已經全然沒有了新意。 但是，如何從這里到達彼岸呢？ （我們真的想去嗎？ 是不是應該認真想想我們想要的究竟是什么？） 這就涉及到人工智能 (AI) 領域了。它從未如此強大和繁忙。[5][6] AI是對智能實體的研究和創造，它們不斷改善并最大化其成功機會。現在的問題是，“智能”的機器、實體，等等等等，都必須由人類來告訴他們該做什么。但是，對于如何建立一個更好的思維機器的進展和理解，似乎正以越來越快的速度到來，有時會導致與學習型機器人進行的對話成為令人不安的體驗[7]。 “思考”和“自我意識”的概念只是全局的一部分。長期以來，人類一直在思考如何測試一臺機器，看看它是否已經從單純的編程跨越到了基于某種程度自我意識的獨立思考。圖靈測試 (Turing Test) 就是一種極其著名的方法。簡而言之，這項測試的目標是與機器展開一小段對話，其以假亂真的程度要達到讓人無法判斷出它是人還是機器。此類聊天機器人[10] 已進入兒童玩具中，例如智能芭比娃娃 (Hello Barbie)。這是幾十年來AI技術逐漸融入各種電子消費品、商業、金融、農業、政府和軍事用途的典型例子。 也許，在技術奇點真正發生時，由于AI幾乎已經充斥每個角落，這將不再是一件新鮮事。 隨著時間的推移，許多遠見卓識者已經預測到技術奇點會出現的時間[11]。這些“先知者”對AI的過快采用以及AI的發展方向發出了可怕的警告。[12] [13] [14] 這些預測和警告值得我們重視嗎？ AI的發展會將人類帶向末日嗎？ 與AI相關的一個笨拙冗長的首字母縮寫是TEOTWAWKI（The End of the World as We Know It，我們所知的世界末日）。一個不一樣的世界不一定是糟糕的（它完全可能是美好的），但肯定會存在顛覆性變革，而且如果大規模復制的AI認為人類是可以犧牲的，或者構成了其他性質的障礙，那肯定會帶來危險。在一些研究中，意味著“后技術奇點”的AI已經浮出水面，伴隨它的還有其他迫在眉睫的威脅，例如海平面上升一米以及極端天氣破壞造成的糧食短缺[15] [16]。 在閱讀本文的時候，您可能會不由自主地坐在椅子上慢慢轉動，不時瞄一瞄你的智能手機、烤面包機或家庭自動化系統。如果您的工作涉及在工業機器人上的作業，只需要遵循最佳做法，先關掉電源，然后再用扳手拆開螺絲。如果您是短線交易者，您可能更需要擔心高速機器人交易員來和你競爭（這更像是一個監管政策問題，而非技術威脅）。但是，這并不是說機器人交易員會突然擴散到互聯網上，滲入成千上萬的智能手機中，計算能呈力指數級增加，并突然實現自我意識。 對嗎？ （參見：Skynet） 是的，發生這種情況的可能性很小。要到達奇點，我們還有很長的路要走[17] [18] [19]。機器依然在按照我們告訴它們的去做。 計算機運行的是人類編寫的軟件。軟件總是會有漏洞 (bug)。AI也是。想想這些天幾乎每天都在爆出的故障和安全漏洞。軟件漏洞是個神奇的東西。由于過于復雜，我們無法在軟件交付前對其進行100％的測試。編寫一個好的軟件本來就很難，更不用說沒有漏洞的軟件了。根據迄今為止幾十年來任何軟件的平均質量來看，技術奇點的臨界點還很遙遠，也許永遠不會發生。 或者，也許有一天，某一處的某個軟件開發人員在開始工作時，發現一個由分布在四個國家的頂尖團隊努力了一年多的項目在一夜之間發生了變化，修復了團隊甚至沒有意識到存在的漏洞， 還做出了團隊從未想到的復雜改進。 這時，在幾年前購買的那間僻靜的遠離電網的小屋中度過一個悠長假期，前往沙漠或者深山，或許會是個好主意。 安全提示：不要乘坐無人駕駛的智能汽車。走著去。不要跑。 來源：貿澤電子 作者：Arden Henderson |
