首頁熱門文章
先進的人工智能將帶來革命性的改變
發布時間：2018-09-25 分類：交通百科
重要原則：先進的人工智能可代表地球生命歷史上的深刻變化，應以相應的關懷和資源加以規劃和管理。
在人類進步的歷史上，有幾件事特別具有革命性：有意識地使用火、發明農業、工業革命，可能還發明了計算機和互聯網。但許多人預計，先進人工智能系統的創造將超越這些成就。
有ai人工智能教授曾經說過人工智能是我們未來最重要的話題，或者，正如那樣，人類級人工智能的設計將是人類歷史上最具影響力的事件，我們再怎么準備也不過分。重要性原則鼓勵我們為可能是“生命歷史上最大的變化”做好計劃。但我們到底準備做什么呢?更先進的人工智能對社會意味著什么?
社會福利
隨著人工智能的發展，它也將幫助人類進步，為了支持這一原則，我認為這可以追溯到進化。從進化的角度來看，人類已經達到了他們目前對世界的權力和控制水平，這是因為智力的作用。人工智能是一種增強的智能，它是人類和人工智能的結合。這將產生一個比自主人工智能更有生產力和更現實的未來，后者離我們太遠了。在可預見的將來，增強的人工智能，人工智能與人類合作，將改變地球上的生活。它將幫助我們解決與環境、健康和教育有關的重大問題。
也許地球上并不是每個人都關心這個問題，但科學家們應該對這些問題進行討論，并制定出與價值觀一致工作的安全指南。最終，我們研究人工智能是因為我們相信它能對世界產生強大的積極影響。但是，技術越有能力，就越容易誤用-或者說，誤用它的影響會變得更加嚴重。這就是為什么在我們取得進展的時候，開始更強烈地思考人工智能將發揮什么作用是如此重要的原因。
短期關注
盡管“重要性原則”特別提到了先進的人工智能，但我采訪的一些研究人員指出，近期的人工智能也會對人類產生巨大的影響。我相信人工智能甚至在‘先進’之前就會產生深刻的變化，因此我們需要規劃和管理技術的發展，作為人類，我們不擅長長期規劃，因為我們的民事制度不鼓勵長期規劃，然而，在這一領域，我們必須發展自己的能力，以確保在人與機器之間建立負責任和有益的伙伴關系。
從經驗中學習
盡管先進的人工智能可能是革命性的，但我們仍然可以從以前的技術革命中吸取經驗教訓，為未來的變化做好準備。通過回顧這些以前的革命性技術并了解它們的影響，也許我們可以洞察到我們如何才能為先進的人工智能提前做好計劃。
隨著人工智能能力的提高，我們必須后退一步，問問自己：我們解決了正確的問題嗎?是否有更好的問題定義，更有可能給人類帶來好處?例如，我們一直將人工智能代理定義為理性的。這意味著他們最大限度地提高了預期效用。
到目前為止，假定效用是已知的。但是，如果你想一想，沒有福音指定效用。我們假設某個地方會確切地知道為他們的代理指定什么實用程序。事實證明，我們并不是這樣工作的：包括人工智能專家在內的人們很難指定效用函數。我們盡了最大的努力，但是當系統繼續進行并優化我們輸入的內容時，結果有時是令人驚訝的，而且不是有利的方面。
這表明我們對人工智能代理的定義是基于一個錯誤的假設，我們已經開始在機器人技術中看到這一點-機器人應該如何移動的定義沒有考慮到人，機器人應該如何從演示中學習的定義等等，我想我們會越來越多地在整個人工智能中看到這一點。我們必須停止對人工智能的人和最終用戶進行含蓄的假設，并對此進行嚴格的正面處理，將人們納入這一方程。
你怎么認為?
人工智能的發展將對人類進步產生什么樣的影響?我們怎樣才能為這些潛在的巨大變化做好準備呢?我們能準備一下嗎?作為一個社會，我們還需要問什么其他問題?
