首頁熱門文章
什么時候讓人工智能機器做決定?
發布時間：2018-09-14 分類：交通百科
人類控制：人類應該選擇如何以及是否將決策權交給人工智能系統，以完成人類選擇的目標。
什么時候才能讓機器做決定，而不是讓一個人來做決定呢?我們中的大多數人都允許地圖軟件選擇通往新地點的最佳路線，當我們在憧憬未來的人工智能自動駕駛汽車的時候，我們中的許多人都很興奮地讓自動駕駛汽車帶我們去我們的目的地，但是你準備好讓你的車為你選擇目的地了嗎?汽車可能會意識到，你的最終目標是吃飯、購物或跑腿，但是大多數的情況下，我們有特定的商店或餐廳，所以可能并不想讓車輛為我們作出這些決定。
當人工智能變得比人類聰明得多時，我們如何解決控制的問題?如果人工智能比我們更了解世界和我們的喜好，那么如果人工智能為我們做所有的決定會更好嗎?要解決這樣的問題并不容易，幾乎每個人都同意這個人類控制的問題涉及到人工智能設計所面臨的一些最具挑戰性的問題。
人類控制意味著什么?
這是一個有趣的問題，因為現在還不清楚違反這一規定意味著什么。在某種意義上，人工智能系統可以做出何種非人類委托給系統的決策?人工智能是人類創造的，這個原則，在實踐中，更多的是關于我們有意識地選擇讓機器做什么具體的決定。一種說法是，我們不介意讓機器來做決定，但是不管他們做什么決定，我們都想讓他們自己來完成，但不能與我們人類的控制發生沖突。
比方說，在一個像人一樣用腿走路的導航機器人中，控制它的人不可能決定每一個動作的每個角度。人類不會決定每只腳將在哪里著陸，但人類會說，我對機器做出這些決定感到滿意，只要它不與其他更高層次的命令發生沖突。
我們可能比許多人意識到的更接近于賦予人工智能決策權，在很多方面，我們已經把控制權拱手讓給了機器，例如，在所有股票交易中，AIS占85%以上，包括發電廠、核反應堆、電網、交通信號燈協調等，這些都是“死胡同”。有意義地控制這些復雜過程所需的復雜性和速度使人無法進行有意義的控制。我們只是沒有足夠快的速度來應對超快事件，比如那些在算法交易中出現的事件。我們也沒有足夠的能力記住成千上萬的變量，或者理解復雜的數學模型。我們對機器的依賴只會增加，但只要他們做出了正確的決定(如果我們足夠聰明，有足夠的數據和足夠的時間，我們會做出正確的決定)，我們就可以接受他們做出這樣的決定。只有在機器決策偏離我們的情況下，我們才希望能夠干預。當然，找出我們存在分歧的情況正是尚未解決的價值比對問題。
我們擔心的是，與‘下一步該往哪里走’相比，機器會做出更復雜、更重要的決策。當您有一臺機器可以開放的、靈活的方式運行時，您如何在不委托一切的情況下委派任何東西呢?當你有一個為你工作的人，你有一些問題需要解決，你說，‘去找出它，’你沒有具體說明，但在這個過程不要違反任何法律，也不要把公司所有的錢都花在解決這個小問題上，人工智能機器人能找到我需要的東西嗎。
這是一個具體的說明，從更一般的責任的想法，每一個決定要么是由一個人作出的，或明確委托給機器的。但一旦人工智能系統開始以更靈活、開放的方式運行，這一系統將特別難以實現。
信任與責任
人工智能往往被比作兒童，無論是在學習的水平，一個系統已經取得了，也是如何學習的系統。就像我們和一個孩子在一起一樣，我們也在猶豫是否要給一臺機器太多的控制，直到它被證明是安全可靠的。當涉及到地圖、金融交易和電網運行時，人工智能系統可能已經贏得了我們的信任，但有人質疑，隨著人工智能系統變得更加復雜，或者當安全和福祉面臨更大風險時，這種趨勢能否持續下去。
然而，我們所看到的研究也表明，現在是最危險的時刻，現在的人類正在享受的機器運轉帶來的便利，這是最危險的情況。最近的研究發現，如果像自動駕駛汽車這樣的系統很少出現問題，人們就會停止關注，當問題出現時，人們很難重新聚焦和解決問題。
必須先由人類授權
已經提到的決策機器的問題外，如果出了問題，誰該負上責任呢?這與人類控制和責任的觀念有關。如果你沒有人的控制，那么誰是錯誤的負責人就不清楚了。況且由人類先授權可以讓人類先判斷一下，這樣做是不是對人類有益的，再決定是否同意。
你認為如何?
人類在任何時候都應該控制機器的決定嗎?這有可能嗎?什么時候由機器來接管是合適的?很明顯，有時機器比人類更有能力安全地處理一種情況，但這是最重要的嗎?什么時候你對一臺機器替你做決定感到舒服?還是你更愿意自己保持控制?
