熱門文章
人工智能系統中關鍵術語的解析
發布時間:2018-09-29 分類:交通百科
人工智能系統領域的許多研究人員擔心人工智能系統發展的潛在短期后果,然而,想要考慮更先進人工智能系統的長期風險的人要少得多。為什么?要開始回答這個問題,它有助于我們更好地理解在未來5-10年里人工智能系統可能會出現的潛在問題,這將有助于我們更好地理解人工智能系統在未來5-10年的發展過程中可能會遇到的潛在問題。有助于更好地理解實際研究人員對人工智能系統安全性的擔憂,而不是經常在媒體上提起的擔憂。我們想要了解人工智能的信息,首先應該收料一些ai人工智能中的術語。
如果您還沒有接觸或了解人工智能系統,以下術語可能會有所幫助:
人工智能:一種能學習執行認知任務的機器或程序,類似于人腦完成的任務。通常情況下,程序,或代理,被期望能夠以某種方式與真實世界互動,而無需其創建者的持續監督。MicrosoftOffice被認為是一個計算機程序,因為它只會執行編程后的操作。Siri被大多數人認為是一個非常低級的人工智能系統,因為它必須適應周圍的環境,對各種各樣的所有者做出響應,并理解各種各樣的請求,而不是所有的請求都可以事先編寫好程序來處理。
人工智能系統水平有以下幾個方面:
窄人工智能系統:這是一種只能執行特定任務的人工智能系統。Siri可以在搜索引擎上查找任何信息,但不能寫書或開車。谷歌的自動駕駛汽車可以帶你到你想去的地方,但他們不會做飯。AlphaGo可以擊敗世界上最好的圍棋玩家,但它不能玩大富翁或研究癌癥。這些程序中的每一個都可以做得和人類一樣好,或者比人類更好,但是它們沒有達到人類所擁有的能力的廣度。
短期人工智能系統關注:最近人工智能系統發展的增長讓許多研究人員擔心未來5-10年可能會出現的一些問題。增加自主權將影響就業市場,并可能造成收入不平等。偏見,如性別歧視和種族主義,已經出現在一些節目中,人們擔心這可能會加劇,因為人工智能系統變得更有能力。許多人想知道,在系統向公眾發布之后,我們如何才能確保對系統的控制,就像微軟的聊天機器人Tay(Chatbot Tay)的問題所顯示的那樣。透明度是人們經常提到的另一個問題,隨著人工智能系統學會適應他們的環境,他們會修改程序以提高效率和準確性,而且跟蹤人工智能系統為什么采取了一些行動也將變得越來越困難,這些是較普遍提到的一些關切,但還有許多其他關切。
高級人工智能系統和人工智能系統(AGI):隨著人工智能系統程序擴展其能力,它將被認為是先進的。一旦它在能力和廣度上達到了人類水平的智能,它就會被認為是普遍的智能。
長期的人工智能系統擔憂:目前的預期是,我們可能在未來10至30年內開始看到更先進的人工智能系統。在大多數情況下,對長期人工智能系統的關注與對短期人工智能系統的關注類似,只是隨著人工智能系統的發展,由此產生的問題可能更具破壞性、破壞性和/或破壞性。
超智能:在所有領域都比人類聰明的人工智能系統。
Agent:具有某種程度的人工智能系統能力的程序、機器或機器人,可以在模擬的環境或現實世界中自主行動。
機器學習:人工智能系統研究的一個領域,關注于智能體如何從環境、經驗和交互中學習,以提高其功能和執行指定任務的能力。有了機器學習,人工智能系統將適應它的環境,而不需要額外的編程。例如,AlphaGo從一開始就沒有被編程為比人類更好,它的程序員都不擅長圍棋,無法與世界上最優秀的人競爭。相反,它被設計成玩很多圍棋游戲,目的是贏得比賽。每贏一場或輸一場,它就會學到更多關于如何在未來取勝的知識。
培訓:這些是機器學習程序必須經過的迭代,以便通過調整程序的設置來學習如何更好地實現其目標。在AlphaGo的情況下,訓練包括反復地玩。
神經網絡和深層神經網絡:神經網絡是受動物中樞神經系統處理信息方式的啟發而產生的程序,特別是在模式識別方面。這些是機器學習算法中的重要工具,可以幫助人工智能系統處理并從接收到的信息中學習,深層神經網絡具有更多的復雜性。
強化學習:類似于訓練狗,代理在其培訓的每一次迭代中都會收到正反兩方面的反饋,這樣它就可以了解哪些行為應該尋找,哪些應該避免。
目標功能:這是人工智能系統程序的目標(它也可以包括子目標)。再次以AlphaGo為例,主要目標函數將是贏得圍棋游戲。
獎勵黑客:當人工智能系統想出一種不受歡迎的方式來實現它的目標或目標功能時。例如,如果你告訴機器人清理它看到的任何垃圾,它可能會把所有的垃圾都扔掉,這樣它就看不到它們了。
可伸縮的監督:培訓代理人自己解決問題,而不需要人的持續監督。
安全探索:訓練代理人安全地探索其周圍環境,不傷害自己或他人,也不引發一些可能難以恢復的負面結果。
對分布變化的魯棒性:訓練代理適應新的環境,并了解環境何時發生了變化,這樣它就知道要更加謹慎。