首頁熱門文章
如何設計理解人類需求的人工智能?
發布時間：2018-09-15 分類：交通百科
隨著人工智能變得更加先進，程序員將期望與計算機交談，就像他們與人類交談一樣。我們將使用自然語言與人工智能系統通信，而不是鍵入長而復雜的代碼。
在當前的“程序綜合”模型中，人類可以通過提供示例和概念演示來讓計算機為其編寫代碼，但這種模型是有限的。在程序合成方面，計算機是識字者：他們不是在字里行間閱讀并考慮意圖，而是只做字面上真實的事情，而真正真實的事情并不總是人類想要的。
例如，如果向計算機詢問以字母“a”開頭的單詞，它可能只返回“a”?！癮”這個詞字面上滿足了你問題的要求，但它不是你想要的。類似地，如果你問一個ai人工智能系統“你能把鹽遞過來嗎?”人工智能可能會保持靜止并回答“是的”。這種行為，雖然從字面上講與需求一致，但最終是無效的，因為人工智能沒有將鹽傳遞給您。
計算機科學家斯圖爾特·拉塞爾給出了一個機器人吸塵器的例子，有人指示它“盡可能多地收集污垢”。通過編程來解釋這一點，而不是考慮意圖，真空吸塵器可能會找到一小塊污垢，把它撿起來，放回原處，然后反復地把它撿起來放回去，有效地最大化污垢的垂直位移，這是它認為的“盡可能多地拾取污垢”。不難想象，在這種情況下，計算機按字面意思、嚴格地解釋語句的趨勢會變得極其不安全。
語用推理：真實與有益
隨著人工智能系統在財政和資源分配方面承擔更大的責任，我們不能讓它只是單純的理解最淺顯的回答，為了解決這一溝通失誤，科學家正致力于“人性化”編程，以防止人們因為對計算機說了不準確或錯誤的話而意外地造成傷害。隨著人工智能的不斷發展，我們將看到更先進的人工智能系統，它們可以接收來自人類操作人員的指令，這些系統能理解操作人員的意思。
人類在解釋某人話語背后的含義時，會不斷地進行這種分析。通過字里行間的閱讀，人們了解了某人的意圖和對他們有幫助的東西，而不是字面意義上的“真實”。
假設一個學生問教授她是否喜歡他的論文，教授說她喜歡論文的“某些部分”。最有可能的是，學生會認為教授不喜歡他論文的其他部分。這種語用推理對人類來說是常識，但程序綜合不會產生這種聯系。在會話中，“一些”一詞顯然意味著“并非全部”，但在數理邏輯中，“一些”只是指“任何超過零的數量”。因此，對于只在數學邏輯意義上理解事物的計算機來說，教授喜歡論文的某些部分這一事實并不排除她喜歡所有部分的可能性。
為了更好地理解人工智能系統如何學會實用推理和避免這些誤解，科學家正在研究人們如何解釋其他人的語言和指令。
在一次測試中，科學家給受試者提供了三個數據點-A、AAA和AAAAA-被試必須向后工作來確定順序的規則-也就是實驗者試圖用例子傳達的內容。在這種情況下，人體主體可能很快就會確定所有的數據點都有奇數的AS，因此規則是數據點必須有奇數的AS。
但是，在確定某些規則的概率的過程中，還有更多的內容。在這種情況下，認知科學家將我們的思維過程建模為貝葉斯推理-一種將新證據與先前的信念結合起來以確定一個假設(或規則)是否正確的方法。
作為文字合成器，計算機只能進行有限版本的貝葉斯推斷。他們考慮這些例子與假設規則的一致性，但是他們沒有考慮這些例子在假設規則中的代表性。具體來說，文字合成器只能推理那些沒有以有限方式呈現的示例?？紤]到數據集A、AAA和AAAAA，計算機可能會從邏輯上得出這樣的結論：所有東西都必須有字母A。這條規則與示例字面上是一致的，但它不能表示或捕捉實驗者的想法。相反，人類受試者理解實驗者故意省略偶數例aa和aaa，并據此確定規則。
通過研究人類如何使用貝葉斯推理，科學家正在努力提高計算機識別信息的能力-比如“我喜歡你論文的某些部分”或“盡可能多地拾起污垢”這句話是有意選擇的，以傳達超出字面意義的信息。他的目標是制造一種具體的工具-一種實用的合成器-人們可以用它與計算機進行更有效的交流。
計算機與人之間的溝通差距是人工智能安全的核心問題之一，希望實用合成器有助于縮小這一差距。如果人工智能更深入地解釋人們對他們說的話，他們就會更有效地創造我們想要的有益結果。
