男男19禁啪啪无遮挡免费,国产免费AV片一级大片免费观看,16初次破初视频在线播放,人妻AV中文系列

人工智能研究的哪些方面應該是開放的，哪些方面應該是封閉的，以保證人工智能系統的安全和有益于人類?

在過去的一年里，關于ai人工智能研究的開放程度已經有了很多的討論，在這個問題上，無論是在人工智能安全團體內部還是外部，都存在分歧。許多人有理由害怕集中力量創建AGI并決定它的價值的權利在一個公司或組織手中。許多其他人擔心開源AGI的信息危害以及由此產生的誤用的可能性。我認為在公開和保密之間做出某種妥協是必要的，因為完全保密和完全公開的兩個極端似乎都是非常糟糕的，沒有單一的開放和保密軸心，我們可以對AGI開發的不同方面做出單獨的判斷，并制定一套指導方針。

有關人工智能開發的信息可以大致分為兩類，技術和戰略。技術信息包括研究論文、數據、源代碼(用于算法、目標函數)等。戰略信息包括目標、預測和時限、道德操守委員會的組成等。對戰略信息的開放無論在短期還是長期影響上都可能是有益的，而技術信息的開放在短期內是好的，但從長期來看可能是不好的，這是由于種族狀況的加劇。我們需要進一步考慮發布不同類型技術信息的權衡。

共享論文和數據對研究過程更為重要，也比共享代碼更具有潛在的危險性，因為僅從這些信息中很難重構代碼。例如，考慮到調整超參數的困難和計算體系結構之間的差異，基于研究論文的神經網絡算法的結果很難重現。

發布運行AGI所需的所有代碼，特別是在它被廣泛調試、測試和防范壞角色之前，將是極其不安全的。任何有足夠計算能力的人都可以運行代碼，并且很難關閉程序或防止它在互聯網上復制自己。

然而，不發布任何源代碼也是一個壞主意，這在目前是不切實際的，因為人工智能研究人員有很強的動機分享至少部分代碼，以獲得認可和可復制性。它也將是次優的，因為共享代碼的某些部分可能有助于安全。例如，在不使用優化代碼的情況下，將目標函數代碼開源是有意義的，因為優化代碼可以揭示出優化的目的是什么，而不是如何優化。這樣就有可能核實這一目標是否充分代表了社會的價值觀，無論如何，這個制度中對公眾來說是最可以理解和最重要的部分。

要核實一家公司或組織在多大程度上共享有關人工智能開發的技術信息，并強制實行完全公開或保密，是相當困難的。對于期望共享的內容和不共享的內容，指定指導方針并沒有多大的壞處。對于當今領先的人工智能公司來說，制定一套短期和長期的聯合開放指導方針將是一項有價值的努力。