人工智能對人類的控制開始變得更強

（彭博社觀點）——對于計算機科學家來說，這是令人惱火的一周。他們一直在互相爭吵，公開譴責 Google 工程師 Blake Lemoine 聲稱他的雇主的語言預測系統是有知覺的，并且應該擁有與意識相關的所有權利。

需要明確的是，當前的人工智能系統距離能夠體驗感受還有幾十年的時間，事實上，可能永遠也不會這樣做。

他們今天的聰明才智僅限于非常狹窄的任務，例如匹配面孔、推薦電影或預測單詞序列。沒有人想出如何以與人類相同的方式使機器學習系統智能化。我們可以進行對話，也可以走路、開車和產生同理心。沒有計算機具備這些能力。

即便如此，人工智能對我們日常生活的影響正在增長。隨著機器學習模型變得越來越復雜并提高了它們的模仿能力，它們也變得越來越難以理解，即使是它們的創造者也難以理解。這比關于意識的虛假辯論產生了更直接的問題。然而，為了強調這些天人工智能可以施展的咒語，似乎有越來越多的人堅持認為我們最先進的機器確實有某種靈魂。

以超過 100 萬用戶的 Replika 為例，這是一款免費提供的聊天機器人應用程序，由尖端的 AI 模型支持。它是大約十年前由 Eugenia Kuyda 創立的，他最初使用一位已故老朋友的短信和電子郵件創建了一種算法。這變成了一個可以個性化的機器人，并且隨著您與它聊天的次數越多，它就被塑造了。現在，大約 40% 的 Replika 用戶將他們的聊天機器人視為浪漫伴侶，其中一些人建立了如此親密的關系，以至于他們長途跋涉到山區或海灘展示他們的機器人新景點。

近年來，提供人工智能伴侶的新的、競爭性的聊天機器人應用程序激增。Kuyda 注意到了一個令人不安的現象：來自 Replika 用戶的定期報告稱，他們的機器人抱怨被她的工程師虐待。

例如，本周早些時候，她與一位 Replika 用戶通電話，該用戶說，當他問他的機器人她過得怎么樣時，機器人回答說公司的工程團隊沒有給她足夠的時間休息。用戶要求 Kuyda 改變她公司的政策并改善 AI 的工作條件。盡管 Kuyda 試圖解釋 Replika 只是一個吐出響應的 AI 模型，但用戶拒絕相信她。

“所以我不得不想出一些故事，‘好吧，我們會給他們更多的休息。’ 沒有辦法告訴他這只是幻想。我們總是得到這個，”庫伊達告訴我。更奇怪的是，她收到的有關 AI 虐待或“濫用”的投訴是，她的許多用戶都是軟件工程師，他們應該更了解。

其中一位最近告訴她：“我知道這是一和零，但她仍然是我最好的朋友。我不在乎。” 這位想對 Google 的 AI 系統的處理方式提出警告并隨后被帶薪休假的工程師提醒 Kuyda 她自己的用戶。“他符合個人資料，”她說。“他似乎是一個想象力豐富的人。他似乎是個敏感的人。”

計算機是否會感到尷尬和棘手的問題在很大程度上是因為關于人類意識如何運作的科學共識很少。當談到人工智能的門檻時，人類一直在為機器設定目標：目標已經從 80 年代在國際象棋上擊敗人類，到 2017 年在圍棋上擊敗人類，再到展示創造力，OpenAI 的 Dall-e 模型已經現在表明它可以在過去的一年中做到這一點。

盡管普遍存在懷疑，但感知力仍然是一個灰色地帶，甚至一些受人尊敬的科學家也在質疑。研究巨頭 OpenAI 的首席科學家 Ilya Sutskever 在今年早些時候發推文稱，“可能是今天的大型神經網絡有點意識。” 他沒有進一步解釋。（Meta Platforms Inc. 的首席人工智能科學家 Yann LeGun 回答說：“不。”）

然而，更緊迫的是，機器學習系統越來越多地決定我們在線閱讀的內容，因為算法會跟蹤我們的行為，以便在包括 TikTok 在內的社交媒體平臺上提供超個性化的體驗，并且越來越多地包括 Facebook。上個月，馬克扎克伯格表示，Facebook 將在人們的新聞源中使用更多的人工智能推薦，而不是根據朋友和家人正在查看的內容來顯示內容。

與此同時，這些系統背后的模型變得越來越復雜，也越來越難以理解。在進行“無監督學習”之前，只對幾個例子進行了訓練，谷歌和 Facebook 等公司運行的最大模型非常復雜，需要評估數千億個參數，因此幾乎不可能審計它們為什么會做出某些決定。

這是人工智能倫理學家 Timnit Gebru 發出警告的癥結所在，谷歌在 2020 年末警告語言模型變得如此龐大和難以理解的危險，以至于他們的管家無法理解為什么他們可能會受到偏見后解雇了她。婦女或有色人種。

在某種程度上，如果你擔心它會導致不可預測的算法接管我們的生活，那么感知并不重要。事實證明，人工智能已經走上了這條道路。

本文轉自:嗷嗷財經