Facebook 的算法如何脫離其創建者的控制



Facebook 的算法如何脫離其創建者的控制

從“Facebook 文件”的閱讀中出現的一切。世界報的研究

在公司的內部文件中,其工程師承認他們誤解了一個具有意想不到效果的計算機代碼,這使得社交網絡成為一個複雜且難以控制的機器。

這可能是閱讀“Facebook 文件”時出現的主要感覺。在 Facebook 前僱員弗朗西斯·豪根 (Frances Haugen) 檢索並由美國議會消息人士向包括《世界報》在內的各種媒體轉發的數千頁 Facebook 內部文件中,許多段落似乎表明 Facebook 不再了解或誤解了什麼。製作自己的算法。而且他的社交網絡已成為難以控制的機器。

一個關鍵算法尤其如此,它負責對出現在用戶動態消息中的消息進行“排名”:Facebook 使用多種信號,從最簡單的 - 訂閱頁面的人數 - 到最複雜的 - 用戶的“朋友”對某個主題表現出的興趣 - 以便為消息分配“分數”。分數越高,它就越有可能出現在新聞提要中。

然而,隨著時間的推移和社交網絡工程師的新信號的加入,一個帖子的平均“分數”已經爆炸了。在一份未註明日期的文件中,一位 Facebook 分析師進行了一些計算,發現對於某些內容,得分“可能超過 10 億”。這會導致許多審核工具無法使用的直接後果。後者將某些有問題的消息的分數降低 20%、30% 或 50%,以防止它們傳播過多。但是對於評分最高的內容,得分如此之高,以至於將其減半並不能阻止它繼續顯示。 “即使這些內容的分數降低了 90%,其中一些內容仍會保持在首位,”該文件的作者抱怨道。

沒有“統一視覺”的複雜系統

這個問題絕不是故意政策的結果,即某些帖子應該不受自動審核工具的影響。這只是 Facebook 多年來對算法進行數百次更改所造成的眾多副作用之一,社交網絡工程師自己似乎無法預測其後果。

“Facebook 應用程序的不同部分以復雜的方式相互交互,”並且每個團隊都在沒有“統一的系統視圖”的情況下發展變化,員工 Mary Beth Hunzaker 在她 8 月離開 Facebook 之際寫的長篇筆記中抱怨道。 . 2020. 後果? “平台功能或服務之間的意外交互促進或放大了問題的風險增加。”

在許多情況下,員工在內部文件中證明他們缺乏對計算機代碼中問題行為的理解。在印度,軟色情視頻突然在“觀看”選項卡中突出顯示,沒有人理解原因。在美國,工程師們正在努力了解為什麼某些政治團體在不應再被推薦給用戶時繼續被推薦給用戶。

2018 年的一篇文章指出:“每一次實驗都以意想不到的方式改變了新聞提要的組成。”兩年後,Facebook 分析師很高興地看到新聞提要中引發仇恨的內容數量似乎急劇下降,但他們注意解釋原因。 “理論上,這一結果可能是過去兩個月對算法進行一次或多次更改的結果。最終,可能很難確定是哪些,”一份文件指出。

當被問及這一點時,Facebook 欣然承認其算法已成為非常複雜的工具,但以定期調整它們以改進它們而自豪。儘管更改的後果並不總是很容易預測,但社交網絡確保它定期在用戶中進行的調查使其能夠快速發現任何重要問題,並在必要時在更改被證明存在太大問題時返回。

“偏見”

這些問題並非源於缺乏能力。 Facebook 聘請了一些世界上最好的工程師。這些缺陷也不是社交網絡特有的:“每當數據科學家和軟件工程師將內容個性化與算法放大相結合時,就會發生同樣的不良副作用,就像在 Facebook 提要、TikTok 或 YouTube 推薦的 For You 標籤中一樣,”Roddy 寫道。前 Facebook 工程師 Lindsay 在 6 月份發表在《紐約時報》上的一篇文章中。他補充說:

“這些算法 [...] 以他們的創造者幾乎無法理解的方式使偏見永久化並影響社會。 Facebook 已經用了 15 年的時間來證明基於承諾 [評論數量、分享數量……] 的內容排名算法可以以負責任的方式設計;如果他們還沒有成功,他們就永遠不會成功”。

而且,正如 Facebook 文件顯示的那樣,這並不是因為缺乏嘗試。內部分析揭示了 Facebook 近年來對其各種算法所做的許多重大和次要變化。從 2018 年的關鍵支點開始,該支點旨在突出 Facebook 所謂的“有意義的社交互動”(MSI)。該項目有一個明確的目標:優先考慮親密朋友發布的內容、家庭照片和文本,以損害政治內容以及媒體和“點擊誘餌”頁面發布的內容,這些內容的被動消費被互聯網用戶認為沒什麼用.

然而,MSI 的變化在一定程度上與預期的效果相反:正如 Facebook 團隊進行的多項後續分析所證明的那樣,它有利於分裂內容。部分原因是修改後的算法非常重視朋友和家人分享的內容,即使這些內容來自可疑或政治參與頁面。結果,深度轉發,即由朋友的朋友轉發的內容,突然在用戶的動態消息中佔據了很大的比重,同時,根據 Facebook 的研究,它們同時也是主要的傳播媒介之一。對於 Facebook 頁面。極右翼或陰謀。

從那時起,在 2019 年 4 月底,負責研究和提出針對 Facebook 上虛假信息或危險內容的解決方案的“誠信”團隊進行的一項分析估計,大幅降低這些深度轉發的權重將允許將虛假信息的可見性從 25% 降低到 50%,具體取決於格式。該提案的作者說,這將是“一種有效且中立的方式來限制最危險的內容(關於政治或健康)所帶來的風險”。

“我們有其他工具來降低某些類型內容的可見性,例如仇恨信息或裸照,”Facebook 發言人解釋說。深度轉發的整體減少是一種“鈍器,它也會影響正面或無害的帖子以及可能的暴力或挑釁性言論,因此我們謹慎使用它”。 Facebook 最近在埃塞俄比亞、緬甸、美國和斯里蘭卡臨時實施了它。

一長串測試和錯誤

該公司的批評者,包括Frances Haugen ,指責它在其平台設置中授予與用戶參與相關的數據的特權:活動、花費的時間、喜歡的數量、份額等。因此,Facebook 將在很大程度上忽略其算法更改的負面影響。 2020 年,在美國總統大選期間,該公司實施了一系列預防措施,選舉結束後立即停用這些措施 - 然後在 1 月 6 日唐納德·特朗普襲擊國會大廈期間重新啟用其中的一部分支持者。

這是否表明該公司主要試圖保護其使用統計數據,這對銷售廣告至關重要? Facebook 強烈否認這一點,並表示它有時會採取措施,在必要時降低用戶的參與度,以確保用戶的安全。 2018 年,算法更改旨在“優先考慮朋友和家人的內容,並以健康專家的研究為基礎,”內容政策負責人莫妮卡·比克特 (Monika Bickert) 於 10 月初在 Facebook 上告訴世界報。而且,正如預期的那樣,這一變化實際上將每天花費在平台上的時間減少了 5000 萬小時。

更廣泛地說,Facebook 表示不惜一切代價專注於“參與”對公司來說是無稽之談,因為其長期利益是讓用戶和廣告商對平台感覺良好,以確保他們繼續存在。然而,一長串的測試和更改表明算法的複雜性已經變得難以掌握,其後果並不總是立即顯而易見。儘管發生了許多變化,但問題仍然存在。

多年來,“誠信”團隊的成員提出的措施似乎越來越複雜,當時他們並沒有簡單地通過建議更改來規避問題,不是針對算法,而是針對接口。例如,過去兩年的一些文件建議添加“摩擦”元素以鼓勵用戶減少分享某些類型的內容,例如強迫他們在重新發布之前點擊文章。

2020 年 4 月的一份文件建議實施“內部透明度工具,以集中質量保證和控制新聞提要中的內容轉出”,這表明,即使對於處理這些問題的團隊,也有橫向的觀點公司的變革是艱難的。

最近的一些變化甚至似乎具有矛盾且幾乎具有諷刺意味的一面:自 2021 年初以來,Facebook 已在“70 個國家/地區”進行了實驗,以減少其用戶信息流中顯示的政治內容,並在美國和加拿大。 “這是他們在 2018 年已經說過的話的副本,”社交網絡的另一位前員工凱蒂·哈巴斯 (Katie Harbath) 笑著說,她於 2021 年離開並創辦了自己的公司。 “減少政治內容是改變 MSI 算法的主要原因之一——感覺就像我們在兜圈子一樣,”他遺憾地說道。

FACEBOOK算法的行業機密

如果世界上最強大的公司之一未能實現其目標,也可能是因為 Facebook 在過去三年中採取的許多措施直接反對,與其說是商業模式,不如說是本質本身。其平台和算法。在動態消息中,就像在推薦要關注的頁面或群組一樣,Facebook 首先嘗試構建一種能夠放大、檢測將激髮用戶熱情的內容和帳戶的機器。使共享、隱藏或降低“有效”內容的可見性變得更加困難,這從根本上與算法的主要任務背道而馳。

這就是為什麼美國和歐洲的監管機構對算法的工作方式越來越感興趣。有些人,例如 Frances Haugen 和 Roddy Lindsay,甚至支持鼓勵平台恢復按時間順序排列的內容分類。其他人,包括 Facebook,已經表示結果對用戶來說會更糟,因為算法還會過濾掉有害內容......

受到政客質疑,Facebook 顯然不想提供有關該軟件的詳細信息,這是其主要商業機密之一。但目前正在布魯塞爾討論的歐洲數字服務法草案計劃要求社交網絡對其算法更加透明,並允許互聯網用戶更改內容分類系統的參數。監管機構面臨的挑戰之一是獲得對這些平台的內部運作的真正訪問權,這些平台直到現在都是不透明的。文本規定了審計,但 Facebook 內部文件描繪的畫面可能會促使歐洲政客提出更高的要求。

(摘自 Epr Comunicazione 的外國媒體評論)


這是在 Mon, 01 Nov 2021 07:00:09 +0000 在 https://www.startmag.it/innovazione/come-algoritmo-di-facebook-sta-sfuggendo-al-controllo-dei-suoi-creatori/ 的報紙 “Scenari Economici” 上發表的文章的翻譯。