戰場上的人工智慧：中毒數據的惡夢

人工智慧也是軍事技術的核心，可提高其在戰場上的效率。然而，它的廣泛使用使其面臨一種非常特殊的攻擊，即「毒害」為其提供情報的數據。

美國國防部副部長詹妮弗·斯旺森週三在波托馬克軍官俱樂部會議上強調：“我不認為我們的數據現在受到了毒害，但當我們與勢均力敵的對手作戰時，我們必須確切地知道什麼向量是威脅。

每個機器學習演算法都必須接受資料訓練——大量的資料。五角大廈正在付出巨大的努力來收集、整理、整理和清理其數據，以便分析演算法和新興的人工智慧能夠理解這些數據。特別是，準備團隊必須在演算法學習錯誤之前消除所有不良數據點。

商業聊天機器人，從 2016 年的 Microsoft Tay 到 2023 年的 ChatGPT，已經展示了資料品質如何影響人工智慧的開發和操作。就人工智慧在軍事領域的應用而言，數據可能會被一國武裝部隊的潛在對手以蓄意和引導的方式“中毒”，即被偽造和扭曲，而這種技術被準確地定義為“數據” 。

「如今任何從網路學習的商業法學碩士（大型語言模式）都被毒害了，」斯旺森直言不諱地說。 “但老實說，我更關心你所謂的‘正常’人工智能，因為這些演算法實際上將被我們的士兵用來在戰場上做出決定。”

就五角大廈而言，這不是用從網路取得的資料訓練聊天機器人的問題。陸軍應在安全可靠的環境中使用可靠且經過驗證的軍事資料集進行訓練。具體來說，他推薦了 DoD 影響等級 5 或 6 的系統，適用於敏感 (5) 或機密 (6) 資料。

到今年夏天，應該會出現第一個人工智慧 IL-5 LLM 樣本，即基於 5 級數據，這對於所有類型的後台功能都很有用，可以總結大量資訊以實現更有效率的官僚流程。 “但我們最關心的是為戰場決策提供資訊的演算法。”

相反，毒害決定戰場活動的人工智慧資料可能是一個更深層、更難解決的問題。

獲得正確的軍事專用訓練資料對於五角大廈尤其重要，五角大廈的目標是利用人工智慧來協調未來跨陸地、空中、海上、太空和網路空間的作戰行動。這個概念被稱為聯合全局指揮與控制（CJADC2），五角大廈在二月宣布，已在世界各地的選定總部部署了一種有效的「最低生存能力」。

未來的版本將添加目標數據和打擊計劃，連接到現有的全軍種人工智慧戰鬥指揮項目：空軍的ABMS 、海軍的Project Overmatch和陸軍的Project Convergence 。

反過來，Project Convergence 將使用新成立的Project Linchpin開發的技術，這將成為指導策略決策的關鍵人工智慧。

換句話說，陸軍正試圖將領先軟體開發人員使用的開發、網路安全和當前操作（DevSecOps）之間的「敏捷」回饋循環應用於機器學習，以快速推出新技術並不斷更新它們。

問題在於，實際上，我們不知道如何指導這些過程，而對演算法進行商業管理的公司也不知道它們是如何運作的。通常，我們習慣將程式的功能視為確定性的，即對某種情況的固定回應。對於人工智慧來說，這種情況不會發生，因為答案並不總是預先確定的，正如 OpenAI 應用程式所證明的那樣。

還有一個進一步的問題：每個人工智慧實作都會產生資料流，這些資料流又被整合到人工智慧資料庫中，定義其未來的流程。所有這些使得數據中毒問題和提供給人工智慧程式的資訊的純度在戰略決策的定義及其傳輸中變得極其重要和必要。

未來幾年將出現一個新的戰場：資料戰場，各方都將試圖破壞和偽造對方決策所依據的資料庫。

感謝我們的 Telegram 頻道，您可以隨時了解新經濟情景文章的發布。

這是在 Mon, 22 Apr 2024 08:00:38 +0000 在 https://scenarieconomici.it/ia-sul-campo-di-battaglia-lincubo-dei-dati-avvelenati/ 的報紙 “Scenari Economici” 上發表的文章的翻譯。