導讀:今年以來，隨著ChatGPT和其他工具的出現，生成式人工智能技術已經獲得了近似病毒式的狂熱傳播。軍事機構既希望獲得大型語言模型等生成式人工智能能力，同時也對該項技術的獲得采取謹慎態度。以下是對訓練生成式人工智能在軍事應用中的風險分析。
生成式人工智能需要大量的數據來進行訓練和生成結果。利用該技術需要積極收集和處理國防領域相關的數據，以提供給生成式人工智能系統進行訓練和應用。在收集和輸入的過程中，存在數據泄露和數據真實性兩大關鍵風險。
安全隱患和隱私泄露
在軍事機密網絡信息安全方面，生成式人工智能有能力生成模擬的攻擊模型和攻擊策略。ChatGPT可用于對特定的目標生成網絡攻擊代碼，包括關鍵的國家基礎設施、軍事設施和政府機構。也可以解密通信、情報數據、講話和圖像，增強攻擊者的能力并危及通信安全，同時增加情報泄露的風險。這些能力對軍事安全構成重大風險，因為它使惡意行為者能夠獲得攻擊軍事基地或關鍵基礎設施的建議，從而對軍事安全構成威脅。
在軍事人員隱私和安全方面，大型模型可以分析和解析個人數據和照片，以獲取大量敏感信息，包括個人身份、位置和移動軌跡。這些信息可被用來跟蹤、追蹤和監視軍事人員，從而導致隱私侵犯和人身安全威脅。此外，先進的生成式人工智能技術可以通過生成真實的假人和虛假信息來欺騙和提取高級軍官和高級官員的敏感數據，從而帶來軍事安全風險。
鑒于生成式人工智能的訓練和應用可能涉及到敏感信息和技術，因此，國防部門可能要采取措施來確保相關的安全和隱私保護。他們可能需要制定相關政策和規定，以確保生成式人工智能系統的使用符合法律和道德標準。
雖然開放人工智能、谷歌、微軟和其他公司制造的公共訪問模型已經存在，但五角大樓敦促部隊不要將政府信息輸入其中。
2023年9月29日，因數據安全風險，美國太空部隊在編人員已暫停在政府電腦上使用ChatGPT等基于網絡的生成人工智能工具，包括大型語言模型，除非得到太空部隊首席技術與創新官的正式批準。太空部隊首席技術與創新官辦公室已經與五角大樓其他辦公室組成了一個生成式人工智能任務小組，考慮以“負責任和戰略性”的方式使用這項技術。預計會在后續發布關于太空部隊使用生成式人工智能的更多指導。
2023年10月30日，拜登政府發布行政令，命令制定國家安全備忘錄(National Security Memorandum)以指導人工智能和安全方面的進一步行動，由國家安全委員會和白宮辦公廳主任制定。該文件將確保美國軍事和情報界在其任務中安全、合乎道德且有效地使用人工智能，并將指導美軍采取行動反擊對手對人工智能的軍事使用。
數據集的真實可靠性
生成式人工智能模型可能會無意中納入來自其訓練集的錯誤數據。虛假情報數據的產生和傳播對軍事安全構成重大威脅。包括創建一些關于軍事戰略目標、部隊位置和行動計劃方面的虛假信息，制作一些虛假的圖像、視頻和文本，用于冒充和軍事欺騙。如果指揮官依賴這些基于虛假情報做出的評估和決策，就會導致錯誤的行動和不良后果。因此，必須警惕虛假情報的存在，以保護軍事行動的準確性和有效性。
美國國防部已經明確表示不信任目前市場上的商業產品，這些產品已經暴露出問題，它們時而會產生機器“幻覺”并提供一些不準確的信息——這是一種大型語言模型本質上編造不真實信息或虛假事實的現象，這些信息或事實并非植根于實際的真實數據或事件。
美國國防部負責關鍵技術的副首席技術官梅納德·霍利迪(Maynard Holliday)表示，國防部不會在實例中部署像ChatGPT這樣的商用現貨技術，而是將基于國防部自己的數據，使用這些大型語言模型，根據國防部的數據進行定制，根據數據進行訓練，然后根據國防部的云計算或本地計算，以獲得加密效果，并從根本上分析它的反饋，盡可能地獲取真實可掌控的數據訓練的模型。也有可能未來可能會與業界和學術界合作對相應的技術進行裁剪，以滿足軍事需求。
技術擴散
ChatGPT的出現點燃了全球人工智能領域的技術競賽。生成模型在先進軍事裝備的設計和優化中起著至關重要的作用，為軍事戰略和能力提供了見解和模擬。然而，如果沒有適當的監管和限制，這些模型可能會被利用，導致先進軍事技術的快速發展和廣泛傳播，也可能刺激新武器系統和軍事技術的發展，從而加劇國家間的軍備競賽，并最終導致國際軍事關系緊張和不穩定的加劇。
小結
總而言之，生成式人工智能的軍事應用發展過程中機遇和風險并存，為了有效應對這一挑戰，圍繞人工智能技術制定法規和控制措施，以促進其安全使用和標準化發展，已經迫在眉睫
