發布時間: 2026-08-02 12:27

單靠人工智慧無法保障知名人士的安全

根據今天發布的最新研究，人工智慧在近身保護和監視（CPS）服務中無法取代人類的判斷。

這項研究發表於英國心理學會的期刊《法律與犯罪心理學》，其結論是：鑑於研究中發現的挑戰，「人工智慧不適合在CPS實踐中完全取代人類的分析和評估。」

這項荷蘭研究基於對荷蘭全國或地方各級參與CPS服務的所有組織（包括警察和反恐部門）的專業人士進行的深度訪談。研究結果由具備人工智慧應用專長的學術研究人員分析，並在該領域專家會議上進一步探討。

研究結果突顯了在CPS服務中應用人工智慧的機遇與挑戰。主要關注點包括：

• 缺乏適合訓練人工智慧模型的適當數據

• CPS專業人員所處理資訊的模糊性，意味著這些資訊並不一定能夠被標註用於模型訓練

• 大型語言模型有「產生幻覺」的傾向，即生成事實上不正確但看似合理的資訊

• 人機互動中的未知因素，包括對偏見的擔憂，以及對人工智慧生成結果或建議的過度依賴或依賴不足

• 近身保護和監視所具有的獨特的高風險、時間敏感性

研究作者伊莎貝爾·范德維格特表示：「無論是個人需要保護免受跟蹤狂或前伴侶暴力侵害，還是公眾人物面臨來自組織犯罪、非國家行為體或極端組織的威脅，CPS都是在複雜且不斷變化的犯罪環境中運作。」

「因此，對於旨在支持此背景下決策的人工智慧模型而言，用專業知識進行訓練至關重要。同時，持續更新對於確保模型與新興威脅保持一致也至關重要。」

法醫心理學家、《應用作戰情報雜誌》副主編布蘭登·梅教授在回應這些發現時表示：

「當前的人工智慧系統無法取代人類決策者，這並不令我感到意外；事實上，我們在警務人工智慧中心的研究一再表明，人工智慧不適合那些需要判斷、直覺和隱性知識的高風險任務。」

「重要的是要提醒自己，大型語言模型缺乏推理、理解以及支撐專家判斷的推理和認知形式。儘管這些模型通過控制下一個詞預測的條件概率分佈來納入上下文，但上下文的概念仍然不同於人類的直覺、知識、經驗性理解和認知靈活性。」

「CPS的專業知識在目前的狀態下與人工智慧輔助技術並不相容，不是因為技術本身不行，而是因為這些工具所帶來的脆弱性仍然存在於我們身上。」