BAE系統公司7月14日宣佈，作爲美DARPA能力感知機器學習(CAML)項目合同的一部分，BAE系統公司近期向DARPA交付了MindfuL軟件。MindfuL軟件的交付是該項目提高機器學習系統透明度的首個里程碑。BAE系統公司聲稱，該公司開發的新軟件可以幫助美國國防部建立對機器學習算法產生的決策和情報的信心。

將基於人工智能的系統從決策工具轉變爲真正的合作伙伴，需要用戶信任他們的機器夥伴。雖然機器學習技術已經成熟，但這些系統還不能傳達其決策的背景和信心——包括任務策略、與給定任務相關的訓練完成情況、可能影響其行動的因素，或者在特定條件下成功的可能性。機器學習算法爲美國防部系統帶來了希望，但是如何確定用戶對其輸出的信任度仍是一個挑戰。情報官員一再指出，分析人員不能依賴於僅僅產生一個決定或一條情報的黑盒人工智能系統，他們需要了解這個系統是如何做出這個決定的，以及哪些看不見的問題（訓練數據或其他方面）可能會影響這個決定。

爲了應對這些挑戰，BAE系統公司提供了MindfuL解決方案，該系統將獨立“審計”基於機器學習的系統，併爲最終用戶提供對該技術建立信任的洞察力。該系統的第一個軟件版本提供了一種基線能力，用於檢測系統何時遇到未經訓練的新環境。

BAE系統公司自主、控制和評估小組的產品線主管Chris Eisenbies說:“支撐機器學習和人工智能應用的技術正在迅速發展，現在是時候確保這些系統能夠集成、使用，並最終在戰場上獲得信任。”MindfuL系統儲存相關數據，比較當前環境和過去的經驗，得出易於理解的結論。

MindfuL旨在通過提供更多關於產出的背景信息來幫助用戶評估對於機器學習算法產生的決策和情報的可信度。該程序將生成這樣的描述:“機器學習系統已經在陽光充足的乾燥環境中導航了1000次，並且在類似條件下以高於99%的準確率完成了任務。”或者，“在類似的條件下，機器學習系統在雨中僅導航100次，準確率只有80%；建議手動控制。”

MindfuL軟件是BAE系統公司和麻省理工學院計算機科學和人工智能實驗室合作設計和製造的。根據DARPA在2019年授予的爲期三年、價值約500萬美元的CAML項目， BAE系統公司計劃在今年晚些時候演示軟件的仿真和原型硬件。