財聯社12月20日訊（編輯 劉蕊）在今年10月美國總統拜登簽署首個人工智能監管行政命令後，美東時間週二，拜登政府表示，該政府正在邁出第一步，爲安全部署生成式人工智能以及如何測試和保護系統編寫關鍵標準和指導。

拜登政府邁出制定AI標準第一步

今年10月末，美國總統拜登簽署了一項“具有里程碑意義的”行政命令，推出白宮首個有關生成式人工智能的監管規定。根據行政命令，美國多個政府機構需制定標準，防止人工智能造成化學、生物、輻射、核和網絡安全風險。

美東時間週二，美國商務部國家標準與技術研究院（NIST）表示，將在2月2日之前向人工智能企業和公衆徵求意見，以進行關鍵的AI測試，該測試對確保人工智能系統安全至關重要。

NIST聲稱，他們正在制定評估、測試人工智能的指導方針，推進制定人工智能行業標準，併爲評估人工智能系統提供測試環境。

美國商務部長吉娜·雷蒙多（Gina Raimondo）表示，NIST的最新舉措正是由拜登10月的行政命令所推動的，旨在制定“圍繞人工智能安全、保障和信任的行業標準，使美國能夠繼續在負責任地開發和使用這一迅速發展的技術方面引領世界。”

NIST正制定AI“紅隊”測試指南

NIST正在制定的測試指南中，包括所謂的“紅隊”測試——NIST將考慮，“紅隊”測試在哪些方面對人工智能風險評估和管理最有利，併爲此制定最佳實踐。

“紅隊”測試是網絡安全測試中的一項重要測試環節。它指的是由專家團隊模擬真實世界的對手，以測試和增強系統的安全性。

今年8月，美國首次在一次重大網絡安全會議期間公開進行人工智能“紅隊”測試活動。該活動主要由AI行業組織AI Village、SeedAI、Humane Intelligence等參與。

白宮表示，在8月的活動中，數千名參與者測試了他們是否“可以讓這些系統產生不良輸出，或讓這些系統以其他方式失敗，目的是更好地瞭解這些系統所帶來的風險”。該活動“展示了外部紅隊如何成爲識別新型人工智能風險的有效工具”。