新浪科技訊 北京時間8月7日晚間消息，據報道，美國證券交易委員會（SEC）席加里·詹斯勒（Gary Gensler）多年來一直在研究AI的潛在後果。近期，像ChatGPT這樣的生產式AI工具的激增表明，這項技術有望改變各行各業，甚至是整個社會。

日前，詹斯勒談到了他對AI最擔心的一些問題。

AI可能是金融系統面臨的下一個重大系統性風險。2020年，詹斯勒與他人合寫了一篇關於深度學習和金融穩定的論文。其結論是，鑑於以往網絡和平臺效應對科技巨頭的影響，將來可能只有少數幾家AI公司能建立一些基礎的模型，來支持企業所依賴的AI工具。

詹斯勒預計，美國最終很可能會出現2~3個基礎性的AI模式。這將加深整個經濟體系的相互聯繫，使金融崩潰的可能性變得更大。因爲當一個模型或數據集成爲核心時，它會增加“羊羣”行爲（即從衆行爲），意味着每個人都將依賴相同的信息，做出類似的反應。

詹斯勒說：“這項技術（AI）將成爲未來危機和未來金融危機的中心。”

AI模型可能會把企業的利益置於投資者的利益之上。社交媒體推動的表情包股票狂潮，以及App上零售交易的興起，突顯了推送和預測算法的力量。但是，使用AI來研究投資者行爲或推薦交易的公司，在根據這些信息採取行動時，會把用戶利益放在優先位置嗎？

SEC上個月提出了一項規則，要求各平臺消除其技術中的利益衝突。詹斯勒說：“你不應該把顧問放在投資者之前，你也不應該把經紀人放在投資者之前。因此，我們就如何解決那些可能嵌入到模型中的衝突提出了具體的建議。”

如果生成式AI給出錯誤的財務建議，誰應該負責？詹斯勒稱：“根據法律，投資顧問有受託義務、注意義務和對客戶忠誠的義務。無論是否使用算法，你都有同樣的注意義務。”

在政策制定者的心目中，到底誰應該爲AI承擔法律責任，還存在爭議。但詹斯勒認爲：“應該要求這些公司創建安全的機制，因爲任何使用聊天機器人的人，都不會將責任下放給這項技術。他說：“機器人的各項參數，是由建造它們的人類設定的。”