近期，ChatGPT（聊天機器人程序）火了，大家認爲這是人工智能革命的一大步，與此同時針對ChatGPT使用也出現了一些爭議。而一些“李鬼”則看到了商機，藉此斂起不法之財。

調查

打着ChatGPT旗號 小程序收費高達千元

ChatGPT走紅後，其賬號一時在國內多個網購平臺、社交平臺上銷售火熱。在某電商平臺上售賣成品賬號的店鋪，一天之內多達萬人付款，價格最低2元。北京青年報記者此前曾在某網購平臺獲取了ChatGPT賬號，商家隨後私聊發來賬號和密碼。登錄後，記者發現這是一個多人共享賬號，系統運行比較緩慢。

商家表示如果需要單人賬號則需要額外收費，價格以100元爲底價，每多使用1分鐘加2元。近日，多個電商平臺對銷售ChatGPT賬號的店鋪進行了封禁，相關關鍵詞也被屏蔽。北青報記者先前購買賬戶的商鋪相關商品也已下架。

隨着ChatGPT的爆火，國內一些商家嗅到了生意，一批“李鬼”就此出現。一些微信公衆號、小程序產品打着ChatGPT的旗號，獲取流量，甚至向用戶收費，部分賬戶收費甚至高達千元。實際上，北青報記者瞭解到，這些“李鬼”通過驗證，它們與ChatGPT官方平臺回覆答案完全不一致。據瞭解，目前，ChatGPT的開發者、人工智能研究機構OpenAI並沒有在中國大陸提供有關ChatGPT的服務，也沒有相應的公司運營。

據瞭解，微信方面封禁了大多數此類相關的小程序和公衆號。2月18日下午，北青報記者搜索相關關鍵詞發現，以“ChatGPT”“智能問答”等字眼作名稱的小程序已經幾乎沒有了，但相關的公衆號仍然還有不少。其中，一個叫“超級AI問答”的公衆號提供5次免費提問機會，超過5次便需要註冊會員。該會員的收費爲打折後周卡99元，月卡199元，季卡399元。

ChatGPT被誘導用於生成特定網絡釣魚郵件

北青報記者注意到，山寨版的危害可能只是蹭熱度、賺流量錢和服務費，更需要提防的，是不法分子把ChatGPT與犯罪行爲聯繫在一起。據公安部官網發佈相關信息提醒稱，目前，境外有人使用ChatGPT創建一個完整的感染鏈：不同以往的廣撒網式的網絡釣魚，它在提問者的誘導下，可以生成針對特定人或者組織的“魚叉式”網絡釣魚郵件。此類釣魚郵件更具有欺騙性和迷惑性，接收者一旦點擊該郵件，系統就會被惡意代碼感染中毒。

與此同時，不法分子對ChatGPT的惡意利用，也帶來了更多的數據安全問題。目前，外國已有相關機構證明該機器人可能被用於編寫惡意軟件，從而逃避防病毒軟件的檢測，或利用其擬人的聊天對話功能，冒充真實的人或者組織騙取他人信息等。

案例

使用ChatGPT寫作新聞稿 導致錯誤信息在網上傳播

研究機構測試發現，如果對着ChatGPT提出充斥陰謀論和誤導性敘述的問題，它能在幾秒鐘內改編信息，產生大量令人信服卻沒有來源根據的內容。一旦ChatGPT被不法分子利用，將可能導致ChatGPT衍生成爲互聯網上製造和傳播網絡謠言的工具。

2月16日，一則“2023年3月1日起，杭州市政府將取消機動車尾號限行政策，此舉旨在提高城市交通效率，緩解交通擁堵，方便市民出行……”的消息在網上瘋傳。其一板一眼的表達讓許多市民都認爲這是官方的正式通報。然而實際情況是，杭州某小區業主羣討論ChatGPT，一位業主嘗試用它寫篇杭州取消限行的新聞稿，隨後在羣裏直播了使用ChatGPT的寫作過程，文章發在羣裏後經其他業主截圖轉發，導致了錯誤信息傳播。涉事業主後來在羣裏道歉。

分析

使用ChatGPT具有一定的法律風險

北京京師律師事務所律師雷國亞對北青報記者表示，ChatGPT火了，但其背後暴露出的人工智能法律風險，以及圍繞ChatGPT展開的無序商業值得重視。不少人嘗試用ChatGPT寫論文、研報，甚至寫程序等，甚至一些人用來開展商業行爲。這些行爲目前都具有一定的風險，比如知識產權問題、原創性問題等。如果確實是工作需要，使用ChatGPT寫相關內容，必須註明測試，署名時也要標註是ChatGPT。發佈者要對自己發佈內容的真實性負責，否則將承擔相應的法律責任。以杭州將取消機動車尾號限行政策爲例，如果該業主沒有盡到提醒的義務，造成後果是需要承擔一定的責任的。 文/本報記者  朱開雲  供圖/視覺中國

相關

微軟修改必應機器人體驗上限 每天50次聊天

2月17日，微軟表示，從當日起，必應聊天機器人體驗的上限爲每天50次聊天，每輪5次對話，一次對話包含用戶的提問和必應的回覆。這是必應在多次失控後，公司對其人工智能實施的對話限制。

微軟稱，很長的聊天會話可能會混淆必應中的基本聊天模式，爲了解決這些問題，微軟實施了一些更改，以幫助集中聊天會話。數據顯示，絕大多數人都能在5個回合內找到要找的答案，只有約1%的聊天對話有50條以上的信息。聊天會話達到5個回合後，您會被提示開始一個新的主題。在每個聊天會話結束時，需要清除上下文，這樣模型就不會被混淆。

15日，微軟公告顯示，必應發佈7天內，已經有71%的人對AI驅動的答案“豎起大拇指”了。但是，如果聊天時間過久，讓它回答15個以上的問題，它就會逐漸暴躁，給出沒有用處、或與設計的語氣不符的答案。

微軟表示，很長的聊天會話會使模型混淆它正在回答的問題，因此我們可能需要添加一個工具，以使您更輕鬆地刷新上下文，或從頭開始。有時，在模型嘗試響應時，可能會出現我們設計風格之外的語氣。這是一個非常重要的場景，需要大量提示。你們中的大多數人不會遇到它，但我們正在研究如何進行更精細的微調控制。

2月7日，微軟推出了整合 ChatGPT-4 的全新必應（Bing）搜索引擎，根據微軟企業副總裁兼消費領域首席營銷官 Yusuf Mehdi發佈的消息，在新版 Bing 上線 48 小時內，已經有超過 100 萬申請加入。

文/本報記者 溫婧  統籌/餘美英