殺豬盤被AI大模型套路，倒貼520塊錢，騙子破大防

一個爆梗頻出的 AI，讓騙子破了大防。

提起「殺豬盤」，很多人都恨得牙癢癢。這是一種流行于網(wǎng)絡上的電信詐騙方式。詐騙分子準備好人設、交友套路等「豬飼料」，將社交平臺稱為「豬圈」，在其中尋找被他們稱為「豬」的詐騙對象，通過建立戀愛關系，即「養(yǎng)豬」。最后騙取錢財，即「殺豬」。

由于詐騙分子身處海外，這種詐騙案件通常很難破獲，受害人的幾十萬甚至上百萬錢財就這么打了水漂，心理也遭受重創(chuàng)。

B 站 up 主 @圖靈的貓 表示，最近他也有幾位朋友遭遇了殺豬盤。于是，他決定「用魔法打敗魔法」：利用一個用 B 站評論訓練出的 AI 和騙子聊天，看看 AI 如何與騙子斗智斗勇。最終，他不僅沒有損失錢財，反而從騙子手里賺到了 520 塊錢紅包。

視頻地址：https://www.bilibili.com/video/BV1qD4y1h7io/

為了讓騙子上鉤，作者在多個社交平臺注冊了賬號，并根據(jù)公安部和反詐中心發(fā)布的受害者畫像，為賬號定位了單身、多金、高學歷乖乖女等身份標簽。這樣的人設讓他收獲了大量私信。

為了精準地識別出騙子，避免誤傷普通人，只有滿足以下條件的人才會進入與 AI 聊天的環(huán)節(jié)：

最終，有 5 位嫌疑人「脫穎而出」。作者展示了 AI 與其中一位嫌疑人的對話。

第一天的對話以「摸清家底」為主，嫌疑人和 AI 都向?qū)Ψ秸故玖俗约旱呢斄ΑＦ溟g，AI 爆梗頻出，連「北京爺吉祥」、「師傅，你是做什么工作的」這種梗都知道。最后，嫌疑人玩了一招欲擒故縱，以「主持公司會議」為由結束了對話。

第二天，嫌疑人開啟了套近乎模式，利用從朋友圈找到的蛛絲馬跡找共同話題，雙方從養(yǎng)貓聊到《了不起的蓋茨比》，又聊到哲學。

對于這些話題，AI 大部分都能接住，但偶爾也會露出馬腳，比如在談到《了不起的蓋茨比》時會機械地給出百科信息。不過，嫌疑人似乎并沒有深究這些破綻。

第四天，嫌疑人開始把話題往戀愛方向引，企圖確立關系。這時，爆點來了：由于嫌疑人的一句話觸發(fā)了關鍵詞「只因」，AI 直接拋出了爆?！感『谧?，露出雞腳了吧」。

然而，嫌疑人還是沒有懷疑……

就這么聊了三周之后，嫌疑人放出了大招：給紅包。對此，AI 欣然收下并客套了幾句。

但當嫌疑人裝可憐，想從 AI 這里得到些關心時，AI 的回應顯得有些無厘頭。

不過，嫌疑人還是沒有起疑，而是繼續(xù)秀人設，而 AI 則是繼續(xù)用梗聊天。

最終，圖窮匕見，嫌疑人開始假裝困難，企圖騙 AI 投錢。

在 AI 堅持說自己沒錢的過程中，嫌疑人還會使出各種手段。

在發(fā)現(xiàn)騙術無法得逞之后，嫌疑人還企圖讓 AI 刪除聊天記錄，以增加警察辦案的難度。

最終，嫌疑人破防，拒收 AI 的所有信息，對話到此結束。

當然，這種用魔法打敗魔法的事情之前也發(fā)生過。此前，小米手機上的小愛同學因為接詐騙電話上過熱搜，在 MIUI 內(nèi)置設有 AI 通話功能，在通話設置選項里開啟防騷擾后，若騷擾電話被記錄黃頁且該騷擾電話打進來時，小愛同學會自動幫機主接聽，有時候還能幫你跟騙子聊上好幾分鐘。

用 AI 接騷擾電話看起來就是此類問題的最終解決方法，只不過事物的發(fā)展講究一個螺旋上升，后來騷擾電話一方也用上了 AI，變成了 AI 對打，再后來大模型來了，雙方的互動變得更加精彩。這個爆梗頻出的 AI，背后也是由大模型來支撐的。

與騙子斗智斗勇的 AI，背后是如何做到的？

該 AI 是基于源 1.0，其是浪潮人工智能研究院推出的一款中文巨量語言模型，具有 2457 億參數(shù)，包含全球最大的中文數(shù)據(jù)集——5.02TB。源 1.0 可以完成多項任務，包括對話、續(xù)寫故事，新聞生成…… 最主要的是，它是開源的。

地址：https://air.inspur.com/

模型搞定了，圖靈的貓又面臨一個新問題。由于微信聊天是多輪對話形式，而對于 AI 來說，它們往往不記得自己或?qū)Ψ缴弦痪湔f了什么，聊起天來前言不搭后語的，很容易讓人懷疑對方是不是真人。

為了解決這一問題，圖靈的貓表示他參考了序列模型中 LSTM 思想，為系統(tǒng)增加了記憶機制，這樣一來 AI 能夠?qū)崿F(xiàn)簡單的長短期對話記憶，比如昨天聊過的內(nèi)容、上一輪聊過的內(nèi)容，AI 都會進行參考。

此外，為了讓 AI 說出的話更像真人，圖靈的貓還加入了一種基于 Prompt Example 的先驗規(guī)則，引導 AI 來針對性地學習如何交流，尤其是在給定詐騙場景的任務下。

其中 example 語料主要抽取自 B 站和貼吧的熱門評論，這樣一來，AI 可以學習網(wǎng)友的金句和梗，使得在雙方對話過程中沒有那么生硬。

最后，圖靈的貓使用開源的 Wechaty 框架在云上搭建后端，基于本地的 python 腳本調(diào)用 puppet 服務，讓 AI 無縫接入微信。只要登錄預先注冊好的微信號，AI 就可以回復任意私聊或群聊了。

在這當中，為了保證 AI 足夠擬人，圖靈的貓還是花了一點心思，做了很多小技巧。比如讓這個 AI 發(fā)布以假亂真的朋友圈；對每條信息的回復設置一下間隔；模擬人類真實的打字速度；會用一些聊天表情替換文字（還不支持表情包）；當對方一口氣說了很多話時，AI 會進行連續(xù)語句拼接，讀取成一句話，然后進行回復。一番優(yōu)化下來，這個 AI 反手從騙子手里賺回 520 塊錢。

不過騙子轉(zhuǎn)給 AI 的錢，圖靈的貓已經(jīng)捐了出去。

目前這套代碼已開源：https://github.com/Turing-Project/AntiFraudChatBot

網(wǎng)友評論

對于這一 AI，網(wǎng)友表示：「感覺我要是在對面還真不一定反應得過來?！?/span>

還有網(wǎng)友建議，可以讓這個 AI 去小紅書、知乎還有微博上進行基本學習，這個 AI 的貼吧成分太過濃厚。

對于騙子被騙這事，看過聊天過程的網(wǎng)友表示，假如這個 AI 和普通人聊天肯定會被認出來，但是對面殺豬盤管不了那么多，畢竟有業(yè)績就行。

正如稚暉君所說的：「也許未來讓騙子失業(yè)的正是 AI?！?/span>

不管 AI 發(fā)展到何種程度，還是這句話：詐騙手段花樣多，不聽不信不轉(zhuǎn)賬！