加密貨幣詐騙者如何採用新的AI技術

作者：Eric Johansson，dlnews 編譯：善歐巴，金色財經

• 殺豬盤詐騙者正在使用新的人工智能工具來欺騙受害者。
• 檢察官警告稱，全球將出現越來越多的新案件。
• 2022 年，加密貨幣詐騙給受害者造成的損失將超過25 億美元。

自從OpenAI推出ChatGPT並顛覆創業生態系統以來的幾個月裡，該技術已被貼上對新聞業、編劇和國家安全的威脅。因此，欺詐者和網絡犯罪分子利用大型語言模型從受害者那裡盜取加密貨幣也就不足為奇了。儘管如此，當一個使用Tandem（一種語言共享應用程序，兼作約會平台）的人進行在線對話時，他還是遇到了這種情況。另一位健談者很快說服他將聊天轉移到WhatsApp。

無論預期的最終結果是什麼，這個騙局都被一個冗長的文本搞砸了，該文本揭示了“作為'我'的語言模型，我沒有像人類那樣的感覺或情感”，基本上是使用了高級聊天機器人，即使不是ChatGPT，也與它有著驚人的相似之處。這名潛在受害者感到震驚，聯繫了網絡安全公司Sophos，該公司證實對犯罪分子利用新技術的擔憂已經成為現實。

Sophos首席威脅研究員肖恩·加拉格爾（Sean Gallagher）在一份強調此案的報告中表示：“我們現在可以說，至少在殺豬盤詐騙案中，這種情況確實正在發生。”

殺豬盤是一種騙局，詐騙者試圖誘騙受害者在一段時間內投資加密貨幣平台，承諾在兌現之前獲得高額收益，從而鼓勵受害者投入資金，最終導致他們遭受損失並感到羞恥。 FBI估計，截至2022年，這類加密貨幣詐騙已經給受害者造成了超過25億美元的損失。

然而，使用ChatGPT和類似工具將使犯罪分子“以比我們過去所見更糟糕的方式擴大規模”，加州檢察官艾琳·韋斯特（Erin West）表示。她因成功追回數百萬被盜加密貨幣而著名。這項技術將使犯罪分子能夠更好地定制與受害者的對話，克服語言障礙，接觸更多人並造成更大的破壞。她補充說：“ChatGPT的加入使得這種情況變得更加危險。”這一嚴肅警告是在有關網絡犯罪分子利用類似工具快速編寫惡意軟件的報告之後發出的。

不是會不會發生的問題，而是何時會發生的問題

安全公司和執法部門對這一局勢的發展感到不安，但我們與之交談的人都並不感到意外。 “這不是是否會發生的問題，而是何時會發生的問題，”網絡安全公司SonicWall戰略合作夥伴支持和集成副總裁Bobby Cornwell告訴DL News。

自從去年11月OpenAI推出ChatGPT以來，這些故事一直在醞釀。這些先進的聊天機器人經過大量數據的訓練。它們利用包括書籍、代碼、網站和文章在內的大型數據集，能夠編寫複雜的代碼，甚至可以根據用戶的提示進行對話。這對OpenAI來說是一個突破。截至一月份，其月活躍用戶數已經達到了約1億，成為歷史上增長最快的應用程序之一。人們已經開始將它用於編寫在線約會資料、恐怖故事，甚至生成視頻腳本和調試代碼等各種用途。包括谷歌和Meta在內的科技巨頭們也在加快開發自己的對話式人工智能工具，如Bard和LLaMA。

今年7月，特斯拉首席執行官埃隆·馬斯克（Elon Musk）成立了一家名為x.AI的新公司，旨在創建一個比OpenAI版本更少“喚醒”的ChatGPT版本。根據Crunchbase的數據，在2023年上半年，人工智能公司從投資者那裡籌集了超過250億美元。

ChatGPT的陰暗面

OpenAI 首席執行官薩姆·奧爾特曼（Sam Altman）並沒有慶祝勝利，而是進行了一次世界巡演，警告不受限制的人工智能所帶來的危險。他曾在美國國會作證，並告訴記者，他擔心OpenAI放出了眾所周知的人工智能精靈，“做了一些非常糟糕的事情”，因此他失眠了。他的言論是出於真正的恐懼還是精心策劃的公關策略的一部分仍然不確定。

無論奧爾特曼言論背後的動機是什麼，數字暴徒已經使用ChatGPT或類似工具來支持他們的計劃。網絡犯罪分子甚至聲稱創建了自己的ChatGPT版本，不受OpenAI安裝的安全措施的影響。據《連線》八月初報導，他們在暗網上宣傳它們是增強網絡釣魚攻擊和編寫惡意軟件的工具。網絡犯罪分子和威脅行為者社區精通技術，積極主動，當他們看到如何發展其工具、技術和實踐的優勢和改進時，往往會成為新技術趨勢的早期採用者。

因此，威脅行為者採用生成式人工智能也就不足為奇了，因為他們可以獲得同樣的生產力收益，並有可能提高他們隱藏、進行偵察、構建惡意代碼、欺騙人員和安全軟件等的能力。這些發展使得網絡安全專家和執法機構爭先恐後地應對威脅。

康威爾表示，網絡安全公司必須“在我們的系統中創造更多的智能，以尋找人工智能生成的內容”，並補充說，制定此類對策需要時間。 ，儘管她和其他執法部門可以對這些威脅發出警告，但殺豬盤背後的犯罪集團即使在利用人工智能之前也很難被剷除。

根據全球反詐騙組織稱，許多犯罪網絡都是在柬埔寨、老撾和緬甸等地運營。他們的犯罪行為已經獲利數十億美元，使他們能夠支付當地執法部門的費用並避免國際制裁。與這樣龐大、如此富有的犯罪集團作鬥爭非常困難。

OpenAI並未回應我們的置評請求。