Palo Alto Networks發現ChatGPT相關詐騙攻擊與日俱增

加密貨幣騙局:x2chatgpt[.]org.

Palo Alto NetworksChatGPT相關詐騙攻擊與日俱增

ChatGPT是史上增長最快的消費者應用程式之一;Palo Alto Networks旗下威脅研究團隊Unit 42就此熱門話題圍繞新註冊及搶註的域名進行監測。當ChatGPT越受歡迎,騙徒們也越趨利用與其相關的內容及域名來進行詐騙。

在2022年11月至2023年4月初,Unit 42發現與ChatGPT相關域名的每月註冊量增加了910%。期間,團隊從DNS安全日誌中觀察到相關搶註域名的盜用增長高達17,818%。Palo Alto Networks的進階URL過濾系統也偵察到每天多達118個ChatGPT相關的惡意URL。

通過研究不同案例,Unit 42發現騙徒的行騙方法層出不窮,其目的均在於引誘用戶下載惡意軟件或共享機密資訊。隨著OpenAI於2023年3月1日正式公布了ChatGPT的API,使用此程式的可疑應用也隨之增加。因此,ChatGPT用戶應時刻保持警惕,避免墮入仿冒聊天機器人設下的陷阱。

Palo Alto Networks的新世代防火牆和Prisma Access客戶可透過訂閱進階URL過濾、DNS安全服務和WildFire惡意軟件防護引擎,從而預防與ChatGPT相關騙局。這些安全服務已涵蓋了所提到的惡意指標(域名、IP、URL和hashes)。

ChatGPT相關騙局日益增多

隨著OpenAI迅速崛起,成為人工智能領域中最著名的品牌之一,我們觀察到攻擊者註冊和使用具有「openai」和「chatgpti」作為其域名(例如,openai[.]us,openai[.]xyz和chatgpt[.]jobs)。

截至2023年4月初,這類域名大多都不包含任何惡意內容。惟令人擔憂的是,它們並不是由 OpenAI或其他真實的域名管理公司控制。當它們被濫用且成為有心人的利器時,威脅也隨之而來。

圖一展示了ChatGPT發佈後,與其相關搶註域名註冊的趨勢。研究期間,我們注意到每天的域名註冊量顯著增加。2023年2月7日,微軟發布新版本的Bing後不久,就有超過300個與ChatGPT相關的域名被註冊。

ChatGPT搶註域名註冊趨勢

圖二的趨勢亦類似,ChatGPT的認可度和普及導致DNS安全服務日誌紀錄明顯增加。

ChatGPT搶註域名的 DNS 流量趨勢

Unit42 團隊還通過進階 URL 過濾系統進行了關鍵詞搜索。圖三顯示了在 OpenAI 發布 ChatGPT 官方 API  GPT-4 的當天出現了兩個大的上升峰值。

帶有ChatGPT 關鍵詞的惡意檢測的趨勢

ChatGPT騙案案例

在進行研究時,團隊觀察到多個仿冒官方 OpenAI 網站的釣魚 URL。大多情況下,騙徒會創建一個假網站,該網站看起來與ChatGPT 官方網站十分相似,並騙取用戶下載惡意軟件或分享敏感資訊。

例如,圖四顯示了騙徒用來傳送惡意軟件的常見招數。一個「下載 Windows 版本」的視窗會彈出,一旦點擊,就會在用戶未意識到風險的情況下,下載特洛伊木馬軟件(SHA256: ab68a3d42cb0f6f93f14e2551cac7fb1451a49bc876d3c1204ad53357ebf745f)至其設備。

僞冒軟件:chat-gpt-online-pc[.]com
此外,騙徒可能利用與 ChatGPT 相關的「社交工程」盜竊用戶身份或詐騙金錢。儘管 OpenAI 為用戶提供了 ChatGPT 的免費版本,但騙徒會將受害者引導至虛假網站,聲稱用戶需要為這些服務付費。如圖五所示,該偽造 ChatGPT 網站試圖引誘受害者提供其機密信息,例如信用卡詳細資料和電郵。

金融詐騙:pay[.]chatgpt-oracle[.]com

 團隊還注意到,一些騙徒正在充分利用 OpenAI 的日益普及來進行加密貨幣詐騙。圖六顯示了一個騙徒濫用 OpenAI 標誌和 Elon Musk 的名字來吸引受害者參加此項加密貨幣贈送欺詐活動。

加密貨幣騙局:x2chatgpt[.]org.

仿冒AI 聊天機器人的風險

ChatGPT 已成為今年最受歡迎的應用之一,市面上也出現了越來越多的仿冒 AI 聊天機器人應用程式。其中一些應用程式提供大型語言模型,而其他應用程式聲稱通過在 3 月 1 日宣布的公共 API 提供 ChatGPT 服務。然而,使用仿冒AI 聊天機器人伴隨著不少安全風險。

在ChatGPT API發布之前,已有數個開源項目允許用戶通過各種自動化工具連接到ChatGPT。考慮到某些國家或地區的用戶無法訪問到ChatGPT,這些自動化工具或API創建的網站可能會吸引這些地區的大量用戶。這同時為攻擊者提供了通過代理其服務謀取利益的機會。圖7顯示了一個中文網站提供付費聊天機器人服務。

付費聊天機器人服務:chatgpt[.]appleshop[.]top

無論是否免費,這些仿冒聊天機器人都不可信。它們許多是基於GPT-3所創建(於2020年6月發布),比最近的GPT-4和GPT-3.5弱。

此外,使用這些聊天機器人還存在另一個重大風險。它們可能會收集和竊取你提供的資料。換句話說,提供任何敏感或機密資料可能會讓你處於危險之中。聊天機器人的回應也可能被操縱以給出錯誤答案或誤導資訊。

例如,如圖八所示,搶註域名chatgptforchrome[.]com托管了ChatGPT Chrome的擴充功能的介紹網頁,並使用了官方OpenAI擴充功能的資料和影片。

「添加到Chrome」鏈結引導至不同的外掛程式URL

chrome[.]google[.]com/webstore/detail/ai-chatgpt/boofekcjiojcpcehaldjhjfhcienopme,而正確的URL應該是

chrome[.]google[.]com/webstore/detail/chatgpt-chrome-extension/cdjifpfganmhoojfclednjdnnpooaojb。

我們下載了圖八中顯示的「AI ChatGPT」擴充功能(SHA256:94a064bf46e26aafe2accb2bf490916a27eba5ba49e253d1afd1257188b05600),發現它在受害者的瀏覽器中添加了一個包含高度混淆的JavaScript。我們對JavaScript的分析顯示,它調用Facebook Graph API來竊取受害者的賬戶詳細信息,並可能進一步訪問其Facebook賬戶。其他研究人員也報告了類似涉及惡意瀏覽器擴充功能的活動。

ChatGPT擴充功能:chatgptforchrome[.]com

結論

ChatGPT在全球日益普及,因此成為騙徒的目標。我們注意到與ChatGPT相關新註冊域名和網站數量急劇增加,這些都可能被騙徒作不法之用。

為保障自己,ChatGPT用戶應注意與ChatGPT相關的可疑電子郵件或鏈接,並避免使用仿冒聊天機器人,應由官方OpenAI網站進入聊天室。

Palo Alto Networks新世代防火墻和Prisma Access客戶搭配進階URL過濾、DNS安全解決方案和防護引擎WildFire,可以保護用戶免受ChatGPT相關騙局的侵害。

數碼領域

CyberArk推出突破性開源工具 助企業防範AI模型越獄風險

數碼領域
2024-12-24 0
CyberArk推出突破性開源工具 助企業防範AI模型越獄風險 全球身份安全供應商CyberArk(NASDAQ: CYBR)今日宣佈推出尖端開源框架FuzzyAI,經測試能突破所有主要AI模型限制。FuzzyAI協助企業識別並解決AI模型漏洞,例如在雲端託管及內部AI模型中繞過防護措施及生成有害輸 ...

中電金信推出強大的 AI 驅動端到端解決方案,改變企業軟件測試模式

數碼領域
2024-12-19 0
中電金信推出強大的 AI 驅動端到端解決方案, 改變企業軟件測試模式   新一代卓越測試中心(TCoE 3.0)結合人工智能、機器學習和自動化技術, 提升企業軟件測試的速度、靈活性和效率 數碼化轉型專家中電金信推出功能強大的卓越測試中心(TCoE 3.0) 解決方案,改變企業對軟件測試的方式。TCo ...

Be the first to comment

發表迴響

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料