要提防和避免的 ChatGPT 和 AI 诈骗

自去年 11 月推出 ChatGPT 以来，事实证明它的用处无穷无尽，全世界的员工每天都在寻找创新的方法来应用该技术。 然而， AI 工具的强大之处在于它们也可以用于阴险的目的，例如编写恶意软件脚本和网络钓鱼电子邮件。

除了利用人工智能来策划诈骗外，在过去六到八个月中，还发现黑客利用这一热门话题通过虚假投资机会和诈骗应用程序勒索人们的钱财并窃取他们的信息。

AI 诈骗是最难识别的，而且很多人不会投资Surfshark 防病毒软件等工具，该工具会在用户即将前往可疑网站或下载可疑应用程序时发出警告。 因此，我们将最近在野外观察到的所有常见策略汇总在一起。 总而言之，在本文中，我们涵盖：

• 人工智能诈骗：它们有多普遍？
• 人工智能辅助的网络钓鱼诈骗
• 人工智能语音克隆诈骗
• 虚假 ChatGPT 应用程序
• 虚假 ChatGPT 网站
• 人工智能投资诈骗
• 人工智能诈骗：他们只会变得更糟

AI 骗局：它们是什么，它们有多普遍？

正如我们在本文介绍中提到的，“AI 诈骗”可以指代两种不同类型的诈骗，此类诈骗的例子在 2023 年经常出现。

在AI 辅助诈骗中，人工智能帮助诈骗者实际实施诈骗，例如编写网络钓鱼电子邮件的文本。 在一般的 AI 诈骗中，黑客利用AI 的流行性和时代精神作为主题来吸引好奇的目标，例如虚假的 ChatGPT 应用程序诈骗。

加州 DFPI 已经绘制出人工智能投资诈骗案的上升趋势，而 McAfee 等网络安全公司观察到近几个月人工智能语音克隆诈骗案有所上升。

ChatGPT 的爆炸性发布也导致了一波恶意域的创建，本文也将对此进行讨论。

最近，Apple 联合创始人史蒂夫沃兹尼亚克——最近签署了一封呼吁暂停人工智能开发的信件——警告说，人工智能将使诈骗更难被发现，并让恶意行为者听起来越来越有说服力。 人工智能辅助诈骗的时代已经到来。

就像勒索软件即服务降低了攻击公司所需的技术能力水平一样，像 ChatGPT 这样的人工智能工具意味着几乎任何人都可以听起来很有说服力，因此从理论上讲，现在更大的人群可以有效地协调它们。

人工智能辅助的网络钓鱼诈骗

网络钓鱼诈骗已存在多年 - 诈骗者会发送电子邮件或短信，伪装成合法公司，例如 Microsoft，试图让您点击链接，这会将您带到恶意网站。

从那里，威胁者可以将恶意软件注入您的设备或窃取密码等个人信息。 从历史上看，发现它们的最简单方法之一是拼写和语法错误，像微软这样享有盛誉的公司根本不会在给客户的官方电子邮件中犯这些错误。

然而，在 2023 年，通过简单的提示，ChatGPT 可以生成干净、流畅的副本，不包含任何拼写错误。 这使得区分合法通信和网络钓鱼攻击变得更加困难。

如果您明确要求 ChatGPT 创建用于网络钓鱼目的的电子邮件，聊天机器人会拒绝这样做。 然而，我们要求 ChatGPT 生成两种不同类型的电子邮件，它们可以用作网络钓鱼诈骗的模板，令人惊讶的是，这些请求似乎没有根据其内容规则被阻止：

保护自己免受 AI 网络钓鱼诈骗

如果您收到一封看似来自合法公司的电子邮件，但它试图在您的决策中注入紧迫感（例如要求您支付罚款或登录您的帐户以避免被删除），请对待它要格外小心。 这是典型的网络钓鱼策略。

请记住，如果您认为电子邮件很可能是真实的，您可以随时与此人或公司建立新的沟通渠道。

例如，如果您从银行收到一封看似可疑的电子邮件，称您的帐户已被未经授权的第三方访问，请不要回复该电子邮件 - 只需使用上面列出的号码或地址自行联系银行的客户服务团队他们的网站。

人工智能语音克隆诈骗

人工智能语音诈骗是一种人工智能辅助诈骗，近几个月来一直是头条新闻。 McAfee 最近的一项全球调查发现，10% 的受访者已经成为 AI 语音诈骗的个人目标。 另有 15% 的人报告说，他们认识成为攻击目标的人。

在 AI 语音克隆诈骗中损失金钱的美国受害者中，有 11% 被骗了 5,000 至 15,000 美元。

在 AI 语音诈骗中，恶意行为者会从目标的社交媒体帐户中抓取音频数据，然后通过文本转语音应用程序运行它，该应用程序可以生成原始音频风格的新内容。 这些类型的应用程序可以免费在线访问，并且具有合法的非恶意用途。

诈骗者会创建一个语音邮件或语音留言，描述他们的目标处于困境中并且急需资金。 然后将其发送给他们的家人，希望他们无法区分亲人的声音和 AI 生成的声音。

保护自己免受 AI 语音诈骗

联邦贸易委员会 (FTC) 建议消费者在收到声称来自遇险亲人的信件时保持冷静，并尝试拨打他们接听电话的号码以确认其真实性。

如果您认为自己处于这种情况而无法拨通电话号码，请尝试拨打对方的正常电话号码。 如果您没有得到答复，请尝试通过联系与他们关系密切的人来验证他们的行踪——如果您使用“查找我的朋友”等应用程序，看看他们是否在安全的地方。

如果您无法核实他们的下落，请务必立即联系执法部门。 如果您发现这是一个骗局，请确保您直接向联邦贸易委员会报告。

欺诈性 ChatGPT 应用诈骗

就像任何其他主要的技术热潮一样，如果人们在谈论它——更重要的是，在搜索它——骗子就会利用它进行邪恶的手段。 ChatGPT 就是一个很好的例子。

Sophos 最近的一份报告发现了大量与 ChatGPT 相邻的应用程序，它们被称为“fleeceware”。 Fleeceware 应用程序提供功能有限的免费程序，然后用应用程序内广告轰炸用户，直到他们注册定价过高的订阅。

据这家网络安全公司称，“结合使用应用商店内外的广告和利用商店评级系统的虚假评论，这些误导性应用的开发者能够引诱毫无戒心的设备用户下载它们”。

据 SensorTower 称，一款名为 Genie 的虚假 ChatGPT 应用程序提供每周 7 美元或每年 70 美元的订阅服务，每月赚取 100 万美元。 其他人赚了数万英镑。 另一个在 Android 商店中称为“Chat GBT”的软件在 Sophos 的报告中被特别提及：

（图片来源：Sophos）

根据这家网络安全公司的说法，用户最终支付大笔费用的“专业”功能与免费版本“基本相同”。 他们还报告说，在该应用程序被下架之前，评论部分充斥着“下载该应用程序并发现它不起作用的人的评论——要么它只显示广告，要么在解锁时无法回答问题。”

保护自己免受虚假 ChatGPT 应用诈骗

确保您不会产生此类订阅费用或下载不需要的恶意软件的最简单方法就是不下载应用程序。 iPhone 用户现在可以下载最近推出的官方 ChatGPT 应用程序。 看看这是否标志着目前充斥 App Store 的假冒 ChatGPT 应用程序的消亡将是一件有趣的事情。

或者，iOS 和 Android 用户都可以将 ChatGPT 网络链接添加到他们的主屏幕，如果您是 iPhone 用户，则可以创建一个 Siri 快捷方式，直接将您带到网络上的 ChatGPT。 在这种情况下，主屏幕快捷方式和本机应用程序之间几乎没有实际区别。

虚假 ChatGPT 网站

除了伪造的 ChatGPT 应用程序，还有许多伪造的 ChatGPT 网站，利用围绕该术语的巨大搜索量。

2023 年 2 月，Twitter 用户 Alvosec 确定了四个域，它们都以与 ChatGPT 相关的名称分发恶意软件：

️ 提防这些传播恶意软件的#ChatGPT 域

聊天-gpt-windows[.]com
chat-gpt-online-pc[.]com
chat-gpt-pc[.]在线
chat-gpt[.]run@OpenAI #cybersecurity #infosec pic.twitter.com/hOZIVGN4Wi

- Alvosec ️ (@alvosec) 2023 年 2 月 23 日

一些报告指出，虚假的 ChatGPT 网站一直将 OpenAI 的聊天机器人呈现为可下载的 Windows 应用程序，而不是浏览器内的应用程序，从而允许他们将恶意软件加载到设备上。

如何保护自己免受虚假 ChatGPT 网站的侵害

请记住，ChatGPT 是一个 OpenAI 产品，访问聊天机器人的唯一方法是通过移动应用程序，或者专门通过他们的域。 例如，“ChatGPT[.]com”与真正合法的ChatGPT 没有任何关系，您不能像软件客户端一样下载ChatGPT。

奇怪的是，合法的 ChatGPT 注册/登录登录页面的 URL 中甚至没有“ChatGPT”一词：https://chat.openai.com/auth/login。

您也可以通过 OpenAI 的博客 (https://openai.com/blog/chatgpt) 注册，但同样，这是 OpenAI 域的一部分。 如果有人向您发送的 ChatGPT 网站链接未指向上述地址之一，我们建议您不要点击它，而是通过 Google 导航至合法网站。

人工智能投资诈骗

就像加密货币一样，诈骗者正在利用围绕人工智能的炒作——以及技术本身——来创造看似真实的虚假投资机会。

“TeslaCoin”和“TruthGPT Coin”都被用于诈骗，利用媒体围绕 Elon Musk 和 ChatGPT 的热议，并将自己描绘成时髦的投资机会。

加利福尼亚州金融保护与创新部声称，一家名为 Maxpread Technologies 的公司创建了一个由人工智能生成的假 CEO，并用鼓励赌徒投资的脚本对其进行了编程（如下图所示）。 该公司已被下达禁止令。

（图片来源：coinstats.app）

福布斯报道称，另一家投资公司 Harvest Keeper（DFPI 称该公司已于 3 月倒闭）聘请了一名演员假扮成其 CEO，以吸引热情的客户。 这说明了一些诈骗者会不遗余力地确保他们的宣传足够真实。

保护自己免受 AI 投资诈骗

如果您不认识的人直接通过投资机会与您联系，请极其谨慎地对待他们的建议。 有价值的投资机会往往不会以这种方式落入人们的怀抱。

如果听起来好得令人难以置信，并且有人向您提供有保证的回报，请不要相信他们。 永远无法保证投资回报，您的资本始终处于风险之中。

如果您是定期投资于公司的人，那么您就会知道在放弃辛苦赚来的现金之前进行尽职调查的重要性。 考虑到相关产品的热度和诈骗的盛行，我们建议对未来的 AI 投资进行更高级别的审查。

人工智能诈骗：他们只会变得更糟

2022 年，美国消费者因诈骗损失了 88 亿美元——2023 年也不大可能有任何不同。 金融不稳定时期通常也与欺诈增加有关，在全球范围内，许多国家都在苦苦挣扎。

目前，人工智能是骗子的金矿。 每个人都在谈论它，但很少有人真正了解它是什么，各种类型和规模的公司都在将 AI 产品推向市场。

现在，围绕 AI 的炒作使其成为互联网上最可下载、可投资和可点击的主题。 它为骗子提供了完美的掩护。

及时了解最新的骗局很重要，而 AI 使它们更难被发现，这一点尤为重要。 FTC、FBI 和其他联邦机构会定期发出警告，因此强烈建议在社交媒体上关注它们以获取最新更新。

但是，我们还建议购买具有恶意软件检测功能的 VPN，例如NordVPN或Surfshark 。 它们既会像标准 VPN 一样隐藏您的 IP 地址，还会提醒您注意潜伏在 Google 搜索结果页面上的可疑网站。 为自己配备这样的技术是确保自己上网安全的重要组成部分。