人工智能诈骗及应对方法
AI在这里帮助你，不论是起草电子邮件、制作概念艺术，还是利用对易受伤害的人们假装是他们的朋友或亲戚，来进行诈骗。AI如此多才多艺！但考虑到有些人宁愿不被骗，让我们稍微谈谈需要注意的事项。
近几年来，不仅媒体内容的质量如文字、音频、图片和视频得到极大提升，而且制作这些媒体的成本和难度也大大降低。一些工具不仅能帮助概念艺术家设计出奇幻怪兽或飞船，还能帮助非母语人士提高商务英语水平，但这些工具也可能被用于恶意目的。
不要指望终结者会敲门，然后向你兜售庞氏骗局 —— 这些都是我们多年来一直面对的老套骗局，但采用了生成式人工智能技术，使它们更容易、更廉价或更具说服力。
这绝不是一个完整的列表，只是人工智能可以极大增强的一些明显技巧。随着新技巧的出现或者你可以采取的额外步骤，我们一定会及时更新。
家人和朋友的声音克隆技术
合成语音已经存在了几十年，但直到最近一两年，技术的进步才使得新的语音可以仅仅从几秒的音频中生成。这意味着任何人的声音只要曾经公开广播过，比如在新闻报道、YouTube视频或者社交媒体上，就面临着声音被克隆的风险。
骗子可以利用这项技术制作逼真的虚假亲人或朋友的版本。当然，他们可以让制作的内容说任何话，但在诈骗中，最有可能的是制作一个声音片段请求帮助。
例如，一个父母可能会收到一个来自陌生号码的语音信箱，声音听起来像是他们儿子，说他在旅行时东西被偷了，有人借给他们手机，爸妈能不能寄些钱到这个地址、Venmo账号、商家等等。人们很容易想象出类似的变种，比如车祸（"他们不放我的车直到有人付钱"），医疗问题（"这个治疗保险不包括"）等等。
这种欺诈手法已经利用了拜登总统的声音！他们抓住了幕后的人，但未来的骗子会更加小心谨慎。
你如何反击声音克隆？
首先，不要费心去尝试辨别假声音。它们每天都在变得更加逼真，而且有很多方法可以掩饰任何质量问题。甚至专家都会被欺骗！
来自未知号码、电子邮件地址或账户的任何东西都应该被自动视为可疑。如果有人说他们是你的朋友或亲人，那就按照平时的方式联系这个人。他们可能会告诉你他们没事，而你猜对了，那只是一场骗局。
骗子通常如果被忽视就不会再跟进，而家人可能会。在考虑的时候，把可疑的消息留在已读状态也是可以的。
个性化钓鱼和垃圾邮件通过电子邮件和消息传输。
我们都偶尔会收到垃圾邮件，但是文本生成人工智能使得可能发送个性化的大规模邮件。由于数据泄露经常发生，你的许多个人信息都已经外泄。
收到那些“点击这里查看你的发票！”欺诈邮件是一回事，附件明显可怕，看起来毫不费力。但有了一点背景信息，它们突然变得相当可信，利用最近的位置、购买和习惯，使其看起来像一个真实的人或一个真实的问题。拥有一些个人信息，语言模型可以在几秒钟内为成千上万的收件人定制这些邮件的常规内容。
以下是翻译好的简体中文文本： 所以曾经的“亲爱的顾客，请查收您的发票”变成了类似这样的内容：“嗨，多丽丝！我是Etsy促销团队的成员。您最近看过的商品现在打五折！如果您使用这个链接来领取折扣，那寄送到您在贝灵厄姆的地址将免费。”这只是一个简单的例子，但是事实上。有了真实的姓名、购物习惯（很容易找出来）、大概的位置信息（同样容易），这样一来，信息传递就不那么明显了。
最后，这些仍然只是垃圾邮件。但这种定制的垃圾邮件曾经是由外国的内容农场里薪酬低微的人员完成的。现在，一个具有比许多专业作家更好的写作技巧的LLM可以大规模地完成这种工作！
你如何反击电子邮件垃圾邮件？
以下是翻译的简体中文版本： 与传统垃圾邮件一样，警惕性是你最好的武器。但不要指望能够在实际应用中区分生成的文本和人类写作的文本。很少有人能做到这一点，尽管一些公司和服务声称可以，但实际情况并非如此，尤其是对于另一个AI模型。
尽管文本可能已经改进，但这种诈骗的根本难题仍然是让您打开可疑的附件或链接。与往常一样，除非您对发件人的真实性和身份完全确定，否则不要点击或打开任何内容。如果您甚至有一点点不确定 - 这是一个很好培养的常识 - 不要点击，如果您有懂行的人可以转发给他们来第二次检查，那就这样做。
“假身份”识别和验证欺诈
由于过去几年数据泄露事件的数量（感谢Equifax！），可以说我们几乎所有人在暗网上都有相当多的个人数据。如果你遵循良好的在线安全实践，许多危险会减少，因为你更改了密码，启用了多因素身份验证等等。但生成式人工智能可能会在这个领域带来新的严重威胁。
随着越来越多关于某人的在线数据的泄露，甚至连他们的声音片段，现在创建一个听起来像目标人并且可以获取大部分用于验证身份的信息的AI角色变得越来越容易。
换个角度思考，如果你登录有问题，无法正确配置验证应用或丢失了手机，你会怎么做？很可能会打电话给客户服务部门，他们会通过一些琐碎的事实，如你的出生日期、电话号码或社会安全号码来“验证”你的身份。甚至更先进的方法，如“拍一张自拍照”，也越来越容易被欺骗。
顾客服务代理——据我们所知，也可能是人工智能！——很可能会满足这个假的你，并为其提供你实际打电话时享有的所有特权。他们可以在那个位置做的事情各不相同，但没有一件是好的！
与名单上的其他人一样，危险不在于这种假冒的真实性有多高，而在于骗子很容易广泛和反复进行这种攻击。不久前，这种冒充攻击是昂贵且耗时的，因此只限于像富人和CEO这样的高价值目标。如今，你可以建立一个工作流程，以最少的监督创建数千个冒充代理人，这些代理人可以自主地拨打一个人所有已知账户的客服号码，甚至创建新账户！只有少数成功即可证明攻击的成本是合理的。
你如何应对身份盗窃？
就像在人工智能助力骗子之前一样，“网络安全101”仍然是你的最佳选择。你的数据已经在外面了，覆水难收。但你可以确保你的账户得到充分保护，以防止最明显的攻击。
多因素身份验证是在这里任何人可以采取的最重要的单一步骤。任何严重的账户活动都会直接发送到您的手机，并且可疑的登陆或尝试更改密码将会显示在电子邮件中。不要忽视这些警告或将它们标记为垃圾邮件，即使（尤其是！）如果您收到很多。
人工智能生成的深度伪造和勒索
也许最可怕的新生人工智能诈骗形式是利用深度伪造图片对你或你的爱人进行勒索。你可以感谢快速发展的开放图像模型世界为这个充满未来和恐惧的前景！对于某些尖端图像生成方面感兴趣的人已经创建了工作流程，不仅可以渲染裸体，而且可以将它们附加到任何他们能找到图片的脸上。我不需要详细说明它已经被如何使用了。
但一个意想不到的后果是，常被称为“复仇色情”的骗局被延伸，但更准确地描述为非自愿传播亲密图像（尽管像“深度伪造”一样，可能难以取代原始术语）。当某人的私人图片通过黑客攻击或怀恨的前任发布时，它们可以被第三方用作勒索，威胁要广泛发布，除非支付一笔钱。
人工智能增强了这种诈骗，使得其实际上不需要存在真正的亲密影像！任何人的脸都可以被添加到由人工智能生成的身体上，尽管结果并不总是令人信服，但如果是像素化、低分辨率或部分模糊的话，这可能足以欺骗你或其他人。这就足以吓唬某人支付保密费用——尽管像大多数敲诈骗局一样，第一笔付款不太可能是最后一笔。
你如何对抗人工智能生成的深度伪造？
不幸的是，我们正在走向的世界是几乎任何人都可以随需求获取假裸照的世界。这是令人恐惧、奇怪和恶心的，但遗憾的是，这里的猫已经被放出来了。
以下是翻译成简体中文的文本： 除了坏人之外，没有人会对这种情况感到满意。但对于我们所有潜在的受害者来说，还有几件事是有利的。这或许只是杯水车薪，但这些图片并不真正是你的，也不需要真实的裸体照片来证明这一点。这些图像模型在某些方面可能会产生逼真的身体，但像其他生成式人工智能一样，它们只知道它们所训练过的内容。因此，这些假图片会缺乏任何独特的标记，比如说，它们很可能在其他方面显然是错误的。
以下是翻译成简体中文的版本： 尽管这种威胁可能永远不会完全消失，但对受害者来说，越来越多的救济措施正在出现。他们可以依法要求图像主机删除图片，或者禁止网络诈骗者在发布照片的网站上活动。随着问题的增加，法律和私人打击这一现象的手段也将不断增强。
TechCrunch不是律师！但如果你是受害者，就告诉警察。这不仅仅是诈骗，还是骚扰，虽然你不能指望警察做深度互联网侦探工作来追踪某人，但这些案件有时确实会有结果，或者骗子会因被发送给他们的ISP或论坛主机的请求而受到惊吓。
