随着生成式AI技术，如GPT-4等强大的语言模型的广泛普及，人们对于AI在各个领域，如文本创作、艺术绘画、翻译，以及替代传统的人工客服等方面的潜力满怀期待。

然而，这种对未来技术的期待之余，我们也不得不面对AI技术可能被滥用的风险。让我们关注的是，一些犯罪分子已开始巧妙地利用AI技术进行电信诈骗，这无疑给我们的防范带来了新的挑战。

【资料图】

2019年，全球首例AI诈骗案发生在英国，一名诈骗者利用先进的AI语音模仿软件，假扮公司高层，成功骗取一家英国能源公司总经理的22万欧元。近期在国内，一例更令人震惊的案件中，某公司法人在使用微信与好友视频聊天的短短10分钟内被骗取了高达430万元。

这些骇人听闻的案例揭示了AI生成虚假信息所潜在的巨大社会风险，同时也让我们对人工智能软件被用于各类犯罪活动的可能性深感忧虑。

在人工智能技术的兴起之时，我们正处于寻找*应用场景与商业落地的关键期。虽然这类个别的诈骗案例不会直接扼杀AI的发展，但如果不能妥善解决相关的安全和隐私问题，也许会对人工智能的前景产生负面影响，形成对AI发展的压力。

01 AI诈骗：为何成功率极高？

AI诈骗的出现在很大程度上得益于人工智能技术，尤其是深度学习和机器学习的快速发展。通过这些先进的技术，诈骗者能够逐步训练出能够模拟人类行为和语言的AI，甚至能制作出极为逼真的虚假视频或音频（例如：人工智能的深度换脸技术Deepfakes）。

这些伪造的内容极度真实，让识别真假变得异常困难，从而大大提高了诈骗者的欺骗效果。

在这个日益数字化的社会，人们在网络和社交媒体上的活动越来越频繁，每个人都在生成大量的数字化信息。这为诈骗者提供了广阔的操作空间，他们可以利用这些平台，配合AI技术，进行大规模、精准的诈骗行为。

无论是通过大数据分析来获取被诈骗对象的行为习惯，更精确地定位其所处的社会层级和经济实力，还是通过熟悉的偏好接近对象，获得其信任，最终达到诈骗目标，都显示了AI诈骗的高效性和隐蔽性。

诈骗者往往拥有比受害者更多的信息和技术资源，这使得受害者在面对这种高科技诈骗时，难以察觉和防御。因此，信息和技术的不对称性，无疑成为了AI诈骗的一大优势。

然而，尽管一些地方已经开始制定针对AI诈骗的法规，但法律和监管的滞后也是一个不容忽视的问题。现有的法律和规定往往无法跟上技术的快速发展，导致AI诈骗在法律漏洞中找到足够的操作空间。

最后不可忽视的是，经济激励是推动诈骗者行动的主要因素。由于AI诈骗往往难以被察觉，诈骗者可以获得更高的经济收益。这种巨大的利益诱惑，也使他们愈加积极地进行这种活动。

综上，可以看出，AI诈骗的成功率之高，主要源于其技术优势、社会数字化、信息不对称、法规滞后以及经济激励等因素。

02 AI诈骗与传统诈骗相比，成本更低

随着AI技术的发展，它不仅改变了许多领域的工作方式，还深刻地改变了诈骗的形态，使得电信诈骗更加难以防范。

举个例子，AI换脸技术已经相对成熟，可以以较低的成本合成出极其真实的动态视频。最近的一个案例中，一名女子被一段伪造的自己的视频所诈骗，让她相信自己无意间涉及了一场犯罪，最终被骗走了大量财物。

AI诈骗具有高度自动化的特点。经过适当训练的AI模型能够在无人工干预的情况下自动运行。这意味着一旦AI诈骗工具被创建并部署，它就可以全天候、24小时进行欺诈行为，无需人工参与，从而降低了诈骗的人力成本。

首先技术从哪来？在GitHub等开源社区上，就有开源使用的AI换脸软件。其中最知名的是Deepfacelive、Deepfacelab两种著名开源换脸模型。很多相关的技术社区、论坛、贴吧，有大量小白入门系列教程，甚至还有中文版AI现成模型下载，一些交易平台上也有大量教程与教学包售卖，价格数元起。

此外，AI诈骗具有很强的可扩展性。与需要人工参与的传统诈骗方式不同，AI诈骗可以在短时间内轻易扩展到大规模。

举例来说，某诈骗集团完全可以利用自动拨打系统、AI语音识别和自然语言处理技术，日均拨打几十万甚至上百万次电话（类似海外ip呼出），范围覆盖全国多个城市。这种规模的扩张仅需增加一些计算资源，就能让AI诈骗影响到更多的人。

AI诈骗利用深度伪造和自然语言处理等技术制造出相当逼真的假象，使得诈骗行为更难以被察觉。例如，某欧洲能源公司因为一通伪造的CEO电话而被诈骗了约22万欧元。因为它们可以在不被察觉的情况下模拟人类的行为，这降低了诈骗行为被发现和制止的可能性，进一步降低了诈骗的风险成本。

然而，我们需要意识到，开发和训练一个有效的AI模型并不容易，这需要大量的数据、专门的技术知识和计算资源，都需要投入一定的成本。

随着法律监管力度的加大和识骗技术的发展，AI诈骗的风险和成本也可能会增加。一些国家已经开始建立相关法律，对使用AI进行诈骗的行为给予严厉惩罚。因此，尽管AI诈骗在某些方面具有成本优势，但实施AI诈骗仍然需要考虑多方面的风险和代价。

03 魔法打败魔法：社交平台的关键角色

在这个数字化的时代，社交平台显然已成为AI诈骗的主要战场。人们在社交平台上进行大量的在线活动和社交互动，为诈骗者提供了丰富的目标选择和信息来源，使得AI诈骗在社交平台上层出不穷。

举例来说，在一次针对社交媒体用户的诈骗中，诈骗者利用AI技术模仿了受害者朋友的语音，发起了一次虚假的紧急求助。受害者在无法分辨语音真假的情况下，被骗取了大量资金。

另外，一些诈骗者使用深度学习技术制作了假冒名人的虚假视频，声称这些名人在推荐某种投资机会，从而骗取了无数人的财产。

社交平台的多元性和开放性使得监管和防范变得困难。用户众多且行为各异，诈骗者往往能够混入其中进行犯罪行为。一旦被识别出来，他们往往已经骗取了大量财富，并逃之夭夭。

因此，社交平台在防止AI诈骗中扮演着至关重要的角色。它们需要利用先进的技术手段进行预防，制定并执行明确的用户政策，加强对用户的教育和引导，以便尽可能地减少AI诈骗的发生。

升级技术魔法打败：首先，社交平台需要强化技术防护。借助机器学习等先进技术，平台可以检测并标记出异常行为或可疑账户。例如，通过分析用户的行为模式，机器学习算法可以寻找并识别出与正常行为模式不符的行为，这类行为往往暗示可能存在诈骗行为。

建立规则魔法打败：其次，社交平台应制定并执行明确的用户政策。5月9日，抖音平台发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一旦发现违规行为，平台将严格处罚。

其他平台也需要明确说明哪些行为是被禁止的，以及违反规定将面临的后果。对于违规用户，社交平台需要设立一个公正而快速的处理机制，以确保公平对待每一位用户。

培养意识魔法打败：再者，社交平台可以通过提升用户的网络安全意识来防止AI诈骗。通过发布有关如何安全使用社交平台的教育内容，教导用户如何识别和防范AI诈骗，用户们就可以有效地降低自身成为诈骗受害者的风险。

同时，提醒用户不轻易信任陌生人，以及警告用户注意保护个人信息也是重要的措施。

总的来说，社交平台在防止AI诈骗中扮演着至关重要的角色。

正如同一把锤子可以用来建房子也可以用来破坏房子，AI技术为社交平台带来更好的用户体验，本身是一件好事，关键在于如何使用。平台需要在多个方面采取积极行动，以确保用户的网络安全，利用自身的技术能力来削弱AI诈骗产生的弊端。

04 结言

AI诈骗无疑是当前AI发展面临的重大挑战之一，其影响不容忽视。然而，相信有读者会认为将其视为压倒AI发展的“最后一根稻草”或许过于悲观。事实上，技术发展总会伴随无限可能的延展，也并非危言耸听。

我们需要认识到这一问题，并通过多角度的努力，包括社交平台的技术防护、用户教育、法律监管等途径，共同应对并降低其对社会的潜在风险。

AI诈骗的出现确实揭示了AI技术的一面隐患，但同样的，我们也可以看到，众多企业、研究机构以及监管者正努力在探索解决方案，以确保AI技术的健康发展和应用。

未来，我们将会看到更多的科技创新帮助我们识别和防范AI诈骗，法律监管体系将更加完善，社交平台将提供更好的用户安全保障。

AI诈骗并不会成为阻碍我们前进的“最后一根稻草”，相反，它将成为推动我们继续前进、发展更安全、更负责任的AI技术的重要驱动力。我们要保持乐观，积极应对挑战，并共同努力创造一个更加安全、可信赖的数字化社会。

关键词：