怎样辨识出“AI脸”？
凯萨琳·希斯伍德（Catherine Heathwood） – BBC 国际部
根据顾问公司德勤2024年的报告，使用生成式AI的诈骗预计到明年仅在美国就会造成400亿美元损失。 [ANU (left; generated using StyleGAN3) / Igor Alecsander via Getty Images (right)]
2024年，一名香港金融从业员与工程顾问公司奥雅纳（Arup）的同事进行视讯会议，讨论一宗机密收购案时，一切看似再普通不过。
直到汇出2500万美元款项后，他们才发现自己被骗了。视讯中的其他人，包括看似是财务长的那个人，全是AI生成的深度伪造影像。
AI生成的脸孔越来越难与真人分辨，根据顾问公司德勤（Deloitte）2024年的报告，使用生成式AI的诈骗预计到明年仅在美国就会造成400亿美元的损失。
这正是澳洲国立大学（ANU）心理学副教授艾美·道尔（Amy Dawel）想了解的原因之一——我们是否都能接受训练，更有效地辨识AI生成的脸孔。
“我们现在辨认AI脸孔的能力真的很差，”她说，研究显示我们的表现不比五五开的猜测好，甚至更差。
那么，你辨别AI脸孔与真人脸孔的能力有多好？
“超真实”的AI脸
若您在上述测试中感到困难，其实您并不孤单。
道尔指出，难以辨识AI脸孔会带来真实世界的后果，影响我们所有人，“无论是网络钓鱼、交友网站，还是针对我们的银行帐户”。
在今年6月发表于《美国国家科学院院刊》（PNAS）的一项研究中，道尔博士与澳洲、加拿大和苏格兰的同事测试了一种新的训练方法。
因为随着AI技术进步，现代系统已大致修正了明显错误，道尔表示，诈骗者不太可能使用带有瑕疵的影像。
对此，研究人员并非教人去寻找不匹配的耳环或扭曲特征等明显破绽，而是训练他们对每张脸孔整体做出直觉判断。
道尔解释说，“问题之一是，我们预期AI脸孔会看起来很奇怪，这是基于过去的经验，但实际上是人类脸孔才不完全对称、有点怪异，所以整个逻辑已经颠倒了”。
道尔实验室先前的研究发现，AI生成的脸孔被判定为真人的频率，比实际人类脸孔还高——他们将此现象称为“AI超真实感”（AI hyperrealism）。
由于AI演算法倾向于取其训练的数万张脸孔的数学平均值，“AI脸孔实际上看起来比人类脸孔更平均，或是『超平均』，”道尔指出。
这“让它们感觉更值得信任、看起来更有吸引力，也感觉更熟悉”于真实人类脸孔。
但是，该研究仅针对白人AI生成脸孔。
AI演算法往往不成比例地以白人脸孔进行训练，因此这些脸孔可能比其他族裔的脸孔显得特别真实。
专家表示，真实的人脸虽然比例通常不如人工智能生成的面孔协调，但也更容易让人记住。 [JohnnyGreig via Getty Images (left) / seb_ra via Getty Images (right)]
训练
在最新研究中，研究团队首先检测了45名成年人一开始辨识AI生成脸孔的能力。
在一项测试中，他们被展示一系列三张脸孔，并被要求挑出AI那一张。他们平均答对率为41%。
参与者随后接受了约一小时的训练。道尔说，训练内容包括展示约100张脸孔——一半真实、一半AI生成——并要求他们针对六项整体特征评分：独特性、可记忆性、表情丰富度、对称性、比例协调性与吸引力。
根据道尔的说法，人类脸孔往往更独特、更易记忆、表情更丰富；而AI生成的脸孔则通常更对称、比例更协调、更有吸引力。
“我们甚至不会告诉他们AI脸孔更对称，”她说。“他们只需要对对称性评分。系统会告知这些是AI还是真人，透过这种接触，他们会逐渐感受到两者看起来有何不同。”
平均而言，参与者在训练后的准确率大致翻倍，达到上述测试的81%。
作为这项研究的后续，加拿大的合作者对另一组志愿者进行了相同的训练。
道尔表示，他们“分别分析数据后，发现了同样强大的效益”。
人类的本能
心理学家，研究视觉感知的英国伯恩茅斯大学埃斯图迪略博士（Dr Alejandro Estudillo）并未参与这项研究。
但，他告诉BBC，当他读到这项研究时感到惊讶，因为它与其他人使用的方法背道而驰。
人工智能产生的模型已被应用于广告宣传和电子商务领域。 [JONATHAN NACKSTRAND/AFP via Getty Images]
他还分析，这种新方法的美妙之处在于它利用了我们的自然本能。
“人类并不是靠聚焦个别特征来处理脸孔。相反，我们使用的是所谓的整体处理，”他解释道，也就是把所有特征整合成一个整体，以便有效辨识。
例如，当你对脸孔的独特性或对称性评分时，你不会只盯着某个特定特征，而是必须关注整张脸。
“没有人想过，或许最好的方法其实是告诉参与者，用他们日常生活中自然处理脸孔的方式来进行，”埃斯图迪略解释。
“猫捉老鼠”
不过，这项研究也有其限制。
道尔表示，这套训练已证明对目前最逼真的AI脸孔生成器之一StyleGAN3高度有效，但仍需在其他AI模型上进行测试。
“我们所有的参与者都是年轻人，因此有一些关键问题有待解答：这套训练是否适用于儿童，以及我们知道特别容易成为诈骗目标的年长者，”她补充道。
研究人员还指出，真正的挑战在于人类现在正与不断进步的AI系统赛跑。
目前，已有使用演算法侦测AI生成内容的自动化工具，但这些工具也有限制。它们可能只对特定AI产品有效，且当新模型出现或影像被编辑时，可能会难以应付。
因此，研究人员强调，在辨识AI深度伪造影像时，保持人类的核心角色至关重要。
道尔说，“这是一场猫捉老鼠的游戏，就像电脑病毒一样，它们不断变化，我们也必须不断调整才能跟上。”
尽管如此，她认为这些研究结果提供了“令人抱持希望的充分理由”。
她还建议，未来或许可以开发类似的训练，帮助人们辨识AI生成的语音和影片，而不只是静态脸孔——如此一来，我们或许都能更有效地判断，自己是否正与真实的同事通话，还是面对AI深度伪造影像。
我们使用了人工智能协助翻译这篇文章，它的原文是英文。在发布之前，BBC记者检查了翻译的内容。
来源：BBC