Trust Stamp推出了一项计划，旨在帮助金融机构通过多因素生物识别身份验证快速跟踪其深度造假检测能力。人脸生物识别公司的一份新闻稿将Trust Stamp的生物识别人脸认证产品定位为“基于语音的系统的替代品或补充”，这些系统容易受到深度虚假语音攻击。
随着欺诈者利用廉价且易于访问的语音克隆和生成人工智能软件，音频和视频深度伪造已成为一个紧迫的问题。政治人物和名人的肖像被克隆，导致生物识别软件、验证工具和预防性身份认证市场激增。
Trust Stamp总裁Andrew Gowasack在描述他的经历时表示：“今年2月，由于接到了深度伪造公司首席财务官的视频电话，一名香港金融工作人员支付了2500万美元。”称之为“首席执行官欺诈”。
“虽然应该重点关注对客户和金融机构之间互动的攻击，但深度造假技术也可以用于客户企业内部的攻击，导致金融机构收到看似合法的指令，但这是基于企业内部的欺诈性通信而发起的，”Gowasack说。“这种类型的欺诈通常是通过鱼叉式网络钓鱼攻击通过电子邮件进行的，但通过语音和视频深度伪造，它现在可以用于Zoom或其他视频技术给出的指令。”
Trust Stamp表示，银行、信用社和其他使用语音指令或基于语音的身份验证的企业特别容易受到合成音频深度伪造的影响，应考虑集成该公司的多因素生物特征身份验证工具，以提供强大的防御。
“我们从未提供基于语音的身份验证，因为它很可能会被快速发展的人工智能技术欺骗，”Gowasack说。“尽管OpenAI表示他们目前尚未发布其语音引擎供公众使用，但仍有许多替代的生成人工智能引擎可用，包括开源模型。我们的多模式身份验证工具使用带有生命证明的面部身份验证，并与可选的设备身份验证相结合，可以快速集成到当前的身份验证系统中，作为基于语音的系统的替代或补充，也可以作为独立服务启动高风险交易。”
人工智能生成的深度伪造品的社会和政治影响正变得越来越清晰。在NPR（美国国家公共电台）的一篇文章中，加州大学伯克利分校的人工智能和取证研究员 Sarah Barrington描述了令人信服的深度伪造如何动摇基础信任。
“如果我们将真实的音频标记为假音频，比如说，在政治背景下，这对世界意味着什么？”Barrington说。“我们对一切都失去了信任。如果我们将假音频标记为真实音频，那么同样的情况也适用。我们可以让任何人做任何事或说任何话，并完全歪曲事实真相。”
在一项非正式实验中，NPR子公司威斯康星州公共广播电台将其记者的克隆声音与来自三个提供商的音频深度伪造检测工具进行了测试：Pindrop Security、AI or Not和AI Voice Detector。
一份摘要称，“NPR向每个提供商提交了84个时长为5到8秒的剪辑。大约一半的剪辑是来自三名NPR记者的真实广播故事片段。” NPR使用PlayHT公司的技术来生成其余部分，其中克隆了同一记者的声音，说出与真实剪辑中相同的单词。
在这三者中，只有 Pindrop（可供企业而非个人使用）表现良好，检测到了除三个深度伪造样本之外的所有样本。
Barrington表示，这表明有必要继续开发新的深度伪造检测方法，因为欺诈不仅威胁到全球政治和金融领域，还威胁到电话欺诈等策略的人际互动。
信息源于：biometricupdate
