数字化软件公司McAfee于2024年CES大展上推出了“Project Mockingbird”，作为检测使用音频进行欺诈的AI生成Deepfakes的一种方式。这一创新性技术采用了McAfee的AI动态音频检测技术，旨在阻止网络犯罪分子使用篡改的、由AI生成的音频进行欺诈和操纵公众舆论。
Project Mockingbird：数字声音的卫士
在CES 2024上亮相的Project Mockingbird是McAfee应对AI生成的欺诈威胁的最新尝试。这一AI动态音频检测技术旨在保护消费者免受通过操纵音频进行的深度伪造造成的伪信息和网络犯罪的侵害。
在这些欺诈中，例如与视频附带的案例一样，骗子将以合法发言者（如知名新闻主持人）开始一段视频。但接下来，他们会插入虚假的内容，让发言者说出原本并未说过的话。正如McAfee的CTO Steve Grobman在接受VentureBeat采访时所说，这是深度伪造，包括音频和视频。
AI生成的威胁
Grobman指出：“McAfee一直致力于保护消费者免受影响他们数字生活的威胁的影响。传统上，我们主要关注检测恶意软件，防止人们访问危险网站。”然而，随着生成式AI的迅速发展，我们开始看到网络犯罪分子使用生成式AI构建各种各样的骗局。
随着我们逐渐迈入选举周期，我们完全预期生成式AI将以各种形式用于虚假信息，以及合法的政治竞选内容生成。因此，过去几年，McAfee在确保我们拥有适当技术的投资方面得到了大幅增加，这些技术将能够融入我们的各种产品和后端技术中，以检测这些功能，并使我们的客户能够更明智地决定一个视频是否真实，是否值得信任，是否需要更加谨慎。
Project Mockingbird的工作原理
Project Mockingbird通过检测音频是否真实地来自人类，基于对所说话语的听觉分析，以抵制使用生成式AI创建逼真深度伪造的令人担忧趋势。
Grobman解释说：“我们在CES上宣布的实际上是我们建立的一些新技术的首次公开演示。我们在所有领域都有所作为，包括图像检测、视频检测、文本检测。我们最近投入了大量资源的一个方向是深度伪造音频。其中一个原因是，如果你考虑对手创建虚假内容，有很多选择可以使用各种不一定是音频来源的视频。有经典的深度伪造，其中有人在说话，视频和音频是同步的。但当视频中有其他视频，而说话者并非视频中的人物时，就有很多机会将音频轨道放在视频的顶部或其他视频上。”
Project Mockingbird的效率与准确性
Project Mockingbird通过混合使用AI驱动的上下文、行为和分类检测模型，以超过90%的准确率识别和防范视频中恶意篡改的音频。Grobman强调，McAfee的新AI检测功能使用户能够准确了解他们的数字环境，判断在线内容的真实性。
“这种AI检测技术的应用场景广泛，对于在AI生成的骗局和虚假信息不断增加的情况下，对消费者非常有价值。通过McAfee的深度伪造音频检测功能，我们将直接将识别真实与虚假的权力交到消费者手中。我们将帮助消费者避免‘cheapfake’欺诈，其中克隆的名人声称有一项新的限时赠品，还会确保消费者在观看有关总统候选人的视频时，能够立即知道它是真实的还是出于恶意目的生成的AI。这使得在AI时代保护用户的隐私和身份安全更上一层楼。我们的目标是为用户提供在新的以AI为驱动的世界中明晰和自信地导航的能力，以保护他们的在线隐私、身份和福祉。”
深度伪造的忧虑
对于深度伪造技术的担忧是可以感知的，McAfee在其2023年12月的调查中显示，美国人对深度伪造的担忧呈上升趋势。近68%的人表达了对深度伪造的担忧，相比前一年有所增加，而有33%的人报告了对深度伪造欺诈的经历或了解。
人们对深度伪造可能被用于影响选举（52%）、网络欺凌（44%）、破坏公众对媒体的信任（48%）、冒充公众人物（49%）、制作虚假色情内容（37%）、扭曲历史事实（43%）以及落入欺诈陷阱，从而让网络罪犯获取付款或个人信息（16%）等方面表达了关切。
Grobman表示：“人们担心在即将到来的选举周期中将暴露于深度伪造内容。而人们经常误解的一件事是人工智能的实质。人工智能通常被认为是让计算机做传统上由人类完成的事情。但从许多方面来看，2024年的人工智能将是关于人工智能能够比人类更好地完成任务。”
在此情境下的问题是，我们将如何能够区分真正的乔·拜登与深度伪造的乔·拜登，或者同样适用于唐纳德·特朗普。他说：“我们构建了先进的人工智能，能够识别可能对人类来说甚至是微小的特征。在政治季节，使用生成式AI制作竞选广告并不一定是非法的，甚至不道德。但我们认为消费者想要了解的一点是，它是通过生成式AI构建的，而不是基于真实的音频或视频。”
预测未来
Project Mockingbird的首次公开演示标志着McAfee在AI模型领域的承诺，满足各种用例和平台的需求，全面保护消费者的数字生活。通过将Project Mockingbird的象征意义与模仿他人歌曲的Mockingbirds的行为进行比较，McAfee强调了网络罪犯如何利用AI模仿声音来欺骗消费者，达到欺诈目的。
在CES 2024上，McAfee展示了Project Mockingbird的首次公开演示，邀请参会者亲身体验这一开创性技术。这一亮相证明了McAfee致力于开发多样化的AI模型组合，以满足各种用例和平台，全面保障消费者数字生活的承诺。
原文：https://venturebeat.com/ai/mcafee-unveils-project-mockingbird-to-stop-ai-voice-clone-scams/
文章来自ChatGPT3.5
