认为那是您的孩子呼吁钱?这可能是一个声音深击

声音深击“width=
克隆某人的声音比以往任何时候都容易。研究人员能够以低至五秒钟的录音来克隆声音。Artem Oleshko/Shutterstock

漫长的一天工作后,您刚刚回到家,当您的手机突然开始嗡嗡作响时,即将坐下来吃晚饭。另一方面,是亲人,也许是父母,孩子或童年的朋友,请您立即向他们寄钱。

您问他们问题,试图理解。他们的答案有些偏离,要么是模糊的,要么不符合性格,有时会有一个奇特的延迟,好像他们在想太慢了。但是,您可以确定这绝对是您所爱的人:那是您听到的声音,来电显示正在显示他们的数字。将奇怪的人弄清楚他们的恐慌,您忠实地将钱寄给了他们为您提供的银行帐户。

广告

第二天,您给他们回电以确保一切都没事。您所爱的人不知道您在说什么。那是因为他们从来没有打电话给您 - 您被技术欺骗了:声音深击。成千上万的人是在2022年以这种方式骗了

作为计算机安全研究人员,我们看到,深度学习算法,音频编辑和工程以及合成语音生成的持续进步意味着越来越有可能convincingly simulate a person's voice

Even worse, chatbots likechatgpt开始使用自适应实时响应生成逼真的脚本。经过将这些技术与语音产生相结合, a deepfake goes from being a static recording to a live, lifelike avatar that can convincingly have a phone conversation.

广告

Cloning a Voice

Crafting a compelling high-quality deepfake, whether video or audio, is not the easiest thing to do. It requires a wealth of artistic and technical skills, powerful hardware and a fairly hefty sample of the target voice.

There are a growing number of services offering toproduce moderate- to high-quality voice clones for a fee,以及一些语音deepfake工具需要一个样本only a minute long, 甚至仅几秒钟, to produce a voice clone that could be convincing enough to fool someone. However, to convince a loved one — for example, to use in an impersonation scam — it would likely take a significantly larger sample.

广告

Protecting Against Scams and Disinformation

话虽如此,我们在Defake项目罗切斯特理工学院,密西西比大学和密歇根州立大学以及其他研究人员正在努力地检测视频和音频深击,并限制他们造成的伤害。您也可以采取直接和日常的行动来保护自己。

For starters,语音网络钓鱼, or "vishing," scams like the one described above are the most likely voice deepfakes you might encounter in everyday life, both at work and at home. In 2019, anenergy firm was scammed out of $243,000when criminals simulated the voice of its parent company's boss to order an employee to transfer funds to a supplier. In 2022, people were从估计的1100万美元中浪费了通过模拟声音,包括与亲密,个人联系的声音。

广告

What can you do?

也要注意意外的电话,即使是从您认识的人那里也是如此。这并不是说您需要安排每个电话,但它至少有助于提前发送电子邮件或短信。另外,不要依靠呼叫者ID,因为那也可以伪造。例如,如果您收到声称代表您的银行的人的电话,请挂断电话并直接致电银行以确认电话的合法性。请确保使用您写下的数字,保存在联系人列表中或可以在Google上找到。

此外,请注意您的个人身份信息,例如您的社会保险号,家庭住址,出生日期,电话号码,中间名,甚至是您的孩子和宠物的名字。骗子可以使用这些信息将您带到银行,房地产经纪人和他人,在破产或破坏您的信誉的同时丰富自己。

这是另一个建议:认识自己。具体来说,了解您的智力和情感偏见和脆弱性。总体而言,这是一个很好的生活建议,但这是保护自己免受操纵的关键。诈骗者通常会寻求解决您的财务焦虑,您的政治依恋或其他倾向,无论是什么。

这种警觉性也是对使用语音深击的虚假信息的体面防御。深层蛋糕可用于利用您的优势confirmation bias,或者您倾向于相信某人。

如果您听到一个重要的人,无论是从社区还是政府中听到的话,对他们来说似乎很不典型,或者证实您对他们的最严重的怀疑,那么您将是明智的。

Matthew Wrightis a professor of computing security at the Rochester Institute of Technology. He receives funding from the Knight Foundation, the Miami Foundation, the National Science Foundation and the Laboratory for Analytical Sciences related to deepfakes.

克里斯托弗·施瓦茨(Christopher Schwartz)是罗切斯特理工学院计算安全的博士后研究助理。他是Defake项目的博士后研究员,该项目获得了奈特基金会,迈阿密基金会,国家科学基金会和分析科学实验室的资助。

This article is republished fromThe Conversationunder a Creative Commons license. You can find the来源文章here.

广告

Featured

广告

Loading...