AI换脸、深度造假引争议,霉霉也成AI受害者

2024-03-25 12:00:001072
切换 - 音频
00:00:00 / 00:00:00
声音简介


关注公众号“每日英语听力 | 双语精读”,获取更多双语文章~

今日导读:

随着人工智能技术的飞速发展,深度伪造(deepfake)、AI换脸技术引发的社会现象被广泛关注。前不久媒体报道了一起令人震惊的AI换脸诈骗案,一家跨国公司的香港分部员工受邀参与了一场看似正常的多人视频会议,会议由总部的“首席财务官”主持。在会议中,员工按照“首席财务官”的指示,将巨额资金分15次转入了五个不同的本地银行账户。

此前,全球顶流泰勒·斯威夫特(Taylor Swift)也成为深度伪造(deepfake)的最新受害者。

由人工智能技术生成的泰勒虚假不雅照,短短一夜之间,在X、Facebook等社交媒体平台上被大量传播,而且这些照片的浏览次数高达上千万。以下是来自纽约时报的一篇相关报道,一起来看看�


今日正文:

Fans of the star and lawmakers condemned the images, probably generated by artificial intelligenceafter they were shared with millions of social media users.

这些很可能由人工智能生成的照片,在数百万社交媒体用户间传播。引起了该明星的粉丝和立法者的谴责。

Fake, sexually explicit images of Taylor Swift likely generated by artificial intelligence spread rapidly across social media platforms this week, disturbing fans who saw them and reigniting calls from lawmakers to protect women and crack down on the platforms and technology that spread such images.

本周,或由人工智能生成的模拟泰勒·斯威夫特的虚假不雅照片在社交媒体平台上迅速传播,让看到这些照片的粉丝们感到不安,同时也再次引发立法者呼吁保护女性,打击传播这类照片的平台和技术。

One image shared by a user on X was viewed 47 million times before the account was suspended on Thursday.

周四,一名用户分享在X上的一张照片在被封禁之前被浏览了4700万次。

X suspended several accounts that posted the faked images of Ms. Swiftbut the images were shared on other social media platforms and continued to spread despite those companies' efforts to remove them.

X封禁了多个发布了斯威夫特女士伪造照片的账户,但这些照片仍在其他社交媒体平台上被分享,尽管这些公司在努力删除,但这些照片仍在继续传播。

While X said it was working to remove the images, fans of the pop superstar flooded the platform in protest.

虽然X表示正在努力删除这些图片,但这位流行巨星的粉丝们还是涌入平台进行抗议。

They posted related keywords, along with the sentence "Protect Taylor Swift," in an effort to drown out the explicit images and make them more difficult to find.

他们发布了相关关键词,并加上“保护泰勒·斯威夫特”这句话,试图淹没这些露骨的图片,让它们更难被发现。

Reality Defender, a cybersecurity company focused on detecting A.I., determined with 90 percent confidence that the images were created using a diffusion model, an A.I.-driven technology accessible through more than 100,000 apps and publicly available models, said Ben Colman, the company's co-founder and chief executive.

专注于检测人工智能的网络安全公司Reality Defender的联合创始人兼首席执行官本·科尔曼说,该公司有90%的信心确定,这些图像是使用扩散模型创建的,这是一种人工智能驱动的技术,可以通过超过100,000个应用程序和公司可用的模型访问。

As the A.I. industry has boomed, companies have raced to release tools that enable users to create images, videos, text and audio recordings with simple prompts.

随着人工智能行业的蓬勃发展,各家公司竞相推出工具,让用户能够通过简单提示创建图像、视频、文本和录音。

The A.I. tools are wildly popular but have made it easier and cheaper than ever to create so-called deepfakes, which portray people doing or saying things they have never done.

人工智能工具备受欢迎,但也使得制作所谓的“深度假象”变得比以往任何时候都更容易和便宜,这些工具描绘的是人们从未做过的事情或说过的话。

Researchers now fear that deepfakes are becoming a powerful disinformation force, enabling everyday internet users to create nonconsensual nude images or embarrassing portrayals of political candidates.

研究人员现在担心,深度造假正在成为一股强大的虚假信息力量,让普通互联网用户在未经双方同意的情况下,能够轻易创建裸体图像或令人尴尬的政治候选人形象。

Artificial intelligence was used to create fake robocalls of President Biden during the New Hampshire primaryand Ms. Swift was featured this month in deepfake ads hawking cookware.

在新罕布什尔州初选期间,人工智能被用来模仿拜登总统的声音进行虚假电话营销,而本月斯威夫特也出现在利用deepfake技术售卖厨具的广告中。

"It's always been a dark undercurrent of the internet, nonconsensual pornography of various sorts," said Oren Etzioni, a computer science professor at the University of Washington who works on deepfake detection. "Now it's a new strain of it that's particularly noxious."

“互联网上一直存在着各种形式的非自愿se情内容,这始终是一股暗流。” 华盛顿大学计算机科学教授奥伦·埃齐奥尼说道,他致力于深度伪造检测。“现在又出现了一种特别恶劣的新形式。”

"We are going to see a tsunami of these A.I.-generated explicit images. The people who generated this see this as a success," Mr. Etzioni said.

“我们将看到这些由人工智能生成的清晰图像引发的海啸。生成这些图片的人还将之视为一种成功,”埃齐奥尼说。

X said it had a zero-tolerance policy toward the content.

X表示,平台对这类内容采取零容忍政策。

"Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them," representative said in a statement. "We're closely monitoring the situation to ensure that any further violations are immediately addressed, and the content is removed."

“我们的团队正积极删除所有已识别的图片,并采取适当措施惩罚发布这些图片的用户,”一名代表在一份声明中说道。“我们正在密切监控情况,以确保立即解决任何进一步的违规行为,并删除相关内容。”

用户评论

表情0/300
喵,没有找到相关结果~
暂时没有评论,下载喜马拉雅与主播互动
猜你喜欢
深度睡眠深度催眠 瑜伽冥想引导

主播倾力推荐清宁——『穿过黑夜拥抱你』系列①夜听抖音热门歌曲&经典语录②深夜电台耳边女友③成年人的睡前故事温暖治愈本专辑收录国外专业人声催眠...

by:Sue苏言

28天深度睡眠引导

人的一生中有1/3的时间是在睡眠中度过,睡眠是生命的根本,不能没有睡眠,睡眠对于人体的健康起着至关重要的作用。在精神压力非常大的当下,出现睡眠问题的人群越来越多...

by:安静的大鹅

深度冥想-深度潜意识

高频音频:深度催眠音频-深度冥想-超高频音乐,度催眠音频,深度潜意识能量!

by:周子智慧

深度Beyond

作为听beyond近20年时间的忠实歌迷,希望通过我独特的视角,为大家介绍一个和普通歌迷心中不太一样的、有深度的beyond

by:蛋泥儿君

助眠疗愈|深度入睡|快速入睡引导|深度、重度失眠

如果想领取更多有关提升记忆力的学习资料与课程,请添加卫领取资料:652021681身心疗愈:冥想音乐+频率赫兹内分泌系统疗愈脑垂体功能疗愈免疫系统疗愈生长激素疗...

by:菲菲记忆课程

深度豹控

寒武纪年出品,无水不渡原著我就是一个普通毕业大学狗,好不容易工作找到了,爱情也快来临了,我嗝屁了。不是癌症也不是车祸。是山体滑坡。我就这样死了,死在了旅游回来的...

by:寒武纪年有声剧

深度共情

智能时代我们缺的不是学习力,而是共情的能力。深度共情让人际交往和沟通变得高效自在。

by:遇见传奇333

经观深度

《经观深度》让每一次聆听都有价值主播:Lorraine_洛林

by:经观新闻

深度粉销

硅谷创业教父保罗·格雷厄姆的名言:对于一个新产品来说,100个铁粉,比10000个觉得你还可以的用户要好非常多。樊登在创办樊登读书时,信心来自于“一千铁粉原则”...

by:人邮知书

深度好眠

张之恺音乐疗愈睡眠7天音频课深度好眠催眠冥想疗愈脑波音乐共12讲需要免费获得完整版或者需要更多海量免费个人成长心理学资源请在微信公众号搜索并关...

by:解忧心理社