泰勒斯威夫特的深伪色情影片并不新鲜,但这并不意味著我们不应该感到担忧。

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在社交媒体X前推特上疯传后,我们不禁要问:这对未来的AI意味著什么?

最近出现了一个令人不安的事件,AI生成的 泰勒斯威夫特 明星露骨图片在X上泛滥,揭示了AI能力的黑暗面。这些图片被认为是使用Microsoft Designer创建的,引起了广泛关注,且突显了AI生成假色情图片日益增加的挑战。

随著这些图片在平台上迅速传播,此事件不仅引发了粉丝和隐私维权者的愤怒,还提出了有关AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监Michal Salt为这场及时的讨论带来了丰富的知识和专业背景。作为关注科技、安全与伦理交汇点的专家,Salt提供了有关AI生成内容的影响的深刻见解。

在接下来的部分中,我们深入探讨他的见解,分析图片处理的历史类比、AI能力带来的伦理困境,以及在日益AI驱动的世界中对数字信任和安全的更广泛影响。

假色情不是新问题

Salt将当前AI生成逼真图片的能力与过去使用Photoshop进行比较。就像Photoshop几年前革命性地改变了图片处理一样,AI现在使创建逼真图片变得更加简易。然而,操纵图片的概念并不是新的;AI只是在这场持续的故事中最新的工具。

“从某种意义上讲,这只不过是不同的照片编辑软件,”他解释说,强调操纵图片的概念已经关注超过十年。目前的关键差异在于,AI技术带来了前所未有的便利性和可及性。这一变化引发了社会如何适应并规范这些新工具的重要问题,因为这些工具使创建逼真图片变得比以往任何时候都更加容易。

AI与露骨内容的伦理困境

最紧迫的担忧之一是使用AI生成露骨图片的伦理含义,特别是针对特定个体而未经他们同意。虽然生成普通的裸体图片可能不会引发太多伦理问题,但实际问题在于轻松生成特定可辨识的人的露骨图片。

“AI生成色情内容本身或许没有什么根本的错误或伦理问题,”Salt表示。“但是,对我来说,伦理问题在于,你可以相对轻易地生成带有已知或特定面孔的图片。”

这种能力不仅限于泰勒斯威夫特等名人,还可能扩展到任何人,强调了制定伦理准则和立法的必要性:尽管所谓的“复仇色情”或非自愿分享裸体在48个州是 非法的,但AI生成的深假色情作品目前仅在10个州被禁止。这一明显的差异强调了立法需要跟上科技进步的必要性。

AI公司如何防止生成深假色情作品?

也许因为生成AI的获取仍相对较新,因此在未经主体同意的情况下创建露骨内容的监管措施非常有限。然而,Salt认为,实施这些控管对AI公司来说并不是特别困难:简单地不允许生成特定人物的图片,或不使用客户提交的图片作为素材,将为绝大多数人提供足够的障碍。

“当然,某些人会突破这些限制,迫使模型做它不该做的事情,”Salt表示。“在我看来,现在几乎无法完全避免这种情况你只能让它变得更难。我的观点是,这些提供服务的公司应该更加努力地去避免这种情况。”

还有可能有人会创建自己的色情生成模型,而不设任何限制。Salt指出,尽管这是可能的,但需要非常高的技术知识和大量计算能力。

“能够自己开发生成裸体图片的AI的人并不多,”Salt说。“因此,这就更像使用Photoshop,需要有一定技术水平才能做到。”

泰勒斯威夫特的深伪色情影片并不新鲜,但这并不意味著我们不应该感到担忧。

Salt将当前的AI开发状态与安全行业的演变进行了比较。他观察到,我们正见证安全行业在AI的领域中“重新开始”。这一比较强调了将AI开发视为一个持续过程的重要性,在这一过程中,识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X上的AI生成图片突显了负责任使用AI的重要性。随著AI的进步,平衡技术能力与伦理考量和安全措施将是至关重要的。通过向像Michal Salt这样的专家学习并反思过去的挑战,我们能够以更明智和谨慎的方式应对这一复杂的局面。

海鸥VP官网

  • 2025-01-24 15:05:05
  • 22