Emma McGowan 2024年1月30日

在泰勒斯威夫特Taylor Swift生成的色情影像在X前身为Twitter上病毒式传播之后，我们不禁要问：这对AI的未来意味著什么？

最近，一系列AI生成的著名歌手泰勒斯威夫特的露骨图片在X平台上蔓延，引发了AI能力黑暗面的一次令人不安的事件。这些影像被认为是使用Microsoft Designer创作的，并引起了广泛的注意，突显出AI生成假色情内容日益增长的挑战。

随著这些图像迅速在平台上蔓延，该事件不仅激起了粉丝和隐私倡导者的愤怒，还引发了有关AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt为这一及时讨论带来了丰富的知识和专业见解。萨拉特专注于技术、安全和伦理的交汇点，提供了对AI生成内容影响的深刻见解。

在接下来的部分中，我们深入探讨他的见解，探讨影像操控的历史平行、AI能力带来的伦理困境，以及在我们日益以AI驱动的世界中数位信任和安全的更广泛影响。

假色情并不是新问题

萨拉特把当前AI生成逼真影像的能力与过去使用Photoshop的情况进行了对比。正如Photoshop在多年前彻底改变了影像处理一样，AI现在使创造逼真图像变得更简单。不过，操控图像的概念并不是新鲜事；AI只是这一持续剧作中的最新工具。

“从某种意义上说，这只是另一种照片编辑软体，”他解释说，强调操控影像的问题已经困扰了十多年。现在的关键区别在于，AI技术带来的便利性和可及性。这种变化引发了有关社会如何适应和规范这些新工具的重要问题，这些工具使得创建逼真影像比以往任何时候都更容易。

AI与露骨内容的伦理困境

其中一个最迫切的问题是，使用AI生成露骨图片的伦理意涵，特别是针对特定个体且未经他们同意的情况。虽然生成一般的裸露图片可能不会引发太多伦理争议，但真正的问题在于极易创造出可识别人物的露骨影像。

“对于AI生成的色情内容，可能本身没有啥不对或者伦理上有问题，”萨拉特说。“但在我看来，真正的伦理问题在于，你可以相对轻易地生成出带有已知或特定面孔的影像。”

这种能力超越了像泰勒斯威夫特这样的名人，可能针对任何人，凸显了制定伦理准则和立法的必要性：所谓的“报复色情”或非自愿分享裸体照片在四十八个州是非法的，而AI生成的深伪色情内容目前仅在十个州禁止。这是两者之间的显著差距，突显了立法跟不上科技的必要性。

AI公司如何防止生成深伪色情

由于生成AI的访问是相对新的现象，目前针对在未经受试者同意的情况下制作露骨内容的保护措施较少。不过，根据萨拉特的说法，对AI公司来说，实施这些措施并不会非常困难：像不允许生成特定人的影像或使用客户提交的图像作为素材这样的简单措施，就能为绝大多数人提供足够的屏障。

“当然，有些人可能会突破这些限制，迫使模型做不该做的事情，”萨拉特说。“在我看来，现在几乎无法避免这种情况你只能让它变得更困难。我想我想要表达的观点是，提供这些服务的公司应该更努力地去避免这种情况。”

还存在有人创建自己的色情生成模型的可能性，而该模型不会有任何限制。不过，萨拉特指出，虽然这种情况是可能的，但实现起来需要大量的技术知识和计算能力。

“能够自己创建生成裸露图片的AI的人并不多，”萨拉特说。“因此，这更像是使用Photoshop，你需要有一定技术水平才能做到。”

萨拉特将当前AI发展的状态与安全行业的演变进行了比较。他观察到，我们正在目睹安全行业“随著AI重新开始”。这种对比强调了将AI开发视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是技术成熟的关键。

在X上泰勒斯威夫特的AI生成影像强调了负责任使用AI的重要性。随著AI不断进步，平衡技术能力与伦理考量和安全措施将变得至关重要。通过向像米哈尔萨拉特这样的专家学习，并反思过去的挑战，我们可以更有见识地和谨慎地导航这一复杂的领域。

最佳直播电视频道串流服务

最好的直播电视串流服务作者 Michael Smolski 20220605 091949 在 指南在寻找最佳的直播电视串流服务吗？无论是直播体育赛事还是电视频道，总有几家直播电视串流服务特别突出。不...

现在在 Avast 商业中心的 MSP 中提供灵活计费功能。

Jan Mazal 2024年3月19日我们全新的账单选项及其他最新合作伙伴动态概述我们很高兴地宣布，为使用我们云管理平台 Avast Business Hub 多公司合作伙伴版本的托管服务提供商MS...