泰勒斯威夫特的深伪色情影片并不新鲜，但这并不意味著我们不应该关注这一问题。
Emma McGowan 2024年1月30日
黑洞加速器app随著AI生成的泰勒斯威夫特色情图片在X平台前Twitter上疯传，我们不禁思考：这对AI的未来意义何在？
最近，AI生成的泰勒斯威夫特的露骨图片 在X平台引发了轩然大波，突显了AI能力的阴暗面。这些图片被认为是使用微软设计软体创作的，迅速获得广泛关注，并凸显了生成虚假色情内容的挑战日益加剧。
随著这些图片在平台上迅速传播，这一事件不仅激起了粉丝和隐私倡导者的愤怒，还引发了人们对AI在媒体创作中伦理使用的重大疑问。
Avast威胁情报总监Michal Salt为此时此刻的讨论带来了丰富的知识和专业背景。Salt专注于技术、安全和伦理的交汇点，对AI生成内容的影响提供了深刻的见解。
在接下来的部分中，我们将深入探讨他的观点，回顾图像处理的历史类比、AI能力所带来的伦理困境，以及在这个日益依赖AI的世界中，数字信任和安全的更广泛影响。
假色情不是新问题
Salt将当前AI生成逼真图片的能力与过去使用Photoshop的情况进行类比。正如Photoshop曾彻底改变图像处理一样，AI现在使创建现实图片变得更加容易。然而，操纵图像的概念并不新鲜；AI只是在这场持续的故事中成为最新的工具。
“某种程度上来说，这只是另一种照片编辑软体，”他解释道，强调操纵图像的概念已经困扰了我们十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一转变提出了重要问题，关于社会如何适应和监管这些新工具，因为这些工具使得创建逼真图片变得前所未有的简单。
AI和露骨内容的伦理困境
最迫切的问题之一是使用AI生成露骨图片的伦理问题，尤其是针对特定个体且未经其同意的情况。虽然生成一般的裸照可能不会引发如此多的伦理问题，但真正的问题在于识别个体的露骨图片能够轻易生成。
“AI生成的色情内容本身可能并没有什么固有的问题或伦理争议，”Salt表示。“但对我来说，伦理问题在于，你可以相对容易地生成带有已知或特定面孔的图片。”
这一能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，突显了伦理准则和立法的需要。尽管所谓的“报复色情”或未经同意的裸照分享在48个州是非法的，但目前只有10个州禁止AI生成的深伪色情。这一明显的差异突显了立法需要赶上技术的步伐。
AI公司如何防止生成深伪色情？
也许是因为生成性AI的接入相对较新，对于在未经对象同意的情况下创建露骨内容的监管相对缺乏。然而，Salt指出，对于AI公司来说，实施这些监管并不会非常困难：例如，不允许生成特定人的图片或使用客户提交的图片作为素材，就能为绝大多数人提供足够的障碍。
“当然，有些人将能够突破这些限制，强迫模型做一些它不应该做的事情，”Salt表示。“在我看来，目前几乎不可能完全避免这种情况你只能使其更难。我想说的是，提供这些服务的公司应该更努力地去避免这种情况。”
还有可能有人创建一个没有任何限制的色情生成模型。然而，Salt指出，虽然这是可能的，但需要大量的技术知识和计算能力。
“能够自己创建AI生成裸照的人并不多，”Salt说。“所以，这更像是使用Photoshop，你需要具备一定的技能才能做到。”
Salt将当前AI发展的状态与安全行业的演变进行类比。他观察到，我们正在见证安全行业“从头开始进行AI的进步”。这一比较强调了将AI发展视为一个持续过程的重要性，其中识别和修复漏洞是使技术成熟的关键。
在X平台上流传的泰勒斯威夫特的AI生成图片强调了负责任使用AI的重要性。伴随著AI技术的进步，平衡技术能力与伦理考量及安全措施将至关重要。通过向像Michal Salt这样的专家学习并反思过去的挑战，我们可以以更具知识和谨慎的方式航行于这个复杂的领域。
