泰勒斯威夫特的深度假冒色情内容并不新鲜，但这并不意味著我们不应该担心。

艾玛麦高恩 2024年1月30日

随著艾尔创造的色情图片在X平台上前称Twitter疯传，我们不得不思考：这对AI的未来有什么意义？

最近，一宗不安的事件引发关注，艾尔创造的著名歌手泰勒斯威夫特的明显图片弥漫整个X平台，揭示了AI能力的阴暗面。这些图片据信是使用微软设计师创作的，吸引了广泛关注，凸显了AI生成假色情内容日益增加的挑战。

随著这些图片在平台上迅速传播，事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了有关AI在媒体创作中的伦理使用的重大问题。

Avast威胁情报主任米哈伊萨拉特Michal Salt在此讨论中提供了丰富的知识和专业见解。他对技术、安全和伦理的交集有著敏锐的洞察，并提供了对AI生成内容的影响的细致观点。

在接下来的部分中，我们深入探讨他的见解，分析图像操控的历史平行、AI能力带来的伦理困境，以及在我们日益AI驱动的世界中数字信任和安全的更广泛影响。

假色情不是新问题

萨拉特将当前AI生成逼真图片的能力与过去Photoshop的使用相提并论。就像Photoshop年前革新了图像处理，AI如今使创建真实图片变得更加容易。然而，操控图像的概念并不新鲜；AI只是这场持续故事中的最新工具。

“从某种意义上说，这只是一种不同的照片编辑软件，”他解释道，强调操控图片的概念在十多年来一直是个问题。现在的关键区别在于AI技术带来的容易性和可及性。这一变化提出了关于社会如何适应和规范这些新工具的重要问题，因为这些工具使创建逼真图片比以往任何时候都更加容易。

AI与露骨内容的伦理困境

当前最迫切的问题之一是使用AI生成露骨图片的伦理影响，特别是在未经特定个人同意的情况下。虽然生成通用的裸体图片可能不会引发太多伦理问题，但真正的问题在于能够相对容易地创建特定可识别人物的露骨图片。

“AI生成的色情本质上并没有什么错或伦理上的问题，”萨拉特说。“但对我来说，伦理问题在于你可以相对容易地生成带有知名或特定脸孔的图片。”

这一能力不仅限于如泰勒斯威夫特等名人，还可能扩展到任何人，强调了制定伦理准则和立法的必要性：虽然所谓的“报复色情”或非自愿分享裸体在48个州是非法的，AI生成的深伪色情目前仅在10个州被禁止。这一明显的差异突显了技术需要法律跟进的必要性。

AI公司如何防止深伪色情的产生？

或许因为生成性AI的接入相对较新，对于在未经对象同意的情况下创建露骨内容的设置几乎没有任何防护措施。然而，萨拉特表示，对于AI公司来说，实施这些防护措施并不会非常困难：只需要禁止生成特定人物的图片，或禁止使用客户提交的图片作为素材，就能够为绝大多数人提供足够的障碍。

“当然，也有一些人能够突破这些限制，迫使模型做一些它不应该做的事情，”萨拉特说。“就我所见，现在几乎不可能完全避免这种情况你只能让它变得更加困难。我想强调的重点是，提供这些服务的公司应该更加努力来避免这种情况。”

还有可能有人建立自己的生成色情模型，并不设置任何限制。然而，萨拉特指出，尽管这是可能的，但这将需要大量的技术知识和计算能力来实现。

“会创建自己能生成裸体的AI的人其实并不多，”萨拉特说。“因此，这更像是使用Photoshop，你需要具备某种技能水平才能做到这一点。”

萨拉特将当前的AI发展状态与安全行业的演变进行了对比。他观察到，我们正目睹安全行业“在AI的趋势下重新开始。”这一比较凸显了将AI开发视为一个持续过程的重要性，其中识别和修复漏洞是推进技术成熟的关键。

泰勒斯威夫特在X的AI生成图片强调了负责任使用AI的重要性。随著AI的持续发展，平衡技术能力与伦理考量和安全措施至关重要。通过向如米哈伊萨拉特等专家学习，并反思过去的挑战，我们可以以更具知识和谨慎的方式驶入这一复杂领域。