微软与StopNCII的合作：打击未经同意的亲密图像和深度伪造的重要一步
微软最近与StopNCII合作，以应对日益严重的未经同意的亲密图像（NCII）问题，包括AI生成的深度伪造。这一合作是微软更广泛努力的一部分，旨在解决互联网上有害内容的传播，这一问题因人工智能的进步而加剧。通过使用StopNCII的先进技术，微软正在采取积极措施，防止此类内容出现在必应搜索结果中，从而增强在线剥削受害者的在线安全。
合作如何运作
StopNCII的主要贡献是其数字指纹技术，允许个人在不上传实际文件的情况下创建亲密图像的哈希值。这些数字指纹与Meta、TikTok、Bumble和Reddit等参与公司共享。指纹帮助这些平台识别并删除其服务中的相应内容，有效防止其传播。
这种方法特别有效，因为它在保护受害者隐私的同时，确保他们的亲密图像未经同意无法被找到或分享。该过程还提供了一种直接报告这些图像的方式，使受害者更容易采取行动反对NCII。
谷歌的独立方法
尽管微软通过与StopNCII合作采用了协作模式，谷歌选择不加入这一倡议。相反，谷歌继续使用自己的报告工具来处理NCII案件，包括深度伪造。受害者可以直接向谷歌报告图像以进行删除。这一决定标志着两家科技巨头在处理方式上的显著差异：微软倾向于行业合作，而谷歌则更喜欢内部管理问题。
这一区别在行业专家中引发了疑问，特别是随着AI驱动的深度伪造问题变得更加普遍。然而，无论受害者使用哪个平台，他们仍然有途径报告NCII和深度伪造。值得注意的是，未成年人可以通过NCMEC（国家失踪与受虐儿童中心）报告事件，为年轻受害者提供专门的报告流程。
立法支持与AI在在线剥削中的角色
微软的这一举措与政府更广泛的努力相一致，以解决涉及AI生成内容的在线危害。美国政府正在制定新的立法措施，包括NO FAKES法案，旨在遏制深度伪造和其他用于恶意目的的合成媒体的传播。NO FAKES法案代表了政府对AI技术构成的重大威胁的认可，这些技术可以创建逼真但有害的内容。
微软与StopNCII的合作被视为这些立法举措的补充行动，强调了科技行业合作在打击在线剥削中的重要性。深度伪造的兴起，比传统NCII更复杂且更难检测，使得公司必须采用尖端工具以应对不断演变的威胁。在这种背景下，微软整合StopNCII的哈希技术被视为向前迈出的关键一步。
深度伪造检测的持续挑战
尽管这一合作是一个积极的进展，但专家强调了有效应对深度伪造的持续挑战。与传统NCII不同，深度伪造是AI生成的，通常可以规避PhotoDNA等检测工具，这些工具最初设计用于识别儿童剥削材料。深度伪造更复杂，因为它们通常将合成元素与真实图像混合，使得传统检测系统难以标记它们。
因此，科技公司面临着不断创新检测技术并调整政策以应对这一新兴威胁的压力。微软和其他平台采用的协作模式被视为朝着正确方向迈出的一步，但对抗深度伪造可能需要持续的政策更新、技术进步以及政府和科技公司之间的合作。
结论
微软与StopNCII的合作标志着打击未经同意的亲密图像和AI驱动的深度伪造的重要时刻。通过利用数字指纹技术，微软正在帮助保护受害者，并防止有害内容在其平台和整个互联网上传播。尽管谷歌选择独立应对NCII，但这一合作为数字时代的行业合作树立了重要先例。随着AI的不断发展，像这样的合作以及立法努力如NO FAKES法案，对于在日益复杂的在线环境中保护个人免受剥削至关重要。
关键要点
- 微软与StopNCII合作，消除必应搜索结果中的未经同意的亲密图像。
- StopNCII使用数字指纹识别并删除各平台上的亲密图像。
- 主要科技公司如Meta、TikTok和Bumble与StopNCII合作，打击未经同意的图像分享。
- 谷歌独立运营，使用自己的工具报告未经同意的图像。
- 美国政府倡导新立法以应对深度伪造相关的隐私问题。
分析
微软与StopNCII的合作旨在遏制未经同意的亲密图像的传播，影响Meta、TikTok和Bumble等主要科技公司。谷歌未参与合作可能会导致努力分散，可能削弱这一倡议的有效性。尽管受害者在短期内受益于更简化的报告流程，但这一努力的长期成功取决于更广泛的行业采用和立法支持。美国政府对NO FAKES法案的倡导强调了紧迫性，但其实际影响将依赖于执行和全球合作。因此，与科技股相关的金融工具可能会随着公众情绪的变化而波动。
你知道吗？
- StopNCII：Stop Non-Consensual Intimate Images（StopNCII）是一个旨在打击互联网上未经同意的亲密图像（包括深度伪造）传播的倡议。它通过创建报告图像的数字指纹（哈希值）而不需要实际文件来运作，然后与参与公司共享以删除匹配内容。这种协作方法促进了有害内容在多个平台上同时快速识别和删除。
- 数字指纹（哈希）：在StopNCII的背景下，数字指纹（哈希）是从图像文件创建的唯一标识符。这个哈希值是在不存储实际图像的情况下生成的，确保隐私和安全。通过与参与公司共享这些哈希值，StopNCII可以在各平台上识别并删除未经同意的亲密图像，即使图像被轻微修改或托管在不同网站上。
- NO FAKES法案：NO FAKES法案是美国提出的立法，旨在应对深度伪造和其他未经同意的亲密图像的传播。该法案旨在建立新的法规和处罚措施，以打击此类内容的创建和分发，反映了人们对技术滥用以侵犯隐私和造成伤害的日益关注。