西雅图初创公司引领对抗深度伪造的斗争
西雅图的初创公司正面对日益增长的深度伪造威胁，这一威胁随着生成式人工智能技术的迅速扩展而加剧。为此，Loti等公司在其CEO卢克·阿里戈尼的领导下，利用前沿的面部和声音识别技术来检测和消除深度伪造。最近Loti与人才机构WME的合作，为这一努力带来了重大推动。
在这一领域中，另一家值得注意的公司是Certifi AI，它致力于保护被深度伪造色情内容针对的女性。该初创公司由梅丽莎·哈金斯创立，其使命源于她个人遭遇的网络跟踪经历，具有深刻的个人意义。此外，非营利组织TrueMedia在人工智能专家奥伦·埃齐奥尼的指导下，正在积极开发工具，以识别政治内容中的深度伪造，为2024年的选举做准备。
同时，Official AI正在开创一个管理数字肖像的市场，旨在促进对AI生成媒体的责任使用。这些初创公司的共同努力表明了他们集体致力于在各个领域对抗深度伪造的扩散。
关键要点
- 西雅图的初创公司通过创新的检测技术处于对抗深度伪造的前沿。
- 生成式AI的激增加剧了深度伪造在不同领域的普遍性。
- Loti在卢克·阿里戈尼的领导下，利用AI进行深度伪造的检测和消除。
- Certifi AI专注于保护女性免受深度伪造色情内容的负面影响。
- TrueMedia正在积极开发AI工具，通过深度伪造检测来对抗政治虚假信息。
分析
生成式AI的迅速扩展提升了深度伪造的严重威胁，迫使西雅图的初创公司率先采取对策。Loti与WME的合作标志着行业内对欺骗性媒体实践进行全面保护的重要转变。Certifi AI专注于女性安全，解决了一个紧迫且服务不足的市场。TrueMedia为选举设计的工具有可能减轻政治虚假信息，这些进展可能导致对AI使用的更严格监管，从而影响科技公司和内容创作者。随着时间的推移，这些初创公司可能会重新定义数字信任和隐私规范，进而影响全球AI治理和伦理框架。
你知道吗？
- 深度伪造：利用AI进行高级数字操纵，创建逼真但虚假的视频或图像，通常涉及将现有内容叠加到源材料上。
- 生成式AI：AI的一个子集，包括能够以模仿现有风格的方式生成文本、图像或其他媒体算法的算法，但完全是原创的，由AI本身生成。
- 网络跟踪：使用互联网或电子平台追踪或骚扰个人、团体或组织。它可能包括虚假指控、监视、威胁、身份盗窃和数据或设备的损坏。