Facebook训练了AI来欺骗人脸识别系统 并且可以在实时视频上运行

Facebook仍因其面部识别实践卷入数十亿美元的判决诉讼，但这并没有阻止其人工智能研究部门开发技术来对抗公司被指控的不实行为。据VentureBeat称，Facebook AI Research(FAIR)开发了一种先进的“去识别”系统，该系统可用于视频，甚至包括实时视频。它通过使用机器学习实时更改视频主题的关键面部特征来工作，以欺骗面部识别系统以不正确地识别主题。

过去已经存在这种去识别技术，并且像以色列AI和隐私公司D-ID这样的整个公司都致力于为静止图像提供该技术。您还可以穿戴一整类面部识别欺骗图像，称为对抗示例，它们可以通过利用对计算机视觉软件进行训练以识别某些特征的弱点来工作。以这副印有对抗图案的太阳镜为例，这可以使面部识别系统认为您是女演员米拉·乔沃维奇(Milla Jovovich)。

AI软件可以通过更改关键面部特征来欺骗面部识别系统

但是，这种类型的面部识别障碍通常意味着事后要更改从安全摄像机或其他来源捕获的照片或静止图像。或在对抗性示例的情况下，抢先出发以欺骗系统。据推测，Facebook的研究可以实时地，通过预先录制的和实时的录像进行类似的工作。FAIR声称，这是该行业的首创，足以抵御复杂的面部识别系统。您可以在此YouTube视频中看到一个实际的示例，由于该视频已被除名，因此无法嵌入其他地方。

接受VentureBeat引用的论文解释了该公司的做法，他说：“面部识别可能会导致隐私丧失，面部替换技术可能会被误用于制作误导性视频。”“有关人脸识别技术的进步和滥用的最新世界事件引发了对理解成功处理去身份识别的方法的需求。我们的贡献是唯一适用于视频(包括现场视频)的视频，其呈现的质量远远超过了文献方法。”

据VentureBeat报道，Facebook显然无意在其任何商业产品中使用该技术。但是，这项研究可能会影响为保护个人隐私而开发的未来工具，并且正如该研究在“误导性视频”中所强调的那样，它会阻止某人的肖像被用于视频伪造品中。

人工智能行业目前正在研究各种方法来打击深度欺诈和用于创建深度欺诈的日益复杂的工具。这是一种方法，立法者和科技公司都在尝试提出其他工具，例如Deepfake检测软件以及用于控制假视频，图像和音频的传播的监管框架。

FAIR研究的另一个关注点是面部识别，这也是不受管制的，并引起立法者，学者和活动家的关注，他们担心，如果继续部署它而未受到执法部门，政府和公司的监督，可能会侵犯人权。