Instagram正在利用人工智能减少其平台上的攻击性字幕数量。该公司已经使用了这项技术,以努力让用户自我保护他们在帖子上留下的评论。人工智能通过警告用户,他们的评论可能对那些阅读它的人有害
Instagram允许用户报告包括欺凌在内的各种问题的评论。这些报告被审查,要么被驳回,要么被采取行动,然后用这些数据来训练平台的反骚扰人工智能系统。
利用这一技术和现有的人类报告,Instagram可以自动检测到类似于人类报告的新评论。人工智能产生一个提示,鼓励用户审查,并在必要时编辑他们的评论,使其不那么冒犯。
现在正在使用同样的技术来审查帖子上的标题。假设系统被绊倒,Instagram应用程序将提醒用户他们的标题可能是有害的,让他们有机会在发布帖子之前编辑文本。然而,Instagram并不要求对标题进行编辑。
对于许多Instagram用户来说,字幕警报从今天开始是现场直播的,尽管公司需要几个月的时间才能向每个人推出这个系统。虽然用户可以选择发布标题,即使它收到警告,Instagram提醒用户,他们必须遵循公司的规则,以避免他们的帐户面临风险。