Ubisoft和Riot Games两家游戏公司,共同开展一项研究项目Zero Harm in Comms,最终要发展一个框架,来降低线上游戏聊天频道中,可能出现的伤害。
这两家公司因为面对共同的挑战,而且也都对目前的关键字侦测模型解决方案不满意,因此联手进行Zero Harm in Comms项目,目前他们创建了一个匿名资料的共享数据库,用来训练Ubisoft和Riot Games的系统,以侦测和降低破坏性行为。
数据库的内容来自Ubisoft和Riot当前游戏内的聊天记录,这些聊天记录会被清除个人可识别资讯,并且加上像是中立、种族主义、性别歧视等标签,以用于训练自动化系统,更有效地识别和分析这类有害行为。两间大型游戏公司合作的优势,在于能够收集到庞大的玩家聊天资料,训练系统除了侦测关键字之外,还能通过理解对话脉络,找出更多有害的行为。
Ubisoft提到,部分有害关键字可以立即被识别出来,但是有许多情况需要深入解析,才能判断有害与否,像是在聊天中出现“我要带你出去玩”,这句话出现在竞技射击游戏中可能是合理的对话,但是在其他游戏,场景就可能完全不同。
但是Ubisoft也提到,难以教导人工智能理解每一种有害情况,目标是要能够借由微调系统寻找特定案例,并且提高侦测的几率。