《纽约时报》日前报道一名化名Mark的男子，在2021年2月因为儿子的生殖器出现感染，于是拍下照片发送给医生。由于是在疫情暴发期间，诊症都改以网上形式进行，护士要求孩子的家长通过Google云计算服务，先行将照片上传给医生。
结果Google不但将Mark上传的照片认定为儿童性虐待内容（CSAM），更向警方报案，最后展开性虐儿童的调查。Mark儿子的身体不适很快就得到解决，不过他的Google账号则因为“有害内容”而遭到冻结。报道提到Google在去年举报你超过60万宗CSAM个案，并冻结超过27万用户账号。Google利用人工智能扫描照片，一旦有发现就要按法例要求通报有关机构。一般情况下，当人工智能将照片标记为CSAM后，管理人员应该会复核照片是否符合CSAM的原则。
虽然Mark很快就向Google上诉，但他已经无法使用电邮、联系人、文件和电话合约，三藩市警方也开始就事件展开调查。事件扰攘了数个月，警方认为Mark没有犯罪，他被告知有关当局详细检查了他的互联网搜索记录、位置历史、消息、所有在云计算存储的照片和视频，而Mark始终未能取回其Google账号。有法律学者直言在最坏的情况下，父母甚至会因此失去孩子的抚养权。
资料及图片来源：petapixel