人工智能伦理学家Timnit Gebru被迫离开Google争议有了最新发展,Google发布了最新人事新闻,人工智能道德部门经过重组,并且找来Google副总裁Marian Croak接任,其上级主管同样是Google AI副总裁Jeff Dean。而此举引来大量的批评,Timnit Gebru在自己的推特写道,由另一个黑人女性发布一个新的组织,似乎所有人都可以被交换一样,他提到这过程对团队的伤害,远超过煤气灯操纵(Gaslighting)。
I will have a lot more to say about this later. But announcing a new org by a Black woman as if we’re all interchangeable while harassing, terrorizing and gaslighting my team and doing absolutely ZERO to acknowledge & ; redress the harm that’s been done is beyond gaslighting.https://t.co/cMtHqCte4e
—Timnit Gebru (@timnitGebru)February 18, 2021
Google官网发布Marian Croak接任AI与工程中心领导人,并且发布了Marian Croak访谈视频,内容谈到了自动驾驶与疾病诊断,但没有提及Timnit Gebru或是争议论文中提到的大型语言模型政策。
Marian Croak在视频中谈到,人们需要了解负责任AI和道德是新兴领域,应该以更平和的态度,讨论人工智能技术可能对人们造成的伤害,他认为,试着挑战原则的基准定义,以及过去使用的公平定义,仍存在着分歧和冲突,他会尝试让人们以更圆滑的方式对话,如此才能真正在这领域有所推进。
在去年12月的时候,Google知名AI伦理学家Timnit Gebru在推特提到,遭公司报复性解雇。Timnit Gebru是Google内少数的黑人女性科学家,声援Timnit Gebru的公开信提到,Timnit Gebru受到Google以种族主义,与审查其研究等不平等对待。Timnit Gebru认为自己被主管Jeff Dean开除,而Jeff Dean则发出公开信回击,认为Timnit Gebru是自己表达辞职意愿,他仅是尊重Timnit Gebru的决定。
争议源头来自于一篇有关于人工智能道德的论文,由Timnit Gebru与Google外部作者合着,内容抨击大型科技公司发展大型语言模型的政策,由于Jeff Dean不同意部分论文内容,而Timnit Gebru在未经过审核同意就提交论文,并且以辞职当作谈判筹码,要求Jeff Dean同意一些条件,结果是Timnit Gebru“被”同意离职。
由于Timnit Gebru是一位极具声望的研究者,在未离开Google之前,他除了是人工智能伦理团队的共同领导人,也是Black in AI非营利组织的共同创办人,专门讨论黑人在人工智能的议题,因此Timnit Gebru被解雇的消息传开来,受到数千Google员工与学术界人士共同声援,认为Timnit Gebru在Google遭遇不平等对待,甚至不少学术界人士发起拒绝审查Google组织出版物的行动。
Google直接重组人工智能伦理团队并且另找一位负责人,这项作为再次引来诸多炮火,当前Google人工智能道德科学家Alex Hanna就在推特发文,虽然人工智能道德团队推动进行组织重组,但是在重组团队的过程并没有与成员沟通,他们要求不再向Google Brain研究科学家Samy Bengio负责,还有Jeff Dean或是Megan Kacholia需要给Timnit Gebru一个道歉,这些要求在重组过程都没有被完成,他认为,虽然领导阶层在谈论问责性,但过去三个月所发生的事情,却是零问责性。
It turns out the Ethical AI team was the last to know about a massive reorganization, which was prompted by our advocacy. This was not communicated with us at all, despite promises that it would be.https:/ /t.co/tlOx8ezmuQ
—Dr. Alex Hanna (@alexhanna)February 18, 2021