首页 > 行业 > 正文

只因声援Timnit 谷歌关停伦理AI部门高管账户

2021-01-22 11:05:03来源:新智元  

谷歌非裔伦理学家 Timnit Gebru「被辞退」事件持续发酵。报道称,谷歌关停了伦理AI部门高管 Margaret Mitchell 的账户,称其与公司外部人员共享了数千个内部文件。实际上,Mitchell 一直是 Timnit 的积极维护者。

前不久,一场解雇风波在谷歌上演。

Jeff Dean 辞退了谷歌伦理人工智能团队的技术联合负责人 Timnit Gebru。

Timnit 被辞退一事被炒得沸沸扬扬,致使谷歌内讧升级,员工联名要求 Jeff Dean 道歉,更有超过 4000 名学术界、工业界和民间人士签署一份声明要求谷歌作出实质性改变。

今日,报道称,谷歌又对另一位伦理AI部门的高管采取了措施,关停伦理AI的联席主管 Margaret Mitchell 的账户,称其与公司外部人员共享了数千个内部文件。

解雇风波再发酵:谷歌关停伦理AI部门高管账户

谷歌对 Margaret Mitchell 账户的关停是 Timnit「被辞退」事件的发酵。

自 Timnit 在12月被迫退出谷歌以来,Mitchell 一直对谷歌的做法持批评态度。

Mitchell 领导 Alphabet 的伦理人工智能(Ethical AI)部门,其目标是通过对社会负责任的方式开发技术。

一位消息人士称,Mitchell 一直在使用自动脚本查找显示在账户锁定之前对 Timnit Gebru 进行歧视对待的消息。

Timnit Gebru 发表推文称,Mitchell 的公司权限已经被锁定,这种情况至少还会持续几天。

谷歌发言人表示,该员工的企业账户被检测到窃取了数千份文件并与外部账户共享,触发了公司系统自动关停了 Mitchell 的账户,公司正在调查此事件。

谷歌发表的申明如下:

当员工的企业帐户被检测到由于证书问题而存在被泄露的风险,或触发了涉及敏感数据处理的自动规则时,我们的安全系统会自动锁定该员工的企业帐户。在这个事件中,我们的系统检测昨天到一个帐户已导出了数千个文件,并与多个外部帐户共享。我们今早已经向员工解释了此事。

Margaret Mitchell 暂未对谷歌关停她的账户做出回应。

Timnit被辞,内讧升级,谷歌多元化变革迫在眉睫!

站队 Timnit,这是否成为谷歌关停 Margaret Mitchell 账户的的原因?

至于被解雇的原因,Timnit Gebru 曾表示,是因为她写的一篇名为 On the Dangers of Stochastic Parrots: Can Language Models Be Too Big 的论文被驳回,无法发表。

因此她认为自己遭到了非人性化的待遇,公司没有公平、公正地对待她。

成千上万的科学家签署了联名信,而 Timnit 的离开也被 Alphabet 工人工会的公告所引用。

谷歌首席执行官 Sundar Pichai 试图平息这种愤怒,但他的努力遭到了包括 Mitchell 在内的员工的批评。

在有关 Timnit 被停职的消息传出的几个小时前,Mitchell 就抨击谷歌「一贯疏远黑人妇女」。

就在周二,Mitchell 发推批评 Sundar Pichai 计划与历史悠久的黑人学院和大学领导人举行会议,写道:

假设你始终与黑人妇女疏远,并且给她们的生活造成了严重伤害。

你可以:

A)消除这种伤害

B)尝试找到更多喜欢你的黑人

祝你好运~

谷歌的解雇风波这业界引起了轰动,引发了人们对该公司对异议的容忍度的质疑。

Timnit 的停职将加剧谷歌员工与管理层之间日益紧张的关系。

从2018年至今,谷歌内部已经发生过多次大规模的抗议活动。几周前,多位谷歌员工宣布共同成立 Alphabet 工会,希望在薪酬和伦理等问题上向公司施压。

这表明谷歌内部的变革至关重要。

黑人+AI伦理,利益为重,科研或成危险之地?

大型高科技公司的研究部门过去已经取得了许多技术突破。

但是,随着技术在社会中扮演着越来越重要的角色,并且越来越多的公司支持的研究集中在技术对社会的影响上,研究人员的发现并不总是与公司目标保持一致。

来自谷歌等公司的研究在AI等关键主题的广泛研究工作中占据了相当大的比例。

Timnit 的事件中也提出了关于公司研究在很大程度上受公司利益影响的问题。

最近的一项研究发现,在四所重点大学中,58%的终身制教授都是从大型科技公司获得资金的。

纽约大学的研究科学家 Meredith Whittaker 曾在谷歌进行研究项目的工作将公司与学术研究联系在一起。

事实上这件事愈演愈烈,实际上也和 Timnit Gebru 黑人女性身份有着很大的关系。

Timnit 一直是减少AI偏见的坚决拥护者,她与他人合作的论文揭示了性别和种族是如何被构建到许多面部识别系统中的。

而当黑人与AI伦理两大话题放在一起时,更是人们关注的焦点。

此前,图灵奖得主 Yann LeCun 却因一则言论被群攻 。他曾发推表示 PULSE 算法会出现奥巴马被洗白的情况。

很多AI研究人员纷纷将斗争的矛头指向了 Yann LeCun。

LeCun,被有些人奉为「神一样的人物」,最终还是为自己的言论道歉了。

受公司利益左右的研究会与真正的研究产生偏差和冲突,同时AI偏见仍旧是未来科研中需待解决的问题~

让科研不再成为危险之地。

关键词: 谷歌 AI部门

相关阅读