德州app官网下载谷歌人工智能伦理部门动荡不安,已引起外部监管机构关注

文章正文
2021-06-08 15:52

北京时间 6 月 2 日下午消息,德州app官网下载据报道,谷歌近日向外界表示,它仍坚定致力于以合乎道德规范的方式进行人工智能研究。该公司还做出承诺,将把人工智能研究人员数量增加一倍,达到 200 人。谷歌首席执行官皮查伊也表示,将为更多符合伦理规范的人工智能项目提供资金支持。

六个月前,谷歌的人工智能伦理明星研究员蒂姆尼特・格布鲁(Timnit Gebru)遭到解雇,原因是她在一篇学术论文中对谷歌的一项人工智能技术提出了伦理质疑。今年五月份,谷歌人工智能负责人杰夫・迪安(Jeff Dean)表示,尽管格布鲁离职事件影响到了谷歌的声誉,但人们需要向前看。

然而,对谷歌人工智能伦理团队的部分成员来说,现实与谷歌高管的公开宣示却有所不同。该团队是谷歌新成立的一个人工智能分支研究机构,共有成员十人,主要任务是研究人工智能如何影响社会。根据成员的反映,该团队几个月来一直处于一种前途未卜的状态。团队成员怀疑,公司是否能在学术界重建信誉,以及公司领导是否会听取团队的建议。目前,两位团队领导已经离职,而谷歌尚未聘请到合适的继任者。许多成员感到职业前景不稳定,一些人开始考虑离开谷歌,准备去其他科技公司工作或者重返学术界。

谷歌人工智能部门的发言人已拒绝就人工智能伦理团队的事情发表评论。

谷歌的研究机构拥有数千研究人员,但专门研究人工智能伦理的仅有十人。人工智能伦理团队以发表了有关人工智能训练数据集的算法公平性的开创性论文而闻名于世。该团队为谷歌在学术界建立起了学术声誉,证明谷歌有能力进行前沿、有时甚至是批判性的研究 —— 这对谷歌来说非常重要。毕竟,每天都有几十亿人依赖谷歌的产品来遨游互联网,而该公司的核心产品,比如搜索引擎,正越来越依赖人工智能。

虽然人工智能在癌症诊断、地震探测和与人类交互方面具有改变世界的潜力,但这一正处飞速发展阶段的技术也会有可能扩大对女性和少数族裔的偏见,对个人隐私构成威胁,以及导致碳排放的增加。谷歌为此建立了一个审查程序,用以确定新的人工智能技术是否符合其在 2018 年提出的人工智能伦理原则。在这一背景下,人工智能伦理团队的职责是帮助谷歌寻找公司在人工智能领域的盲点,确保公司负责任地开发和应用人工智能技术。然而,人工智能伦理专家格布鲁的离职引发了巨大的争议,并导致了人工智能伦理团队的人事动荡。一些学者开始担心,谷歌在开发有可能改变世界的人工智能新技术时,可能无法充分处理公司内部的伦理反馈意见。

例如,今年 5 月,谷歌发布了一款新的皮肤病人工智能检测应用程序,但这款应用程序引发了批评,因为它有一个明显的缺点:它在测试数据中大大低估了较浅肤色与较深肤色的对比。如果在发布前能事先咨询一下人工智能伦理团队,这一问题原本有可能加以避免。

在过去的几个月里,谷歌伦理研究团队的领导层一直处于持续动荡的状态。在短短几个月的时间里,该团队继格布鲁研究员离职后,又先后失去了两位领导人。今年 2 月,谷歌解雇了梅格・米切尔(Meg Mitchell),正是她负责创建了谷歌人工智能伦理团队,并与格布鲁共同领导该团队。到了 4 月份,米切尔和格布鲁的直接领导、顶尖人工智能科学家萨米・本吉奥(Samy Bengio)也宣布辞职。本吉奥曾向外界表示,他对格布鲁的解职感到“震惊”。本吉奥是谷歌大脑研究部门的负责人,谷歌人工智能伦理团队正是在其领导下开展工作。从谷歌离职后,他将领导苹果公司一个新建立的人工智能研究团队。

2 月中旬,谷歌任命前工程副总裁玛丽安・克劳克(Marian Croak)为新成立的人工智能责任部门(Responsible AI Department)的负责人,人工智能伦理团队也划归该部门管理。然而,克劳克的行政级别太高,因此并不直接参与该团队的日常运作。

这样一来,人工智能伦理团队的运作就变得比较尴尬。他们不得不向上述已经离职的领导人寻求非正式的工作指导和研究建议。团队成员搭建了临时的组织架构,让每位成员轮流负责每周的部门会议。他们还自行指定了两名研究人员,定期与谷歌其他团队沟通,以让他们了解团队的最新成果。由于谷歌在全球雇用了超过 13 万名员工,对像人工智能伦理团队这样的小团体来讲,一般很难知道他们的工作成果是否真正应用到了公司的产品中。

过去的半年对该团队的新成员来说显得尤其困难,他们有时甚至不知道该如何领取自己的薪水,以及如何才能访问谷歌的内部研究工具。一些团队成员在看到格布鲁和米切尔的遭遇后,开始觉得他们正在从事的工作有风险,担心如果以后他们的工作成果也引发了争议,那么他们也可能会被解雇。

克劳克是一位有成就的工程研究领导人,但在人工智能伦理领域经验不足。在与人工智能伦理团队的会面中,她试图向员工保证,她是团队的盟友。克劳克是谷歌级别最高的黑人高管之一。在谷歌,黑人女性只占员工总数的 1.2%。她承认,谷歌在改善员工种族和性别多样性方面缺乏进展。据几位研究人员称,克劳克在与人工智能伦理团队的会面中,也向团队成员表达了歉意,对团队目前的困境表示感同身受。

然而,又有消息称,这位高管与人工智能伦理团队的关系还是出现了问题,因为他们觉得她只是做出了一些空洞的承诺。在克劳克被正式任命为人工智能责任部门负责人之前几周,她就已经与人工智能伦理团队的成员进行了非正式的交流,讨论如何修复对团队造成的损害。然后,人工智能伦理团队的成员共同起草了一封信,提出了包括对团队进行“结构改革”在内的一些建议。谷歌后来确实对团队进行了重组,并将团队划归新组建的人工智能责任部门管理。然而,团队成员是公司内部最后得知此事的人。因此,当团队成员得到消息时,他们是一脸的懵逼。团队成员对此感到很不满,认为重组过程与他们缺乏沟通,不尊重他们。

一些团队成员对自己在谷歌的未来感到悲观,并开始怀疑是否真正拥有展开研究所必需的自由环境。他们要求谷歌公开承诺学术自由,并澄清其学术研究审查程序。截至目前,谷歌尚未对这些要求有所回应。此外,团队成员还希望谷歌向已经离职的格布鲁和米切尔道歉,并向她们再次提供工作机会 —— 但目前看来,这些要求极不可能实现。而且,格布鲁也已经表示,即使谷歌再次向她提供工作机会,她也不会回来。

一些团队成员表示,他们正在考虑离开公司。在竞争激烈的人工智能领域,顶尖研究人员可以拿到七位数的薪水,如果这些人员离职,那将是谷歌的一个巨大损失。

现在,谷歌在学术研究领域的地位正变得岌岌可危。到目前为止,谷歌是科技行业最大的研究资助者之一 —— 它去年在研发领域投入了 270 多亿美元,这甚至超过了美国宇航局(NASA)的年度预算。但谷歌人工智能伦理团队近期出现的这些争议性事件,让一些学者质疑,谷歌的让研究人员自由开展研究的承诺,是否已被公司的商业利益所束缚。

数千名计算机科学教授和研究人员曾签署了一份请愿书,批评谷歌解雇格布鲁的举动,称之为“前所未有的学术研究审查”。谷歌的人工智能高管心里很清楚,谷歌已经失去了学术界的信任。迪恩在今年 2 月的一次员工研究会议上发表评论称,重建信任的策略是“继续发表‘非常有趣’的前瞻性工作”。他说,“重新获得人们的信任需要一点时间。”

然而,重建信任所需的时间恐怕不止“一点”。加拿大安大略西部大学(Western University)的研究人员卢克・斯塔克(Luke Stark)评论说:“我认为,目前谷歌基本上是无法挽回其在学术界的声誉的,至少中期来看是如此。”斯塔克最近还拒绝了谷歌的六万美元的不受限制资助,以抗议格布鲁的被迫离职。据报道,他是有史以来第一个拒绝谷歌研究资助的学者。此外,还有另外两个人工智能研究团体也已经表示将拒绝谷歌的任何资助。

目前,至少有四名谷歌员工,包括一名工程总监和一名人工智能研究人员,已经离开公司,并且是以格布鲁被解雇作为辞职理由。当然,这些离职仅代表了一个大群体中的少数人。其他人选择留下是因为他们仍然相信事情会有转机。一位不属于人工智能伦理团队的员工表示,他和同事们强烈反对谷歌解雇格布鲁的决定,但他们也觉得,留下来继续做有意义的工作是他们的责任。

对谷歌如何处理人工智能的伦理问题表示担忧的远不止学术界,监管机构也开始关注此事。去年 12 月,9 名国会议员致函谷歌,要求谷歌就格布鲁被解雇一事作出解释。颇具影响力的族裔正义组织“Color of Change”也呼吁,对谷歌解雇格布鲁一事所可能存在的种族歧视展开外部调查。

这些外部团体正密切关注谷歌人工智能部门内部发生的事情。他们意识到人工智能将在人类生活中发挥越来越大的影响。几乎所有主要的科技公司,包括谷歌在内,都将人工智能视为现代世界的一项关键性技术。基于反垄断的考虑,谷歌已经成为了政治上的热门话题,谷歌人工智能部门正面临着很高的政治风险。

文章评论