几乎就在一年前,谷歌人工智能团队道德规范的领导者之一、该主题最重要的专家之一 Timnit Gebru 在向她的团队发送了一封关注的电子邮件后被解雇。现在,她与一个全新的研究机构 DAIR 建立了自己的关系,专注于她认为在谷歌被边缘化的话题。
根据其公告,分布式人工智能研究所是“一个独立的、扎根于社区的机构,旨在对抗大型科技对人工智能研究、开发和部署的普遍影响”。
DAIR 从一开始就包含和强调不同的观点,并对谷歌、亚马逊和 Facebook/Meta 等公司使用的流程提出质疑,DAIR 将获得独立资助。重点将是在学术领域发表论文,但既没有传统学术界的无情压力,也没有笼罩着研究人员的全球公司的家长式干预。
“长期以来,我一直对我们现有的激励机制感到沮丧,而且这些机制似乎都不适合我想做的工作,”Gebru 告诉华盛顿邮报。
迄今为止,该研究所已从福特基金会、麦克阿瑟基金会、卡波尔中心和开放社会基金会筹集了 370 万美元。这应该足以开始——并为其研究人员提供丰厚的报酬,确保此类工作是在经常资助人工智能研究的财力雄厚的公司工作的现实替代方案。
我已经问过 Gebru,我们曾在舞台上谈论过这些主题,关于 DAIR 的方法和未来研究方向的更多信息,如果我收到回复,我会更新这篇文章。但是有两名人员给出了我们可以期待的想法。
Safiya Noble,《压迫算法》的作者和麦克阿瑟天才奖获得者,将加入 DAIR 的咨询委员会;我们最近在 TC Sessions: Justice 上为她主持了一个小组讨论,在那里她谈到了在技术被广泛使用和“平庸”时考虑中性或有价值的技术的危险,而实际上这正是它们应该受到更严格审查的时候。
Raesetje Sefala 是 DAIR 的第一位研究员; Sefala 最近的研究重点是南非的地理和经济隔离,并通过卫星图像进行量化。
“人工智能需要回归现实。它已被提升到超人的水平,让我们相信这是不可避免的,也是我们无法控制的,”Gebru 在公告中说。 “当人工智能研究、开发和部署从一开始就植根于人和社区,我们就可以战胜这些危害,创造一个重视公平和人性的未来。”