Joy Buolamwini:“我们给人工智能公司一张免费通行证”

手机作者 / 花爷 / 2025-08-15 23:53
"
      我看得出布兰姆维尼觉得这个封面很有趣。她拍了一张照片。自1961年以来,时代发生了很大变化。在她的新回忆录《揭开

  

  

  我看得出布兰姆维尼觉得这个封面很有趣。她拍了一张照片。自1961年以来,时代发生了很大变化。在她的新回忆录《揭开人工智能的面纱:在机器世界中保护人类的使命》中,布兰姆维尼分享了她的人生故事。从很多方面来说,她都体现了科技自那时以来的进步,以及它还需要走多远。

  Buolamwini最为人所知的是她在2017年与人工智能研究员Timnit Gebru共同撰写的一篇题为《性别阴影》(Gender Shades)的开创性论文,该论文揭露了商业面部识别系统往往无法识别黑人和棕色人种的面孔,尤其是黑人女性。她的研究和倡导使得b谷歌、IBM和微软等公司改进了他们的软件,这样就不会有偏见,也不会把他们的技术卖给执法部门。

  现在,布兰姆维尼有了新的目标。她呼吁彻底重新思考人工智能系统的构建方式。Buolamwini告诉《麻省理工科技评论》,在目前的人工智能炒作周期中,她看到了一个非常现实的风险,即让科技公司修改适用于他们的规则——重复她认为的错误,即以前允许有偏见和压迫性的技术茁壮成长。

  Buolamwini说:“我担心的是,我们给了这么多公司一张免费通行证,或者我们在为创新喝彩的同时却忽视了它的危害。”

  Buolamwini表示,一个特别值得关注的问题是,我们正在构建当今最闪亮的人工智能玩具(所谓的基础模型)的基础。技术专家设想,这些多功能模型将成为许多其他人工智能应用的跳板,从聊天机器人到自动电影制作。它们是通过从互联网上收集大量数据建立起来的,其中不可避免地包括受版权保护的内容和个人信息。许多人工智能公司现在被艺术家、音乐公司和作家起诉,他们声称自己的知识产权在未经同意的情况下被窃取。

  Buolamwini说,当今人工智能公司目前的运作方式是不道德的,是一种“数据殖民主义”,“完全无视同意”。

  她说:“如果没有法律,那些东西就会被掠夺。”作为一名作家,Buolamwini说,她完全希望她的书、她的诗、她的声音、她的专栏——甚至她的博士论文——都能被纳入人工智能模型。

  “如果我发现我的任何研究成果被用于这些系统,我肯定会说出来。我们就是这么做的,”她说。

分享到
声明:本文为用户投稿或编译自英文资料,不代表本站观点和立场,转载时请务必注明文章作者和来源,不尊重原创的行为将受到本站的追责;转载稿件或作者投稿可能会经编辑修改或者补充,有异议可投诉至本站。

热文导读