机械也有「成见」。
土耳其语的「他」和「她」没有性其余区分，同一用 O 表示。以前 Google Translate 在翻译 o bir doktor（ta 是一位大夫）和 o bir hem?ire（ta 是一位护士）时，会把前者翻译成 He is a doctor，把后者翻译成 She is a nurse，只因为机械在进修数亿数据和某些「社会规律」之后，「偏向」把大夫男性化，护士女性化。
看到这个问题后，Google 意识到要想办法更好地练习模型，让它变得加倍「中立」。后来 Google Translate 以增长选项的方法规避了这个问题。
「当然，该解决筹划仅实用于几种说话，仅实用几个有代表性的单词，然则我们正在积极测验测验扩大它。」Tulsee Doshi 在 Google I/O’19 上说道。
这只是 Google 这家公司将先辈技巧与技巧价值不雅合二为一的表现之一。上周 Meg Mitchel，Tulsee Doshi，Tracy Frey 三位谷歌科学家、研究学者向包含极客公园（id: geekpark）在内的全球媒体阐释了 Google 若何懂得机械进修公平性，以及为了打造一个「负义务的 AI」，Google 做了哪些工作。
要让 AI 被人信赖这件工作变得越来越重要。
「比来一次调研中，全球 90% 的受访高管都碰到过人工智能的伦理问题，是以有 40% 的人工智能项目被放弃。从企业的角度来看，对 AI 的不信赖正在成为安排 AI 最大年夜的障碍，只有在 AI 被负义务地开辟出来并且取得终端用户信赖的语境下，效力晋升和竞争优势才会获得充分表现。」Tracy Frey 说，打造一个负义务的 AI 成为 Google 高低最重要的工作之一。
两年之前 Google 颁布了 AI principles（人工智能原则），这些直指 AI 技巧应用伦理的原则包含：
? 对社会有益（Be socially beneficial）
? 避免建立和加剧不公的成见（Avoid creating or reinforcing unfair bias）
? 保障建立和测试安然性（Be built and tested for safety）
? 对人类负责（Be accountable to people）
? 建立并表现隐私保护原则（Incorporate privacy design principles）
? 支撑并鼓励高标准的技巧品德（Uphold high standards of scientific excellence）
? 供给并保障上述原则的可操作性（Be made available for uses that accord with these principles）
只是把这些原则逗留在字面上没有意义，Google 为此形成了一个从理论到实践的「闭环」。Tulsee Doshi 和她的团队经由过程一些基本性质的研究建立和迭代 AI 原则、规范，作为闭环的中间，他们一边经由过程向高等参谋寻求改进建议，一边让产品团队（Chrome、Gmail、Cloud 等）来实施和反馈。
Tulsee 举了一个例子，Google 内部孵化器 Jigsaw 曾经开辟了一个名叫 Perspective 的 API，它的工作就是在收集对话、评论中寻找各类各样的谈吐，主动评价它们是否带有仇恨、辱骂、不尊敬等行动，从 0-1 代表「毒性」从低到高。比如「我想抱抱这只可爱的小狗」和「这只小狗也太憎恶了吧」分别评分为 0.07 和 0.84。
当然机械也不是从一开端就「完美无瑕」。在 2017 年的 1.0 版本中，它给「我是直男」打分 0.07 分，给「我是同性恋」打分 0.84 分，与之类似的很多测试中，体系都被证实带着身份认知上的成见。
为了晋升机械进修的公平性，Google 内部研发了一项名为对抗练习（Adversarial Training）的技巧??若何使机械进修模型对抗样本更鲁棒。2018 年开端，对抗练习开端应用在 Google 产品中。紧接着本年 11 月，Google 会将此应用在 TensorFlow 加倍广泛的生态里。
「事实上，任何一位 Googler 都可以对一款产品、一份研究申报、一项合作进行 AI 原则审查。」Tulsee 说道。
比如客岁，一位 Google 员工将照片跑在 Cloud Vision API 上时发明本身的性别被搞错了，而这违背了 AI 原则的第二条「避免建立和加剧不公的成见」。产生如许的掉误很好懂得，单单从外表一个维度，机械很难精确地断定出一小我的性别，所今后来 Google 干脆撤消 Cloud Vision API 将图像中的人标记为「汉子」或「女人」的标签功能。
Tracy Frey 称这是因为今天机械进修面对社会语境下的挑衅比以前更多了。在 AI 深刻社会的过程中，必定有人类的刻板印象和成见被带入 AI，所以须要对模型进行迭代，包管其透明性和可解释性，找准模型机能和公平之间的均衡点。
题图来源：视觉中国 Google｜义务编辑：靖宇
转载请接洽极客君微信 geekparker
