社会とテクノロジー内のバイアスは瓜二つ？

　Googleなどでも導入されている言語処理システムBERTは、Wikipediaの記事やブログやオンライン記事などのデジタルデータから学びのプロセスを得ていくが、実際に複数の研究で「特定の単語を女性的であると認識する傾向がある」という結果が出ている。この他のAIシステムにおいても、顔認識システムにおいて白人男性以外の人物を誤認識するなど、AI技術は社会に存在している差別を内在化していく傾向にあり、多くの研究者がそれらの技術をテクノロジーサービスに適用していく危険性を指摘している。

　GoogleにおけるAIの応用が目指すものは、サーチクエリーの最適化や質問に答える機能を向上させた言語処理システムの導入だった。しかしGebruはオンライン上で展開されるテキストリソースを元に学んでいくAIが、バイアスのかかった言い回しや言語システムを得ていく危険性があるため、企業側はどのようなデータプールから機械学習を行なっているかを明記する必要があると指摘した。この内容はAI倫理のチームであるGebruの共同責任者としての仕事であり容認されるべきだと、Google内の1200人ほどの研究者たちがGebruの解雇を受けて抗議している。

　今回、二人のAI倫理研究者たちが解雇されたことは、テクノロジー界におけるマイノリティとAIに存在する偏見を象徴する事件だ。Googleをはじめとするテック企業が、今後これらの問題にどのように取り組んでいくのかを私たちユーザー側も注目し、どのような背景のもとで技術が提供されているのかを理解していく必要があるだろう。

■mugiho
ニュージーランドの大学でマオリ文化の発展・都市計画・教育について学びながら映画、テック、文化芸術について執筆するフリーライターと翻訳家。人間観察をしながらたまにそれらについて書いたり撮ったりしている。

〈Source〉
https://techcrunch.com/2021/02/19/google-fires-top-ai-ethics-researcher-margaret-mitchell/
https://www.theguardian.com/technology/2021/feb/19/google-fires-margaret-mitchell-ai-ethics-team
https://www.theguardian.com/technology/2020/dec/04/timnit-gebru-google-ai-fired-diversity-ethics
https://www.wired.com/story/second-ai-researcher-says-fired-google/
https://www.theverge.com/2021/2/19/22292011/google-second-ethical-ai-researcher-fired
https://www.axios.com/google-fires-another-ai-ethics-leader-6ef7dcd5-4583-4396-b5b3-129547ff3091.html
https://www.theverge.com/2020/12/3/22150355/google-fires-timnit-gebru-facial-recognition-ai-ethicist
https://www.theverge.com/2020/12/2/22047383/google-spied-workers-before-firing-labor-complaint
https://www.axios.com/scoop-google-is-investigating-the-actions-of-another-top-ai-ethicist-50030739-ea3d-4ea2-b452-c228b4fc9773.html
https://www.nytimes.com/2021/02/19/technology/google-ethical-artificial-intelligence-team.html
https://www.nytimes.com/2019/11/11/technology/artificial-intelligence-bias.html
https://www.nytimes.com/2020/12/03/technology/google-researcher-timnit-gebru.html
https://www.nytimes.com/2020/12/02/technology/google-nlrb-fired-workers.html