Twitter上に蔓延する女性嫌悪発言を検出……UNESCOの提案含めた“女性を救うためのAI”開発進む

Twitter上に蔓延する女性嫌悪発言を検出……UNESCOの提案含めた“女性を救うためのAI”開発進む

 オーストラリアでは、女性を救うためのAIの開発が着々と進んでいる。

 オーストラリアのクイーンズランド工科大学の研究グループで現在開発を進めているのが、Twitter上に蔓延する女性嫌悪発言を検出するAIだ。

 まずTwitterから100万ツイートを収集し、女性嫌悪に繋がる「whore(尻軽女)」「slur(性的に淫らな)」「rape(レイプ)」といった3つのワードを含む5000ツイートを抽出。その後、発言内容やその意図を手がかりに女性嫌悪発言かどうかを検証しつつ、それぞれのツイートにラベルを付与し分類を行った。

 誹謗中傷に繋がる発言を検出する類似のシステムは各地で開発されているが、誹謗中傷ツイートをさらに細かく解析したことは注目に値する。よくあるヘイトスピーチ対策AIとは異なり、女性に対して攻撃的な言葉を発するケースのみならず、皮肉的な意図を込めて発するケースや、攻撃的な言葉をフレンドリーに放つケースにも対応しており、これらの状況下で発せられた言葉に対して警告が出される仕組みとなっている。

 クイーンズ工科大学のリチ・ナヤ教授は、「台所へ戻れ」というフレーズを例に挙げ、「既存のAIによる文字通りの解釈では女性嫌悪発言と判定されない可能性が高いが、我々が開発したシステムでは、こうしたフーレズも女性嫌悪発言として識別されるようになっている」とコメントしている。

 こうして、女性差別に繋がる発言に対して、文脈を分析しながら75パーセントの精度で識別可能となっている。今後は女性のほか、人種やLGBT、障害者への誹謗中傷にも対応可能なソーシャルメディアプラットフォームへと発展させていく予定である。

 さらに、同じくオーストラリアのウォンゴング大学では、行動科学の観点から女性を守るAIプロジェクトが進行中だ。ニューサウスウェールズ州のデータによると、オーストラリアでは女性の10人中9人が街の通りで嫌な思いをしたことがあるという。そこで、ウォンゴング大学の研究グループは女性が安心して真夜中でも出歩けるよう、駅周辺での不審者を自動的に検出するシステムを開発。ストーカーや街で騒ぐ血気盛んな人、興奮状態の人、口論している人を検出するとともに、目的地までの最も安全なルートが提案されるようになっており、テクノロジーの限界に挑んだ世界初の取り組みと海外メディアは報じている。

 人工知能をめぐる女性差別については世界的に問題視されており、国連も動き出しつつある。ユネスコは8月31日、男女平等と人工知能について纏めた報告書を提出したことを公式サイトにて発表。ジェンダーの平等性については、2008年以降、UNESCOが理念として掲げてきたテーマのひとつであり、教育や科学、文化、情報通信分野におけるジェンダーの平等性を訴求してきた。ちなみに、ジェンダーの平等性と人工知能に関する枠組みにおいては、今回で4度目の提案となる。2019年に提出した報告書では、AIの訓練データには女性への憎悪を促すバイアスが含まれており、改善が施されない状態で社会に浸透すれば、世界規模で女性差別がエスカレートし、女性は経済的、政治的および社会的に不遇な境遇へと追いやられかねないと指摘している。

インタビュー

もっとみる

Pick Up!

「コラム」の最新記事

もっとみる