AIを使ったサイバー攻撃に、AIで反撃する時代

反撃AIの未来

　Robust Intelligenceの基本的な仕組むとして敵対的事を逆手に取りマシンラーニングの初期段階でこれらの摂動データを入力することによって識別基準のバラエティを増やしていくというものだ。他にもAI自体への偽攻撃を実践することによってAIのシステムに存在する脆弱性を見つけ出しそれに対して対策をマシンラーニングを通して発展させる「AIファイアーウォール」なるサービスなどを提供している。これらの技術は現在ペイパルやNTTデータ、他にもライドシェア関連のアプリなどで応用されている。

　まだAIサイバーセキュリティ攻撃に反撃する研究分野は初期段階にあるが、既に今年10月にはマイクロソフト、IBM、Nvidiaを含める11社がAIの脆弱性を調査するシステムフレームワークを発表した。これらのAIへの攻撃の大きな課題として挙げられるのがブラックボックスであるマシンラーニングのプロセスに人間がどのようにして反撃のシステムを組み込んでいくかというものだ。同時に近年浮上しているAIの顔認識システムによる差別問題やプライバシーに関する倫理などを考慮しながらAIをどこまで応用していくか、その過程における規制や制限などを考え直していく必要があるのかもしれない。

（画像＝Pixabayより）

■mugiho
ニュージーランドの大学でマオリ文化の発展・都市計画・教育について学びながら映画、テック、文化芸術について執筆するフリーライターと翻訳家。人間観察をしながらたまにそれらについて書いたり撮ったりしている。

〈Source〉
https://www.wired.com/story/company-uses-ai-outwit-malicious-ai/
https://www.proofpoint.com/jp
https://www2.deloitte.com/jp/ja/pages/deloitte-analytics/articles/defending-against-adversarial-ai.html
https://elix-tech.github.io/ja/2017/10/15/adversarial.html
https://rightcode.co.jp/blog/information-technology/ai-adversarial-examples
https://tradermadness.com/robust-intelligence-raises-14m-to-make-ai-to-potential-fool-hackers-1024/
https://medium.com/robust-intelligence
https://harvardmagazine.com/2019/01/ai-and-adversarial-attacks
https://robustintelligence.com/#top
https://www.wired.com/story/facebooks-red-team-hacks-ai-programs/