色んな意味でAIのヤバさがわかる画像が話題に

子供のころは「ちょっと古い夢物語」という感じだった。少しずつ大きくなっていくにつれて段々と現実になっていき、今ではすっかり「AI化」は常識になり、掃除機が自動で部屋をきれいにする事にも驚くことはなくなりました。昔の暮らしからすると紛れもない未来が今自分たちの手の中にはあるはずなのに、意外と普通になっているから気付かないものです。

AIの凄いところ・便利なところ

言うまでもなく、現在の暮らしはかなりの部分までAIに頼った生活になってきている。セキュリティなどもAIに頼った部分が多くなっているのが現状だ。

AIの脆弱性

AMLの一例。人間の目には左も右も同じパンダの画像に見えるけれど、右の画像には人間の視覚では認識しづらい恣意的なノイズが重ねられていて、無防備なAIはノイズ上の情報に誘導されて「gibbon(テナガザル)です(キリッ)」と断言してしまっている。このノイズパターンを作り出すのがAML。 pic.twitter.com/geIc3aRePN

— ウチューじん・ささき (@uchujin17) December 4, 2020

AIの脆弱性というと語弊があるかもしれない。むしろ高度な認識能力を持っているからこそノイズパターンに誘導されて誤認識を起こしてしまうという恐ろしさ。画像の中では、人間が見れば「パンダだ」とすぐにわかるような画像だが、AIの認識では最初60パーセント弱の可能性でパンダだと言っているところ、ノイズパターンが入るとむしろ99パーセント以上の確率でナマケモノだと誤認識してしまっている。

Twitterの反応

虹彩認証を騙すコンタクトレンズに顔認証を騙すマスクに指紋認証を騙す手袋のはびこる時代がすぐそこにあるのか！！