AIとセキュリティーで課題となる3つのテーマ

デジタル化の波とセキュリティーのテックトレンド化

2018年のテックトレンドのひとつとして、盛んに強調され始めた分野がある。「サイバーセキュリティー」だ。IoT機器の本格的な普及によって、ネットに接続された「領域」は着実に増加すると見込まれており、セキュリティの重要性もこれまでより大きくなっている。

既存のサイバー犯罪は、個人情報を流出・悪用することで、利用者・企業双方に甚大な影響を及ぼしてきたが、IoT機器によって収集されるデータがより多様かつ広範になれば、悪用された時の被害はこれまでの比ではない。加えて、ハッカーたちがIoT端末(自律走行車やAIアシスタント、工場で稼働する産業用ロボットまでを含む)の操作を奪うことで、対象に直接的かつ物質的な被害を与えられる可能性も広がっており、警鐘を鳴らす関連団体、調査企業も増え始めている。

なお2018年1月に起きた「コインチェック問題」で一気に世間の関心を集めることになった仮想通貨も、2017年末から被害の対象になるだろうという予想が世界的に増え始めていた。仮想通貨技術は急速な発展を遂げたが、セキュリティー体制の整備が追いついておらず、サイバー攻撃の新たな温床になりうるという指摘だ。このように、ハッキングやサイバー攻撃の脅威は、個人情報被害や物理的被害のみならず、大規模な金銭・経済的被害をもたしうるという意味で、日ごとに拡大し続けている状況にある。

AIを守りAIから守られるセキュリティーのあり方

ここでもう人工知能(AI)と、セキュリティーにはどのような関連性やテーマ設定があるのか。ここで、状況を整理しながら掘り下げてみたい。

「AI×セキュリティー」には、大きく3つのテーマ設定がある。まずひとつ目は、人工知能の普及によって生じるであろう問題に対処する「Security from AI」というテーマだ。例えば、自律走行車に搭載された人工知能が誤作動を起こせば、経済的被害が生まれることはもちろん、最悪の場合には人命被害にまで繋がりかねない。Security from AIには、そのような一定状況下でAIに正常な判断をさせるため技術の向上とともに、「何を持って正しい判断とするか」という、倫理的アプローチが含まれている。

自律走行車や軍事兵器などに搭載されている人工知能は言うまでもなく、工場で稼働する人工知能にもこの考え方を取り入れていくのは非常に重要になってくるだろう。現在、工場では不良品検知、機器の故障予測などAIの適用範囲が広がり続けているが、仮にその判断結果が間違っていた場合は大きな被害に繋がりかねない。当然、AIの能力を改善し続けることが重要になるが、そのためには判断根拠や学習工程の間違いを人間が理解するという前提が必要になってくる。しかし、ディープラーニング(深層学習)など注目されるAI技術は、その点がブラックボックス化してしまうという課題もある。派生して「説明可能なAI」=「判断過程を追えるAI」が求められているが、それら数々のAI実用化と関連した話題も、Security from AIというテーマの範疇での議論となるだろう。

ちなみに、最近では「画像」や「動画」を新たに生成するAI技術も発展し始めている。悪用されれば、フェイクコンテンツの生成や、顔認証システムのハッキングなどにも使われていく可能性がある。また、AIを使ったハッキング手法の探索も、社会的な課題になっていくだろう。人間が気づかなかったシステムの脆弱性をAIが発見し、それをハッカーやサイバー犯罪集団が利用するというものだ。おそらく今後、「Security From Generative AI」「Security From Cracking AI」というような新たなテーマも生まれるだろう。

次に「Security of AI」というテーマがある。こちらは、「AIをいかにハッキングやサイバー攻撃から守るか」というテーマ設定と言い換えてもよい。現在のAI技術は、いずれも従来のコンピュータシステム上で実装されているため、人工知能システムを悪意のある攻撃から保護するというそのテーマは、既存のITセキュリティー問題のテーマと大きく変わらない。ただ、AI技術の適用対象は、自律走行車、病院の診断・手術システム、軍事兵器などより広範であり、いずれも人間の生活に直結するケースが多いので、被害の規模から逆算して、セキュリティー問題にもより注力しなければならないだろう。

過去には、マイクロソフトのAIチャットボット「テイ」が、悪意を持つ人々によって人種差別的な発言を学習させられ、稼働から間もなくサービス停止に追い込まれるという事態も起こっている。同様に、人知知能をだませる一定の入力パターンさえ調べれば、その判断や動作を歪ませることができる。それらAIを誤作動させる内部・外部要因を取り除くのがSecurity of AIの課題ではあるものの、関連研究はまだまだ進んでいないのが実情だと言われている。

「Security by AI」に秘められたビジネスチャンス

最後に「Security by AI」というテーマがある。こちらは、AIを使ってセキュリティーを向上させようというテーマだ。このなかでも、特に機械学習を使ってセキュリティー問題を解決しようという研究は比較的長い歴史を持っており、バイオ認証、侵入探知、DDOS探知、不正取引探知などの目的に応用されてきた。

2016年末にはクレジットカード大手のマスターカードが、正常な取引の承認を拒否してしまうという現象に対して、機械学習システム「Decision Intelligence」を取り入れ、解決を図る試みを開始した。こちらは、Security by AIの考え方を、逆にサービスの向上・合理化に転化させた例と言えそうだ。なお最近では、「指紋認証」「ログ分析」「APT攻撃の追跡」「信用分析」などのセキュリティー領域で、ディープラーニングを使った例が報告され始めている。

人工知能の存在感が高まる今、「AI×セキュリティー」には多くの課題、そして裏を返せば大きなビジネスチャンスが眠っていると言えそうだ。