AIセキュリティの課題まとめ

AIは、人間では処理することが不可能なほどの膨大なデータでも短時間で学習が可能で、さらに、その学習データを分析することによって、通常と違うパターンの検出にも力を発揮できるのが大きな魅力です。実際、こうしたAIの特性を生かして、すでにさまざまな分野で人工知能を応用した技術が活用されていますが、今後、大きな注目を集めることになるのがAI技術を応用したセキュリティです。世界的な大手企業のなかにも、すでにAI技術を情報セキュリティ分野へ活用しようと研究・開発に巨額を投資しているところがあるぐらいですので、今後の安全対策の主流になってくることは間違いありません。一方、さまざまな可能性を秘めているだけに、その技術を悪用しようという者も出てくることは確実です。ここでは、AI技術を応用したセキュリティ分野での可能性と、懸念される課題点についてまとめてみました。

AI技術は、情報セキュリティ分野においてさまざまな応用が可能と考えられます。膨大なデータを学習し、そのなかからある特徴だけを抽出できるという人工知能の特性を活かすことで、たとえば、正常なファイルと同時にマルウェアなども同時に膨大に学習させて、その学習データから特徴を抽出し、まだ登場していない未知のマルウェアの検出に役立たせるといったことも可能でしょう。これまでは、専門の技術者が新しく登場したパターンをファイル化し、それをユーザーに配布してマッチングさせるという方式でマルウェア対策が取られていましたが、この人力での方法ではどうしても限界があります。その点、AIなら、パターンの検出を自動化することによって、放置しておいても自動的に未知のものも含めてマルウェアを発見できるようになるわけです。

また、最新のマルウェアに対処するために、従来はパターンファイルのバージョンを逐一更新して、それを都度、適用するという方法が取られていましたが、これも非常に負荷の高い作業なので、人力で行うにはやはり限界があります。これも、AI技術を用いることによって、これまで人間がやっていた作業を自動化できるため、最新のマルウェアへの対応のために人間がいちいち更新する必要がなくなるわけです。

こうしたAIの自動化できる仕組みを活用して、実際に国内の企業でも新たなセキュリティ対策が取られています。たとえば、ある大手銀行では、人工知能を活用することで、自動的にサイバー攻撃の情報を収集・分析し、今後登場するであろう未知の攻撃手法に対してあらかじめ防御するという対策です。従来は、セキュリティの担当者が攻撃の一つ一つを分析して対処法を考えるという時間も手間も要する手法を取っていましたが、AIの活用によって、世界中のサイバー攻撃の情報を瞬時に収集・分析し、それをスピーディーに反映できるようになりました。

大手通信事業者のなかには、アメリカのAI技術を応用したウイルス対策ソフトの開発企業に出資し、日本法人を立ち上げて国内で新たなセキュリティプラットフォームの提供を始めているところもあります。また、別の通信事業者では、AIを自社のマネージドセキュリティサービスに搭載し、過去のウイルスやサイバー攻撃の記録を分析して、そこから発見された規則性を使って未知の攻撃を遮断するという対策を取っているところもあるほどです。

このように、AI技術を活用することによって未知のサイバー攻撃への防御が可能になりつつあるのですが、一方で、AI技術の悪用により、新たなセキュリティを突破するような攻撃も登場するだろうとの予測もあります。実際、AI技術を使うことでシステムに存在する脆弱性の発見も容易になりますから、この技術が悪しき手に落ちれば、これまで以上に脅威が増すことは確実です。また、機械学習というAIの特性を生かせば、人間の挙動を模倣させることも可能ですので、機械的な対策では防ぐことが難しい手法で攻撃を仕掛けられることも増えてくるでしょう。たとえば、ログインの際に画像認識をさせて人間と機械を見分けるという認証方法がありますが、この種の認証はAI技術を使えば容易に突破できることがすでに指摘されています。

AI技術を活用したサイバー攻撃は、従来の攻撃よりも脅威になることは容易に想像できます。これまでもさまざまな攻撃手法が開発されてきましたが、なかには、技術的には可能であってもコストや時間がかかりすぎるため、それだけの労力を傾けて悪事を働くのは割が合わないと断念されてきたものもあったはずです。ところが、AI技術を用いることによって、特別な知識がなくても、コストや時間をかけずに新手の攻撃手法を生み出すことが可能になっています。今後、サイバー攻撃のリスクは今よりもさらに高くなり、日常的なものとなっていくのではないでしょうか。

これまでもサイバー攻撃とそれを防ぐ方法はいたちごっこの様相を呈していましたが、今後もその状況は続くことになるのではないでしょうか。少なくとも現状のセキュリティ対策を続けている限り、新手の攻撃手法に対応し切ることはできませんし、現時点では万全と思われる体制を構築していても、今後訪れる脅威まで完全に防御するのは難しいと言わざるを得ません。となると、今後のセキュリティの主流となるのは、やはりAI搭載のシステムになるでしょう。AIとAIの対決であれば、AIを活用した新たな手法で攻撃してきても、それを迅速に分析してさらに新たな方法で防御するということも可能になるはずです。結局、AIに対抗できるのはAIだけということになるのではないでしょうか。AIに対して攻撃できるのはやはりAIであり、また、それを防ぐのも、学習によって新たな対応策を講じることのできるAIのみということになります。

さらに、ここまでのこととは別種のAIの悪用法もあります。それは、AIの特性を突くタイプの攻撃です。AIは自動で学習して分析結果をアウトプットできるのが強みですが、最初に誤ったデータを学習すると、アウトプットされるものも誤ったものになってしまいます。そのため、最初に故意に誤ったデータを学習させることができれば、AIを搭載したシステムを誤作動させることも可能になるでしょう。これを防ぐためには、AIが学習するデータが正しいかどうか、改竄されていないかということを常にチェックする必要があります。それを考えると、今よりもさらに強固なセキュリティ体制が必要になりそうです。実際そうしないと、今後、生活の隅々にかかわってくるであろうAIが誤作動するようなことになっては、社会全体が大きな危機に瀕することになってしまいます。

このように、AI技術を用いてこれまで以上に強力な安全体制を構築することが可能になっていると同時に、攻撃者も同じ技術を用いることによって、これまで以上に脅威となる攻撃を仕掛けることも可能になる状況です。結局、どれだけ技術が発展しても、人間がそれを正しく扱わない限り、新たな問題が生まれてくるのは避けられません。どれだけセキュリティを強固にしても、それを突破する技術も登場するわけですので、常に警戒を怠らないということが最善の対策になるでしょう。

https://www.shadan-kun.com/

サイバーセキュリティクラウドが提供する「攻撃遮断くん」はWebサイト・Webサーバへのサイバー攻撃を可視化し、遮断するセキュリティサービスです。
ブルートフォースアタック、クロスサイトスクリプティング、Webスキャンと言ったサイバー攻撃をリアルタイムで検知・遮断しています。
ユーザーごとに提供される管理画面で、契約したWebサーバへの攻撃の情報を確認することができます。