AIは善にも悪にもなる。サイバー攻撃とセキュリティ
2021.3.16
概 要
インターネットの普及に始まり、テクノロジーが進化するに連れてサイバー攻撃のリスクも増加する一方です。一人ひとりがサイバーセキュリティに関心を高めていくことはもちろん、企業においては適切なセキュリティ対策を施すことの重要性が増してきています。
サイバーセキュリティもAI技術の活用が大いに期待される分野の一つです。このコラムでは、現在のサイバーセキュリティにある課題を確認し、AIの善悪の側面もみた上で、サイバー攻撃に対してAIができることを考えていきます。
目 次
・高まるサイバーセキュリティ需要
・攻めと守り、AIがもたらした双方の進化
・サイバー攻撃の進化
・セキュリティ対策の進化
・現在のサイバーセキュリティの課題
・従来のセキュリティソフトでは十分に検知できない
・手動による対処では間に合わない
・悪意を持った不正ユーザーへの対処が難しい
・AIを活用したセキュリティ強化
・機械学習による検知率の強化
・AIにこそ必要なセキュリティ対策
・善と悪、両方の最新動向を掴む
高まるサイバーセキュリティ需要
テクノロジーが進化し普及していくに連れ、不正に利益を得ようとするサイバー攻撃も合わせて増えていく“いたちごっこ”な状況が続いています。さらに近年のサイバー攻撃の手法はますます巧妙化してきています。一方で、企業のサイバーセキュリティへの関心も高まってきており、IT関連調査会社であるIDCによれば、2019年の世界のサイバーセキュリティへの支出額は前年比10.7％増、今後もサイバーセキュリティ対策への企業投資の増加が見込まれています。
出典：IDC『セキュリティ製品およびサービスの堅調な成長を予測』
攻めと守り、AIがもたらした双方の進化
AIの技術分野の一つである機械学習は、膨大なデータを読み込ませることによってコンピュータがパターンや法則を学習し、未知のデータに対する予測・推論を可能にする技術です。機械学習によって適切に学習したコンピュータは、人間をも上回るパフォーマンスでタスクを実行することも可能であり、サイバーセキュリティでも高い効果を発揮することが期待されています。しかしながら、AI技術の進化は、守る側だけでなく、攻める側の技術進化をももたらしていることは否定できない事実です。
サイバー攻撃の進化
サイバー攻撃の一種に、標的のサーバーに大きな負荷をかけてダウンさせる「DDoS攻撃」があります。通常のDDoS攻撃であれば従来のセキュリティソフトでも対処が可能ですが、悪意をもってAIが用いられることにより、DDoS攻撃はさらに巧妙化してきています。具体的には、標的のサーバーへ攻撃を仕掛ける大量のbotを統括するAIを用意し、トラフィックのパターンや標的のシステムの振る舞いを分析、AIが各botへ指示を送り、セキュリティの隙間を突いた攻撃を行うといったものです。
セキュリティ対策の進化
悪用されたAIにより高度化した攻撃は、従来のセキュリティでは遮断することができません。そこで、守る側でもAIを用いたセキュリティ対策の技術開発が行われています。AIを用いたサイバーセキュリティでは、機械学習技術を用いて「正常な状態」と「異常な状態」のパターンを学習、従来には存在しなかった未知の攻撃パターンに対しても高い精度でアラートを発するような進化を遂げています。DDoS攻撃に対しても、セキュリティ担当者の目視による監視がない場合でも、高い精度で異常を検出することが可能になってきています。
現在のサイバーセキュリティの課題
現在のサイバーセキュリティにはどのような課題があるのでしょうか。その課題点を3つにまとめています。
従来のセキュリティソフトでは十分に検知できない
1つ目の課題として、従来のセキュリティソフトではテクノロジーによって強化されたサイバー攻撃を十分に検知できなくなってきているという点が挙げられます。主流となるセキュリティソフトでは、主にパターンマッチングという手法でサイバー攻撃に対応してきました。これは過去にあった攻撃のパターンを登録しておき、次に同じ攻撃があった場合に検知できるという仕組みです。当然ながら、未知の攻撃に対しては検知率が下がるという弱点があります。
手動による対処では間に合わない
2つ目の課題は、対策スピードに関わる点です。現状のセキュリティでは専門家による手動の対処が前提になることが少なくありません。セキュリティの専門担当者は、大量のログを精査しながらインシデントの内容をまとめ、次に対処するためのパターンを作成しますが、その作業には高度なスキルと膨大な工数が必要となります。専門家と言えども作業が必要となると、やはり攻撃に対する対策が間に合わない可能性が否定できません。
悪意を持った不正ユーザーへの対処が難しい
3つ目の課題として、悪意を持ったユーザーへの対処が難しいという点が挙げられます。マルウェアだけでなく、悪意を持った不正ユーザーもサイバーリスクの一つです。自動転売を行うシステムを使用するユーザー、コミュニティのルールに違反し企業や他のユーザーを妨害するユーザーなど、こういった人それ自体のリスクに対しては、やはり人による監視が欠かせないのが実情です。
AIを活用したセキュリティ強化
このようなサイバーセキュリティ上の課題を解決するため、AIの活用に期待が寄せられています。
機械学習による検知率の強化
AI、具体的には機械学習の技術を活用した代表的なサイバーセキュリティ対策としては、迷惑メールのフィルタリングが一般的にも知られています。コンピュータが迷惑メールのパターンを学習し、その特徴を把握していくことで、新しいタイプの迷惑メールが来ても「安全なメールではない」という判断ができるような仕組みです。
同じように、さまざまなマルウェアやファイルレス攻撃への対処にも、機械学習によるパターン学習が役立てられています。膨大なデータから「システムが正常に動作している状態」を学習し、未知の攻撃によってシステムが正常な動作とは違う動作をした際に、高い確率で異常を検出するものです。
また、サーバーやPC、ネットワークに対する攻撃ではなく、人間を騙すことで不正に利益を得ようとする「ソーシャルエンジニアリング」に対しても、機械学習による検知技術が応用されています。音声や画像、テキストはAIによる生成技術が高度に発達してきており、こういったソーシャルエンジニアリングに悪用されるケースもありますが、パターンを学習したAIを用いてその真偽を見抜く技術も生まれつつあります。
出典：ITmedia NEWS『AIの攻撃をAIで防御、サイバーセキュリティの“いたちごっこ”最新事情』
AIにこそ必要なセキュリティ対策
AIはサイバーセキュリティに活用される技術である一方、AIそれ自体も攻撃の対象となる可能性があります。マルウェアやファイルレス攻撃によるサイバー上の攻撃はもちろん考える必要がありますが、例えば、自動運転車に搭載された画像認識AIを考えた場合、標識などの認識対象にステッカーを貼って意図的に間違った認識をさせるなどの人為的な攻撃も考えられます。セキュリティに関わらず、AIを活用する際には、考え得るリスクを事前に洗い出しておくことが重要です。
善と悪、両方の最新動向を掴む
テクノロジーの進化に合わせてサイバー攻撃も進化する、これはもはや宿命のようなものかもしれません。AIを用いたセキュリティ対策は、現時点では“最先端”ではありますが、月日を追うごとにその技術も劣化していくことは間違いのない事実です。
さらに、サイバー攻撃と言っても、やはりその後ろには悪意ある人物の存在があります。テクノロジーは、それをどう使うかによって善にも悪にもなり得るものであることを、改めて認識する必要があります。「AIだから安全」「最新テクノロジーだから安心」ということはなく、常に善・悪の両方の最新の動向をキャッチしておき、常時最良の対策を備えておくことがやはりセキュリティの要です。
