AIセキュリティが「信頼」の基盤に。AI時代に持つべき視点とは？

AIの急速な進化により、ビジネスが劇的に効率化・自動化されつつある。その一方で、AIを悪用したサイバー攻撃の高度化・巧妙化も進んでいる。攻撃側がAIを武器として利用する中、守る側はどう立ち向かうべきか。

本記事では、長年にわたりAI研究に取り組み、AIの社会実装や人材育成をけん引する、神戸大学 教授で同大学大学院工学研究科の小澤誠一先生に、ビジネスパーソンが知っておくべき、AI時代のセキュリティについて聞いた。

─なかでも「AI for Security」は、従来のセキュリティ対策の進化系とも言えますね。このAIを活用した「AI for Security」と、従来の対策とでは何が違うのでしょうか。

従来の対策は、過去の攻撃パターンや怪しい挙動などをデータベース化し、それらと照らし合わせることで、通常とは異なる状況を見つける「異常検知」が主流でした。しかし、その手法では、攻撃側がソースコードを書き換えたり、未知の脆弱性を突いたりする攻撃に対しては、防戦一方にならざるをえません。

さらに近年は、攻撃側がAIを悪用して、脆弱性を特定したり不正操作を自動化したりと、サイバー攻撃の著しい進化が見られます。また、デジタル社会を支えるインフラが浸透した結果、攻撃から守るべき対象も多様化し、サーバーやPC端末だけでなく、スマートフォン、公共Wi-Fi、決済端末、監視カメラなどのIoT機器まで、ありとあらゆる場所に攻撃の入口が存在します。

こうした攻撃や経路に対し、従来のセキュリティ対策をさらに強固にするために不可欠となったのがAIです。AIは、通信ログやシステムの挙動といった膨大なデータから学習し、その都度、最適な判断をリアルタイムでくだします。そして、「異常の兆候」を検知する手法や対処法を自律的に進化させるのです。この柔軟性と即応性こそが、AIセキュリティに期待される強みと言えるでしょう。

実際、プログラミングの知識をあまり持たない者が、生成AIを悪用して「不正ログイン用のプログラムを作成し、不正に入手した他人のIDを使って、その他人（ユーザー）になりすまして契約した有料サービスを第三者に大量に転売する」といった事例などが報告されています。かつては人手と時間を要した大規模な不正行為が、AIによって効率化されてしまったケースです。

─そんなサイバー攻撃に対し、防御側ではどのようなAI活用をしているのでしょうか。

防御におけるAI活用の基本は、人や従来のシステムでは処理しきれない膨大なデータの中から、「異常の兆候」をリアルタイムに見つけ出して対処することにあります。その代表例が、ネットワーク上を流れる通信全体を監視・分析する「通信トラフィック分析」です。

企業のサーバーやネットワークには、日々膨大な通信が流れ込んでいます。その中には、大量のデータを送りつけてシステムを麻痺させる「DoS攻撃」や、内部へ不正侵入しようとする悪意ある通信などが紛れ込んでいます。膨大なデータから、そうした脅威や不審な挙動をいち早く検知して対処します。

また、AIは、あえて脆弱性を持たせたシステム環境を用意し、そこに集まる攻撃を観測・分析するケースにも活用されています。「おとり」のような環境を用いて、マルウェア（悪意のあるプログラム）や、新しい攻撃パターンを把握するもので、「攻撃観測網」と呼ばれています。

また、AI活用全般に言えることですが、その高い性能ゆえに、それを使いたいと思う者は、一般ユーザーだけでなく、攻撃者側にもいるということです。悪用して目的を果たそうとする人がいる以上、必然的に攻撃と防御の「いたちごっこ」は続きます。AIには常に「光と影」の両面があるのです。そのため、技術的な性能だけでなく、「なぜその答えを出したのか（透明性）」や「差別のない判断をしているか（公平性）」といった「Trustworthy AI（信頼できるAI）」という在り方も求められます。

まず、機密性。従来は「誰がアクセスできるか」の権限管理が中心でした。しかし、AIが情報を漏洩させる可能性を踏まえ、人への権限だけでなく「AIが触れるデータ」という、データ領域までも見直す必要があります。

完全性は、情報の正確さを保つことです。AIはもっともらしい偽情報を生成できてしまうため、鵜呑みにすると誤った意思決定や対外的な誤発信を招き、企業の信頼を揺るがしかねません。出力結果を検証し、情報の正しさを担保するプロセスの構築が不可欠です。

可用性については、攻撃によって精度や信頼性が損なわれたAIは、「稼働していても実質的に使えない（＝可用性が失われた）」状態だと認識すべきです。例えば、わざと誤った判定をAIにさせる「敵対的攻撃」を受ければ、本来のパフォーマンスは発揮できなくなります。システムが動いているかどうかだけでなく、「AIとしての精度を正しく維持できているか」という点まで、継続的にチェックする必要があるのです。

─組織としてリテラシーを高めるために、どのような取り組みが考えられるのでしょうか。

具体的な取り組みとして、AIセキュリティに対応した認証制度の整備や教育コンテンツの拡充などが挙げられます。IPA（独立行政法人 情報処理推進機構）やAISI（AIセーフティ・インスティテュート）といった公的機関が提供するガイドラインを指針に、社内展開を進めていくという手もあるでしょう。また、攻撃者の視点からセキュリティ体制を検証する「レッドチーミング」のような実践的な演習を取り入れることも有効です。

ただし、こうした対策は個社単位で完結するものではありません。サプライチェーン全体で守るという発想が重要です。たとえ大企業が強固な対策を講じても、取引先や関連企業の対策が脆弱であれば、そこが突破口となり全体の安全は崩れてしまうからです。

さらに、私は「企業と学生の連携」にも新たな可能性を感じています。いまの学生は、教育課程において、AIやデータサイエンスと非常に距離が近い。一方の企業には、長年蓄積された実務の知見があります。インターンシップなどを通じて、学生の柔軟な技術理解と企業の実践的なノウハウが掛け合わさることで、AIセキュリティの新たな突破口や示唆が得られるかもしれません。

─特定の企業や専門家といった一部に委ねるのではなく、社会全体で取り組む姿勢が大切になってくるのですね。

そうですね。AIは、従来のソフトウエアが「データ駆動型」へと機能拡張した姿であり、「データから価値を生み出す」という性質を持っています。個々のサービスやプロダクトだけでなく、私たちの社会を支えるインフラに至るまで、あらゆるところで当たり前に使われる情報資産となり、今後、AIがソフトウエアのメインストリームとなっていくのは間違いありません。

その一方で、先に述べたように、AIには「光と影」の両面があるため、進化がもたらす恩恵が大きくなるほど、伴うリスクも無視できないものになります。そうしたリスクを最小限にするために、社会全体のリテラシー向上や個人のモラルを熟成させていくことは、とても重要です。

そしてそれは、突き詰めれば「どのような社会を築きたいか」という問いに行き着くのではないでしょうか。なぜなら、AIの悪用は、社会的な不均衡や不満が生み出す歪みと無関係ではないからです。その歪みが小さくなり、多くの人が前向きに生きられる社会であるほど、AIはより健全に活用されていくはずです。

だからこそ、技術的なアプローチだけでなく、社会全体を健やかに保つためのアクションが欠かせません。AIの「光」を最大限に引き出し、より良い未来をつくっていく。そのために大切なのは、技術の裏側にある「社会の在り方」そのものに向き合う姿勢だと思います。