ここ数カ月、AIは大きな話題になってきたが、その期待が正当化される分野の1つがサイバーセキュリティだ。AIはサイバーセキュリティの状況を完全に作り変える――その過程で大きな混乱も引き起こすだろう。
細かい話に入る前に結論を言うと、AIは、セキュリティを大幅に改善する前に悪化させるだろう。ただし、その代償として多くの雇用が失われる。これらすべてがもたらす影響について、詳しく見ていこう。
セキュリティはITが直面する最大の課題であり、短期的には状況がさらに悪化すると予想される。AIによって、ハッキングはより高速化する可能性が高い。モデルが誤った判断をするよう学習データを改ざんする攻撃もあれば、社会の中核を脅かすOSへの絶え間ない攻撃もある。Windowsであれ、Linuxであれ、その他のOSであれ、何百人、場合によっては何千人もの人々がコードを書いている。人はミスを犯すうえ、OSのさまざまな部分が連携して動作するため、考えられるすべてのケースを確認するのは難しい。
私の仮説では、それほど遠くない将来、AIはOSやアプリケーションを評価してセキュリティを向上させるために使われるようになり、コードの大部分は人間ではなくAIプログラムが作成するようになる。当初、AIによるコーディングはセキュリティ上の問題を引き起こす可能性があるが、時間とともにマシンの性能は向上する――AlphabetのDeepMind研究所やGitHubはすでに取り組みを始めている――そして最終的には、人間の能力を上回るだろう。やがては自己修復コードが実現すると予想する人もいる。
セキュリティについても同じことが言える。ハッカーはAIによって初期段階では優位に立つかもしれないが、コードと防御策が適応していくにつれ、最終的に信頼できるサイバーセキュリティをもたらすのはマシンになるだろう。セキュリティベンダーはすでに生成AIと大規模言語モデルを使った取り組みを始めている。
AIによるコードの生成と評価というプロセスは、まだ始まったばかりだ。これが起きるのは「もし」ではなく「いつ」かという問題であり、そのときにはデジタル生活や個人データから数百万人分の雇用に至るまで、あらゆるものに良い面と悪い面の両方で幅広い影響が及ぶ。混乱は甚大なものになり、私たちはそれに備えなければならない。
朗報：すべての人に安全なコードを
AIのセキュリティを確保し、OSやアプリケーション向けに安全なコードを生成できるようになれば、多くの良い変化が起きる。ただし、その前段階として、人間が書いたOSやアプリケーションのコードが安全かどうかを確認する必要がある。コードの脆弱性が徐々に排除されれば、ハッキングは大幅に減るだろう。
悪意のあるリンクをクリックして人々がシステムに感染させることを防げない可能性はあるが、OSがそれを防ぐよう書き換えられる後の段階では、そうした問題もおそらく緩和される。今日、アプリケーション固有の処理へと移行しつつあるのと同じように、ユーザーのニーズに特化したOSインターフェースを持つようになるのだと思う。そしてOSは、その日にユーザーが必要とするもの、あるいはその瞬間に必要とするものに基づき、機能を動的に変更・追加できるようになるだろう。
これらすべてによって世界はより安全になり、今日見られるハッキングの多く、そして将来起きるものの多くもなくなるだろう。メールクライアントがすべてのリンクやファイルなどを評価してコンテナ化し、そのリンクやファイルがもたらす影響を評価したうえで、開いてよいかどうかを判断できるとしたらどうだろう。メールゲートウェイは現在でもその一部を実行できるが、こうした防御機能を、安全なOSやアプリケーションと組み合わせれば、ハッキングされる脅威は大幅に減少する。パスワードと身元確認の問題は依然として残るものの、この分野では現在、大きな進展が見られ、今後さらに改善していくだろう。
ハッキングが大幅に減れば、学校、病院、重要インフラ、選挙、政府にとって世界はより安全な場所になる。ハッキング集団は別の標的を探す必要があり、同様のセキュリティ改善が見られなければ、クレジットカードやATMのスキミングなどに向かうかもしれない。
私は最高レベルのセキュリティを備えたIT環境を設計してきたが、初期段階にあるこうしたAIプロジェクトを見ていると希望が持てる。現在起きていることと比べ、全体の力学は一変するだろう。しかし、良いことがあれば悪いこともあり、その悪影響は全世界、あらゆる人と物に及ぶ。
関連記事：悪意あるコードの分析にChatGPTを使うセキュリティアナリスト、脅威を予測
悪い知らせ：大規模な経済的混乱
AIの進歩がもたらすマイナス面は、ソフトウェアエンジニアやセキュリティアナリストなど、多くの「安泰な」職業、そしてその他のホワイトカラー職にとって壊滅的なものになる。知的に自動化できる仕事は、必要な従業員が大幅に減ることになる。
こうした高給の雇用が失われれば、税収と個人消費が打撃を受け、それらの収入源に依存する産業にも悪影響が及ぶため、世界経済全体に波及する。
米国には400万人を超えるソフトウェアエンジニアリング職があり、世界全体ではおよそ2700万人に上る。1960年代、もしかすると1950年代から、プログラマーの仕事は生涯のキャリアになり得た。しかし、この職業を選んだ人のほぼ全員が、別の仕事をしなければならなくなるだろう。それが何になるのか私には分からないが、再訓練を受ける必要があり、その再訓練もおそらく自分で行わなければならない。
これは米国の製造業に起きたことと変わらないが、製造業への影響は壊滅的で、多くの人々から安定した中流階級の将来が失われた。残念ながら、プログラマーも同じ運命をたどることになると思う。
しかし、影響はそれだけにとどまらず、さらに広範囲に及ぶ。私たちの教育制度は、コンピューターシステム（ファームウェア、OS、アプリケーション）向けのコードを書き、そのコードのテストを作成し、コードを保守する（リリースパッケージを作成するなど）人材を育てるよう設計されてきた。教育制度は急速に変化する方法を知らないが、こうした変化が起きるとき、その進行は速い。
プログラミングの仕事がすべて直ちになくなるわけではない。AIが追いつくまで残る可能性が高い、開発が必要な専門領域もあるからだ。これは自動車業界で起きたことと変わらない。最も簡単な作業がまずロボットによって排除され、ロボット設備の開発が進むにつれて、さらに多くの仕事がなくなった。物理学や化学などの科学分野のプログラミング、そしておそらくファームウェアがAIに移行するには、Pythonコーディングやデータベースプログラミングなどよりはるかに長い時間がかかるだろう。しかし、コモディティ化の流れはすでに始まっている可能性が高い。
関連記事：GPT-4でも残るChatGPTのセキュリティとプライバシーの問題
未来はすでにここにある
人類の歴史を通じて、進歩を長期間にわたって止めることはできなかった。暗黒時代のような後退はあったが、ルネサンスが訪れ、私たちは以前の知識を大幅に超えた。蒸気機関の発明以来、失われる仕事は増え続け、その流れはますます速くなっている。世界の他の地域が前進するなかで、過去に生き続ければ、どの国や地域にとっても良い結果にならない。私たちは変化と進歩を受け入れ、人々が成功できる枠組みを整備しなければならない。そのためには、人類の生存に向けて世界規模で教育を再訓練する必要がある。仕事がなくなり、次に何をすればよいのか分からない人々が大きな怒りを抱くことになるからだ。指導者たちが過去に訴えかけるのをやめ、未来を受け入れ始めるには、今こそ絶好の時期だろう。
こちらもご覧ください：注目のサイバーセキュリティ・スタートアップ