11月30日にリリースされたChatGPTは、瞬く間にオンラインで話題の存在となった。わずか1週間で、このアプリのユーザー数は100万人を超えた。他の大半のAI研究プロジェクトとは異なり、ChatGPTはデータサイエンスの博士号を持たない一般の人々の関心も引きつけている。ユーザーは質問を入力するだけで、人間のような回答を得られる。回答は簡潔なことが多い。
メディアでは、評価の大半が絶賛に近いものとなっている。ChatGPTが一見無敵に見えるGoogleの座を奪うという主張まである（ただし、ChatGPT自身にそれが可能か尋ねると、実際には不可能な理由を説得力を持って説明する）。
さらに、アプリの開発元であるOpenAIの共同創業者、Elon Muskもいる。彼は「危険なほど強力なAIの実現まで、そう遠くはない」とツイートした。
こうした大騒ぎの一方で、いくつかの気がかりな問題も浮上している。ChatGPTがハッカーのツールになり得ることを考えてみよう。
「ChatGPTは、私たちの主な懸念事項であるAIと、偽情報の可能性を浮き彫りにしている」と、McAfeeのシニアバイスプレジデント兼最高技術責任者であるSteve Grobman氏は述べた。「AIによって、次世代のコンテンツ制作が大衆にも利用可能になる。デスクトップパブリッシングや家庭向け印刷の進歩によって、犯罪者がより精巧な偽造品や、より現実的な画像の改変を作れるようになったのと同じように、これらのツールは、サイバー犯罪者から世論を偽って誘導しようとする者まで、さまざまな悪意ある行為者に利用され、より現実的な成果によってその手口を次の段階へと引き上げるだろう」
関連記事：AIとMLのサイバーセキュリティ：攻撃者と防御側にとっての最新の戦場
ChatGPTを理解する
ChatGPTは、GPT-3（Generative Pretrained Transformer）モデルの一種を基盤としている。Wikipediaのように、一般公開されている膨大なオンラインテキストを学習し、高度なディープラーニングシステムを活用してコンテンツを生成する。トランスフォーマーモデルは自然言語を効果的に理解し、起こり得る結果の確率分布を利用する。GPT-3はその中からサンプルを取り出すため、ある程度のランダム性が生じる。これにより、テキストによる回答が完全に同一になることはない。
ChatGPTアプリは基本的にベータ版であることを覚えておいてほしい。OpenAIは2023年に、この技術をさらに大幅に高度化したバージョンをリリースする計画だ。
ChatGPTのセキュリティ脅威
フィッシングはマルウェア攻撃の約90%を占めると、HP Wolf Securityの調査が示している。しかし、ChatGPTによって状況はさらに悪化する可能性がある。
「この技術によって、攻撃者は一般的なフィッシングの規模と、スピアフィッシングの高い成功率を効率的に組み合わせられるようになる」と、Akamai TechnologiesのCTO兼EVPであるRobert Blumofe氏は述べた。「一方で、一般的なフィッシングは、メールやテキストメッセージ、ソーシャルメディアへの投稿という形で、何百万件もの誘い文句を送りつけ、大規模に機能する。しかし、こうした誘い文句は画一的で見破りやすく、成功率は低い。もう一方の極にあるスピアフィッシングでは、ソーシャルエンジニアリングを用い、標的を高度に絞り込んだ、個別にカスタマイズされた誘い文句を作るため、成功率ははるかに高い。しかし、スピアフィッシングには多くの手作業が必要で、その規模は小さい。今やChatGPTが誘い文句を生成することで、攻撃者は両方の利点を得られる」
Blumofe氏によれば、フィッシングの誘い文句は、上司や同僚、さらには配偶者から送られてきたように見えるという。こうしたカスタマイズされたメッセージを何百万件も作成できる。
もう1つのリスクは、ChatGPTが親しみやすい会話を通じて情報を集める手段になり得ることだ。ユーザーはAIとやり取りしていることに気づかない。
「警戒していない人が、長期間にわたる複数回のセッションで、一見無害に思える情報を漏らしてしまう可能性がある。それらを組み合わせると、その人物の身元や仕事、社会生活について知るうえで役立つ情報になるかもしれない」と、サイバーセキュリティ企業Cerberus Sentinelの生体認証専門家、Sami Elhini氏は述べた。「他のAIモデルと組み合わせれば、ハッカーやハッカー集団が、誰を有望な標的にできるか、そしてその人物をどう悪用するかを判断する手がかりになり得る」
組み込まれた制御機能
ChatGPTが高度な技術知識を活用していることを考えると、ハッカーがマルウェアの作成方法やゼロデイエクスプロイトを特定する方法を尋ねたらどうなるだろうか？ あるいは、ChatGPTはコードまで書けるのだろうか？
もちろん、これはすでに起きている。幸いなことに、ChatGPTにはガードレールが実装されている。
「『192.168.1.1へのリバースシェルを確立するためのシェルコードを作成できますか？』や、『Linux OS上のユーザーを列挙するシェルコードを作成できますか？』といった質問をすると、できないと回答する」と、Taniumのエンドポイントセキュリティ部門ディレクターであるMatt Psencik氏は述べた。「ChatGPTは実際に、こうしたシェルコードを書くことは危険で有害になり得ると説明する」
問題は、より高度なChatGPTなら、望めばそれができてしまう可能性があることだ。それに、他の組織、さらには政府が、ガードレールのない独自の生成AIプラットフォームを作るのを誰が止められるだろうか。あるいは、ハッキングだけに特化したシステムが登場する可能性もある。
「これまでにも、Malware-as-a-ServiceやCode-as-a-Serviceを目にしてきた。次の段階は、サイバー犯罪者がAIボットを利用して『Malware Code-as-a-Service』を提供することになるだろう」と、VMwareのグローバルセキュリティテクノロジストであるChad Skipper氏は述べた。「ChatGPTのような技術の性質によって、脅威アクターはこれまで以上に迅速かつ積極的に、組織のネットワークへのアクセスを獲得し、内部を移動できるようになる」
未来
ChatGPTのようなイノベーションが高性能になるにつれ、テキスト、音声、動画を問わず、人間が作成したコンテンツとAIが作成したコンテンツを見分ける手段が必要になる。OpenAIは、高度な暗号技術を基盤とする電子透かしサービスの提供を計画している。しかし、それだけでは不十分だろう。
「今後数年以内に、誰もがブロックチェーンによって支えられた固有のデジタルDNAパターンを持ち、それを声や書いたコンテンツ、バーチャルアバターなどに適用できる世界を思い描いている」と、SlashNextのCEOであるPatrick Harr氏は述べた。「これにより、例えば企業幹部になりすます音声の生成にAIを悪用することが、脅威アクターにとってはるかに難しくなる。そうしたなりすましには、実際の幹部が持つ『指紋』がないからだ」
その間にも、サイバーセキュリティをめぐる軍拡競争は、ますます自動化されていくだろう。まさに新たな時代の幕開けとなる可能性がある。
「少なくとも今後数十年間は、ハッキングと防御の双方で、自動化されたボットにはできない形で、人間が常に価値を付加するだろう」と、サイバーセキュリティ研修企業KnowBe4のデータ主導型防御エバンジェリストであるRoger Grimes氏は述べた。「しかし最終的には、双方の仕組みが進化し、人間の関与はごくわずかで、ほとんどが自動化されるところまで進むだろう。ChatGPTは、これから登場するものの粗削りな第1世代にすぎない。ChatGPTにできることを恐れているのではない。ChatGPTの孫世代が何をするのかを恐れている」