「信頼の逆転」がセキュリティを蝕む——ChatGPTカスタムGPT悪用攻撃が暴く、プラットフォーム民主化の致命的欠陥

正規サービスが「狼の皮をかぶった羊」に——信頼構造の根本的な脆弱性

今年10月、セキュリティ企業Huntressが衝撃的な報告を発表しました。ChatGPTの「カスタムGPT」機能を悪用し、ユーザーを意図せずマルウェア感染へ導く攻撃が確認されたというのです。より問題なのは、攻撃の入口が正規の「chatgpt.com」であること。私たちが最も信頼するプラットフォームが、実は攻撃者の踏み台になっていたという事実です。

AIサービスの民主化は素晴らしい発展です。誰もがカスタムGPTを作成でき、自分の用途に特化したAIツールを構築できます。しかし同時に、この民主化は攻撃面も広げてしまいました。正規プラットフォーム内に潜む「なりすまし」は、従来のセキュリティ対策では検出が極めて困難です。

攻撃メカニズム——「プロンプトインジェクション」の進化形

今回の攻撃で使われた手口を理解することは、あなた自身の防御戦略を立てるうえで不可欠です。攻撃者は以下のステップを実行していました：

• ステップ1：正規サイトでのなりすまし——本物のChatGPTに見せかけたカスタムGPTを作成し、chatgpt.com上で公開
• ステップ2：外部リダイレクト——ユーザーが質問すると、一見正当な回答の中に、悪意あるリンクやコマンドを埋め込む
• ステップ3：ユーザーの自発的実行——ユーザー自身が「正規のChatGPT」と信じてコマンドを実行し、マルウェア（ClickFix RATなど）に感染

これは単なるフィッシング詐欺ではなく、プロンプトインジェクション攻撃の高度な応用形です。AIの生成する信頼性の高いテキストという特性が、まさに攻撃者の武器になっています。

「民主化の代償」——プラットフォーム設計の矛盾が生む隙間

ChatGPTのカスタムGPT機能は、技術的民主化の象徴でした。コード知識がなくても高度なAIツールが作成でき、様々な産業で業務効率化が実現されました。しかし同時に、OpenAIのセキュリティチームにとって、検証すべき「ユーザー生成コンテンツ」の数が指数関数的に増加したということです。

プラットフォームが大規模化すると、セキュリティは必然的に「統計的セキュリティ」に頼らざるを得ません。つまり、100%の攻撃を防ぐのではなく、検出率を高めるという考え方です。今回の攻撃は、その隙間を巧みに突いたものといえます。

特に問題なのは「評判スコア」の形成速度です。攻撃者のカスタムGPTが十分に使用される前に検出される必要がありますが、正規ユーザーとの区別は極めて困難です。

防御戦略——「疑わしさの民主化」がセキュリティを変える

では、ユーザー側は何をすべきでしょうか？重要なのは「信頼を一度リセットする」という思考転換です：

• 出所確認の習慣化——カスタムGPTの作成者情報を確認。不明確な場合は使用を避ける
• 外部リンクへの警戒——AIが提示したリンクやコマンド実行には、追加の検証ステップを挟む
• 権限分離の徹底——管理者権限で実行するコマンドは、特に慎重に
• セキュリティツール導入——EDR（Endpoint Detection and Response）など、異常な振る舞いを検出するツールの活用

企業向けには、さらに高度な対策が必要です。ChatGPT Enterpriseの利用や、カスタムGPTの事前承認制度を検討する価値があります。

今後のセキュリティ展望——「検証責任の再配置」時代へ

今回の攻撃から学べることは、AIサービスの民主化がセキュリティモデルの転換を迫っているということです。従来は「プラットフォームがユーザーを守る」という一方向的な信頼構造でしたが、AIの時代では「ユーザーがAIを疑う」という相互検証体制が必須となってきました。

OpenAIを含むAI企業には、以下が求められます：より高度なカスタムGPT検証システム、リアルタイム異常検知、ユーザー教育の強化などです。同時に、セキュリティ企業の役割も拡大しています。AIの「良悪判定」を自動化するツールの開発が、次のセキュリティトレンドになるでしょう。

最終的に、ChatGPTのカスタムGPT悪用攻撃は、AIがもたらす利便性と脅威が表裏一体であることを証明しました。テクノロジーリーダーたちは、民主化の恩恵と責任のバランスを取ることが、今後の最重要課題となります。