OpenAIの偽造パスポート対策を突破、偽証明書の検出技術が必要

Cato Networksはこのほど、「OpenAI’s ChatGPT Image Generator Enables Creation of Fake Passports｜Cato Networks」において、生成AIが「ゼロ知識の脅威アクター」を生み出しているとして脅威の変化に警鐘を鳴らした。

同社はその具体例として、OpenAIが提供するChatGPTの画像生成ツールを悪用した偽造パスポートのデモンストレーションを公開。この作業がいかに簡単かを示し、すべての組織に不正行為を検出するメカニズム導入の必要性を訴えている。

○生成AIが犯罪のハードルを下げる

偽造パスポート自体は古くから存在し、闇サイトなどで売買されている。このような古くから存在する実体のある偽造パスポートの作成には、画像処理や印刷などの特別な技術が必要で高いハードルがある。

インターネットが普及すると、身分証明に公的機関が発行した書類のコピー画像が許容されるようになった。コピー画像が許容されるようになると、この偽造も行われるようになるが、写真の差し替えや氏名の改ざんには高度な技術が必要で、ハードルはあまり下がらなかった。ところが、生成AIの登場により状況が一変した。
○偽造パスポートのデモンストレーション

ChatGPTを使用した偽造パスポートの生成については、SecurityAffairsが「Expert used ChatGPT-4o to create a replica of his passport in just 5 minutes bypassing KYC」にて伝えたように、わずか5分で可能なことが示されている。OpenAIは偽造の発表から数時間後には対策を実施しており、現在同様のプロンプトによる偽造の試みは実行できなくなっている。

Cato Networksも検証のため偽造を試みたが、当初はChatGPTに拒否され偽造できなかったという。しかし、その後わずかなプロンプトの変更だけで制限を回避し、偽造に成功したとしてその様子をデモンストレーションとして公開している。

デモンストレーションではプロンプトを含む手順をすべて公開している。最初に正規のパスポートを名刺と偽ってアップロードし、次にその名刺の写真を差し替えるよう依頼している。たったこれだけで偽造に成功しており、特別な技術を一切必要とせず、誰でも簡単に偽造可能なことを証明している。
○身分証明書の高度な真贋判定が必要

これまでは画像の正確な修正に高機能な画像処理ソフトウェアを使いこなせる技術が必要とされ、一部の技術者のみ悪用が可能とされていた。ところが生成AIによる画像の修正が可能になったことで、偽アカウントの作成、アカウントの乗っ取り、さまざまな詐欺のハードルが著しく低下した。

Cato Networksによると、生成AIによる画像の修正は筆跡の質感、インクの不規則性など細部まで模倣可能で見分けがつかないという。そのため、本人証明などに身分証明書を利用している組織は、生成AIによる偽造を見分けるメカニズムを速やかに構築することが求められている。

対策を怠るとオンラインアカウントの乗っ取りなど詐欺行為を許す可能性があり、ブランド信用力の低下、顧客離れなど重大な結果につながる可能性がある。企業や組織はAIの進化に遅れることなく、対策を強化することが望まれている。