※当サイトにはプロモーションが含まれています。
近年、画像・動画生成AIの進化によって詐欺広告がかつてない巧妙さで横行しています。
特に、OpenAI社の最新モデル「Sora 2（ソラ２）」の登場により、誰でも短時間でリアルな映像や音声を作成可能となり、その結果YouTubeやFacebook、Instagram上の偽広告は質・量ともに急激に拡大しました。
にゃのらいと 早速、高市早苗首相の詐欺広告が登場して自民党から注意喚起がされたにゃ。
偽札対策と同じように、著名人の画像をアップロードした時点で無効化する対策が急務だと考えます。
著名人になりすました投資詐欺が急増中
まず問題なのは、著名人になりすました広告です。
詐欺師たちは、生成AIで作った偽の有名人動画を使って「儲かる投資話」などに誘導します。
ちなみに先日も、孫正義さんの映像に、AIが合成した“本人そっくりの偽音声”を重ねた広告が、YouTubeで流れてきました。
2024年には、「著名人の詐欺広告」を放置したことによって金銭被害を受けたとして、被害者たちが、米メタ本社および日本法人を相手取り損害賠償を求めて提訴したことがニュースになりました。
しかし、Meta社（旧Facebook）側は「自動検知システムで詐欺広告を削除している」と主張し、「日本の法律上、詐欺広告を網羅的に検出したり、内容の真実性を確認したりする義務はない」と反論しました。
──これは、海外発信の広告を日本で表示しなければ済む話です。
技術的にも難しいことではなく、やろうと思えば簡単にできるため、自社の利益のために、Meta社は詐欺師に協力したと言われても仕方ないと思います。
アンデシュ・ハンセン著の『スマホ脳』を読むと、Meta社がユーザーの健康や安全を考えていないことがわかります。
生成AIが作成する「偽医師・偽弁護士」などのフェイク広告
さらに悪質なのが、生成AIによって架空の医師や弁護士などの専門家になりすました広告です。
YouTube等の動画広告では、“一見医者らしい”人物が登場し、健康食品や発毛剤、あるいは「驚きの効果」をうたう商品の宣伝をおこなうケースが増えています。
これらの広告の特徴は、彼らが決して自分を医師や弁護士などと名乗らない点です。
その代わりに、不安をあおるような口調で「放っておくと危険です」「今すぐ試してみてください」といったメッセージを繰り返し、視聴者の心理に訴えかけます。
もっとも、こうした広告の多くは、厳密には詐欺というよりも、効果を保証できない商品を誇張して宣伝する“誇大広告”に分類されます。
問題なのは、企業側が「消費者を誤認させること」を積極的におこなっている点です。
そして、生成AIによるなりすましは、詐欺広告の“量産化”を可能にしてしまいました。
たとえば以前なら、偽の証言者を手配する必要がありましたが、今はAIのおかげで、さまざまな人物の顔や声を瞬時に生成できてしまいます。
その結果、詐欺コンテンツの生産性が向上して、怪しい広告動画が量産されるようになりました。
AIが作成した詐欺広告に騙されないようにするには？
詐欺広告に騙されないようにするためには、発信地域や広告主を確認するようにしましょう。
YouTube広告の発信地域や広告主の確認方法
まずは広告主の情報を調べるようにしましょう。
YouTubeであれば、スポンサー表記の隣にあるインフォメーションマーク（○の中にi）をクリック。
すると、広告主の情報が表示されます。
この地域が、日本以外であれば、“詐欺”だと疑ってください。
もちろん、海外のサービスや広告でも健全なものはありますが、騙されないことが主目的なので、海外の広告は無視するところから始めましょう。
にゃのらいと 効果がなければ、詐欺師たちも日本に広告をだすのを諦めるにゃ。
一方、誇大広告の場合は、発信地域が日本になっているケースが多いです。
その場合は、広告主の企業情報を確認し、「会社名 広告」や「会社名 詐欺」といったキーワードで検索してみましょう。
また、会社名ではなく個人名、あるいは身元が不明な広告主の場合は、どれだけ魅力的な内容でも絶対に信用しないようにしましょう。
生成AIへの法整備と厳罰化が急務だと思う
生成AIは非常に便利な技術です。
ただ、その便利さの裏には大きな責任が伴うと考えます。
にゃのらいと 「大いなる力には、大いなる責任が伴う」にゃ。
だからこそ、著名人をAIで偽装して詐欺や世論操作、インプレッション稼ぎなどに使った場合、著作権侵害などの軽い罪ではなく、国家の安全や秩序を脅かす行為として厳罰を科すべきだと考えます。
つまり、偽札作りなどと同等の重罰（国家転覆罪[※]）を適用するべきだと思います。
同時に、プラットフォームや企業側にも同等の責任を負わせれば、審査や対策に対する本気度は格段に上がるはずです。
実際に、かの国のあの人を生成AIで「戦争してゴメンナサイ･･･」といったフェイク動画を作って拡散したら、大変な問題になると思いますし、命の危険すらあります。
このようなフェイク動画は、国政や社会秩序を乱す可能性があり、そのリスクを考えれば、厳しい対処を取ることを「やりすぎ」だとは言えません。
少なくとも「作った時点でアウト」という抑止力がなければ、技術の悪用に歯止めをかけるのは難しいと考えます。
実際には、国家転覆罪という罪はなく、内乱罪、外患誘致罪、外患援助罪など、国の根幹を揺るがす重大な犯罪が該当すると言われています。特に「外患誘致罪」は、法定刑が死刑のみと定められている日本で最も重い罪です。
