実業家の前沢友作氏は2024年5月、フェイスブックを運営するメタ・プラットフォームズの日本法人に対し、自身の氏名や肖像を無断で使用した偽広告の掲載を許しているなどとして、東京地裁に提訴した。1円の損害賠償と偽広告の差し止めを求めている。

　近年急増しているのが、著名人を語る「なりすまし型偽広告」である。24年2月には、堀江貴文氏を装った偽広告がきっかけで、神戸市の女性が5260万円をだまし取られる事件が発生している。

　総務省もこれらを問題視し、メタに対して、なりすまし型偽広告の流通の防止と抑制に向けた対策を6月に要請した。総務省が懸念しているのが、生成AI技術の悪用による偽広告の巧妙化、複雑化である。本連載の「AIに関連する事件・事故を登録する『AIインシデント・データベース』」（2023年12月25日掲載）でも取り上げた、生成AIによる偽画像や偽音声、偽動画を悪用したディープフェイクの氾濫である。

偽のオンライン会議でカネをだまし取る

　このような被害はもちろん日本だけにとどまらない。都市設計やエンジニアリングに関するコンサルティングを手掛ける英国のアラップ・グループは24年5月、香港支店で同2月に生成AIによる詐欺被害があったと発表した。

　発端は、アラップのCFO（最高財務責任者）を語る人物から社員に対し、極秘の取引に関する指示を記したメールが送られてきたことであった。メールを受けた社員は、コンプライアンスの観点などで違和感を覚えたようで、当初は指示に応じなかった。すると犯行グループは、CFOによる特別会議をうたうオンライン会議にその社員を呼び出した。

　社員は真偽を確かめたかったのか、それとも部下としての立場も考慮したのか、オンライン会議に出席した。そこで“驚くべき状況”に遭遇することになる。出席した会議にはCFOばかりか、会社の他の幹部も出席しているように見えたのである。

　香港警察によるその後の捜査で、このオンライン会議は生成AIによる、あたかも本人が話しているかのように作り出された「ディープフェイク」（偽動画）であった。しかし社員はCFOを本物と信じ、指示に従って複数回の振り込みを行った。最終的に2億香港ドル（約41億円）もの大金をだまし取られてしまった。

　大企業の幹部はメディアに露出する機会も多く、犯罪者はディープフェイクに必要な顔写真や動画、音声をインターネットなどから比較的容易に入手できる。だまされた社員も、見知らぬ番号の電話などなら詐欺と思っただろうが、精巧につくられた動画によるオンライン会議に、まんまと罠にはまってしまった。また、CFO一人でなく複数人を登場させて一層リアリティーを持たせたことは急速な技術進歩を感じさせる。すでにディープフェイクの危険性は他人事ではなくなりつつある。

プラットフォーマー側の責任とは

　生成AIを提供する側も対策に乗り出してはいる。オープンAIは24年5月、ロシア、中国、イスラエルを拠点とする五つの組織について、規約違反を理由にアカウントを停止した。オープンAIはChatGPTの利用規約で「意図的に他者に対し欺いたり、誤解させたりして、害を及ぼさないこと」と記している。具体的には、偽情報、虚偽のレビューやコメントの生成、同意や法的権利のない個人や組織への「なりすまし」である。

　生成AI登場前から、偽情報は簡易なコンピュータープログラムにより作成され、SNSの偽アカウントを介して大量に流通してきた。しかし生成AI時代を迎え、作成される文面やストーリーは本物と見まがう質に達し、SNS間でのやり取りも、単なるリツイートのような拡散行為から、文脈に沿った巧妙なコメントを装うものへと大幅に進化している。今や何が真実で、何が虚偽なのか区別がつかない。AIは偽ニュースさえ容易に作り出してしまうレベルに達したのである。

　偽情報がインターネット上にわが物顔で広がり、事実をゆがめたり、民衆を扇動したりしうる現代は、「デジタル公害」ともいう状況に入っている。20世紀は、急激な工業化による大気汚染や水質汚染などの「リアルの公害」であった。

　デジタル公害とは、デジタル空間上で情報の核心、つまりデータの「真実」が大量の虚偽の情報や、大衆を装った一部のグループの主張によって覆い隠されたりする状態といえる。本来届くべき「声」が届かなくなり、その結果、インターネット上から失われたと同じ状態になる。急速なAIの技術進化は、ネット上の情報操作をいとも簡単なものとし、偽情報を常態化させてしまう。

　この誰も望まない「フェイクのニューノーマル」は、個人の情報リテラシーでは、回避できない大問題になりつつある。インターネットを席巻し、そのデータから巨万の富を得てきたプラットフォーマーにとって、偽情報への対策は、企業の命運を握るといって間違いないだろう。