2024年は、3月にロシア大統領選挙、11月には米国大統領選挙を控えるなど、世界中で大きな選挙が予定されている。選挙で懸念されるのが、AI（人工知能）による偽画像や偽音声、偽動画を悪用した「ディープフェイク」の拡散である。

　近年、ディープフェイクに使われている音声合成や動画合成の技術にも生成AIが利用され始め、本物と見間違えたりするものが増えるなど、その精度が急速に上がっている。

　2023年10月には、英労働党のキア・スターマー党首が職員を罵倒しているとする音声がソーシャルメディアを中心に出回り、スキャンダルになりかけた。だが後日、AIによる偽音声であることが判明した。

なぜディープフェイクを見破ったか

　この事件は「AIインシデント・データベース」というデータベースに登録された。AIインシデント・データベースとは、世界中のAIやロボットなどに関連する事件や事故の情報を収集し、データベース化しているものだ。学術研究機関、企業、各種団体などが協力し、AIが社会にとって前向きな成果をもたらすことを目的に設立された非営利組織「パートナーシップ・オンAI」によって、2020年11月から運営されている。

　英労働党党首の事件は「No.601」（https://incidentdatabase.ai/cite/601）としてウェブサイトに登録され、誰でも見ることができる。事件のタイムラインや関連記事へのリンクがまとめられてほか、偽物と判明した理由として、背景ノイズが追加された形跡あることなどが説明されており、今後、ディープフェイクを見破る際のヒントになる。

　AIインシデント・データベースには、人や財産、環境に対する危害や、危害に近いとされる出来事があった際の「AIインシデント」と、危害の疑いまたは、危害に近い状況もしくは、潜在的に危害を加える可能性があった際の「AI問題」が登録されている。危害の範疇（はんちゅう）は、精神的危害、選挙への介入などの政治・社会制度に対する危害など広範囲に及ぶ。

　このように事件や事故を記録し、後に同じような出来事が起きないようにする発想は、運輸業界に似ている。例えば航空業界では、「航空事故」「重大インシデント」「イレギュラー運航」の三つに分類して公表している。国土交通省によると、「航空事故」は航空法第76条に定められた事故を示し、「重大インシデント」は同法第76条の2に定められた「航空事故が発生するおそれがあると認められる事態」である。「イレギュラー運航」は運航の安全に直ちに影響を及ぼすものではないものの万全を期して目的地の変更などが行われた運航を示す。時折ニュースで「事故につながりかねない重大インシデントがあった」と報じられるのはこのことだ。

ロボットの事故も登録

　同様にAIインシデント・データベースに登録された事故として、2023年11月、韓国の農作物の物流センターで、40代の男性がロボットアームによって誤ってベルトコンベアに押しつけられ、搬送先の病院で亡くなったという事故がある。「No.599」（https://incidentdatabase.ai/cite/599）として登録された。

　ロボットはベルトコンベアに流れる箱を取り上げるために試験的に設置されていた。センサーの不具合を確認中の作業員が、システムが動き始めた時に発生した事故であった。報道によると、AIが実装されていたかどうかは必ずしも明確でないが、この事故がAIインシデント・データベースに登録されたことは注目に値する。

　近年、私たちの身近な生活の中にも、警備ロボットや配膳ロボットなど、さまざまなロボットが導入されている。ロジスティクス（物流）におけるロボットやAIの導入は大きく進展しており、24時間化、高速化、一部では無人化が図られている。その一方で、事故も世界中で発生している。上記の事故は、ロボットにAIを組み込む際の教訓になりうる。

　2023年は、新たなAIの可能性を世界中の人々が体験する「生成AIの年」であったといっても過言ではない。24年を、生成AIによるディープフェイクなどの拡散が世を混乱させるような年にしないためにも、関連するインシデントを世界中で共有し、対策を講じることは重要といえるだろう。AIは未来を明るく照らすものとなることを願いたい。