静岡県は2022年9月23日の夜から翌日の24日にかけて「令和4年台風第15号」が接近した影響で大量の降雨が発生し、特に静岡県中部において多大な洪水被害をもたらしました。
Twitterでは日本の大動脈が寸断されてしまったことやリニア中央新幹線でもめにもめている静岡県知事を非難する（知事がJRともめていなかったら日本の物流は止まっていなかった！みたいなもの）などといった、安全地帯からの極めて外野的意見が溢れていた印象で、ものすご～～く不快でした。しかし巴川の氾濫に伴う断水が発生すると清水東高校自然科学部地学班が給水場所を示した地図を公開するといった平和なインターネッツを見ることが出来、ちょっと嬉しい気分にもなっていました。
ところがとあるTwitterユーザーが以下のようなツイートをしました。
まあ記事のタイトルから分かっていたとは思いますがフェイクツイートですね。私のうっきうき気分も台無しです。
当人のアカウントから放たれた「謝罪」によれば、ツイートに添付されている3枚の画像は「flood damage, Shizuoka」というワードをStable Diffusionへ投げて生成されたもののようです。
一応本人の「謝罪」をテキストにしておいたので、どういった気持ちでこのような画像を投稿したのかを傍から観察してみようかなと思った方の参考になれば幸いです。
Q. この投稿の真偽は。
A. 偽です。Q. 写真の入手元は。
A. Stable Diffusion。"flood damage, Shizuoka"のキーワードで出しました。キーワードに静岡と入力したものの、これが静岡を元にしたかどうかはわからないね。Q. このようなデマを流した目的は。
A. 大した目的はない。そもそも安易にこれが広まると予想していなかったので、それを元にした計画など立てていない。今までの投稿から自らの投稿が広まると思えなかった。Q. なぜ報道されないのか。
A. デマだから。Q. 自衛隊の出動要請がされないのはなぜか。
A. 実際に要請されたかどうかは知りません。ただこの投稿を元に動かないのは事実ではないからです。Q. このような投稿をした経緯は。
A. Stable DiffusionやMidjourneyなどでいろいろな画像を作って遊んでいた。その中で、人の街がどのように再現されるのかを確かめていた。Q. 通報しました。
A. 悪事を働いたことは事実。謹んで受け入れます。Q. 最後に何か言うことは無いのか。
A. 偽情報を発信してしまい、申し訳ありませんでした。また実際に被害を受けて苦しんでいる静岡の方々にも申し訳ないことをしました。謝罪いたします。（十数行の改行）
騙されて拡散した人、「明らかにおかしい」と言って騙されていないフリをする人、
ばーか！ｗｗ ざまあｗｗｗｗｗｗｗｗｗｗｗろくに確かめもせず、パッと見で信じ込んじゃってね。
お前らの常識とネットリテラシーの無さが露呈しましたね！ｗｗｗどのような主張をしても、こんなデマをソースにしたのであれば正しいとは認められませんよ。○ヨクさん。
正しい根拠を持って主張をしましょうね。
う～～～ん。全角のｗをめっちゃ久しぶりに見た。
あとついでにAbemaで本人が何か騙っているので見たかったら見ておいてください。
まとめていて思ったのですが、あまりにしょうもなさ過ぎて私の文章もしょうもないものになってしまっている気がします。必要な情報以外は読まない方がもはや役に立つレベルの多分な感じがしています。
AIお絵かきとデマ
自分でやり始めたことなので文句は言えないのですが、ちょっと精神に来るような文章を文字起こしをしているときつくなって来てしまいました。
こうなると
- 彼（彼女？）が持っているドメインに対して（自主規制）を行ったり、
- 「こちらのページは全てHTML, CSSとJavaScriptで書かれています。自分で書きました。」と書いているのに開発者ツールのNetworkタブを見ていると「googletagmanager .com」が垣間見える謎のページから（自主規制）り、
- GitHub Pagesにホストされているサブドメインのサイトにdigコマンドを用いて
*** .github .ioというAレコードの情報を得た上で（自主規制）すること
などで情報を収集したくなってきてしまうのですが、さすがに陰湿すぎるので辞めました。眠い。
というわけで一般論としてこういったツイートによるデマがどのような性質をもちうるのかについて考えていきたいなと思います。
災害時におけるデマツイートとして有名なものとしては、2016年の熊本地震で「ライオンが動物園から逃走した」といった内容の文章を「ヨハネスブルクの画像」と共にツイートしたした人が業務妨害罪で逮捕されたというものが第一に挙げられるでしょう。このツイートは
- 単純に市民の不安を煽るもの
- 動物園への問い合わせの電話を発生させたもの
という2つの側面があると言えるでしょう。このうち業務妨害罪は後者のみによって成立したとされています。つまり単に不安を煽るようなツイートのみだと刑事的に罪に問うことは難しいということではないでしょうか。ついでに刑法233条に定めがある信用毀損罪について考えてみたのですが、「虚偽の風説を流布し、又は偽計を用いて、人の信用を毀損し、又はその業務を妨害した者は、3年以下の懲役又は50万円以下の罰金に処する。」というものなので、自然災害についてのデマは基本的に信用毀損罪にはならないと考えられます。しかしながら「人」というものには自然人のみならず法人や団体も含まれるので、（立件されるレベルだったらば）業務妨害罪で立件されることが多いとは考えられるものの、地方公共団体などの業務を妨害したとして罪に問われる可能性もゼロではないとも言えます。
熊本地震のものにしても今回のものにしてもツイートという媒体に乗ってデマが流れてしまっているので、タイトルが無く情報がリプライに続かない限り全て表示されてしまう（それが全てだと思ってしまう可能性のある）メディアであるところのツイートという特徴も慎重に考えてみるべきだなとは思っています。広まりやすくかつ誤解されやすいというのは、災害時の情報伝達として非常に危なっかしいものと言えますし。
また今回のお絵かきAIを用いた画像によるデマの特色というものについても考えてみたいと思います。リトマスさんの編集長による指摘ツイートにある通り、ツイートされたものは写真としては破綻が見られるものです。しかしながらツイート時のキャプションは明らかに誤解させようとしていますし、十分に写実的な要素を備えているため真に撮影された写真であると誤解してしまう人々が出てくることは明らかに想定可能です。このようなものが容易に生成可能というのはちょっと怖いと思われても仕方ないとは思います。
しかしながらこの手の問題は、AI関係なしに写実的なものを作り出せる技術がある程度一般化していく段階で何回か出てきた問題であると思っています。例えばPhotoShopやそれに類似した製品が世に跋扈したときにも「写真が信用できなくなる」みたいな議論が盛り上がった記憶があります。結果論ではあるものの現在の写真に対する扱いは跋扈する以前と大きくは変わっていません。そのためお絵かきAIがさらに発展していったとしても大きな問題にはならなそうだと楽観的にとらえてはいます。一番の問題は悪用する人間だとも思っていますし。
関連リンク
- 相本啓太「「ドローン撮影した静岡県の水害」と虚偽画像が拡散。AIでフェイク生成？ 県は「デマやめて」」Buzzfeed、2022年9月26日。
- 上代瑠偉「「ドローンで撮影した静岡の水害」AI生成のデマ写真が拡散 投稿者「投稿が広まると思わなかった」「ざまあｗｗ」」ねとらぼ、2022年9月26日。
- 松浦立樹「静岡県の水害巡りフェイク画像が拡散 画像生成AIを利用 投稿者はデマと認めるも「ざまあw」と開き直り」ITmedia、2022年9月26日。
- 「ＡＩ使い「静岡水害」とデマ画像、５６００件以上拡散…投稿者は生成認める」読売新聞、2022年9月27日。
- 「静岡「水害」虚偽画像が拡散 ＡＩで作成」産経新聞、2022年9月28日。
- 「AIが作成「デマ画像」ツイート――静岡の台風被害装う だまされないためには？...「正方形」「不自然な点」「出所」に注目」読売テレビ、2022年9月28日。
- 「偽ＡＩ画像で「静岡水害」拡散 投稿者、虚偽認める「技術試したくて」」静岡新聞、2022年9月29日。
- 「注意を SNSで拡散された災害画像は“AI生成の偽画像”だった」NHK、2022年9月29日。
- 「水害フェイク画像の投稿者を直撃「こういう人も存在するので注意しましょう、と知ってほしかった」クリエイティブなAI画像生成の登場に警鐘も」ABEMA TIMES、2022年9月29日。
最後に
次回のジオ関連の記事: 鉄道開業150周年記念パスで松島へ
災害時における混乱時にある程度デマが出回ってしまうことは仕方ないと思っています。しかしながら意図的にデマを社会の中へ投げ込む行為は、被災地を無用な混乱に陥れるものであり断じて行うべきではないとも考えています。
今回のツイートというのはまさに「意図的にデマを社会の中へ投げ込む行為」と言えるでしょう。こういった非常に無益な行為に素晴らしい技術が用いられないことを祈りながらこの記事を終わりにしたいと思います。
