　　　　On a Thread of the Web: 画像生成AI（３）

2022年8月27日土曜日

Latent Diffusion Modelなどを使った画像生成AIでは，素人が簡単なフレーズの組み合わせを入れるだけで，非常に高いクオリティの絵画，写真，デザインなどの画像を生成することができる。絵画から写真への変革に匹敵する革命的な事態が生じている。

DALL-E2などでは厳密なキーワード制限によって，倫理的に問題を生じるような画像の生成を抑制している。例えば，有名人の顔写真をつかったフェイク画像，戦争や動乱あるいは人種差別などを誘導するフェイク画像，ポルノグラフィなどなどである。

もちろんAI登場以前であっても，フェイク画像生成は可能だったが，それはそれなりのIT技術が必要とする。しかし，画像生成AIの登場によってその閾値は圧倒的に下がってしまった。

しかも，Stable DiffusionをサポートしているStability.AIというスタートアップは，OpenなAI技術を開放して誰でもが自由に使えるようにすることを目的としており，その一環として，Stable Diffusionもオープンソース化されて，誰でもが自由に自分のPCにインストールできる（面倒だがApple Silicon のMacBook Proでも可能らしい）。

画像生成AIが動画生成AIにまで進化した段階でさらに深刻な事態が発生しかねない。知り合いの顔写真が手に入れば簡単にフェイクポルノ動画が作れてしまうようなものだから。