2023年12月07日

◆ AIを 狂わせたい

 AIから意図的にエラーを引き出したい。つまり、AIを狂わせたい。どうすればいいか? (特に画像生成で)

 ──

 前に Stable Diffusion を使っていたときには、「手がおかしい」ということが話題になった。たとえば、こんな画像。


princess5.jpg



princess3.jpg


 その後、新たな画像生成 AI ができると、この問題はかなり解消されるようになった。Copilot で採用されたAIがそうだ。このAIでは、指の不具合はほとんどなくなっている。あっても、あまり目立たない。たとえば、こうだ。


bing30.jpg


 この指であれば、「ちょっと変だな」と思うぐらいで済む。

 一方、あからさまにおかしな画像が生成されることもある。前に言及した。
  → AIの不自然な画像: Open ブログ

 この項目では、「階段に立つ少女」の画像を生成するときに、不自然に歪んだ画像が生成された。(事例は上記項目にある。)

 この項目の最後で、こう記した。
 ついでだが、変に失敗した画像もできた。足が三本あったり、足首がなかったり、頭部が胴体から離れていたり、手足が妙に引き延ばされたり。(妖怪か化け物みたいな感じだ。高橋留美子の「犬夜叉」に出てくる妖怪みたいな。)……ただし、これはプロンプトに奇妙な条件を付けた場合の話だ。「天井を歩いている画像」みたいな。普通の条件では、こういう化け物みたいな人物はできない。

 ※ なお、失敗画像の実例は公開しない。グロテスクなので。(顔が鬼ならともかく、顔が美少女で、体が妖怪なのは、グロテスクすぎる。発禁でいい。)

 このときは画像を公開しなかったのだが、今回、改めて、奇妙な画像を公開することにしてみた。
 そこで、その意図で画像を生成してみたが、あまりうまく行かなかった。
 「天井を歩いている画像」を作成しようとすると、前回は奇妙な画像ばかりが生成されたのだが、今回はまさしく「天井を歩いている画像」が生成された。(エラーなしで。)
 とはいえ、四つに一つぐらいの割合で、「三本足の人間の画像」が生成された。その意味では、エラーは少しは作成されるわけだ。

 ただし、それでも、「三本足の人間の画像」ぐらいで済んでいる。手足が奇妙に歪んでいる化け物みたいな(醜悪な)画像は生成されない。その意味では、機能は改善されているようだ。

 ──

 以下では、「三本足の人間の画像」を列挙する。これ以外のエラー画像もできればよかったのだが、エラーはこれらだけに限られる。他のエラーは見出されなかった。


ceiling-girl1.jpg


ceiling-girl0.jpg


ceiling-girl3.jpg


ceiling-girl4.jpg


ceiling-girl6.jpg


ceiling-girl7.jpg


ceiling-girl8.jpg


ceiling-girl9.jpg



ceiling-girl11.jpg


ceiling-girl12.jpg


ceiling-girl5.jpg


ceiling-girl2.jpg


 ※ 最後の一例だけは、「三本足の人間の画像」とは違う。

 ──

 背景のビルも上下逆転している画像が多いが、これは私が上下を間違えたせいではない。もともとそういう画像である。
 背景が普通の天井で、天井を歩いている……という狙い通りの画像ができた場合には、二本足で普通に歩いている画像であることが多い。




 [ 付記 ]
 作成のプロンプトは下記である。
Create illustrations of a woman walking on the ceiling reversally, overturning, upside down, in style of magazine illustrations.

 日本語で「逆立ちして天井を歩く女性の画像を作って」と命じるだけでは、うまく行かなかった。上限が逆転していないで、頭が天井に着いている、空中歩行の人間の画像ができるばかりだった。
 そこで英語で直接、プロンプトを書くことにした。

  ※ Copilot では、いったん日本語を英語に直してから、画像を描かせる。しかしその翻訳の精度が低い。だから、直接英語でプロンプトを書いた方が、うまく画像を描けることが多い。



[ 補足 ]
 今回は、奇妙なグロテスクな画像は生成されなかったが、そのかわり、「画像を生成できません」という事例が非常に多かった。場合によっては9割ぐらいに達する。時間帯を変えてもそうだ。これはおかしい。
 私の推察では、こうだ。
 「奇妙なグロテスクな画像は生成されなくなったのではなく、いったん生成されたあとで、異常な画像の場合には、異常を検知して、公開中止にしている」
 これはまず間違いないと思える。というのは、「作成中です」という表示が出て、まさしく作成している状況が表示されて、表示用の iframe タグまでつくられるのに、最後の最後になって、表示不可になるからだ。
 このことからして、「作成されない」のではなく、「作成されたあとで公開中止になる」という事情だとわかる。そして、そうなる理由は、「公開できないような特別な事情のある画像になったからだ」と推測できる。「異常画像を検出して、公開停止にする」という回路が、新たに追加されたのだろう。

 
posted by 管理人 at 22:28 | Comment(2) | コンピュータ_04 | 更新情報をチェックする
この記事へのコメント
下から2枚目の画像は素晴らしい。ちゃんと髪の毛が下向きにばらけている。スカートのめくれ具合も自然だ。どうしてこんな画像が作れるのだろうか。どこかにお手本があってそれを見つけてきたのだろうか?
Posted by ひまなので at 2023年12月08日 11:59
 その画像、よく見ると、腕から足が生えているし、足から手が生えている。とんでもないエラーですね。
Posted by 管理人 at 2023年12月08日 13:44
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]

  ※ コメントが掲載されるまで、時間がかかることがあります。

過去ログ