AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法 – MITテクノロジーレビュー

文章・画像生成AIモデルは基本的に、暴力やヌードなどの有害な画像を生成しないようにポリシーで定められている。だが、「スニーキープロンプト」と呼ばれる …