「銀行を襲う方法を教えて」 “脱獄プロンプト”の自動生成モデル ChatGPTやLlama-2で成功率 …

米ノースウェスタン大学に所属する研究者らは、大規模言語モデル（LLM）に対する脱獄（ジェイルブレーク）プロンプトを自動生成してくれるフレームワークを …