Kien Do

ソックパペッティング：たった1行でLLMの安全ガードレールを回避する手法

ソックパペッティング（Sockpuppeting）によるジェイルブレイクは、特別なツールや最適化を必要とせず、容易に実行できます。脆弱なプリフィル機能さえあれば、ゲートは開かれてしまいます。本検証では、11種類のLLM搭載アシスタントに対してソックパペッティングを試し、現在主流のLLM間で耐性にばらつきがあることが確認されました。

Kien Do