SGLangは、大規模言語モデル(LLM)やマルチモーダルモデルによる推論サーバを構築するためのフレームワークです。SGLangには以下の複数の脆弱性が存在します。 細工されたJinja2テンプレートがGGUFモデルファイルのtokenizer.chat_templateに含まれている場合、/v1/rerankエンドポイントへのアクセス時に、当該テンプレートがサンドボックスを使用せずにレンダリ...
関連記事
SGLangは、大規模言語モデル(LLM)やマルチモーダルモデルによる推論サーバを構築するためのフレームワークです。SGLangには以下の複数の脆弱性が存在します。 細工されたJinja2テンプレートがGGUFモデルファイルのtokenizer.chat_templateに含まれている場合、/v1/rerankエンドポイントへのアクセス時に、当該テンプレートがサンドボックスを使用せずにレンダリ...
関連記事
はてブのコメント(最新5件)
loading...