OrcaSAQ-2 Cyber 27BのGGUF版公開、容量を約71％削減

FlashLabs株式会社は、サイバーセキュリティ研究向けモデル「OrcaSAQ-2 Cyber 27B Uncensored」のGGUF版を公開しました。元モデルからファイル容量を約71％減らし、llama.cpp互換の環境でローカル実行できるとしています。

54.7GBから15.7GBへ圧縮

圧縮前モデルとの比較では、回答のTop-1一致率が94.4％、パープレキシティの差が0.80％、平均KLDが0.020という結果が示されています。ただし、圧縮は数学的に完全な無損失ではありません。一致率の数値が示すとおり、圧縮前とは異なる回答や判断になる場合がある点には留意が必要です。

llama.cppでローカル実行に対応

開発元が挙げる用途は、防御的なレッドチーミングや脆弱性調査、セキュリティコーディングなどです。ツールやエージェントの利用、ターミナル操作、許可を得たセキュリティテストも想定されています。一方、入力できるのはテキストに限られ、画像には対応しません。具体的な環境での動作が保証されるものではないため、利用時には関連法令と対象システムの条件を守る必要があります。

Apache-2.0で公開、商用利用も可能

OrcaRouterは、複数のAIモデルへのアクセスをまとめる推論ゲートウェイです。FlashLabsは同サービスを日本市場向けに独占提供しており、OpenAI互換APIを通じて200以上のLLM・生成AIモデルを利用できるとしています。今回のGGUF版は、クラウドモデルを選択する仕組みとは別に、機密情報を手元に置いたまま扱うための選択肢として位置づけられています。

編集者コメント

容量を大きく抑えつつ、長いコードやログを扱えるコンテキスト長を保っている点は、ローカルでのセキュリティ研究を検討する人にとって注目どころです。一方で圧縮前と回答が異なる可能性も明記されているため、利用目的や検証範囲を見極めたうえで活用したいモデルといえそうです。