🇯🇵 日本のユーザーの皆様へ: このページはAIによって翻訳されています。
翻訳の改善にご協力いただける方は GitHubでのPRをお待ちしています
オープンソース · AGPL v3 · Rust製

データは消えない。
冬眠するだけだ。

HuskHoardはLinux向けの自動かつ透過的なデータ階層化(データティアリング)エンジンです。 OSからはすべてのファイルが完全に見える状態を保ちながら、コールドデータをLTOテープ、HDD、またはクラウドへバックグラウンドでサイレントにアーカイブし、高価なNVMeドライブの高速性を維持します。

AGPL-3.0 Rustで構築 Linux · カーネル 5.1+ LTO-5 → LTO-9 40以上のクラウドプロバイダー

エンタープライズの機能。
オープンソースの経済性。

エンタープライズベンダーは、データを独自のブラックボックスに囲い込むために数千ドルの費用を請求します。HuskHoardは、あなたがすでに所有している標準フォーマットを使用し、ユーザースペースでこれを無料で実現します。

01
[ ⊕ ]
透過的スタブ化 (Transparent Stubbing)

ファイルは元の論理サイズのままOSから可視化されます。アプリケーションは違いに気付きません。プロセスがスタブ化された(実体のない)ファイルを開くと、HuskHoardがLinuxの fanotify カーネルAPIを通じてインターセプトし、リアルタイムにリコール(復元)します。FUSEのオーバーヘッドやマウントの魔法はありません。

FUSEオーバーヘッドゼロ
02
[ ▶ ]
StreamGate HTTPゲートウェイ

LTOテープやS3からローカルHTTPブリッジ経由で4K動画を直接再生。Plex、Jellyfin、VLCはHTTP Rangeリクエストを使用して、巨大なファイルを瞬時にシークできます。SSDの容量を一切消費せず、ファイル全体のリコールも不要です。

メディア・エンターテイメント・パイプライン対応
03
[ ◇ ]
簡単な移行保証 (ベンダーロックインなし)

すべてのペイロードデータは、BLAKE3で検証された標準のZstdストリームとして保存されます。コマンドラインの ddzstd だけで、すべてのデータを抽出可能です。独自のフォーマットやライセンスキー、許可を求める必要は一切ありません。

ベンダーロックインからの解放
04
[ ≡ ]
ハードウェアを意識した設計

LTO-5からLTO-9用のネイティブSCSIドライバー。SMRドライブに安全なログ構造化書き込み(Log-structured writes)により「ライトウォール」を排除。rcloneを通じた40以上のクラウドプロバイダーへのレプリケーションに対応し、最適化された16MBのZstdフレームにパッキングしてAPIコストを最小限に抑えます。

LTO · SMR · S3 · rclone

4つのコンポーネント。
1つのシームレスなシステム。

HuskHoardの各パーツは、それぞれ1つの役割を正確に遂行します。これらが組み合わさることで、継続的かつ自律的に管理されるストレージパイプラインを形成します。

Component 01
[ DB ]
The Catalog (カタログ)
SQLiteの頭脳

すべてのファイル、完全なバージョン履歴、物理メディア上の正確なバイトオフセットを追跡します。システム全体の単一の信頼できる情報源(Single source of truth)です。

Component 02
[ ◎ ]
The Interceptor (インターセプター)
fanotify ループ

軽量なカーネル空間のリスナー。アプリケーションがスタブ化されたファイルを要求したことを検知し、プロセスをブロックして瞬時にリコールをトリガーした後、処理を再開します。

Component 03
[ ↻ ]
The Janitor (管理人)
ポリシーエンジン

経過日数、拡張子、ディレクトリなどのルールに基づいてコールドデータを特定するバックグラウンドデーモン。ユーザーの作業を中断させることなく、アーカイブワーカーへタスクをキューイングします。

Component 04
[ ▤ ]
The Archive Worker
ヘビーリフター(重処理)

データをシーク可能なZstdフレームに圧縮し、ストレージプール全体への書き込みを多重化し、テープハードウェア向けの低レベルSCSIコマンドを発行します。

Linuxの fanotify カーネルAPI上に構築されたHuskHoardは、完全にユーザースペースで動作します(カーネルモジュールやrootデーモンは不要です)。N-Wayレプリケーションにより、ローカルドライブ、物理テープ、クラウドバケット全体にコールドデータを同時にミラーリングします。ポイントインタイム・リカバリにより、任意のファイルを過去のバージョンにロールバック可能。BLAKE3によるビットロット(データ劣化)スクラバーが、設定したスケジュールでオフラインストレージを暗号学的に検証します。アーキテクチャの詳細な解説については、ブログをご覧ください。

コールドデータは間違った保存方法で
コストを浪費します。

HuskHoardは、無駄なストレージ支出の三大要因を排除します。部分的な読み取りで発生するクラウドのエグレス(データ転送)費用、月に1度しかアクセスしないデータのために電力を消費し続けるRAIDアレイ、そして必要以上にギガバイト単価が高いハードウェアです。

1/6
ストレージコスト
現在の価格では、LTO-9テープはCMRハードドライブの1/6のコスト(GB単価)です
0W
アイドル電力
CMRアーカイブドライブは完全にスリープします。メタデータチェックによる起動もありません
~500
kWh/年 節約
8台のドライブからなるRAID-Z2アレイを独立したHuskHoardボリュームに置き換えた場合
16 MB
最大エグレス通信量
Jump Frameにより、オブジェクトサイズに関係なくクラウドの帯域幅消費を1フレームに制限します
01
[ ⇥⇥ ]
Jump Frameがクラウド通信費を削減

クラウドプロバイダーはダウンロードしたバイト数に応じて課金します。一般的なアーカイバーはファイル全体を取得してしまいます。HuskHoardは、すべてのアーカイブを独立した16MBのZstdフレームに分割し、各オブジェクトの先頭にTLVインデックスを埋め込みます。これにより、単一のHTTP Range リクエストで必要なフレームだけを正確に取得できます。150GBのオブジェクト内にある5MBのドキュメントを読み取る場合、エグレス費用は150GB分ではなく、5MB分しかかかりません。MP4などの事前圧縮メディアでは、バイトオフセットは1対1となり、展開オーバーヘッドなしでO(1)のシークが可能です。

従来のアプローチ: 圧縮ストリーム内の50GBのオフセットにシークする場合 — 展開状態を再構築するために、前の49.9GBをストリーミングして破棄しなければならない。
HuskHoard: オブジェクトヘッダー内のTLVインデックスを二分探索 → HTTP Rangeリクエスト → 必要な16MBのJump Frameを1つだけ解凍する。
詳細: Jump Frames & TLV Headers →
02
[ ⏻ ]
コールドデータのRAIDを沈黙させる

標準的なRAID-Z2アレイはすべてのディスクにデータをストライプするため、1つのファイルを読み取るだけで8台すべてのドライブがスピンアップします。PlexやSambaからのバックグラウンドのメタデータPingだけでも、アレイがスリープすることは永遠にありません。HuskHoardはすべてのメタデータをNVMe(ホットティア)に保存します。アーカイブドライブは純粋なペイロードタンクとなり、そのボリュームが必要になるまで0Wで完全に電源を落とします。

8-Drive RAID-Z2
HuskHoard Volumes
~60W 常に電力を消費
~0W ディープスリープ状態
8台すべて 読み取り毎にスピン
1台のみ 読み取り時に起動
~500 kWh / 年 のオーバーヘッド
~0 kWh / 年 のオーバーヘッド
数日 障害後のリビルド時間
数分 レプリカへのフェイルオーバー
詳細: Stop Spinning for Cold Bits →
03
[ $ ]
コールドデータに最適なメディア

大規模環境では、ソフトウェアの最適化よりもストレージメディアの選択が重要になります。LTO-9テープのGB単価は、CMRハードドライブの約1/6、NAS用SSDの1/15です。定格メディア寿命は30年で、アイドル時の電力は0Wです。HuskHoardは、テープをローカルSSDのように検索可能かつアクセス可能にするソフトウェアレイヤーを提供し、コストを大幅に削減します。

Medium
$/GB
100 TB
アイドル電力
NAS用 SSD
$0.075
$7,500
高い
CMR HDD
$0.030
$3,000
高い
LTO-9 テープ ✓
$0.005
$580
0W
詳細: LTO cost analysis 2026 →

クラウドリプリケーションも同様のロジックに従います。HuskHoardは、1つのファイルにつき1つのS3オブジェクトをアップロードするのではなく、ファイルをシーケンシャルな大きな husk_XXXX.bin オブジェクトにパッキングします。何千もの小さなファイルが少数のAPIコールにまとまるため、トランザクションコストが劇的に削減されます。ファイルが読み戻される際、ターゲットを絞ったHTTP Rangeリクエストが関連する16MBのフレームのみを取得します。150GBのアーカイブオブジェクト内にある1つのドキュメントを取得するために、150GB分のダウンロード料金を支払う必要はもうありません。 クラウドアーキテクチャの詳細記事を読む →

数分で
セットアップ完了。

HuskHoardは単一のCLIバイナリとして提供されます。Dockerは不要。複雑な設定デーモンも不要です。root権限ではなく、標準ユーザーとして実行できます。

huskhoard — bash — Ubuntu 24.04 LTS
# 1. システム要件(依存パッケージ)のインストール $ sudo apt install -y build-essential rclone libcap2-bin attr pkg-config libsqlite3-dev git $ curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh && source $HOME/.cargo/env   # 2. クローンしてビルド $ git clone https://github.com/huskhoard/huskhoard.git && cd huskhoard $ cargo build --release Compiling huskhoard v0.1.0 ... Finished release [optimized]   # 3. カーネルケーパビリティの付与(rootデーモンは不要) $ sudo setcap cap_sys_admin,cap_dac_read_search+ep target/release/huskhoard   # 4. アーカイブボリュームをフォーマットし、デーモンを起動 $ ./target/release/huskhoard format --tape-dev my_archive.img $ ./target/release/huskhoard daemon [HuskHoard] Interceptor active. Janitor online. StreamGate listening :8080   # テープから直接ファイルをストリーミング(ディスク抽出ゼロ) $ ./target/release/huskhoard cat --file /media/movies/rushes.mp4 | mpv -
GitHubの完全なドキュメントを読む →

スケールを見据えた設計。
次世代への準備。

オープンソースのコアエンジンは、AGPL v3の下で永久に無料です。 コアバイナリと一緒に動作するように設計されたエンタープライズ向けのサイドカーモジュールは現在準備中です。

[ locked ] // DASH
Webダッシュボード

リアルタイムの「タンクゲージ」モニタリング。視覚的なキャパシティプランニングと階層化アクティビティ。

準備中 (Coming Soon)
[ locked ] // METRICS
Prometheus統合

Grafana対応の /metrics エンドポイント。本番環境のデプロイメントに完全な可観測性を提供。

準備中 (Coming Soon)
[ locked ] // REPLICATE
高度なレプリケーション

プロジェクトごとのきめ細かいレプリケーションポリシー。SLAに裏付けられたリカバリウィンドウ。

準備中 (Coming Soon)
[ locked ] // SUPPORT
サポート & SLA

専用のサポートチャンネル、保証された応答時間、オンボーディングの支援。

準備中 (Coming Soon)

エンタープライズ機能の早期アクセスにご興味がある方、または商用展開に関するご相談をご希望ですか?

info@huskhoard.com →