thinkingface¶
thinkingface は、Hugging Face Hub をセルフホストするためのクローンです。データセットとモデルの
リポジトリをホストし、git + Git LFS でバージョン管理し、実データは自分たちの Google Cloud
Storage バケットに保存し、学習の run を記録します。しかもそれらはすべて、huggingface_hub と
datasets がすでに話し方を知っている API の背後にあります。

想定している利用者¶
すでに Hugging Face Hub を使っていて、同じワークフローを別の場所で動かしたい方に向けたもので
す。自分たちのインフラで、自分たちのネットワークの内側で、自分たちが管理するストレージの上で。
HF_ENDPOINT を thinkingface のインスタンスに向けるだけで、既存の Python コードはそのまま動き
ます。コードの書き換えも、フォークの持ち込みも、専用 SDK も必要ありません。
できること¶
- データセット・モデルのリポジトリ — Web UI、API、
tfCLI のどれからでも作成でき、そのあと は HTTP または SSH 経由でgit clone/git pushできます。大きなファイルは Git LFS が扱い ます。 - Hugging Face 互換の API —
whoami、create_repo、upload_file、hf_hub_download、list_repo_files、load_datasetといった関数が、そのまま自分のインスタンスに対して動きます。 - ダウンロードせずに中身を見る — ファイルツリー、Parquet のテーブルビューア、そして safetensors や PyTorch ファイルのヘッダーだけを読むチェックポイントのメタデータパネル。
- 実験のトラッキング — trackio 互換のインターフェースがプロジェクト・run・config・メトリクス を記録し、Web UI 上でグラフにします。
- Organization —
admin/write/readのロールを持つ、チームで共有するネームスペース。 - そのまま読めるストレージ — オブジェクトは内容アドレス方式のキーで自分のバケットに置かれ、
Web UI は任意のリビジョンを元のファイル構成のまま復元する
gcloud storage cpスクリプトを生成 します。復元先はローカルでも、別のバケットでも構いません。
どこから読むか¶
| やりたいこと | 参照先 |
|---|---|
| インスタンスを立ち上げてデータセットをアップロードする | クイックスタート |
| まずリポジトリ・リビジョン・ストレージの考え方を理解する | 基本コンセプト |
| Python・CLI・git からファイルを送る | ファイルのアップロード |
| ファイルを取り出す、あるいはバケットから直接読む | ファイルのダウンロード |
| ブラウザでデータセットやチェックポイントを見る | Web UI を使う |
| 学習の run を記録して比較する | 実験のトラッキング |
| チームで共有するネームスペースを用意する | Organization |
| プッシュや run の完了を受けて自前の処理を動かす | Webhook |
| Hub と何が互換で何が互換でないかを正確に知る | 互換性 |
| 本番環境にデプロイする | デプロイ |
導入を決める前に評価したいという段階であれば、thinkingface が実際にデータをどう扱うのかを最短で 把握できるのは 基本コンセプト です。