カード全体をパススルーします。
スライスでも、タイムシェアでも、MIG でもありません。GPU はお客様の PCIe バスに直接現れ、他の何かがそこにスケジュールされることは一切ありません。
カード全体をお客様のマシンへパススルーします。キューも、スケジューラーも、隣人もなく、考えている間に加算されるメーターもありません。
サーバーの構成を選ぶ
RTX 6000 Ada
3 件の構成
| プラン | GPU | CPU | メモリ | ストレージ | ネットワーク | 準備完了まで | 価格 | 注文 |
|---|---|---|---|---|---|---|---|---|
| RTX 4000 Ada 推論、レンダリング、小規模モデルのファインチューニング | RTX 4000 Ada · 20 GB | Ryzen 7 7700 · 8c/16t | 64 GB DDR5 | 2 × 1 TB Gen4 NVMe | 1 Gbps 無制限 | 約 15 分 | $229$183/mo | 設定 RTX 4000 Ada |
| RTX 6000 Ada 48 GB モデル、ビデオパイプライン | RTX 6000 Ada・48 GB | EPYC 7302P · 16c/32t | 128 GB DDR4 ECC | 2 × 2 TB Gen4 NVMe | 1 Gbps 無制限 | 約 15 分 | $549$439/mo | 設定 RTX 6000 Ada |
| L40S トレーニング、大量のバッチ推論 | L40S・48 GB | EPYC 7443P・24c/48t | 256 GB DDR4 ECC | 2 × 3.84 TB Gen4 NVMe | 10 Gbps 無制限 | 約 15 分 | $749$599/mo | 設定 L40S |
すべての構成に共通:GPU 全体をパススルー・IPMI・IPv4 ×1・ルーティング済み IPv6 /64・常時稼働の DDoS フィルタリング・帯域無制限のポート・フル API。複数枚構成のシャーシは 1 台ごとに見積もりです。お問い合わせいただければ構築いたします。
時間課金の罠
時間単位の GPU 課金はバースト利用向けに設計されていますが、実際にバーストする利用者はほとんどいません。カードの稼働率が3分の1を超える場合は、月額のマシンの方が安価です。さらに、ログを読むだけの時間まで課金されることもありません。
カード全体をパススルーします。
スライスでも、タイムシェアでも、MIG でもありません。GPU はお客様の PCIe バスに直接現れ、他の何かがそこにスケジュールされることは一切ありません。
キューもプリエンプションもありません。
お客様のジョブは、開始した時に始まり、終わった時に終わります。より大きな予算を持つ誰かが現れたからといって、追い出されることはありません。
重要な部分に 48 GB。
RTX 6000 Ada と L40S はそれぞれ 48 GB を搭載しており、これは通常シャーディングが必要になるモデルを丸ごと収められる容量です。そのシャーディング自体、カードより高くつくことが少なくありません。
ドライバーはご自身で選択いただけます。
お渡しするのは物理サーバーと、お好きな ISO です。CUDA のバージョン、カーネル、コンテナランタイムは、プラットフォーム側の都合で自動更新されることなく、すべてお客様が固定できます。
アップセルなし
IP 保護プランなし、スナップショットごとの課金なし、購入必須のサポートプランなし
マシン全体
単一テナント。他に何も起動せず、ディスクにも触れず、メモリコントローラーも共有しません。
サポートチケットではなく IPMI
アウトオブバンドでの完全な制御:電源、コンソール、仮想メディア。誰の許可も得ずに、深夜3時でも再インストールできます。
IPv4 + ルーティング済みの /64
IPv4 を 1 個標準搭載し、/29 はリクエストに応じて、IPv6 は /64 をまるごと利用できます。逆引き DNS の設定も自由です。
DDoS フィルタリング
ポートの上流でレイヤー 3/4 のスクラビングを実施し、デフォルトで有効、無償で、追加の設定は不要です。
再インストール、または ISO を持ち込む
用意された 20 種類のイメージから選ぶか、自前のイメージをマウントしてコンソール越しに起動を確認できます。ワイプ後には何も残りません。
API と SSH の鍵
ご自身のコードから、注文、再インストール、再起動、削除を実行できます。鍵は引き渡し時に設定され、パスワードログインは無効です。
20 GB 未満の推論・レンダリングには RTX 4000 Ada。48 GB クラスのモデルや高負荷な動画処理には RTX 6000 Ada。持続的なトレーニングやバッチ推論には L40S です。メモリ帯域幅が広く、CPU と NVMe がそれを支えるシャーシを備えています。
はい、シャーシ単位で見積もりを提示します。必要な台数と機種、そして NVLink が必要かどうかをサポートにお伝えください—最後の質問への答えは通常「いいえ」であり、より高額な構成を売りつけるのではなく、そのとおりお伝えします。
はい。カードはすでにラックに設置されバーンイン済みの状態で待機しており、注文するとワイプと再インストールが実行されます。時間がかかるのはこのサイズのシャーシにおけるメモリトレーニングと POST であり、誰かがラックまで歩いていく時間ではありません。
このサイトの他の箇所と同じ二つの例外のみが適用され、それ以上はありません。詳細は申し立ての処理方法をご覧ください。当社はお客様のマシン上で何が実行されているかを検査せず、検査する意図もありません。
残りのレンジ
司法管轄も同じ、ネットワークも同じ、身元を尋ねない姿勢も同じです。違いは、それぞれのタイトルに示された一点だけです。