どんな場面で検討するか
GPU VMで自社モデルの学習/推論を行い、GPU capacity・地域・中断可能な処理と通常処理の費用を比較したい場合。
組織で使う条件
2026年10月1日の料金改定、10月8日の対象GPUの動的spot移行を現在の条件として扱う。 weights/checkpointを永続保存し、価格/利用量の出力と処理ID・再開記録を保持する。
採用前に試すこと
- 公開小型モデルと合成学習データでon-demand VMを立て、毎区切りcheckpointを書き出す。
- 同じ処理をspotで試し、中断/再割当てを模擬してcheckpointから再開する。
- 同一処理量のGPU時間と区間別spot単価を照合し、disk保存費を含めて比較する。
合格と判断する条件
- 実顧客データを含まず、VRAM不足なしで完了しcheckpointを保存できる。
- 合意した復旧時間内に再開し、処理済みデータを重複学習/集計しない。
- 最低表示価格だけでなく区間別実効価格と保存費で予算適合を判断できる。
見落としたくない点
- 中断を許せない処理でspotだけに依存する場合はon-demand/予約等と比較する。 料金表のspot最低価格を利用期間中の固定単価とみなさない。
- 中断を許せない処理でspotだけに依存する場合はon-demand/予約等と比較する。
- 料金表のspot最低価格を利用期間中の固定単価とみなさない。