הכרטיס כולו, מועבר ישירות (passthrough).
לא פרוסה, לא שיתוף זמן, לא MIG. ה-GPU מופיע על אפיק ה-PCIe הרלוונטי, ושום דבר אחר עלי אדמות אינו מתוזמן עליו.
כרטיסים שלמים, מועברים ישירות למכונה. ללא תור, ללא מתזמן, ללא שכן, וללא מונה שרץ בזמן החשיבה.
קביעת גודל השרת
RTX 6000 Ada
3 תצורות
| חבילה | GPU | CPU | זיכרון | אחסון נתונים | רשת | מוכן תוך | מחיר | הזמנה |
|---|---|---|---|---|---|---|---|---|
| RTX 4000 Ada הסקה, רינדור וכוונון עדין של מודלים קטנים | RTX 4000 Ada · 20 GB | Ryzen 7 7700 · 8c/16t | 64 GB DDR5 | 2 × 1 TB Gen4 NVMe | 1 Gbps ללא הגבלה | ~15 דקות | $229$183/mo | הגדרה RTX 4000 Ada |
| RTX 6000 Ada דגמי 48GB, לצנרות עיבוד וידאו | RTX 6000 Ada · 48 GB | EPYC 7302P · 16c/32t | 128 GB DDR4 ECC | 2 × 2 TB Gen4 NVMe | 1 Gbps ללא הגבלה | ~15 דקות | $549$439/mo | הגדרה RTX 6000 Ada |
| L40S אימון, היסק באצווה בנפח גדול | L40S · 48 GB | EPYC 7443P · 24c/48t | 256 GB DDR4 ECC | 2 × 3.84 TB Gen4 NVMe | 10 Gbps ללא הגבלה | ~15 דקות | $749$599/mo | הגדרה L40S |
בכל תצורה: GPU שלם מועבר במלואו (passthrough) · IPMI · כתובת IPv4 אחת · IPv6 /64 מנותב · סינון DDoS פעיל תמיד · פורט ללא הגבלת נפח · API מלא. שאסיות מרובות כרטיסים מתומחרות לפי מכונה — אפשר לשאול, הן נבנות לפי בקשה.
המלכודת השעתית
תמחור GPU לפי שעה מיועד לעומסי שיא, וכמעט אף אחד לא עובד כך. אם הכרטיס עסוק ביותר משליש מהזמן, מכונה חודשית זולה יותר — והיא לא ממשיכה לחייב על השעות שמוקדשות לקריאת יומנים.
הכרטיס כולו, מועבר ישירות (passthrough).
לא פרוסה, לא שיתוף זמן, לא MIG. ה-GPU מופיע על אפיק ה-PCIe הרלוונטי, ושום דבר אחר עלי אדמות אינו מתוזמן עליו.
אין תור ואין דחיקה.
העבודה מתחילה כאשר היא מופעלת ומסתיימת כאשר היא נגמרת. שום דבר לא מפנה אותה כי מישהו עם תקציב גדול יותר הגיע.
48 GB במקום שבו זה חשוב.
RTX 6000 Ada וה-L40S נושאים 48 GB כל אחד — די כדי להכיל מודל שאחרת היה דורש sharding, שבדרך כלל עולה יותר מהכרטיס עצמו.
בחירת הדרייברים חופשית לחלוטין.
נמסרת חומרה פיזית וקובץ ISO לבחירה חופשית. גרסת CUDA, ליבת המערכת (kernel), וסביבת ריצת מכולות — נקבעים באופן עצמאי, לא על ידי פלטפורמה שמתעדכנת בלוח הזמנים שלה.
ללא מכירות נלוות
ללא חבילת IP מוגן, ללא חיוב לפי תמונת מצב, וללא תוכנית תמיכה לרכישה.
המכונה כולה
דייר אחד. שום דבר אחר לא עולה עליה, שום דבר אחר לא נוגע בדיסקים, שום דבר אחר לא חולק את בקר הזיכרון.
IPMI, לא פנייה לתמיכה
שליטה מלאה מחוץ לפס (out-of-band): הפעלה וכיבוי, קונסולה, מדיה וירטואלית. ניתן להתקין מחדש בשלוש לפנות בוקר בלי לבקש רשות מאיש.
IPv4 + /64 מנותב
כתובת IPv4 אחת כלולה, /29 לפי בקשה, ו-/64 שלם של IPv6. ה-Reverse DNS ניתן להגדרה עצמאית.
סינון DDoS
ניקוי (scrubbing) בשכבות 3/4 במעלה הזרם של הפורט, פעיל כברירת מחדל, ללא עלות וללא צורך בהפעלה.
התקנה מחדש או שימוש ב-ISO עצמאי
עשרים תמונות (images) מוכנות מראש, או חיבור תמונה עצמאית וצפייה באתחול דרך הקונסולה. שום דבר לא שורד מחיקה (wipe).
מפתחות API ו-SSH
ניתן להזמין, להתקין מחדש, לאתחל ולהשמיד ישירות מהקוד העצמי. מפתחות מותקנים בעת המסירה, וכניסה בסיסמה מנוטרלת.
לפני ביצוע ההזמנה
בכל דבר אחר, התמיכה עונה תוך דקות — ואומרת לא בבירור כשהתשובה היא לא.
פתיחת פנייהעבור הסקה (inference) ורינדור מתחת ל-20 GB — RTX 4000 Ada. עבור מודלים של 48 GB או וידאו כבד — RTX 6000 Ada. עבור אימון ממושך והסקה באצווה (batch inference) — L40S, עם רוחב פס זיכרון גבוה יותר ושאסיה עם CPU ו-NVMe שמזינים אותו כראוי.
כן, המחיר מצוטט לפי שאסי. יש לציין לתמיכה כמות וסוג, וכן האם נדרש NVLink — התשובה לשאלה האחרונה היא בדרך כלל לא, וכך ייאמר במפורש במקום למכור תצורה יקרה יותר.
כן. הכרטיסים נמצאים במכונות מותקנות בארון שעברו צריבה וממתינות; ביצוע ההזמנה מפעיל מחיקה והתקנה מחדש. מה שלוקח זמן הוא אימון הזיכרון ותהליך ה-POST על שלדה בגודל כזה, לא מישהו שהולך לארון.
חלים אותם שני חריגים כמו בכל מקום אחר באתר, ולא יותר מכך — ראו כיצד מטופלות תלונות. איננו בודקים מה פועל על המכונה של הלקוח ואין לנו כל עניין לעשות זאת.
שאר הטווח
אותה סמכות שיפוט, אותה רשת, אותו סירוב לשאול מי המשתמש. הם נבדלים בדבר האחד שמצוין בכל כותרת.
מוכנים להתחיל
אין צורך בחשבון כדי לראות כל מחיר, ואין צורך בזהות כדי להזמין. $229 לחודש מספיקים לשרת שאיש לא ישכנע אותנו לכבות.
לקריאה הבאה
לאן ממשיכים מכאן