Δοκιμάστε και μεταφέρετε το λογισμικό σας σε πραγματικό GB10: aarch64, CUDA, sm_121
Ένα issue λέει ότι η βιβλιοθήκη σας αποτυγχάνει σε DGX Spark, και δεν έχετε κανένα. Ή τα wheels σας χτίζονται σε x86 και κανείς δεν τα έχει δοκιμάσει σε CPU Arm με GPU Blackwell. Νοικιάστε ένα ολόκληρο Spark για τα λεπτά που χρειάζεστε για να το μάθετε: ένα root shell σε NVIDIA GB10 (aarch64, CUDA compute capability 12.1) με εγκατεστημένο το toolkit CUDA 13.0. Με 0,79 $ την ώρα και χρέωση ανά λεπτό, ένας έλεγχος 20 λεπτών κοστίζει περίπου 0,26 $.
Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Χρέωση ανά λεπτό από προπληρωμένη πίστωση. Τερματίστε όταν τελειώσετε και η χρέωση σταματά. Οι περισσότεροι που νοικιάζουν ένα Spark από εμένα ξεκινούν το σκέτο image DGX OS και φέρνουν τη δική τους στοίβα, και γι' αυτό μιλά αυτή η σελίδα.
Τι παίρνετε
| CPU | Arm 20 πυρήνων (10 Cortex-X925 και 10 Cortex-A725), το uname -m δείχνει aarch64 |
|---|---|
| GPU | NVIDIA GB10, γενιά Blackwell, compute capability 12.1 (sm_121) |
| Μνήμη | 128 GB ενοποιημένης LPDDR5x που μοιράζονται CPU και GPU, 273 GB/s |
| Images | DGX OS 7: Ubuntu 24.04 με το toolkit CUDA 13.0 (nvcc), NCCL και NVIDIA DCGM. Ubuntu 24.04: το ίδιο χωρίς DCGM. Και τα δύο έχουν git, tmux, vim, curl και Python 3 με pip και venv. |
| Πρόσβαση | Ένα τερματικό root στον browser χωρίς κλειδί SSH, ή SSH ως root στη θύρα 22 με το δικό σας κλειδί. Κάθε instance έχει τη δική του δημόσια διεύθυνση IPv4 και το hostname <name>.gpuwerk.com. |
| Πώς λειτουργεί | Ένα container με απευθείας πρόσβαση στη GPU: σε πολλά Spark ένα system container με systemd και Docker, στα υπόλοιπα ένα απλό χωρίς κανένα από τα δύο. Μέσα σε αυτό είστε root· ο driver της NVIDIA προέρχεται από τον host. |
| Αποθήκευση | 1 TB NVMe, κοινός με τον host. Το /workspace διατηρείται σε επανεκκινήσεις και ανακατασκευές και διαγράφεται όταν τερματίσετε. |
Το image που λέγεται DGX OS 7 στην κονσόλα είναι δικό μου build: Ubuntu 24.04 συν τα παραπάνω πακέτα, σε container. Δεν είναι το image εγκατάστασης DGX OS της NVIDIA, και το /etc/dgx-release το λέει. Τι εκτελείται σε container, και τι όχι, βρίσκεται στις σημειώσεις για το περιβάλλον χρήστη.
Ένας πρώτος έλεγχος σε πέντε λεπτά
Αναπτύξτε DGX Spark 1× με το image DGX OS, περιμένετε την κατάσταση running και κάντε κλικ στο Open terminal in browser στη σελίδα του instance. Μετά επιβεβαιώστε σε τι βρίσκεστε:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Η τελευταία γραμμή εμφανίζει το GB10 και (12, 1). Ορισμένα builds του PyTorch εμφανίζουν προειδοποίηση ότι το sm_121 δεν είναι συμβατό· συνήθως είναι λάθος, και ο οδηγός PyTorch σε DGX Spark εξηγεί γιατί και ποιο wheel να επιλέξετε.
Build και δοκιμή του έργου σας
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Τρία πράγματα ξαφνιάζουν τον κόσμο σε αυτό το chip:
- Δηλώστε την αρχιτεκτονική. Για τον δικό σας κώδικα CUDA, μεταγλωττίστε με
-gencode=arch=compute_121a,code=sm_121a, ή-DCMAKE_CUDA_ARCHITECTURES=121a-realστο CMake. Η συντομογραφία-arch=sm_121aμπορεί να χάσει το "a" και μαζί του τις εντολές FP4, όπως διαπίστωσε ένα νήμα στο φόρουμ της NVIDIA (λεπτομέρειες στον οδηγό TFLOPS). Ένα build για άλλη αρχιτεκτονική μπορεί να μεταγλωττιστεί καθαρά και μετά να τρέχει άσχημα. - Αναμένετε builds από τον πηγαίο κώδικα. Πολλά πακέτα για aarch64 και sm_121 δεν έχουν wheel, οπότε το pip τα μεταγλωττίζει. Περιορίστε τις παράλληλες εργασίες (
MAX_JOBS=4) ώστε ένα μεγάλο build να μην εξαντλήσει τα 128 GB μνήμης. - Δεν μεταφέρονται όλοι οι kernels για άλλα chips Blackwell. Το sm_121 εκτελεί κώδικα φτιαγμένο για sm_120, αλλά οι kernels γραμμένοι για Blackwell κέντρων δεδομένων (sm_100) όχι, και ορισμένες διαδρομές FP4 έχουν εκτελεστεί χωρίς σφάλματα και έδωσαν λάθος αποτέλεσμα. Ελέγξτε τα αποτελέσματα, όχι μόνο ότι εκτελέστηκε.
Για να πάρετε μαζί σας τα αποτελέσματα του build, αντιγράψτε τα με το δικό σας κλειδί SSH, και μετά τερματίστε:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Εκτελέσεις με scripts από το δικό σας CI
Δεν υπάρχει έτοιμη ενσωμάτωση CI. Αυτό που υπάρχει: ένα API που αναπτύσσει και τερματίζει με το λεπτό, ώστε μια εργασία στον δικό σας runner να δανειστεί ένα Spark, να τρέξει τις δοκιμές της μέσω SSH και να το επιστρέψει. Χρησιμοποιήστε κλειδί API με εύρος instances.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Μια ανάπτυξη χρειάζεται πίστωση για τουλάχιστον μία ώρα (αλλιώς 402) και επιστρέφει 409 όταν κανένα μηχάνημα δεν είναι ελεύθερο, οπότε η εργασία σας πρέπει να το χειρίζεται. Οι αναπτύξεις μέσω API πηγαίνουν σε μηχάνημα στον ΕΟΧ εκτός αν ορίσετε location_country ή partner_region. Όλα τα πεδία βρίσκονται στην τεκμηρίωση του API.
Πόσο κοστίζει ένας έλεγχος
| Συνάντηση | Κόστος με 0,79 $/h |
|---|---|
| Αναπαραγωγή μιας αναφοράς σφάλματος, 20 λεπτά | περίπου 0,26 $ |
| Build και δοκιμή ενός release, 1 ώρα | 0,79 $ |
| Μια μέρα μεταφοράς κώδικα, 8 ώρες | 6,32 $ |
Η χρέωση γίνεται ανά λεπτό από προπληρωμένη πίστωση και ξεκινά μόλις το instance περάσει τον έλεγχο ετοιμότητας. Ο λογαριασμός χρειάζεται πίστωση για μία ώρα για να γίνει ανάπτυξη. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση, περίπου 37 ώρες σε ένα Spark. Ένα σταματημένο instance διατηρεί τον χώρο εργασίας του και χρεώνεται με το 75% της ωριαίας τιμής· τερματίστε το όταν τελειώσετε και η χρέωση σταματά, κάτι που διαγράφει τον χώρο εργασίας. Οι τιμές δεν περιλαμβάνουν ΦΠΑ, όπου εφαρμόζεται.
Τι δεν μπορεί να σας πει ένα νοικιασμένο GB10
- Είναι container, όχι bare metal. Δεν μπορείτε να φορτώσετε kernel modules ή να αλλάξετε τον driver, και η έκδοση του driver είναι όποια εκτελεί ο host. Οι παλινδρομήσεις του driver είναι εκτός εμβέλειας εδώ.
- Το Docker εξαρτάται από το μηχάνημα. Πολλά Spark εκτελούν το instance σας ως system container με δικό του daemon Docker, οπότε τα
docker buildκαιdocker runλειτουργούν· άλλα εκτελούν ένα απλό container χωρίς αυτό, και δεν μπορείτε να επιλέξετε ποιο. Δείτε τη σελίδα περιβάλλοντος ενοικιαστή. - Ένα chip. Η επιτυχία σε GB10 δεν λέει τίποτα για Grace Hopper (sm_90), Blackwell κέντρων δεδομένων (sm_100) ή Jetson. Τα μηχανήματα GB10 άλλων κατασκευαστών μοιράζονται το chip αλλά μπορεί να διαφέρουν στο firmware.
- Το systemd εξαρτάται από το μηχάνημα. Πολλά Spark εκτελούν systemd στο instance σας· τα υπόλοιπα εκτελούν ένα απλό container χωρίς αυτό ή
NET_ADMIN, όπου ξεκινάτε υπηρεσίες από shell, tmux ή το startup hook. Σε κάθε περίπτωση δεν υπάρχει συσκευή TUN, οπότε οι clients VPN σε επίπεδο πυρήνα δεν λειτουργούν. - Χωρίς SLA και χωρίς αντίγραφα ασφαλείας. Αντιγράψτε ό,τι χρειάζεστε από το μηχάνημα πριν το τερματίσετε.
Πού βρίσκονται τα Spark
Αυτό λειτουργεί σε κάθε τοποθεσία, επειδή τα Spark συνεργατών προσφέρουν τα ίδια images DGX OS και Ubuntu. Τα δικά μου Spark βρίσκονται σε κέντρο δεδομένων στο Hradec Králové της Τσεχικής Δημοκρατίας. Τα Spark συνεργατών ανήκουν σε συνεργάτες και φιλοξενούνται στις δικές τους εγκαταστάσεις στις ΗΠΑ, τη Σουηδία, την Ολλανδία, τη Σλοβακία και το Χονγκ Κονγκ, και ένας συνεργάτης έχει φυσική πρόσβαση στο μηχάνημά του. Η κονσόλα δείχνει τη χώρα, και αν είναι στον ΕΟΧ, πριν κάνετε ανάπτυξη.
Ποιος το διαχειρίζεται
Το GPUwerk είναι μια νέα πλατφόρμα, και πίσω της βρίσκομαι εγώ: ο Samuel Seidel, ιδρυτής, με την εταιρεία PRINT IT! SE, εγγεγραμμένη στην Πράγα. Από τον Σεπτέμβριο του 2026, 94 developers έχουν ξεκινήσει 374 instances σε αυτήν (στις 9 Νοεμβρίου 2026). Η διαθεσιμότητα και τα περιστατικά βρίσκονται στο status.gpuwerk.com. Αν δεν είστε σίγουροι ότι η στοίβα σας θα τρέξει, γράψτε μου μέσω της σελίδας επικοινωνίας πριν πληρώσετε· απαντώ προσωπικά.
Συχνές ερωτήσεις
Ποια έκδοση CUDA υπάρχει στο μηχάνημα;
Και τα δύο images, DGX OS 7 και Ubuntu 24.04, περιέχουν το toolkit CUDA 13.0 με nvcc και NCCL. Ο driver της NVIDIA προέρχεται από τον host και δεν μπορεί να αλλάξει μέσα από το instance.
Είναι το image DGX OS το DGX OS της NVIDIA;
Όχι. Είναι δικό μου build σε container: Ubuntu 24.04 με το toolkit CUDA 13.0, NCCL και NVIDIA DCGM. Το /etc/dgx-release το ταυτοποιεί ως image του GPUwerk.
Μπορώ να φτιάξω Docker images σε αυτό;
Σε ορισμένα μηχανήματα, ναι: πολλά νοικιασμένα Spark εκτελούν το instance σας ως system container με δικό του daemon Docker, οπότε τα docker build και docker run --gpus all εκτελούνται εγγενώς σε arm64. Άλλα εκτελούν ένα απλό container χωρίς Docker. Δεν μπορείτε να επιλέξετε ποιο· το docker info σάς λέει ποιο έχετε.
Πόσο κοστίζει μια σύντομη δοκιμή;
Περίπου 0,26 $ για 20 λεπτά με 0,79 $ την ώρα, με χρέωση ανά λεπτό από προπληρωμένη πίστωση. Για ανάπτυξη, ο λογαριασμός χρειάζεται πίστωση για μία ώρα. Τερματίστε όταν τελειώσετε και η χρέωση σταματά· αυτό διαγράφει τον χώρο εργασίας.