Ιδιωτική φιλοξενία LLM στο EU-Central

Τα μοντέλα σας. Τα δεδομένα σας. Ένας χρήστης: εσείς.

Ιδιωτική φιλοξενία LLM σε ολόκληρα αποκλειστικά μηχανήματα στο EU-Central. Τα δεδομένα σας επεξεργάζονται στην ΕΕ, δεν χρησιμοποιούνται ποτέ για εκπαίδευση, και κανένας άλλος πελάτης δεν αγγίζει ποτέ τη GPU σας.

0,79 $/ώρα, με χρέωση ανά λεπτό · πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση στην πρώτη σας ανανέωση υπολοίπου

Με μια ματιά.

1χρήστης

Ένας χρήστης ανά μηχάνημα

Ένα ολόκληρο αποκλειστικό μηχάνημα, που σας ανατίθεται. Χωρίς κοινόχρηστες GPU.

0

Υποεκτελούντες για φόρτους εργασίας

Στις βαθμίδες του ίδιου του GPUwerk. Η λίστα υποεκτελούντων είναι σύντομη: κανένας για φόρτους εργασίας instances εκεί· η βαθμίδα Partner εκτελείται σε host συνεργάτη.

Άρθρο28

Σύμβαση επεξεργασίας δεδομένων GDPR

Δημοσιευμένη στο /legal/dpa, χωρίς χρέωση.

Οι τρεις φόβοι

Οι τρεις φόβοι, απαντημένοι.

Κάθε εταιρεία με την οποία μιλάω έρχεται με τις ίδιες τρεις ανησυχίες. Δείτε ακριβώς πώς αντιμετωπίζεται η καθεμία.

«Τα δεδομένα μας φεύγουν από την ΕΕ»

Δεν ισχύει. Το υλικό βρίσκεται φυσικά στο EU-Central και λειτουργεί από την PRINT IT! SE, μια Societas Europaea εγγεγραμμένη στην Πράγα. Δεν υπάρχει αμερικανική μητρική εταιρεία και, στις βαθμίδες του ίδιου του GPUwerk, καμία αμερικανική περιοχή πίσω από αυτό το μηχάνημα. Οι λίγες υπηρεσίες που χρησιμοποιεί το GPUwerk γύρω από αυτό, όπως τα συναλλακτικά email, αναφέρονται με τους παρόχους και τις χώρες τους στη λίστα υποεκτελούντων. Η τοποθεσία δεδομένων δεν είναι ένα κουτάκι σε έναν πίνακα ρυθμίσεων, είναι το σημείο όπου το μηχάνημα βιδώνεται στο rack.

«Ο πάροχος εκπαιδεύει μοντέλα στα δεδομένα μας»

Το GPUwerk λειτουργεί υποδομή, όχι μοντέλα: τα prompts και τα έγγραφά σας επεξεργάζονται στο αποκλειστικό σας μηχάνημα, από λογισμικό που εγκαταστήσατε εσείς, προσβάσιμο μόνο μέσω των κλειδιών SSH σας και του τερματικού στον browser της κονσόλας σας. Όπως σε κάθε φιλοξενούμενη υπηρεσία, το GPUwerk διατηρεί πρόσβαση διαχειριστή υποδομής στο υποκείμενο μηχάνημα, αλλά ως θέμα πολιτικής που ορίζεται στη σύμβαση επεξεργασίας δεδομένων του GPUwerk, το GPUwerk δεν έχει πρόσβαση στο περιεχόμενο του χώρου εργασίας σας παρά μόνο κατόπιν αιτήματός σας για υποστήριξη ή όπου το απαιτεί νομική υποχρέωση, οπότε δεν υπάρχει τίποτα για εκπαίδευση. Ούτως ή άλλως, είναι γραμμένο στη σύμβαση. Η μόνη εκπαίδευση που γίνεται είναι η δική σας, στα δικά σας δεδομένα.

«Οι εργαζόμενοι επικολλούν μυστικά στο ChatGPT»

Ο αποκλεισμός το μεταφέρει στα προσωπικά κινητά. Η λύση είναι μια εγκεκριμένη εναλλακτική εξίσου βολική: ένας βοηθός κατηγορίας ChatGPT στο δικό σας instance, ίδια διεπαφή συνομιλίας, ίδιο API, και κάθε prompt μένει σε ένα αποκλειστικό μηχάνημα που ανατίθεται μόνο σε εσάς. Δείτε τη ρύθμιση ιδιωτικού ChatGPT →

Για τον DPO σας

Γραμμένο ώστε να το προωθήσει ο DPO σας.

Η εικόνα της συμμόρφωσης σε έναν πίνακα, σε απλή γλώσσα, χωρίς μάρκετινγκ.

ΕρώτησηΑπάντηση
Πού επεξεργάζονται φυσικά τα δεδομένα;EU-Central, σε αποκλειστικό μηχάνημα ενός χρήστη που σας ανατίθεται
Ποιος είναι ο φορέας λειτουργίας;PRINT IT! SE, μια Societas Europaea εγγεγραμμένη στην Πράγα, Τσεχική Δημοκρατία (Αριθμός εταιρείας 069 60 090). Χωρίς μητρική εταιρεία εκτός ΕΕ.
Ποιος έχει πρόσβαση στο περιεχόμενο του instance;Μέσω του ίδιου του instance, μόνο όσοι έχουν τα κλειδιά SSH σας, και εσείς μέσω του τερματικού στον browser στην κονσόλα σας του GPUwerk· η σύνδεση με κωδικό είναι απενεργοποιημένη σε όλο τον στόλο. Το GPUwerk διατηρεί πρόσβαση διαχειριστή υποδομής στο υποκείμενο μηχάνημα, όπως σε κάθε φιλοξενούμενη υπηρεσία, και σύμφωνα με τη DPA δεν τη χρησιμοποιεί στο περιεχόμενό σας παρά μόνο κατόπιν αιτήματός σας για υποστήριξη ή όπου το απαιτεί νομική υποχρέωση. Το endpoint HTTPS ενός image μοντέλου είναι προσβάσιμο από οποιονδήποτε έχει το URL μέχρι να βάλετε μπροστά του έναν proxy ταυτοποίησης όπως το LiteLLM.
Διαβάζει το GPUwerk δεδομένα prompts ή μοντέλων;Όχι. Το GPUwerk φιλοξενεί το υλικό και διαχειρίζεται τη χρέωση και, σύμφωνα με τη DPA, δεν έχει πρόσβαση, δεν διαβάζει, δεν αντιγράφει, δεν ευρετηριάζει ούτε αναλύει το περιεχόμενο των φόρτων εργασίας
Χρησιμοποιούνται δεδομένα πελατών για εκπαίδευση;Όχι, βάσει σύμβασης, και αφού το GPUwerk δεν έχει πρόσβαση στο περιεχόμενό σας δεν υπάρχει τίποτα για εκπαίδευση
Υποεκτελούντες για φόρτους εργασίας;Κανένας στις βαθμίδες του ίδιου του GPUwerk (η βαθμίδα Partner εκτελείται σε host συνεργάτη)
DPA (GDPR Άρθρο 28);Δημοσιευμένη στο /legal/dpa, χωρίς χρέωση
Δεδομένα κατά τον τερματισμό;Το container και ο τόμος του χώρου εργασίας διαγράφονται από τον κόμβο, και ο κόμβος καθαρίζεται πριν προσφερθεί σε οποιονδήποτε άλλον. Διαγραφή στο σύστημα αρχείων, όχι κρυπτογραφική διαγραφή.

Αρχιτεκτονική

Η αρχιτεκτονική είναι το επιχείρημα.

Λίγα βέλη, το καθένα τεκμηριωμένο: τόσο συντομότερος ο έλεγχος από τον DPO.

your office / VPN            your apps
      │                          │
      │  SSH (keys only,         │  HTTPS model endpoint
      │  dedicated IP)           │  (add an auth proxy)
      ▼                          ▼
┌────────────────────────────────────────────┐
│  your dedicated DGX Spark · EU-Central     │
│  model · vector store · chat UI · API      │
│  128 GB unified memory · 1 TB NVMe         │
└────────────────────────────────────────────┘

      two arrows, both listed in the DPA.

Το σταθμίζετε έναντι ενός API ανά token; Διαβάστε ιδιωτική φιλοξενία LLM έναντι OpenAI API ή ιδιωτική φιλοξενία LLM έναντι Azure AI Foundry για τοποθεσία δεδομένων, ποιος μπορεί να δει τα prompts σας και μετρημένη απόδοση.

Ρυθμιζόμενοι κλάδοι

Υγεία, νομικά, χρηματοοικονομικά και δημόσιος τομέας.

Οι ομάδες σε αυτούς τους τομείς κάνουν τις ίδιες τρεις ερωτήσεις: πού βρίσκεται το μηχάνημα, ποιος άλλος μπορεί να το φτάσει, και τι λέει η σύμβαση. Οι απαντήσεις είναι ίδιες για κάθε κλάδο. Το μηχάνημα βρίσκεται στο EU-Central και ανατίθεται σε έναν πελάτη. Το GPUwerk διατηρεί τυπική πρόσβαση διαχειριστή για να το λειτουργεί, και η DPA κατά το Άρθρο 28 και η λίστα υποεκτελούντων ορίζουν τι καλύπτει αυτή.

Ένα αποκλειστικό μηχάνημα δεν κάνει από μόνο του έναν φόρτο εργασίας συμμορφούμενο. Ιατρικοί φάκελοι, εμπιστευτικοί δικαστικοί φάκελοι, δεδομένα πληρωμών και δεδομένα πολιτών έχουν ο καθένας τους δικούς του κανόνες, και ο DPO ή ο νομικός σας σύμβουλος αποφασίζει αν αυτή η ρύθμιση τους πληροί. Η σελίδα GDPR και ο EU AI Act σε αποκλειστικό υλικό απαριθμεί τα στοιχεία που μπορεί να παραδώσει το GPUwerk.

Οδηγοί

Συγκρίσεις παρόχων.

Οι συγκρίσεις με τιμές ελεγμένες στη σελίδα κάθε παρόχου. Το ευρετήριο συγκρίσεων παραθέτει κάθε άλλο πάροχο.

Πώς συγκρίνεται

Ένα αποκλειστικό Spark στην ΕΕ έναντι των APIs ανά token με τα οποία το συγκρίνουν οι αγοραστές. Τοποθεσία δεδομένων, ποιος μπορεί να δει τα prompts σας και πού υπερέχει το καθένα.Περιηγηθείτε σε 11 οδηγούς

Συχνές ερωτήσεις συμμόρφωσης.

Συμμορφώνεται με τον GDPR;

Το GPUwerk παρέχει τα στοιχεία που χρειάζεστε: υλικό και λειτουργίες στο EU-Central, σύμβαση επεξεργασίας δεδομένων κατά το Άρθρο 28, κανέναν υποεκτελούντα για φόρτους εργασίας στις βαθμίδες του ίδιου του GPUwerk, και αποκλειστικά μηχανήματα ενός χρήστη στο περιεχόμενο των οποίων το GPUwerk δεν έχει πρόσβαση, δεν το διαβάζει, δεν το αντιγράφει, δεν το ευρετηριάζει ούτε το αναλύει. Υπάρχει πρόσβαση διαχειριστή υποδομής στο υποκείμενο μηχάνημα, όπως σε κάθε φιλοξενούμενη υπηρεσία, και σύμφωνα με τη DPA δεν χρησιμοποιείται στο περιεχόμενό σας παρά μόνο κατόπιν αιτήματός σας για υποστήριξη ή όπου το απαιτεί νομική υποχρέωση. Παραμένετε ο υπεύθυνος επεξεργασίας, οπότε τη συμμόρφωση της ίδιας της επεξεργασίας τη βεβαιώνετε εσείς.

Υπογράφετε DPA;

Ναι, μια τυπική DPA κατά το Άρθρο 28 του GDPR δημοσιεύεται στο /legal/dpa χωρίς χρέωση. Η λίστα υποεκτελούντων του GPUwerk για φόρτους εργασίας είναι σύντομη: στις βαθμίδες του ίδιου του GPUwerk δεν υπάρχει κανένας· η βαθμίδα Partner εκτελείται σε host συνεργάτη.

Μπορεί ο DPO μας να ελέγξει τη ρύθμιση;

Ναι. Το GPUwerk παρέχει τεκμηρίωση της φυσικής τοποθεσίας, των ελέγχων πρόσβασης και των διαδικασιών διαγραφής, και απαντά απευθείας σε ερωτηματολόγια DPO. Στείλτε τις ερωτήσεις του DPO σας.

Τι γίνεται με τα δεδομένα μας όταν τερματίζουμε;

Ο τερματισμός διαγράφει το container σας και τον τόμο /workspace του από τον κόμβο. Πριν προσφερθεί αυτός ο κόμβος σε άλλον πελάτη, καθαρίζεται: κάθε container και τόμος ενοικιαστή αφαιρείται, και ο κόμβος αποτυγχάνει στον έλεγχο ετοιμότητας και δεν διατίθεται όσο υπάρχει κάποιος από αυτούς. Πρόκειται για διαγραφή σε επίπεδο συστήματος αρχείων. Το GPUwerk δεν χρησιμοποιεί δίσκους με αυτοκρυπτογράφηση ή κρυπτογράφηση πλήρους δίσκου στους κόμβους, οπότε δεν ισχυρίζεται κρυπτογραφική διαγραφή. Το GPUwerk δεν κρατά αντίγραφο του χώρου εργασίας σας πουθενά αλλού: ούτε αντίγραφο ασφαλείας ούτε αντίγραφο ανάκτησης. Αν αποτύχει ένας δίσκος, ο χώρος εργασίας σε αυτόν χάνεται, οπότε κρατήστε δικό σας αντίγραφο. Αν η πίστωσή σας μηδενιστεί ή φτάσετε τον μηνιαίο προϋπολογισμό σας, το instance σταματά και το μηχάνημά του αποδεσμεύεται. Ο χώρος εργασίας μένει σε αυτό το μηχάνημα για έως 48 ώρες. Προσθέστε υπόλοιπο ή αυξήστε τον προϋπολογισμό και ξεκινήστε το ξανά σε αυτό το διάστημα και συνεχίζει από εκεί που σταμάτησε, εκτός αν κάποιος άλλος έχει νοικιάσει το μηχάνημα, κάτι που τον διαγράφει νωρίτερα. Μετά από 48 ώρες διαγράφεται οριστικά. Τα email χαμηλού υπολοίπου σάς προειδοποιούν πριν συμβεί αυτό· η αυτόματη ανανέωση υπολοίπου το κάνει λιγότερο πιθανό, αλλά μια πληρωμή μπορεί να αποτύχει.

Καλύπτει αυτό και τον EU AI Act, όχι μόνο τον GDPR;

Το αποκλειστικό υλικό δεν αλλάζει την κατηγορία κινδύνου σας κατά τον EU AI Act ούτε την ιδιότητά σας ως παρόχου/φορέα εφαρμογής· αυτά εξαρτώνται από το τι κάνει το σύστημά σας, όχι από το πού εκτελείται. Αυτό που σας δίνει είναι μια καθαρή απάντηση στο ποιος έχει πρόσβαση στα δεδομένα σας όσο εκτελείται το μοντέλο, χρήσιμο τεκμήριο για τις υποχρεώσεις του φορέα εφαρμογής που αντιμετωπίζουν στην πράξη οι περισσότερες εταιρείες με αυτοφιλοξενία. Δείτε GDPR και EU AI Act σε αποκλειστικό υλικό για τη συνολική εικόνα σε μία σελίδα.

Πέρα από την υποδομή

Πρακτικό πακέτο εφαρμογής.

Αν χρειάζεστε περισσότερα από υποδομή, μπορώ να προσθέσω μια οριοθετημένη συνεργασία με σαφή παραδοτέα για την ένταξη της ομάδας και την ενσωμάτωση.

  1. Υποβολή έργου

    Ορίστε τα όρια της περίπτωσης χρήσης, τους στόχους καθυστέρησης και ποιος έχει την ευθύνη έγκρισης για παραγωγή.

  2. Εκπαίδευση ομάδας

    Πρακτικές συναντήσεις για ποιότητα prompts, μοτίβα διακυβέρνησης και συνήθεις λειτουργίες.

  3. Οδικός χάρτης ενσωμάτωσης

    Σχεδιάστε την εφαρμογή του API, μαζί με το τι πρέπει να κάνουν τα εργαλεία σας όταν το instance είναι σταματημένο ή απασχολημένο.

Δείτε πώς λειτουργεί η συνεργασία

Ζωντανέψτε το έργο AI σας.

Αναπτύξτε ένα Spark και δοκιμάστε το μόνοι σας, ή ρωτήστε τον άνθρωπο που διαχειρίζεται τα racks. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση.