Hosting di LLM privati in EU-Central
I tuoi modelli. I tuoi dati. Un solo tenant: tu.
Hosting di LLM privati su intere macchine dedicate in EU-Central. I tuoi dati vengono trattati nell'UE, mai usati per il training, e nessun altro cliente tocca mai la tua GPU.
0 $,79/ora, fatturati al minuto · paghi 20 $, ricevi 30 $ di credito alla prima ricarica
In sintesi.
Un tenant per macchina
Un'intera macchina dedicata, assegnata a te. Nessuna GPU condivisa.
Sub-responsabili per i carichi di lavoro
Sui livelli di GPUwerk. L'elenco dei sub-responsabili è breve: nessuno per i carichi di lavoro delle istanze lì; il livello Partner gira su un host partner.
Accordo GDPR sul trattamento dei dati
Pubblicato su /legal/dpa, gratuitamente.
Le tre paure
Le tre paure, con le risposte.
Ogni azienda con cui parlo arriva con le stesse tre preoccupazioni. Ecco esattamente come viene gestita ciascuna.
"I nostri dati lasciano l'UE"
Non lo fa. L'hardware si trova fisicamente in EU-Central ed è gestito da PRINT IT! SE, una Societas Europaea registrata a Praga. Non c'è una capogruppo statunitense e, sui livelli di GPUwerk, nessuna regione USA dietro quella macchina. I pochi servizi che GPUwerk usa attorno a essa, come l'email transazionale, sono elencati con i loro fornitori e paesi nell'elenco dei sub-responsabili. La residenza dei dati non è una casella in un pannello di impostazioni, è il rack a cui è avvitata la macchina.
"Il fornitore addestra sui nostri dati"
GPUwerk gestisce l'infrastruttura, non i modelli: i tuoi prompt e documenti vengono elaborati sulla tua macchina dedicata, da software che hai installato tu, raggiungibile solo tramite le tue chiavi SSH e il terminale nel browser della tua console. Come per qualsiasi servizio in hosting, GPUwerk mantiene l'accesso amministrativo di infrastruttura alla macchina sottostante, ma per politica stabilita nell'accordo sul trattamento dei dati di GPUwerk, GPUwerk non accede ai contenuti del tuo workspace se non su tua richiesta per assistenza o quando lo impone un obbligo di legge, quindi non c'è nulla su cui addestrare. In ogni caso è scritto nel contratto. L'unico training che avviene è il tuo, sui tuoi dati.
"I dipendenti incollano segreti in ChatGPT"
Bloccare lo sposta sui telefoni personali. La soluzione è un'alternativa approvata altrettanto comoda: un assistente di classe ChatGPT sulla tua istanza, stessa interfaccia di chat, stessa API, ogni prompt che resta su una macchina dedicata assegnata solo a te. Vedi la configurazione del ChatGPT privato →
Per il tuo DPO
Scritto perché il tuo DPO possa inoltrarlo.
Il quadro della conformità in un'unica tabella, in linguaggio semplice, senza marketing.
| Domanda | Risposta |
|---|---|
| Dove vengono trattati fisicamente i dati? | EU-Central, su una macchina dedicata a tenant singolo assegnata a te |
| Chi è l'operatore? | PRINT IT! SE, una Societas Europaea registrata a Praga, Repubblica Ceca (numero di identificazione 069 60 090). Nessuna capogruppo extra-UE. |
| Chi può accedere al contenuto dell'istanza? | Tramite l'istanza stessa, solo chi possiede le tue chiavi SSH, e tu tramite il terminale nel browser della tua console GPUwerk; il login con password è disattivato su tutta la flotta. GPUwerk mantiene l'accesso amministrativo di infrastruttura alla macchina sottostante, come per qualsiasi servizio in hosting, e ai sensi del DPA non lo usa sui tuoi contenuti se non su tua richiesta per assistenza o quando lo impone un obbligo di legge. L'endpoint HTTPS di un'immagine con modello è raggiungibile da chiunque abbia l'URL finché non metti davanti un proxy di autenticazione come LiteLLM. |
| GPUwerk legge i prompt o i dati del modello? | No. GPUwerk ospita l'hardware e gestisce la fatturazione e, ai sensi del DPA, non accede, legge, copia, indicizza né analizza il contenuto dei carichi di lavoro |
| Vengono usati dati dei clienti per il training? | No, per contratto, e dato che GPUwerk non accede ai tuoi contenuti non c'è nulla su cui addestrare |
| Sub-responsabili per i carichi di lavoro? | Nessuno sui livelli di GPUwerk (il livello Partner gira su un host partner) |
| DPA (art. 28 GDPR)? | Pubblicato su /legal/dpa, gratuitamente |
| Dati alla terminazione? | Container e volume del workspace eliminati dal nodo, nodo sanificato prima di essere offerto a chiunque altro. Cancellazione a livello di filesystem, non una cancellazione crittografica. |
Architettura
È l'architettura a fare la differenza.
Poche frecce, ognuna documentata: più breve la revisione del DPO.
your office / VPN your apps
│ │
│ SSH (keys only, │ HTTPS model endpoint
│ dedicated IP) │ (add an auth proxy)
▼ ▼
┌────────────────────────────────────────────┐
│ your dedicated DGX Spark · EU-Central │
│ model · vector store · chat UI · API │
│ 128 GB unified memory · 1 TB NVMe │
└────────────────────────────────────────────┘
two arrows, both listed in the DPA.
Stai valutando invece un'API a token? Leggi hosting di LLM privati vs l'API di OpenAI o hosting di LLM privati vs Azure AI Foundry per ubicazione dei dati, chi può vedere i tuoi prompt e throughput misurato.
Settori regolamentati
Sanità, settore legale, finanza e pubblica amministrazione.
I team di questi settori fanno le stesse tre domande: dove si trova la macchina, chi altro può raggiungerla e cosa dice il contratto. Le risposte sono le stesse per ogni settore. La macchina è in EU-Central e assegnata a un solo cliente. GPUwerk mantiene l'accesso amministrativo standard per gestirla, e il DPA ai sensi dell'articolo 28 e l'elenco dei sub-responsabili definiscono cosa copre.
Una macchina dedicata da sola non rende conforme un carico di lavoro. Cartelle cliniche, fascicoli riservati, dati di pagamento e dati dei cittadini hanno ciascuno le proprie regole, e il tuo DPO o il tuo legale decide se questa configurazione le soddisfa. GDPR e AI Act UE su hardware dedicato elenca le prove che GPUwerk può fornire.
Guide
Confronti tra fornitori.
I confronti con prezzi verificati sulla pagina di ciascun fornitore. L'indice dei confronti elenca tutti gli altri fornitori.
Il confronto
Una Spark dedicata nell'UE a confronto con le API a token con cui gli acquirenti la confrontano. Ubicazione dei dati, chi può vedere i tuoi prompt e dove vince ciascuna.Sfoglia 11 guide
- Hosting di LLM privati vs l'API di OpenAI per le aziende UEUbicazione dei dati, chi può vedere i tuoi prompt, tok/s misurati e dove vince ciascuno.8 min di lettura
- Hosting di LLM privati vs Azure AI Foundry per le aziende UECatalogo dei modelli, ubicazione dei dati, modello di prezzo e dove vince ciascuno.8 min di lettura
- Hosting di LLM privati vs l'API di Anthropic per le aziende UEUbicazione dei dati, chi può vedere i tuoi prompt, tok/s misurati e dove vince ciascuno.8 min di lettura
- Hosting di LLM privati vs RunPodRunPod è un marketplace GPU su molti host e tipi di GPU. Il confronto riguarda chi gestisce davvero la macchina, non solo la locazione.8 min di lettura
- Hosting di LLM privati vs GroqL'hardware LPU di Groq è davvero veloce, più della maggior parte dell'inferenza su GPU. Una DGX Spark dedicata compete su un altro asse: hardware a tenant singolo e controllo dei dati, non la velocità pura.8 min di lettura
- Hosting di LLM privati vs Together AITogether AI esegue un ampio catalogo di modelli aperti su infrastruttura condivisa multi-tenant. Una DGX Spark dedicata è una macchina, che esegue il tuo modello, con le tue chiavi.8 min di lettura
- Hosting di LLM privati vs Lambda Labs per le aziende UEIl confronto più simile per struttura a GPUwerk, con differenze soprattutto su regione e hardware. Dove vince ciascuno.8 min di lettura
- Hosting di LLM privati vs Scaleway per le aziende UEDue opzioni con sede nell'UE, una mirata e a prezzo fisso, l'altra un ampio cloud generalista. Dove vince ciascuno.8 min di lettura
- Hosting di LLM privati vs server GPU Hetzner per le aziende UEHardware dedicato conveniente da un noto host tedesco, a confronto con una macchina a memoria unificata costruita per l'inferenza. Dove vince ciascuno.8 min di lettura
- Hosting di LLM privati vs CoreWeave per le aziende UEUna DGX Spark dedicata nell'UE a 0 $,79/ora contro il GPU cloud enterprise di CoreWeave: scala dei cluster, minimi contrattuali, ubicazione dei dati e dove si colloca davvero ciascuno.8 min di lettura
- Hosting di LLM privati vs Vast.ai per le aziende UEUna DGX Spark dedicata nell'UE a 0 $,79/ora contro il marketplace GPU peer-to-peer di Vast.ai: chi possiede davvero la macchina, ubicazione dei dati, affidabilità e dove vince ciascuno.8 min di lettura
- IA privata vs ChatGPT EnterpriseDove finiscono i controlli contrattuali di ChatGPT Enterprise e dove inizia la residenza dei dati di una macchina dedicata.7 min di lettura
- DGX Spark vs istanze GPU cloudPossedere una Spark dedicata contro noleggiare ore GPU a token o a ore, confrontati su costo e controllo.7 min di lettura
- LLM self-hosted vs piattaforme gestiteCosa ti assumi quando esegui tu il modello, e cosa una piattaforma gestita lascia comunque nelle tue mani.7 min di lettura
FAQ sulla conformità.
È conforme al GDPR?
GPUwerk fornisce le prove che ti servono: hardware e operazioni in EU-Central, un accordo sul trattamento dei dati ai sensi dell'articolo 28, nessun sub-responsabile per i carichi di lavoro sui livelli di GPUwerk, e macchine dedicate a tenant singolo al cui contenuto GPUwerk non accede e che non legge, copia, indicizza né analizza. L'accesso amministrativo di infrastruttura alla macchina sottostante esiste, come per qualsiasi servizio in hosting, e ai sensi del DPA non viene usato sui tuoi contenuti se non su tua richiesta per assistenza o quando lo impone un obbligo di legge. Resti il titolare del trattamento, quindi la conformità del trattamento stesso la dichiari tu.
Firmate un DPA?
Sì, un DPA standard ai sensi dell'articolo 28 GDPR è pubblicato su /legal/dpa gratuitamente. L'elenco dei sub-responsabili di GPUwerk per i carichi di lavoro è breve: sui livelli di GPUwerk non ce ne sono; il livello Partner gira su un host partner.
Il nostro DPO può verificare la configurazione?
Sì. GPUwerk fornisce documentazione sull'ubicazione fisica, sui controlli di accesso e sulle procedure di cancellazione, e risponde direttamente ai questionari del DPO. Invia le domande del tuo DPO.
Cosa succede ai nostri dati quando terminiamo?
La terminazione elimina il tuo container e il suo volume /workspace dal nodo. Prima che quel nodo venga offerto a un altro cliente viene sanificato: ogni container e volume dei tenant viene rimosso, e il nodo non supera il controllo di disponibilità e non viene assegnato finché ne resta qualcuno. Si tratta di una cancellazione a livello di filesystem. GPUwerk non usa sui nodi drive autocrittografanti né la crittografia dell'intero disco, quindi non dichiara una cancellazione crittografica. GPUwerk non conserva copie del tuo workspace altrove: nessun backup e nessuna copia di ripristino. Se un drive si guasta, il workspace su di esso va perso, quindi conserva una tua copia. Se il credito arriva a zero o raggiungi il budget mensile, l'istanza viene arrestata e la sua macchina rilasciata. Il workspace resta su quella macchina fino a 48 ore. Ricarica o aumenta il budget e riavviala entro quel tempo e riprende da dove si era fermata, a meno che qualcun altro non abbia noleggiato la macchina, il che lo elimina prima. Dopo 48 ore viene eliminato definitivamente. Le email di saldo basso ti avvisano prima che succeda; la ricarica automatica lo rende meno probabile, ma un pagamento può non andare a buon fine.
Copre anche l'AI Act UE, non solo il GDPR?
L'hardware dedicato non cambia la tua categoria di rischio ai sensi dell'AI Act UE né il tuo ruolo di fornitore/deployer: dipendono da cosa fa il tuo sistema, non da dove gira. Quello che ti dà è una risposta chiara su chi può accedere ai tuoi dati mentre il modello è in esecuzione, una prova utile per gli obblighi lato deployer che la maggior parte delle aziende in self-hosting affronta davvero. Vedi GDPR e AI Act UE su hardware dedicato per il quadro complessivo in un'unica pagina.
Oltre l'infrastruttura
Pacchetto pratico per il rollout.
Se ti serve più dell'infrastruttura, posso aggiungere un incarico delimitato con risultati chiari per l'onboarding e l'integrazione del team.
Modulo del progetto
Definisci i confini del caso d'uso, gli obiettivi di latenza e chi approva il passaggio in produzione.
Formazione del team
Sessioni pratiche su qualità dei prompt, schemi di governance e operazioni comuni.
Roadmap di integrazione
Pianifica il rollout dell'API, compreso cosa devono fare i tuoi strumenti quando l'istanza è arrestata o occupata.
Dai vita al tuo progetto di IA.
Avvia una Spark e provala tu, oppure chiedi a chi gestisce i rack. Prima ricarica: paghi 20 $, ricevi 30 $ di credito.