Alojamento de LLM privado em EU-Central
Os seus modelos. Os seus dados. Um inquilino: o cliente.
Alojamento de LLM privado em máquinas dedicadas inteiras em EU-Central. Os seus dados são tratados na UE, nunca usados para treino, e nenhum outro cliente toca alguma vez na sua GPU.
$ 0,79/hora, faturado ao minuto · pague $ 20, receba $ 30 em crédito no seu primeiro carregamento
Resumo.
Um inquilino por máquina
Uma máquina dedicada inteira, atribuída a si. Sem GPUs partilhadas.
Subcontratantes para cargas de trabalho
Nos níveis próprios da GPUwerk. A lista de subcontratantes é curta: nenhum para cargas de trabalho de instâncias aí; o nível Partner corre num parceiro anfitrião.
Acordo de tratamento de dados RGPD
Publicado em /legal/dpa, gratuito.
Os três receios
Os três receios, respondidos.
Todas as empresas com quem falo chegam com as mesmas três preocupações. Eis exatamente como cada uma é tratada.
"Os nossos dados saem da UE"
Não fica. O hardware está fisicamente em EU-Central e é operado pela PRINT IT! SE, uma Societas Europaea registada em Praga. Não há empresa-mãe norte-americana e, nos níveis próprios da GPUwerk, não há região norte-americana por trás dessa máquina. Os poucos serviços que a GPUwerk usa à volta dela, como o email transacional, estão listados com os respetivos fornecedores e países na lista de subcontratantes. A residência de dados não é uma caixa de verificação num painel de definições; é onde a máquina está aparafusada ao rack.
"O fornecedor treina com os nossos dados"
A GPUwerk opera infraestrutura, não modelos: os seus prompts e documentos são processados na sua máquina dedicada, por software que instalou, acessível apenas através das suas chaves SSH e do terminal no navegador da sua consola. Como em qualquer serviço alojado, a GPUwerk mantém acesso de administrador de infraestrutura à máquina subjacente, mas, por política definida no acordo de tratamento de dados da GPUwerk, a GPUwerk não acede ao conteúdo do seu espaço de trabalho, exceto a seu pedido para suporte ou quando uma obrigação legal o exija, por isso não há nada com que treinar. De qualquer forma, está no contrato. O único treino que acontece é o seu, com os seus próprios dados.
"Os funcionários colam segredos no ChatGPT"
Bloquear empurra o uso para os telemóveis pessoais. A solução é uma alternativa aprovada igualmente cómoda: um assistente da classe do ChatGPT na sua própria instância, a mesma interface de chat, a mesma API, com cada prompt a ficar numa máquina dedicada atribuída só a si. Veja a configuração de ChatGPT privado →
Para o seu DPO
Escrito para o seu DPO reencaminhar.
O panorama de conformidade numa tabela, em linguagem simples, sem marketing.
| Pergunta | Resposta |
|---|---|
| Onde são fisicamente tratados os dados? | EU-Central, numa máquina dedicada de inquilino único atribuída a si |
| Quem é o operador? | PRINT IT! SE, uma Societas Europaea registada em Praga, República Checa (N.º de empresa 069 60 090). Sem entidade-mãe fora da UE. |
| Quem pode aceder ao conteúdo da instância? | Através da própria instância, apenas os detentores das suas chaves SSH, e o próprio, através do terminal no navegador da sua consola GPUwerk; o início de sessão por palavra-passe está desativado em toda a frota. A GPUwerk mantém acesso de administrador de infraestrutura à máquina subjacente, como em qualquer serviço alojado, e nos termos do DPA não o usa sobre o seu conteúdo, exceto a seu pedido para suporte ou quando uma obrigação legal o exija. O endpoint HTTPS de uma imagem de modelo é acessível a qualquer pessoa que tenha o URL, até colocar à frente dele um proxy com autenticação, como o LiteLLM. |
| A GPUwerk lê os prompts ou os dados do modelo? | Não. A GPUwerk aloja o hardware e trata da faturação e, nos termos do DPA, não acede, lê, copia, indexa nem analisa o conteúdo das cargas de trabalho |
| Algum dado de clientes é usado para treino? | Não, contratualmente, e como a GPUwerk não acede ao seu conteúdo, não há nada com que treinar |
| Subcontratantes para cargas de trabalho? | Nenhum nos níveis próprios da GPUwerk (o nível Partner corre num parceiro anfitrião) |
| DPA (art. 28.º do RGPD)? | Publicado em /legal/dpa, gratuito |
| Dados na terminação? | Contentor e volume do espaço de trabalho apagados do nó; o nó é higienizado antes de ser oferecido a outra pessoa. Eliminação ao nível do sistema de ficheiros, não um apagamento criptográfico. |
Arquitetura
A arquitetura é o argumento.
Poucas setas, cada uma documentada: mais curta a revisão do DPO.
your office / VPN your apps
│ │
│ SSH (keys only, │ HTTPS model endpoint
│ dedicated IP) │ (add an auth proxy)
▼ ▼
┌────────────────────────────────────────────┐
│ your dedicated DGX Spark · EU-Central │
│ model · vector store · chat UI · API │
│ 128 GB unified memory · 1 TB NVMe │
└────────────────────────────────────────────┘
two arrows, both listed in the DPA.
Está a comparar isto com uma API paga ao token? Leia alojamento de LLM privado vs a API da OpenAI ou alojamento de LLM privado vs Azure AI Foundry para a localização dos dados, quem pode ver os seus prompts e o débito medido.
Trabalho regulado
Saúde, jurídico, finanças e setor público.
As equipas nestas áreas fazem as mesmas três perguntas: onde está a máquina, quem mais lhe pode chegar e o que diz o contrato. As respostas são as mesmas para todos os setores. A máquina está em EU-Central e atribuída a um cliente. A GPUwerk mantém o acesso de administrador normal para a operar, e o DPA nos termos do artigo 28.º e a lista de subcontratantes definem o que isso abrange.
Uma máquina dedicada não torna, por si só, uma carga de trabalho conforme. Registos de doentes, processos sujeitos a sigilo profissional, dados de pagamento e dados de cidadãos têm cada um as suas regras, e é o seu DPO ou consultor jurídico quem decide se esta configuração as cumpre. RGPD e Regulamento da IA da UE em hardware dedicado lista as provas que a GPUwerk pode fornecer.
Guias
Comparações de fornecedores.
As comparações com preços verificados na página de cada fornecedor. O índice de comparações lista todos os outros fornecedores.
Como se compara
Um Spark dedicado na UE comparado com as APIs pagas ao token que os compradores consideram em alternativa. Localização dos dados, quem pode ver os seus prompts e onde cada opção ganha.Ver 11 guias
- Alojamento de LLM privado vs a API da OpenAI para empresas da UELocalização dos dados, quem pode ver os seus prompts, tok/s medidos, e onde cada um ganha.8 min de leitura
- Alojamento de LLM privado vs Azure AI Foundry para empresas da UECatálogo de modelos, localização dos dados, modelo de preços, e onde cada um ganha.8 min de leitura
- Alojamento de LLM privado vs a API da Anthropic para empresas da UELocalização dos dados, quem pode ver os seus prompts, tok/s medidos, e onde cada um ganha.8 min de leitura
- Alojamento de LLM privado vs RunPodA RunPod é um marketplace de GPUs com muitos anfitriões e tipos de GPU. A comparação incide sobre quem realmente opera a máquina, não apenas sobre o arrendamento.8 min de leitura
- Alojamento de LLM privado vs GroqO hardware LPU da Groq é realmente rápido, mais rápido do que a maioria da inferência em GPU. Um DGX Spark dedicado compete noutro eixo: hardware de inquilino único e controlo dos dados, não velocidade bruta.8 min de leitura
- Alojamento de LLM privado vs Together AIA Together AI executa um vasto catálogo de modelos abertos em infraestrutura partilhada multi-inquilino. Um DGX Spark dedicado é uma máquina, a executar o seu modelo, sob as suas chaves.8 min de leitura
- Alojamento de LLM privado vs Lambda Labs para empresas da UEA comparação mais parecida em formato com a GPUwerk, diferindo sobretudo na região e no hardware. Onde cada um ganha.8 min de leitura
- Alojamento de LLM privado vs Scaleway para empresas da UEDuas opções sediadas na UE, uma restrita e de preço fixo, outra uma cloud generalista ampla. Onde cada uma ganha.8 min de leitura
- Alojamento de LLM privado vs servidores GPU da Hetzner para empresas da UEHardware dedicado económico de um conhecido fornecedor alemão, comparado com uma máquina de memória unificada feita para inferência. Onde cada um ganha.8 min de leitura
- Alojamento de LLM privado vs CoreWeave para empresas da UEUm DGX Spark dedicado na UE a $ 0,79/hora vs a cloud de GPUs empresarial da CoreWeave: escala de clusters, mínimos contratuais, localização dos dados, e onde cada um realmente se encaixa.8 min de leitura
- Alojamento de LLM privado vs Vast.ai para empresas da UEUm DGX Spark dedicado na UE a $ 0,79/hora vs o marketplace de GPUs peer-to-peer da Vast.ai: a quem pertence realmente a máquina, localização dos dados, fiabilidade, e onde cada um ganha.8 min de leitura
- IA privada vs ChatGPT EnterpriseOnde terminam os controlos contratuais do ChatGPT Enterprise e começa a residência de dados de uma máquina dedicada.7 min de leitura
- DGX Spark vs instâncias de GPU na cloudTer um Spark dedicado face a alugar horas de GPU ao token ou à hora, comparados em custo e controlo.7 min de leitura
- Plataformas de LLM auto-hospedadas vs geridasO que assume quando executa o modelo por si próprio, e o que uma plataforma gerida continua a deixar nas suas mãos.7 min de leitura
FAQ de conformidade.
Cumpre o RGPD?
A GPUwerk fornece as provas de que precisa: hardware e operações em EU-Central, um acordo de tratamento de dados nos termos do artigo 28.º, nenhum subcontratante de cargas de trabalho nos níveis próprios da GPUwerk, e máquinas dedicadas de inquilino único cujo conteúdo a GPUwerk não acede, lê, copia, indexa ou analisa. Existe acesso de administrador de infraestrutura à máquina subjacente, como em qualquer serviço alojado, e nos termos do DPA não é usado sobre o seu conteúdo, exceto a seu pedido para suporte ou quando uma obrigação legal o exija. Continua a ser o responsável pelo tratamento, por isso a conformidade do próprio tratamento cabe-lhe a si afirmar.
Assinam um DPA?
Sim, um DPA padrão nos termos do artigo 28.º do RGPD está publicado gratuitamente em /legal/dpa. A lista de subcontratantes da GPUwerk para cargas de trabalho é curta: nos níveis próprios da GPUwerk não há nenhum; o nível Partner corre num parceiro anfitrião.
O nosso DPO pode auditar a configuração?
Sim. A GPUwerk fornece documentação da localização física, dos controlos de acesso e dos procedimentos de apagamento, e responde diretamente a questionários de DPO. Envie as perguntas do seu DPO.
O que acontece aos nossos dados quando terminamos?
Terminar apaga o seu contentor e o respetivo volume /workspace do nó. Antes de esse nó ser oferecido a outro cliente é higienizado: todos os contentores e volumes de inquilinos são removidos, e o nó falha a verificação de prontidão e não é atribuído enquanto restar algum. Isto é eliminação ao nível do sistema de ficheiros. A GPUwerk não usa unidades com autoencriptação nem encriptação total do disco nos nós, por isso não afirma fazer apagamento criptográfico. A GPUwerk não guarda nenhuma cópia do seu espaço de trabalho noutro lado: nem cópia de segurança nem cópia de recuperação. Se uma unidade falhar, o espaço de trabalho nela perde-se, por isso guarde a sua própria cópia. Se o seu crédito chegar a zero ou atingir o orçamento mensal, a instância é parada e a máquina libertada. O espaço de trabalho fica nessa máquina até 48 horas. Carregue ou aumente o orçamento e volte a iniciá-la nesse período e continua onde ficou, a não ser que outra pessoa tenha alugado a máquina, o que o apaga mais cedo. Após 48 horas é apagado definitivamente. Os emails de saldo baixo avisam-no antes disso; o carregamento automático torna-o menos provável, mas um pagamento pode falhar.
Isto também abrange o Regulamento da IA da UE, e não só o RGPD?
Hardware dedicado não altera o seu nível de risco no Regulamento da IA da UE nem o seu estatuto de fornecedor/responsável pela implantação; isso depende do que o seu sistema faz, não de onde corre. O que lhe dá é uma resposta clara sobre quem pode aceder aos seus dados enquanto o modelo corre, o que é uma prova útil para as obrigações do lado do responsável pela implantação que a maioria das empresas com alojamento próprio realmente enfrenta. Veja RGPD e Regulamento da IA da UE em hardware dedicado para o panorama combinado numa só página.
Para além da infraestrutura
Pacote prático de implementação.
Se precisar de mais do que infraestrutura, posso acrescentar um projeto com âmbito e entregáveis claros para a integração da equipa e dos sistemas.
Análise inicial do projeto
Defina os limites do caso de utilização, os objetivos de latência e quem é responsável pela aprovação para produção.
Formação da equipa
Sessões práticas sobre qualidade de prompts, padrões de governação e operações comuns.
Roteiro de integração
Planeie a disponibilização da API, incluindo o que as suas ferramentas devem fazer quando a instância está parada ou ocupada.
Dê vida ao seu projeto de IA.
Implemente um Spark e teste-o por si próprio, ou pergunte a quem gere os racks. Primeiro carregamento: pague $ 20 e receba $ 30 em crédito.