Alojamento de LLM privado em EU-Central

Os seus modelos. Os seus dados. Um inquilino: o cliente.

Alojamento de LLM privado em máquinas dedicadas inteiras em EU-Central. Os seus dados são tratados na UE, nunca usados para treino, e nenhum outro cliente toca alguma vez na sua GPU.

$ 0,79/hora, faturado ao minuto · pague $ 20, receba $ 30 em crédito no seu primeiro carregamento

Resumo.

1inquilino

Um inquilino por máquina

Uma máquina dedicada inteira, atribuída a si. Sem GPUs partilhadas.

0

Subcontratantes para cargas de trabalho

Nos níveis próprios da GPUwerk. A lista de subcontratantes é curta: nenhum para cargas de trabalho de instâncias aí; o nível Partner corre num parceiro anfitrião.

Art.28

Acordo de tratamento de dados RGPD

Publicado em /legal/dpa, gratuito.

Os três receios

Os três receios, respondidos.

Todas as empresas com quem falo chegam com as mesmas três preocupações. Eis exatamente como cada uma é tratada.

"Os nossos dados saem da UE"

Não fica. O hardware está fisicamente em EU-Central e é operado pela PRINT IT! SE, uma Societas Europaea registada em Praga. Não há empresa-mãe norte-americana e, nos níveis próprios da GPUwerk, não há região norte-americana por trás dessa máquina. Os poucos serviços que a GPUwerk usa à volta dela, como o email transacional, estão listados com os respetivos fornecedores e países na lista de subcontratantes. A residência de dados não é uma caixa de verificação num painel de definições; é onde a máquina está aparafusada ao rack.

"O fornecedor treina com os nossos dados"

A GPUwerk opera infraestrutura, não modelos: os seus prompts e documentos são processados na sua máquina dedicada, por software que instalou, acessível apenas através das suas chaves SSH e do terminal no navegador da sua consola. Como em qualquer serviço alojado, a GPUwerk mantém acesso de administrador de infraestrutura à máquina subjacente, mas, por política definida no acordo de tratamento de dados da GPUwerk, a GPUwerk não acede ao conteúdo do seu espaço de trabalho, exceto a seu pedido para suporte ou quando uma obrigação legal o exija, por isso não há nada com que treinar. De qualquer forma, está no contrato. O único treino que acontece é o seu, com os seus próprios dados.

"Os funcionários colam segredos no ChatGPT"

Bloquear empurra o uso para os telemóveis pessoais. A solução é uma alternativa aprovada igualmente cómoda: um assistente da classe do ChatGPT na sua própria instância, a mesma interface de chat, a mesma API, com cada prompt a ficar numa máquina dedicada atribuída só a si. Veja a configuração de ChatGPT privado →

Para o seu DPO

Escrito para o seu DPO reencaminhar.

O panorama de conformidade numa tabela, em linguagem simples, sem marketing.

PerguntaResposta
Onde são fisicamente tratados os dados?EU-Central, numa máquina dedicada de inquilino único atribuída a si
Quem é o operador?PRINT IT! SE, uma Societas Europaea registada em Praga, República Checa (N.º de empresa 069 60 090). Sem entidade-mãe fora da UE.
Quem pode aceder ao conteúdo da instância?Através da própria instância, apenas os detentores das suas chaves SSH, e o próprio, através do terminal no navegador da sua consola GPUwerk; o início de sessão por palavra-passe está desativado em toda a frota. A GPUwerk mantém acesso de administrador de infraestrutura à máquina subjacente, como em qualquer serviço alojado, e nos termos do DPA não o usa sobre o seu conteúdo, exceto a seu pedido para suporte ou quando uma obrigação legal o exija. O endpoint HTTPS de uma imagem de modelo é acessível a qualquer pessoa que tenha o URL, até colocar à frente dele um proxy com autenticação, como o LiteLLM.
A GPUwerk lê os prompts ou os dados do modelo?Não. A GPUwerk aloja o hardware e trata da faturação e, nos termos do DPA, não acede, lê, copia, indexa nem analisa o conteúdo das cargas de trabalho
Algum dado de clientes é usado para treino?Não, contratualmente, e como a GPUwerk não acede ao seu conteúdo, não há nada com que treinar
Subcontratantes para cargas de trabalho?Nenhum nos níveis próprios da GPUwerk (o nível Partner corre num parceiro anfitrião)
DPA (art. 28.º do RGPD)?Publicado em /legal/dpa, gratuito
Dados na terminação?Contentor e volume do espaço de trabalho apagados do nó; o nó é higienizado antes de ser oferecido a outra pessoa. Eliminação ao nível do sistema de ficheiros, não um apagamento criptográfico.

Arquitetura

A arquitetura é o argumento.

Poucas setas, cada uma documentada: mais curta a revisão do DPO.

your office / VPN            your apps
      │                          │
      │  SSH (keys only,         │  HTTPS model endpoint
      │  dedicated IP)           │  (add an auth proxy)
      ▼                          ▼
┌────────────────────────────────────────────┐
│  your dedicated DGX Spark · EU-Central     │
│  model · vector store · chat UI · API      │
│  128 GB unified memory · 1 TB NVMe         │
└────────────────────────────────────────────┘

      two arrows, both listed in the DPA.

Está a comparar isto com uma API paga ao token? Leia alojamento de LLM privado vs a API da OpenAI ou alojamento de LLM privado vs Azure AI Foundry para a localização dos dados, quem pode ver os seus prompts e o débito medido.

Trabalho regulado

Saúde, jurídico, finanças e setor público.

As equipas nestas áreas fazem as mesmas três perguntas: onde está a máquina, quem mais lhe pode chegar e o que diz o contrato. As respostas são as mesmas para todos os setores. A máquina está em EU-Central e atribuída a um cliente. A GPUwerk mantém o acesso de administrador normal para a operar, e o DPA nos termos do artigo 28.º e a lista de subcontratantes definem o que isso abrange.

Uma máquina dedicada não torna, por si só, uma carga de trabalho conforme. Registos de doentes, processos sujeitos a sigilo profissional, dados de pagamento e dados de cidadãos têm cada um as suas regras, e é o seu DPO ou consultor jurídico quem decide se esta configuração as cumpre. RGPD e Regulamento da IA da UE em hardware dedicado lista as provas que a GPUwerk pode fornecer.

Guias

Comparações de fornecedores.

As comparações com preços verificados na página de cada fornecedor. O índice de comparações lista todos os outros fornecedores.

Como se compara

Um Spark dedicado na UE comparado com as APIs pagas ao token que os compradores consideram em alternativa. Localização dos dados, quem pode ver os seus prompts e onde cada opção ganha.Ver 11 guias

FAQ de conformidade.

Cumpre o RGPD?

A GPUwerk fornece as provas de que precisa: hardware e operações em EU-Central, um acordo de tratamento de dados nos termos do artigo 28.º, nenhum subcontratante de cargas de trabalho nos níveis próprios da GPUwerk, e máquinas dedicadas de inquilino único cujo conteúdo a GPUwerk não acede, lê, copia, indexa ou analisa. Existe acesso de administrador de infraestrutura à máquina subjacente, como em qualquer serviço alojado, e nos termos do DPA não é usado sobre o seu conteúdo, exceto a seu pedido para suporte ou quando uma obrigação legal o exija. Continua a ser o responsável pelo tratamento, por isso a conformidade do próprio tratamento cabe-lhe a si afirmar.

Assinam um DPA?

Sim, um DPA padrão nos termos do artigo 28.º do RGPD está publicado gratuitamente em /legal/dpa. A lista de subcontratantes da GPUwerk para cargas de trabalho é curta: nos níveis próprios da GPUwerk não há nenhum; o nível Partner corre num parceiro anfitrião.

O nosso DPO pode auditar a configuração?

Sim. A GPUwerk fornece documentação da localização física, dos controlos de acesso e dos procedimentos de apagamento, e responde diretamente a questionários de DPO. Envie as perguntas do seu DPO.

O que acontece aos nossos dados quando terminamos?

Terminar apaga o seu contentor e o respetivo volume /workspace do nó. Antes de esse nó ser oferecido a outro cliente é higienizado: todos os contentores e volumes de inquilinos são removidos, e o nó falha a verificação de prontidão e não é atribuído enquanto restar algum. Isto é eliminação ao nível do sistema de ficheiros. A GPUwerk não usa unidades com autoencriptação nem encriptação total do disco nos nós, por isso não afirma fazer apagamento criptográfico. A GPUwerk não guarda nenhuma cópia do seu espaço de trabalho noutro lado: nem cópia de segurança nem cópia de recuperação. Se uma unidade falhar, o espaço de trabalho nela perde-se, por isso guarde a sua própria cópia. Se o seu crédito chegar a zero ou atingir o orçamento mensal, a instância é parada e a máquina libertada. O espaço de trabalho fica nessa máquina até 48 horas. Carregue ou aumente o orçamento e volte a iniciá-la nesse período e continua onde ficou, a não ser que outra pessoa tenha alugado a máquina, o que o apaga mais cedo. Após 48 horas é apagado definitivamente. Os emails de saldo baixo avisam-no antes disso; o carregamento automático torna-o menos provável, mas um pagamento pode falhar.

Isto também abrange o Regulamento da IA da UE, e não só o RGPD?

Hardware dedicado não altera o seu nível de risco no Regulamento da IA da UE nem o seu estatuto de fornecedor/responsável pela implantação; isso depende do que o seu sistema faz, não de onde corre. O que lhe dá é uma resposta clara sobre quem pode aceder aos seus dados enquanto o modelo corre, o que é uma prova útil para as obrigações do lado do responsável pela implantação que a maioria das empresas com alojamento próprio realmente enfrenta. Veja RGPD e Regulamento da IA da UE em hardware dedicado para o panorama combinado numa só página.

Para além da infraestrutura

Pacote prático de implementação.

Se precisar de mais do que infraestrutura, posso acrescentar um projeto com âmbito e entregáveis claros para a integração da equipa e dos sistemas.

  1. Análise inicial do projeto

    Defina os limites do caso de utilização, os objetivos de latência e quem é responsável pela aprovação para produção.

  2. Formação da equipa

    Sessões práticas sobre qualidade de prompts, padrões de governação e operações comuns.

  3. Roteiro de integração

    Planeie a disponibilização da API, incluindo o que as suas ferramentas devem fazer quando a instância está parada ou ocupada.

Ver como funciona o projeto

Dê vida ao seu projeto de IA.

Implemente um Spark e teste-o por si próprio, ou pergunte a quem gere os racks. Primeiro carregamento: pague $ 20 e receba $ 30 em crédito.