Alojamento de LLM privado, comparado com os fornecedores que os compradores consideram em alternativa.

Um DGX Spark dedicado na UE a $ 0,79/hora (ou $ 1,79/hora por um par ligado) comparado com hyperscalers, APIs pagas ao token, clouds de GPU, marketplaces e hardware próprio. Localização dos dados, quem pode ver os seus prompts e onde cada opção ganha.

Hyperscalers

Outros fornecedores deste grupo, numa linha cada. Os preços só são indicados nas comparações completas acima, onde foram verificados na página do próprio fornecedor numa data indicada.

FornecedorEm que difere de um Spark dedicado
Amazon SageMakerO alojamento de modelos autogerido do Amazon SageMaker: o que cada um executa realmente, onde ficam os dados e onde cada um ganha.
AWS BedrockA API de modelos gerida do AWS Bedrock: localização dos dados, quem pode ver os seus prompts, tok/s e onde cada opção ganha.
Azure OpenAIA API paga ao token do Azure OpenAI: localização dos dados, quem pode ver os seus prompts, tok/s e onde cada opção ganha.
Google Cloud TPUGoogle Cloud TPU: hardware de GPU NVIDIA e o ecossistema CUDA face aos chips de processamento tensorial da própria Google.
Google Vertex AIO Gemini e o Model Garden do Google Vertex AI: localização dos dados, exposição ao CLOUD Act e modelos.
IBM watsonx.aiA plataforma de modelos gerida do IBM watsonx.ai: governação e preços por consumo face a um nó dedicado que controla totalmente.
Oracle Cloud InfrastructureAs instâncias GPU da Oracle Cloud Infrastructure: escala de cloud empresarial e créditos OCI face a uma máquina de tarifa fixa.

Fornecedores de APIs pagas ao token

Outros fornecedores deste grupo, numa linha cada. Os preços só são indicados nas comparações completas acima, onde foram verificados na página do próprio fornecedor numa data indicada.

FornecedorEm que difere de um Spark dedicado
CerebrasA API de inferência à escala de wafer da Cerebras: uma GPU que controla face a uma API gerida em silício proprietário.
API da CohereA Cohere é uma empresa canadiana que vende uma API empresarial paga ao token. Como se compara um DGX Spark dedicado a $ 0,79/hora em residência de dados e acesso aos prompts.
DeepInfraA API serverless paga ao token da DeepInfra: uma máquina que configura face a um endpoint que não gere.
Fireworks AIA Fireworks AI serve modelos abertos rapidamente em infraestrutura partilhada. Como se compara um DGX Spark dedicado a $ 0,79/hora, uma máquina para o seu modelo.
Hugging Face Inference EndpointsOs Hugging Face Inference Endpoints e um DGX Spark a $ 0,79/hora são ambos de inquilino único. Diferem em quem opera a máquina e onde ela se encontra.
API da MistralA API da Mistral também está sediada na UE. Como se compara um DGX Spark dedicado a $ 0,79/hora numa questão mais restrita: quem mais pode ler os seus prompts.
Novita AIA cloud de GPUs e a API de modelos da Novita AI: uma máquina que configura face a uma plataforma mista de computação e API.
API da PerplexityA API da Perplexity é construída em torno da pesquisa web em tempo real. Um DGX Spark dedicado a $ 0,79/hora é um produto diferente: o seu próprio modelo, sem camada de pesquisa.
ReplicateA Replicate transforma quase qualquer modelo publicado numa chamada de API de uma linha. Um DGX Spark dedicado a $ 0,79/hora troca essa amplitude por uma máquina.
SambaNovaA API de inferência gerida da SambaNova em silício personalizado: uma GPU que controla face a uma API que chama.

Clouds de GPUs, marketplaces e alternativas autogeridas

Outros fornecedores deste grupo, numa linha cada. Os preços só são indicados nas comparações completas acima, onde foram verificados na página do próprio fornecedor numa data indicada.

FornecedorEm que difere de um Spark dedicado
Akash NetworkO marketplace de computação em blockchain da Akash Network: a máquina de um operador face a um conjunto de fornecedores independentes.
AnyscaleA plataforma Ray distribuída da Anyscale. Servem cargas de trabalho diferentes; eis como saber qual é a sua.
BasetenA plataforma gerida de serviço de modelos da Baseten: implementação com escalamento automático vs uma máquina que controla totalmente. Onde cada uma ganha.
CivoA cloud da Civo orientada para Kubernetes, com nós de GPU: uma máquina de inferência face ao extra de GPU de uma plataforma.
Crusoe CloudOs grandes clusters de GPUs da Crusoe Cloud: dois produtos para dois problemas diferentes, e onde cada um se encaixa.
CUDO ComputeO marketplace de GPUs da CUDO Compute: quem opera o hardware por baixo, e como se comparam os preços.
Databricks Mosaic AIOs preços da plataforma Databricks Mosaic AI: o que cada um realmente é, onde ficam os dados e onde cada um ganha.
DigitalOcean GPU DropletsOs GPU Droplets da DigitalOcean: uma máquina de inferência feita para o efeito face à linha de GPUs de um fornecedor de cloud generalista.
ExoscaleA cloud suíça e europeia da Exoscale: uma máquina de inferência face a uma cloud regional generalista.
FluidStackOs grandes clusters de GPUs da FluidStack: um Spark para uma carga de trabalho privada face a uma cloud feita para grandes treinos.
GPUs da Fly.ioAs máquinas GPU da Fly.io: uma máquina de inferência feita para o efeito face à opção de GPU de uma plataforma de aplicações edge.
Genesis CloudAs instâncias GPU da Genesis Cloud: o que cada uma lhe aluga, onde fica o hardware e como se comparam os preços.
GMI CloudOs clusters H100 e H200 da GMI Cloud: uma máquina dedicada na UE face a uma cloud de GPUs feita para grandes clusters.
io.netO marketplace descentralizado de GPUs da io.net: a máquina de um operador face a um conjunto de operadores independentes.
JarvisLabsAs instâncias GPU orientadas para notebooks da JarvisLabs, uma cloud para programadores feita para profissionais de ML individuais.
Latitude.shOs servidores GPU bare metal da Latitude.sh: uma máquina de inferência face a bare metal que configura por si próprio.
Massed ComputeO aluguer de GPUs da Massed Compute: um único operador conhecido face a uma cloud de GPUs especializada mais pequena. Onde cada um ganha.
ModalAs GPUs serverless da Modal: faturação ao segundo para trabalho intermitente face a uma máquina que fica ligada.
NebiusA cloud de GPUs da Nebius: um Spark dedicado por inquilino face a capacidade de GPU alugada em grande escala.
NscaleA cloud de GPUs europeia da Nscale: capacidade de grandes clusters feita para escala face a um nó para uma equipa.
OVHcloudAs instâncias GPU da OVHcloud: duas opções na UE, uma restrita e de preço fixo, outra uma cloud generalista ampla.
PaperspacePaperspace by DigitalOcean: notebooks e ferramentas de ML geridas face a uma máquina dedicada.
Prime IntellectO marketplace distribuído de GPUs da Prime Intellect: o hardware conhecido de uma empresa face a uma rede de contribuidores de computação.
Render GPUAs instâncias GPU da Render: uma máquina de inferência feita para o efeito face ao extra de GPU de um fornecedor PaaS.
Salad (SaladCloud)A rede da Salad de PCs de jogos de consumo inativos: uma máquina num rack em Hradec Králové face a máquinas domésticas.
gerir o Ollama por conta própria no seu próprio hardwareO Ollama em hardware próprio também é totalmente privado. Um Spark dedicado a $ 0,79/hora não é mais privado; é menos trabalho de operação. Eis a troca.
ShadeformO marketplace de GPUs da Shadeform: a máquina de um operador face a uma camada que encaminha para muitos fornecedores de cloud.
TensorDockO marketplace de GPUs da TensorDock: uma máquina de tarifa fixa face a uma oferta no hardware de outra pessoa.
UpCloudOs servidores cloud europeus da UpCloud: computação generalista na UE face a uma GPU feita para inferência de LLM.
Voltage ParkA cloud de GPUs on-demand da Voltage Park: clusters H100 nos EUA face a uma máquina de tarifa fixa alojada na UE.
Vultr Cloud GPUAs instâncias Cloud GPU da Vultr: uma máquina de inferência feita para o efeito face à linha de GPUs de um fornecedor de cloud generalista.
Primeiro carregamento: pague $ 20 e receba $ 30 em crédito

Está a comparar um fornecedor que não está na lista?

Envie o fornecedor e a sua carga de trabalho, e digo-lhe honestamente onde um Spark dedicado encaixa e onde não encaixa.

Implementar agora Fazer uma pergunta