Yksityinen LLM-hosting EU-Centralissa
Sinun mallisi. Sinun datasi. Yksi vuokralainen: sinä.
Yksityinen LLM-hosting kokonaisilla dedikoiduilla koneilla EU-Centralissa. Datasi käsitellään EU:ssa, sitä ei koskaan käytetä koulutukseen, eikä mikään muu asiakas koskaan koske GPU:hisi.
0,79 $/tunti, laskutus minuutin tarkkuudella · maksa 20 $, saat 30 $ saldoa ensimmäisellä latauksella
Yhdellä silmäyksellä.
Yksi vuokralainen konetta kohden
Kokonainen dedikoitu kone, joka on osoitettu sinulle. Ei jaettuja GPU:ita.
Työkuormien alikäsittelijät
GPUwerkin omilla tasoilla. Alikäsittelijäluettelo on lyhyt: siellä ei ole yhtään instanssien työkuormille; Partner-taso toimii kumppaniylläpitäjän koneella.
GDPR:n mukainen tietojenkäsittelysopimus
Julkaistu osoitteessa /legal/dpa, maksuton.
Kolme pelkoa
Kolme pelkoa, vastattuna.
Jokainen yritys, jonka kanssa puhun, tulee samojen kolmen huolen kanssa. Näin kukin niistä hoidetaan.
"Datamme poistuu EU:sta"
Ei mitenkään. Laitteisto on fyysisesti EU-Centralissa, ja sitä operoi PRINT IT! SE, Prahaan rekisteröity eurooppayhtiö (Societas Europaea). Yhdysvaltalaista emoyhtiötä ei ole, eikä GPUwerkin omilla tasoilla tuon koneen takana ole Yhdysvaltain aluetta. Ne harvat palvelut, joita GPUwerk käyttää sen ympärillä, kuten tapahtumasähköposti, on listattu tarjoajineen ja maineen alikäsittelijäluettelossa. Datan sijainti ei ole valintaruutu asetuspaneelissa, se on paikka, johon kone on pultattu räkkiin.
"Palveluntarjoaja kouluttaa malleja datallamme"
GPUwerk ylläpitää infrastruktuuria, ei malleja: kehotteesi ja dokumenttisi käsitellään dedikoidulla koneellasi asentamallasi ohjelmistolla, ja niihin pääsee vain SSH-avaimillasi ja konsolisi selainpäätteellä. Kuten missä tahansa ylläpidetyssä palvelussa, GPUwerkillä on infrastruktuurin pääkäyttäjän pääsy taustalla olevaan koneeseen, mutta GPUwerkin tietojenkäsittelysopimukseen kirjatun periaatteen mukaisesti GPUwerk ei käsittele työtilasi sisältöä paitsi pyynnöstäsi tukea varten tai silloin, kun lakisääteinen velvoite sitä edellyttää, joten koulutettavaa ei ole. Se on joka tapauksessa sopimuksessa. Ainoa koulutus, joka tapahtuu, on sinun omaasi, omalla datallasi.
"Työntekijät liittävät salaisuuksia ChatGPT:hen"
Estäminen siirtää käytön henkilökohtaisiin puhelimiin. Ratkaisu on hyväksytty vaihtoehto, joka on yhtä kätevä: ChatGPT-luokan avustaja omalla instanssillasi, sama chat-käyttöliittymä, sama API, ja jokainen kehote pysyy dedikoidulla koneella, joka on osoitettu vain sinulle. Katso yksityisen ChatGPT:n asennus →
Tietosuojavastaavallesi
Kirjoitettu tietosuojavastaavasi välitettäväksi.
Vaatimustenmukaisuus yhdessä taulukossa, selkokielellä, ilman markkinointia.
| Kysymys | Vastaus |
|---|---|
| Missä data fyysisesti käsitellään? | EU-Central, dedikoidulla yhden vuokralaisen koneella, joka on osoitettu sinulle |
| Kuka on operaattori? | PRINT IT! SE, Prahaan, Tšekkiin rekisteröity eurooppayhtiö (Societas Europaea) (yritystunnus 069 60 090). Ei EU:n ulkopuolista emoyhtiötä. |
| Kuka pääsee instanssin sisältöön? | Itse instanssiin pääsevät vain SSH-avaintesi haltijat ja sinä GPUwerk-konsolisi selainpäätteen kautta; salasanakirjautuminen on poistettu käytöstä koko kalustossa. GPUwerkillä on infrastruktuurin pääkäyttäjän pääsy taustalla olevaan koneeseen, kuten missä tahansa ylläpidetyssä palvelussa, eikä se DPA:n mukaan käytä sitä sisältöösi paitsi pyynnöstäsi tukea varten tai silloin, kun lakisääteinen velvoite sitä edellyttää. Mallivedoksen HTTPS-päätepiste on kenen tahansa URL-osoitteen tietävän tavoitettavissa, kunnes sijoitat sen eteen tunnistautuvan välityspalvelimen, kuten LiteLLM. |
| Lukeeko GPUwerk kehote- tai mallidataa? | Ei. GPUwerk pitää laitteistoa konesalissaan ja hoitaa laskutuksen eikä DPA:n mukaisesti käsittele, lue, kopioi, indeksoi tai analysoi työkuorman sisältöä |
| Käytetäänkö asiakasdataa koulutukseen? | Ei, sopimuksen perusteella, ja koska GPUwerk ei käsittele sisältöäsi, koulutettavaa ei ole |
| Työkuormien alikäsittelijät? | Ei yhtään GPUwerkin omilla tasoilla (Partner-taso toimii kumppaniylläpitäjän koneella) |
| DPA (GDPR 28 art.)? | Julkaistu osoitteessa /legal/dpa, maksuton |
| Data lopettamisen jälkeen? | Kontti ja työtilan taltio poistetaan solmulta, ja solmu puhdistetaan ennen kuin sitä tarjotaan kenellekään muulle. Tiedostojärjestelmätason poisto, ei kryptografinen tyhjennys. |
Arkkitehtuuri
Arkkitehtuuri on argumentti.
Vähän nuolia, jokainen dokumentoitu: sitä lyhyempi tietosuojavastaavan tarkastus.
your office / VPN your apps
│ │
│ SSH (keys only, │ HTTPS model endpoint
│ dedicated IP) │ (add an auth proxy)
▼ ▼
┌────────────────────────────────────────────┐
│ your dedicated DGX Spark · EU-Central │
│ model · vector store · chat UI · API │
│ 128 GB unified memory · 1 TB NVMe │
└────────────────────────────────────────────┘
two arrows, both listed in the DPA.
Vertaatko tätä tokenikohtaiseen API:in? Lue yksityinen LLM-hosting vs. OpenAI API tai yksityinen LLM-hosting vs. Azure AI Foundry datan sijainnista, siitä kuka näkee kehotteesi, ja mitatusta läpäisystä.
Säännelty työ
Terveys, juridiikka, rahoitus ja julkinen sektori.
Näiden alojen tiimit kysyvät samat kolme kysymystä: missä kone on, kuka muu pääsee siihen ja mitä sopimuksessa sanotaan. Vastaukset ovat samat jokaiselle sektorille. Kone on EU-Centralissa ja osoitettu yhdelle asiakkaalle. GPUwerkillä on tavanomainen pääkäyttäjän pääsy sen operoimiseksi, ja 28 artiklan mukainen DPA sekä alikäsittelijäluettelo kertovat, mitä se kattaa.
Dedikoitu kone ei yksinään tee työkuormasta vaatimustenmukaista. Potilastiedoilla, salassa pidettävillä asiakirjoilla, maksutiedoilla ja kansalaisten tiedoilla on kullakin omat sääntönsä, ja tietosuojavastaavasi tai lakimiehesi päättää, täyttääkö tämä järjestely ne. GDPR ja EU:n tekoälyasetus dedikoidulla laitteistolla luettelee näytön, jonka GPUwerk voi luovuttaa.
Oppaat
Tarjoajavertailut.
Vertailut, joiden hinnat on tarkistettu kunkin tarjoajan omalta sivulta. Vertailuhakemisto listaa kaikki muut tarjoajat.
Miten se vertautuu
Dedikoitu EU:ssa sijaitseva Spark verrattuna tokenipohjaisiin API-palveluihin, joita ostajat vertailevat sen kanssa. Datan sijainti, kuka näkee kehotteesi ja missä kukin voittaa.Selaa 11 opasta
- Yksityinen LLM-hosting vs OpenAI API EU-yrityksilleDatan sijainti, kuka näkee kehotteesi, mitattu tok/s ja missä kumpikin voittaa.8 min lukuaika
- Yksityinen LLM-hosting vs Azure AI Foundry EU-yrityksilleMalliluettelo, datan sijainti, hinnoittelumalli ja missä kukin voittaa.8 min lukuaika
- Yksityinen LLM-hosting vs Anthropic API EU-yrityksilleDatan sijainti, kuka näkee kehotteesi, mitattu tok/s ja missä kumpikin voittaa.8 min lukuaika
- Yksityinen LLM-hosting vs RunPodRunPod on GPU-markkinapaikka monilla ylläpitäjillä ja GPU-tyypeillä. Vertailu koskee sitä, kuka konetta todella operoi, ei pelkkää vuokralaisuutta.8 min lukuaika
- Yksityinen LLM-hosting vs GroqGroqin LPU-laitteisto on aidosti nopea, nopeampi kuin useimmat GPU-päättelyt. Dedikoitu DGX Spark kilpailee eri akselilla: yhden vuokralaisen laitteisto ja datan hallinta, ei raakanopeus.8 min lukuaika
- Yksityinen LLM-hosting vs Together AITogether AI ajaa laajaa avoimien mallien valikoimaa jaetulla monen vuokralaisen infrastruktuurilla. Dedikoitu DGX Spark on yksi kone, joka ajaa sinun malliasi sinun avaimillasi.8 min lukuaika
- Yksityinen LLM-hosting vs Lambda Labs EU-yrityksilleMuodoltaan lähin vertailukohta GPUwerkille, erona lähinnä alue ja laitteisto. Missä kumpikin voittaa.8 min lukuaika
- Yksityinen LLM-hosting vs Scaleway EU-yrityksilleKaksi EU-pohjaista vaihtoehtoa, toinen kapea ja kiinteähintainen, toinen laaja yleiskäyttöinen pilvi. Missä kumpikin voittaa.8 min lukuaika
- Yksityinen LLM-hosting vs Hetznerin GPU-palvelimet EU-yrityksilleEdullinen dedikoitu laitteisto tunnetulta saksalaiselta palveluntarjoajalta verrattuna päättelyyn rakennettuun yhtenäisen muistin koneeseen. Missä kumpikin voittaa.8 min lukuaika
- Yksityinen LLM-hosting vs CoreWeave EU-yrityksilleDedikoitu EU:ssa sijaitseva DGX Spark hintaan 0,79 $/tunti vs CoreWeaven yritys-GPU-pilvi: klusterien mittakaava, sopimusten vähimmäismäärät, datan sijainti ja missä kumpikin todella sopii.8 min lukuaika
- Yksityinen LLM-hosting vs Vast.ai EU-yrityksilleDedikoitu EU:ssa sijaitseva DGX Spark hintaan 0,79 $/tunti vs Vast.ai:n vertaisverkko-GPU-markkinapaikka: kuka koneen todella omistaa, datan sijainti, luotettavuus ja missä kumpikin voittaa.8 min lukuaika
- Yksityinen tekoäly vs ChatGPT EnterpriseMissä ChatGPT Enterprisen sopimukselliset kontrollit päättyvät ja dedikoidun koneen datan sijainti alkaa.7 min lukuaika
- DGX Spark vs pilvi-GPU-instanssitDedikoidun Sparkin omistaminen verrattuna GPU-tuntien vuokraamiseen tokeni- tai tuntihinnalla, kustannusten ja hallinnan kannalta.7 min lukuaika
- Itse ylläpidetyt vs hallinnoidut LLM-alustatMitä otat vastuullesi, kun ajat mallia itse, ja mitä hallinnoitu alusta silti jättää käsiisi.7 min lukuaika
Vaatimustenmukaisuuden UKK.
Onko se GDPR:n mukaista?
GPUwerk toimittaa tarvitsemasi näytön: laitteisto ja toiminta EU-Centralissa, 28 artiklan mukainen tietojenkäsittelysopimus, ei työkuormien alikäsittelijöitä GPUwerkin omilla tasoilla, ja dedikoidut yhden vuokralaisen koneet, joiden sisältöön GPUwerk ei pääse, eikä lue, kopioi, indeksoi tai analysoi sitä. Infrastruktuurin pääkäyttäjällä on pääsy taustalla olevaan koneeseen, kuten missä tahansa ylläpidetyssä palvelussa, eikä sitä DPA:n mukaan käytetä sisältöösi paitsi pyynnöstäsi tukea varten tai silloin, kun lakisääteinen velvoite sitä edellyttää. Olet edelleen rekisterinpitäjä, joten itse käsittelyn vaatimustenmukaisuus on sinun todettavasi.
Allekirjoitatteko DPA:n?
Kyllä, vakiomuotoinen GDPR:n 28 artiklan mukainen DPA on julkaistu maksutta osoitteessa /legal/dpa. GPUwerkin työkuormien alikäsittelijäluettelo on lyhyt: GPUwerkin omilla tasoilla niitä ei ole; Partner-taso toimii kumppaniylläpitäjän koneella.
Voiko tietosuojavastaavamme auditoida järjestelyn?
Kyllä. GPUwerk toimittaa dokumentaation fyysisestä sijainnista, pääsynhallinnasta ja tyhjennysmenettelyistä ja vastaa tietosuojavastaavien kyselyihin suoraan. Lähetä tietosuojavastaavasi kysymykset.
Mitä datallemme tapahtuu, kun lopetamme?
Lopettaminen poistaa konttisi ja sen /workspace-taltion solmulta. Ennen kuin solmu tarjotaan toiselle asiakkaalle, se puhdistetaan: jokainen vuokralaiskontti ja -taltio poistetaan, eikä solmu läpäise valmiustarkistustaan eikä sitä osoiteta, niin kauan kuin yksikin niistä on jäljellä. Tämä on tiedostojärjestelmätason poisto. GPUwerk ei käytä solmuissa itsesalaavia levyjä tai koko levyn salausta, joten se ei väitä tekevänsä kryptografista tyhjennystä. GPUwerk ei säilytä kopiota työtilastasi missään muualla: ei varmuuskopiota eikä palautuskopiota. Jos levy hajoaa, sillä oleva työtila menetetään, joten pidä oma kopiosi. Jos saldosi laskee nollaan tai saavutat kuukausibudjettisi, instanssi pysäytetään ja sen kone vapautetaan. Työtila säilyy koneella enintään 48 tuntia. Lataa saldoa tai nosta budjettia ja käynnistä se uudelleen sinä aikana, niin se jatkaa siitä, mihin jäi, ellei joku muu ole vuokrannut konetta, mikä poistaa sen aikaisemmin. 48 tunnin jälkeen se poistetaan lopullisesti. Vähäisestä saldosta kertovat sähköpostit varoittavat ennen kuin näin käy; saldon automaattinen lataus tekee sen epätodennäköisemmäksi, mutta maksu voi epäonnistua.
Kattaako tämä myös EU:n tekoälyasetuksen, ei vain GDPR:ää?
Dedikoitu laitteisto ei muuta EU:n tekoälyasetuksen mukaista riskiluokkaasi tai asemaasi tarjoajana/käyttöönottajana; ne riippuvat siitä, mitä järjestelmäsi tekee, eivät siitä, missä se toimii. Se antaa sinulle selkeän vastauksen siihen, kuka pääsee käsiksi dataasi mallin ollessa käynnissä, mikä on hyödyllistä näyttöä käyttöönottajan velvoitteisiin, joita useimmat itse ylläpitävät yritykset todellisuudessa kohtaavat. Katso GDPR ja EU:n tekoälyasetus dedikoidulla laitteistolla kokonaiskuvaa varten yhdellä sivulla.
Infrastruktuurin lisäksi
Käytännön käyttöönottopaketti.
Jos tarvitset muutakin kuin infrastruktuuria, voin lisätä rajatun toimeksiannon, jolla on selkeät tuotokset tiimin perehdytykseen ja integraatioon.
Projektin alkukartoitus
Määritä käyttötapauksen rajat, viivetavoitteet ja kuka hyväksyy tuotantoon siirron.
Tiimin koulutus
Käytännön istuntoja kehotteiden laadusta, hallintomalleista ja yleisistä toimintatavoista.
Integraation tiekartta
Suunnittele API:n käyttöönotto, mukaan lukien mitä työkalujesi pitäisi tehdä, kun instanssi on pysäytetty tai varattu.
Herätä tekoälyprojektisi eloon.
Ota Spark käyttöön ja testaa itse, tai kysy henkilöltä, joka ylläpitää räkkejä. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa.