Siirry sisältöön

Turvallisuus ja tietosuoja20:06

Tarjous on 10 kertaa kalliimpi kuin API-hinnasto. 12 kysymystä tapaamiseen

Näin selvität, myykö toimittaja omaa AI-ratkaisua vai ainoastaan toisen osapuolen malliin perustuvaa käyttöliittymää. 12 tarkistuskysymystä, katteen raja-arvot ja ehdot, joiden täyttyessä ratkaisu voi olla hyväksyttävä.

Kuva on luotu tekoälyllä.

Kuuntele artikkelin tiivistelmä

Synteettinen ääni.
0:00
0:00

Opas on kirjoitettu toteuttajan näkökulmasta. Se kuvaa tyypillisiä ratkaisuja eikä ota kantaa yksittäistapaukseen. Ensimmäinen testi on yksinkertainen: pyydä mallin tarkka nimi, versio ja endpoint. Jos toimittaja puhuu ”omasta mallista” ilman dokumentaatiota, kyseessä on yleensä käyttöliittymä toisen osapuolen API:n päällä. Toinen merkki on hinta. Samaa tehtävää koskevat tarjoukset voivat erota 3–10-kertaisesti, koska osa yrityksistä vain jälleenmyy mallin käyttöoikeutta. Todellinen integraattorin kate on mediaaniltaan 18–35 % mallin kustannuksista. Yli 50–100 %:n kate ilman omia teknisiä komponentteja on jo merkki pelkästä käyttöliittymästä. Yleiskäyttöisillä malleilla on omat velvoitteensa 2. elokuuta 2025 alkaen, ja suurinta osaa AI Act -asetuksen säännöksistä sovelletaan 2. elokuuta 2026 alkaen.

Kuva on luotu tekoälyllä.

Mistä tämä johtuu

Kielimallien API:t ovat edullisia ja helppoja paketoida. Käyttöliittymän, promptin ja GPT-4o:n päälle rakennetun RAG-kerroksen voi toteuttaa viikossa. OpenAI:n virallisen hinnaston mukaan GPT-4o mini -mallin miljoona syötetokenia maksaa 2,50 USD. Toimittaja, joka ei hallitse mallia, ei voi ottaa vastuuta mallin tuottajan virheistä eikä taata käsittelyaluetta. Yleisen tietosuoja-asetuksen 28 artikla edellyttää tietojenkäsittelysopimusta ja luetteloa alikäsittelijöistä. Käyttöliittymätoimittajalla ei yleensä ole kumpaakaan. Siksi tarjotaan API-hinnastoon verrattuna 10 kertaa kalliimpia ratkaisuja ilman teknistä perustetta.

Mitä tehdä omassa organisaatiossa

Toimittajan kanssa pidettävässä tapaamisessa kannattaa käydä läpi 12 tarkistuskysymystä. Ensimmäinen: mikä on käytettävän perusmallin tarkka nimi, versio ja endpoint. Toinen: tehdäänkö sopimus suoraan mallin tuottajan kanssa vai Microsoft Azuren, Google Cloudin tai AWS:n kautta, ja mikä on toimittajan kumppaniasema. Kolmas: onko BYOK mahdollista ja voiko käytön laskuttaa suoraan. Neljäs: kuka on yleisen tietosuoja-asetuksen mukainen henkilötietojen käsittelijä ja ketkä ovat alikäsittelijöitä. Viides: millä alueella tietoja käsitellään ja onko saatavilla vain EU-alueella tapahtuva käsittely. Kuudes: sisältääkö ratkaisu hienosäätöä, RAG:n tai vektoroinnin vai ainoastaan käyttöliittymän ja promptin. Seitsemäs: nettohinta miljoonaa syöte- ja tulostetokenia kohden. Kahdeksas: taattu SLA ja sen mittaustapa. Yhdeksäs: voiko perusmallia vaihtaa sopimusta muuttamatta ja taataanko tietojen vienti. Kymmenes: onko prompt injection- ja hallusinaatiotestit tehty ja miten niistä raportoidaan. Yhdestoista: miten toimittaja luokittelee järjestelmän AI Act -asetuksen mukaan ja mistä toimittajan velvoitteista se vastaa. Kahdestoista: kuka vastaa mallin virheistä ja mitkä ovat vastuunrajoitukset.

Integraation ja käyttöliittymän ero perustuu hallintaan ja vastuuseen. Integraatiossa malli liitetään asiakkaan arkkitehtuuriin, ja kokonaisuuteen kuuluvat tietoturvakerros, valvonta, SLA, tietojenkäsittelysopimus ja vastuu koko ratkaisusta. Käyttöliittymä taas on käyttöliittymä tai prompti toisen osapuolen API:n päällä ilman mallin hallintaa tai vastuuta mallin tuottajan virheistä. Käytännössä tarkistamme asian vertaamalla tokenien hintaa mallin tuottajan viralliseen hinnastoon. Integraattorin kate on mediaaniltaan 18–35 % mallin kustannuksista. Tarjous, joka on 10 kertaa API-hinnastoa kalliimpi ilman teknistä perustetta, kannattaa hylätä.

Kuva on luotu tekoälyllä.

Milloin tämä EI toimi

Päälle rakennettu käyttöliittymä voi olla hyväksyttävä, kun neljä ehtoa täyttyy: käyttöliittymä ilmoittaa selvästi perustuvansa toisen osapuolen malliin, hinta on lähellä API:n kustannusta ja siihen lisätään 5–15%:n kate, käytettävissä on BYOK-vaihtoehto ja pilotti on lyhyt sekä vähäriskinen. Säännellyillä aloilla, kuten rahoituksessa, terveydenhuollossa ja verkkokaupassa, ratkaisu ei yleensä läpäise GDPR-arviointia, jos käsittelyalueeseen ei voi vaikuttaa. Myös harhaanjohtava väite omasta mallista kuuluu Puolan vilpillisen kilpailun torjuntaa koskevan lain piiriin. Toisen osapuolen API:n jälleenmyynnin salaava toimittaja voi siis joutua oikeudelliseen kiistaan. Käytännössä 50%:n kate ilman omia komponentteja on raja, jonka ylittyessä kannattaa pyytää tekninen auditointi.

HEXART auttaa käymään nämä 12 kysymystä läpi käytännössä: tarkistamme tarjoukset, vertaamme hintoja valmistajien hinnastoihin ja laadimme listan toimittajan auditoinnissa tarvittavista todisteista. Lue lisää toteutuksistamme: hexart.pl.

Lähdemateriaalit

Materiaaleja, joihin viittasimme kirjoittaessamme. Yllä oleva teksti on omamme. Nämä sivustot eivät vastaa sen sisällöstä eivätkä ole sitä valtuuttaneet.

Sitoumukseton keskustelu

Varaa työpaja Paulin kanssa

Kolmekymmentä minuuttia tai täysi työpaja, valitse sopivin. Varaa aika kalenterista, vahvistus tulee heti.

Paul Lazniak

HEXARTin perustaja