Piedāvājums 10 reizes dārgāks par API cenrādi. 12 jautājumi sapulcei

Padomu materiāls, kas rakstīts no izpildītāja viedokļa. Apraksta tipiskus risinājumus un neizšķir individuālu gadījumu. Pirmais tests ir vienkāršs: pieprasiet precīzu modeļa nosaukumu, versiju un galapunktu. Ja piegādātājs runā par "savu modeli" bez dokumentācijas, tā parasti ir sveša API čaula. Otrs signāls ir cena: piedāvājumi tam pašam uzdevumam atšķiras 3 līdz 10 reizes, jo daļa uzņēmumu tikai tālākpārdod piekļuvi modelim. Integratora uzcenojuma mediāna reālas integrācijas gadījumā ir 18–35% no modeļa izmaksām. Vairāk par 50–100% bez savām inženiertehniskajām komponentēm jau liecina par čaulu. No 2025. gada 2. augusta vispārēja lietojuma modeļiem ir savi pienākumi, un no 2026. gada 2. augusta tiek piemērots vairums AI Act noteikumu.

AIAttēls ģenerēts ar AI.

Kāpēc tā notiek

Valodas modeļu API ir lēti un viegli ietērpjami. Saskarne, uzvedne un RAG slānis virs GPT-4o top vienas nedēļas laikā, un oficiālais OpenAI cenrādis norāda 2,50 USD par vienu miljonu ievades marķieru GPT-4o mini modelim. Piegādātājs, kurš nekontrolē modeli, nevar uzņemties atbildību par ražotāja kļūdām un garantēt apstrādes reģionu. VDAR 28. pants prasa datu apstrādes līgumu un apakšapstrādātāju sarakstu: čaulai parasti nav nekā no tā. Tāpēc rodas piedāvājumi, kas ir 10 reizes dārgāki par API cenrādi bez inženiertehniska pamatojuma.

Kā rīkoties savā uzņēmumā

Tikšanās laikā ar piegādātāju ieteicams izskatīt 12 kontroles jautājumus. Pirmais: kāds tieši bāzes modelis, versija un galapunkts (endpoint). Otrais: vai līgums ir noslēgts tieši ar modeļa izstrādātāju vai ar Microsoft Azure, Google Cloud, AWS, un kāds ir partnera statuss. Trešais: vai ir pieejams BYOK un tiešie norēķini. Ceturtais: kurš ir VDAR datu apstrādātājs un kāds ir apakšapstrādātāju saraksts. Piektais: kurā reģionā dati tiek apstrādāti un vai ir pieejama tikai ES opcija. Sestais: vai risinājums ietver fine-tuning, RAG, vektorizāciju, vai tikai UI un uzvedni (prompt). Septītais: neto cena par 1 milj. ievades un izvades tokenu. Astotais: garantētais SLA un tā mērīšanas metode. Devītais: vai var mainīt bāzes modeli bez līguma grozījumiem un vai ir garantēta datu eksportēšana. Desmitais: vai ir veikti prompt injection un halucināciju testi, un kā par tiem tiek ziņots. Vienpadsmitais: kā piegādātājs klasificē sistēmu saskaņā ar AI Act un kādus pienākumus tas uzņemas kā piegādātājs. Divpadsmitais: kurš atbild par modeļa kļūdām un kādi ir atbildības ierobežojumi.

Atšķirība starp integrāciju un virsbūvi (wrapper) ir kontrole un atbildība. Integrācija ir modeļa konfigurēšana klienta arhitektūrā ar drošības slāni, monitoringu, SLA, datu apstrādes līgumu un atbildību par visu sistēmu. Virsbūve ir saskarne vai uzvedne virs sveša API, bez kontroles pār modeli un bez atbildības par ražotāja kļūdām. Praksē to pārbaudām, salīdzinot tokenu cenu ar ražotāja oficiālo cenrādi. Integratora uzcenojuma mediāna integrācijai ir 18–35% no modeļa izmaksām. Piedāvājums, kas ir 10 reizes dārgāks par API cenrādi bez inženiertehniska pamatojuma, ir jānoraida.

AIAttēls ģenerēts ar AI.

Kad tas NEDERĒS

Virsbūve ir pieļaujama, ja tā atbilst četriem nosacījumiem: skaidra norāde, ka tā ir saskarne uz sveša modeļa bāzes, cena tuvu API izmaksām plus 5–15% uzcenojums, BYOK opcija un īss pilotprojekts ar zemu riska līmeni. Regulētajās nozarēs (finanses, veselības aprūpe, e-komercija) virsbūve bez kontroles pār apstrādes reģionu parasti neiztur VDAR pārbaudi. Negodīgas konkurences novēršanas likums attiecas arī uz maldināšanu par pašu izstrādātu modeli, tāpēc piegādātājs, kurš slēpj sveša API tālākpārdošanu, riskē ar tiesvedību. Praksē 50% uzcenojuma robeža bez saviem komponentiem ir brīdis, kad vērts pieprasīt tehnisko auditu.

HEXART palīdz praksē izskatīt šos 12 jautājumus: pārbaudām piedāvājumus, salīdzinām cenas ar ražotāju cenrāžiem un sagatavojam pierādījumu sarakstu piegādātāja auditam. Uzziniet vairāk par mūsu ieviestajiem risinājumiem vietnē hexart.pl.