A 22,000 PLN server transcribes Polish calls. Threshold: 40 hours of audio per month

Dzielimy się tym, co sami sprawdziliśmy przy wdrożeniach: bezpłatnie i bez założenia, że Twój przypadek wygląda identycznie. Lokalny serwer do spisywania polskich rozmów handlowych zaczyna się od 18 000 zł netto za używaną stację z kartą graficzną 24 GB VRAM. Realny budżet na nowy sprzęt i wdrożenie to 22 000–35 000 zł netto. Taki serwer przerabia 1 godzinę nagrania w 6–12 minut i nie wysyła plików poza firmę.

Próg opłacalności w naszej praktyce to 40 godzin nagrań miesięcznie. Poniżej 30 godzin taniej wychodzi usługa chmurowa. Powyżej 50 godzin własny sprzęt zwykle wygrywa kosztem prądu i serwisu. Te wartości wynikają z porównania stawek chmurowych za minutę polskiego nagrania z amortyzacją karty i czasem pracy administratora.

Silnik to otwarte oprogramowanie Whisper w szybszej implementacji faster-whisper. Model `large` potrzebuje 10 GB VRAM, a `turbo` około 6 GB. Na czystych nagraniach telefonicznych błąd transkrypcji polszczyzny wynosi zwykle WER 5–10%. Na rozmowach z szumem tła błąd rośnie do 15–20%.

Skąd to się bierze

Chmura liczy za minutę, lokalny serwer za prąd i amortyzację. Przy 40 godzinach miesięcznie chmura generuje stałą fakturę, a serwer tylko koszt energii — zwykle poniżej 150 zł miesięcznie. Różnicę robi karta graficzna: model na GPU transkrybuje godzinę w 6–12 minut, na CPU ten sam plik potrafi zająć 45 minut albo dłużej.

Dokumentacja NVIDIA Riva potwierdza, że rozpoznawanie mowy można uruchomić produkcyjnie on-premises. Whisper nie ma opłaty licencyjnej za model. Koszt to sprzęt, wdrożenie i integracja z centralą oraz CRM.

AIAI-generated image.

Co z tym zrobić u siebie

Pierwszy krok to audyt nagrań. Sprawdź, ile godzin miesięcznie rejestruje centrala i w jakim formacie leżą pliki. Drugi krok to zgody i klauzule — UODO opisuje podstawy nagrywania rozmów z klientami, ale konkretną podstawę prawną dla transkrypcji i retencji warto potwierdzić z prawnikiem. Trzeci krok to czyszczenie plików: normalizacja głośności, usunięcie ciszy, podział na kanały rozmówcy.

Potem uruchamiasz silnik ASR w kontenerze Docker z wyłączonym dostępem do internetu — model pobrany raz na serwer działa lokalnie. Test robisz na próbie 50 godzin nagrań. Sprawdzasz WER na polskich dialogach, czas spisywania i obciążenie GPU. Dopiero po teście podpinasz transkrypty do CRM i ustalasz retencję.

Cały projekt zamyka się zwykle w 4–6 tygodniach: tydzień na audyt i zgody, tydzień na instalację i czyszczenie plików, tydzień na testy jakości, tydzień na integrację i poprawki. Równolegle prowadzisz pomiar kosztów prądu i czasu administratora.

Kiedy to NIE zadziała

Poniżej 30 godzin nagrań miesięcznie lokalny serwer zwykle nie ma sensu. Koszt karty i montażu nie zdąży się zamortyzować przed starzeniem sprzętu. Drugi warunek brzegowy to jakość nagrań: rozmowy z głośnego biura open space albo nagrane przez słabe mikrofony dają WER powyżej 20% i transkrypty wymagają ręcznej korekty. Trzeci to brak administratora, który umie postawić Dockera i sterowniki NVIDIA — bez tego wdrożenie utknie.

Lokalne przetwarzanie nie zwalnia z RODO. Art. 32 RODO wymaga szyfrowania, kontroli dostępu i procedur na wypadek incydentu. Nagrania rozmów z klientami to dane osobowe — trzeba ustalić podstawę prawną, okres retencji i sposób usuwania plików.

HEXART pomaga w doborze sprzętu, stawia lokalny silnik ASR i podpina go do centrali oraz CRM. Zaczynamy od krótkiej konsultacji, podczas której sprawdzamy, ile nagrań naprawdę macie i czy próg 40 godzin jest u was realny.