Internal AI search across 50k documents costs 20,000–45,000 PLN

Materiał poradnikowy, pisany z perspektywy wykonawcy. Opisuje typowe rozwiązania, nie rozstrzyga jednostkowego przypadku. Poniedziałek rano w spółce produkcyjnej na 90 osób. Kierownik zakupów szuka umowy z podwykonawcą z 2022 roku, na dysku sieciowym i SharePoint leży 60 000 plików, a nazwy typu „skan_04102022_v2.pdf” nic nie mówią. Odpowiedź jest w dokumentach, tylko nikt nie potrafi jej znaleźć w mniej niż pół godziny. To klasyczny moment, w którym warto sprawdzić wewnętrzną wyszukiwarkę AI, która po polsku odpowiada na pytanie i pokazuje dokument źródłowy. Pytanie brzmi: ile to kosztuje, ile trwa i od czego zacząć w poniedziałek.

AIAI-generated image.

Zanim ktokolwiek wyda pieniądze na serwer, warto policzyć dwie granice. 50 000 dokumentów i 15 zapytań dziennie to w praktyce wdrożeniowej punkt, od którego lokalna wyszukiwarka przestaje być fanaberią. Pełne uruchomienie na takim zbiorze kosztuje zwykle 20 000–45 000 zł startu i 1 000–3 000 zł miesięcznie za utrzymanie, prąd i administrację. Indeksacja po OCR zajmuje 7–14 dni. W jednym tygodniu bez nowego budżetu da się natomiast zrobić pilot na 5 000–10 000 plików urodzonych cyfrowo i na sprzęcie, który już stoi w biurze.

What you can do this week

Poniedziałek, 3 godziny, administrator IT inwentaryzuje udziały sieciowe i SharePoint. Spisuje, ile plików jest w formatach PDF, DOCX, TXT, a ile to skany bez warstwy tekstowej. Wtorek, 2 godziny, IT z kierownikiem działu wybiera po 2 500 plików z dwóch działów, np. ofert i instrukcji. Usuwa oczywiste duplikaty. Środa, 2 godziny, administrator IT uruchamia lokalnie Open WebUI z Ollama na maszynie z 32 GB RAM. Koszt to tylko czas pracownika, a instalacja zajmuje kilkanaście minut według dokumentacji Open WebUI. Czwartek, 3 godziny, IT podpina wybrany podzbiór bez skanów; skany zostają na później, bo OCR 100 000 plików to osobny etap. Piątek, 2 godziny, dyrektor operacyjny i kierownik działu przepuszczają 15 pytań testowych i patrzą, czy odpowiedź dostaje źródło. Łącznie to 12–14 godzin roboczych bez nowych faktur.

What to avoid doing right away

Nie zamawiać serwera GPU za 40 000 zł przed testem trafności na 50 pytaniach. Bez tego nie wiadomo, czy problem leży w sprzęcie, czy w jakości plików. Nie włączać od razu usługi w chmurze, np. Azure AI Search — stawki API wyglądają nisko, ale nie obejmują czyszczenia, OCR ani przygotowania polskich skanów. Nie integrować z Active Directory i uprawnieniami dostępu w pierwszym tygodniu, zanim nie sprawdzisz, że wyszukiwarka w ogóle trafia w dokumenty. Nie czyścić całego dysku sieciowego na start; indeksowanie śmieci utrwala tylko śmieci. Nie kupować licencji enterprise z brandingiem i wsparciem u dostawcy, dopóki nie ma wyniku testu.

AIAI-generated image.

How to verify it works after two weeks

Po dwóch tygodniach od pilotażu policz jedną rzecz: ile z 50 pytań testowych kończy się wskazaniem właściwego dokumentu w pierwszej odpowiedzi. Zbiór 50 pytań ustalają dwie osoby, które znają zasoby. Wynik 35/50 lub więcej oznacza, że warto indeksować kolejne działy i myśleć o sprzęcie. Wynik poniżej 30/50 to sygnał, żeby się wycofać z dalszych ruchów i najpierw poprawić jakość plików: usunąć duplikaty, sprawdzić OCR, zwiększyć okno kontekstu lokalnego silnika do co najmniej 8192 tokenów. Bez tego dokupowanie mocy nic nie da.

Jeśli nie macie czasu na składanie Open WebUI i Ollama, HEXART wchodzi na gotowe. Zwykle robimy inwentaryzację plików, test na 50 pytaniach i pilotaż w dwóch działach, a dopiero potem rozmawiamy o infrastrukturze. Opis usług jest na hexart.pl. Bez presji — część spółek po tygodniu testu sama wie, czy to ma sens.