Hoppa till innehållet

Automatisering20:00

Dlaczego firmowy chatbot nie zna procedur i co z tym zrobić

Model językowy nie zna Waszej instrukcji reklamacyjnej, bo nigdy jej nie widział. Co trzeba zbudować obok modelu, ile taka baza realnie waży i od ilu plików warto zaczynać.

Bild genererad av AI.

Poradnik z wdrożeń, nie ekspertyza dla Waszej organizacji — przy dokumentach kadrowych i prawnych warto go zestawić z osobą odpowiedzialną u Was za dostęp do danych.

Najczęstsze rozczarowanie po uruchomieniu asystenta w firmie brzmi zawsze tak samo: „pytam o naszą procedurę reklamacyjną, a on zmyśla”. To nie jest usterka modelu. Model nigdy nie widział Waszej procedury i nie ma jak jej znać — odpowiada więc tym, co statystycznie pasuje do pytania.

Bild genererad av AI.

Czego brakuje obok modelu

Brakuje warstwy, która najpierw znajdzie właściwy fragment w Waszych dokumentach, a dopiero potem poda go modelowi razem z pytaniem. To zmienia zadanie modelu z „wiedz” na „streść to, co masz przed sobą” — i dopiero wtedy odpowiedź da się sprawdzić, bo można pokazać, z którego pliku i której strony pochodzi.

Druga rzecz, o której się zapomina, to uprawnienia. Jeśli warstwa wyszukiwania widzi wszystkie foldery, to ktoś z magazynu dostanie w odpowiedzi fragment z kadr. Uprawnienia muszą odwzorowywać te z dysku firmowego, a nie powstawać osobno przy okazji wdrożenia. Trzecia: rejestr pytań i cytowanych dokumentów — bez niego nie da się później ustalić, skąd wzięła się konkretna odpowiedź.

Od czego zacząć

Od jednego działu i kilkuset plików, nie od całej firmy. Po miesiącu widać, które pytania wracają najczęściej i które instrukcje trzeba poprawić — i to zwykle jest większa wartość niż sam asystent. Skala jest mniejsza, niż się wydaje: baza samego tekstu mieści się zwykle w 5 MB, a do 1–8 GB rośnie dopiero tam, gdzie dochodzą grafiki i nagrania instruktażowe czytane kontekstowo.

Bild genererad av AI.

Dokumentów nie trzeba nigdzie przenosić. Źródłem zostają pliki tam, gdzie leżą dzisiaj — SharePoint, Dysk Google, Confluence, skany PDF — a pytania zadaje się tam, gdzie zespół już siedzi. Gdy dane nie mogą opuścić firmy, ta sama warstwa staje na sprzęcie w Waszej serwerowni; opisujemy tam wydajność w liczbach: od 5 do 20 równoległych zapytań w oknie 100–1000 ms na jedną maszynę.

När det INTE fungerar

Nie zadziała tam, gdzie procedury nie ma. Jeśli odpowiedź na pytanie istnieje wyłącznie w głowie kierownika, wyszukiwanie po dokumentach jej nie znajdzie i asystent zrobi dokładnie to, co robił wcześniej — zmyśli. Nie zadziała też przy dokumentach, których nikt nie wersjonuje: gdy w folderze leżą trzy wersje tej samej instrukcji z różnych lat, system poda tę, którą znajdzie, a problemem nie jest wtedy model, tylko porządek w plikach.

Bild genererad av AI.

Jak wygląda taki system od strony pracownika, opisaliśmy przy bazie wiedzy firmowej. Widełki kosztów są na stronie ile kosztuje wdrożenie AI.

Källmaterial

Material som vi har konsulterat under skrivandet. Texten ovan är vår egen; dessa webbplatser ansvarar inte för innehållet och har inte godkänt det.

Förutsättningslöst samtal

Boka workshop med Paul

Trettio minuter eller en full workshop, välj själv. Boka tid direkt i kalendern, bekräftelsen kommer omedelbart.

Paul Lazniak

Grundare av HEXART