Обладнання у вашій серверній кімнаті
База знань на власному обладнанні
Договори, технічну документацію та листування, які політика компанії забороняє передавати в хмару, шукайте через чат. Модель та індекс розміщені у вашій серверну стійці. Одна машина обробляє паралельно від 5 до 20 простих запитів у діапазоні 100–1000 мс. Кожен додатковий сервер подвоює цю потужність.
На практиці
Дані не залишають будівлю
Юридичний відділ, відділ кадрів та інженери-конструктори працюють із документами, які згідно з політикою компанії не можна надсилати до публічного API. Рішення не в тому, щоб відмовитися від семантичного пошуку, а в тому, щоб перенести його на обладнання у вашій серверній.
Постачаємо налаштовану машину з відкритою моделлю, індексом документів і панеллю адміністратора. Ви визначаєте папки, ми налаштовуємо права доступу та навчаємо вашого ІТ-фахівця самостійно оновлювати індекс.
Бази знань, на яких ми це розгортаємо, зазвичай містять 10–500 файлів, кожен із графікою. Спосіб векторизації добираємо відповідно до процесів, які фактично відбуваються у вас.
Запити понад поточний ліміт не втрачаються. Вони стають у чергу до 1 000 позицій, з лімітом очікування від 1 до 10 секунд, який налаштовується під час конфігурації. Кожна відповідь указує документ, з якого її отримано, тож працівник може перевірити її за першоджерелом.
Адміністратором даних у розумінні GDPR залишаєтеся Ви. Ми отримуємо доступ лише на час обслуговування та за Вашою чіткою вказівкою.
-
Як це працює
Мовна модель і векторний індекс ваших файлів працюють на одному сервері. Відеокарту підбираємо відповідно до обсягу даних: 128 GB пам’яті вистачає для моделей класу 70B у квантованому форматі. Запит, документ і відповідь не залишають корпоративну мережу, а підключення до інтернету можна вимкнути.
-
З чим інтегрується
Пристрій підключається до наявної мережі та зчитує дані зі спільних папок SMB, пошти й сховища документів, якими ви вже користуєтеся. Вхід виконується через Active Directory, тож вам не потрібно створювати й адмініструвати окремі облікові записи та паролі.
-
Хто приймає рішення
Обладнання, диски та ваги моделі належать вам. Після завершення співпраці не залишиться нічого, що потрібно було б повертати нам. Журнали показують, хто про що запитував і який документ використали. Це стане в пригоді під час перевірки відповідності вимогам GDPR.
Проблема
Правила забороняють надсилати ці файли в хмару?
Рішення HEXART
Локальний RAG від HEXART зберігає індекс, модель і документи на одному пристрої у вашій серверній. Запитання й відповіді залишаються у корпоративній мережі, а журнали доступу переглядає ваш адміністратор, а не постачальник.
Заплануйте аудит інфраструктуриПитання та відповіді
Часті питання
Скільки запитів обробить одна машина?
Паралельно від 5 до 20 простих векторних запитів у вікні 100–1 000 мс. Кожен наступний сервер подвоює цю кількість. Надлишкові запити чекають у черзі до 1 000 позицій, а ліміт очікування від 1 до 10 секунд задається під час налаштування.
Чи залишають документи корпоративну мережу?
Ні. Мовна модель і векторний індекс розміщені на одному сервері у вашій серверній, а запит, вміст документа й відповідь не залишають корпоративну мережу. Під час роботи інтернет-з’єднання можна відключити.
Чи потрібно створювати окремі облікові записи та паролі?
Ні. Вхід виконується через Active Directory, а пристрій отримує доступ до спільних ресурсів SMB, пошти та сховища документів, які у вас уже є.
Хто є контролером даних у розумінні GDPR?
Wy. Наш доступ відкривається лише на час обслуговування та за Вашим чітким запитом. Журнали показують, хто про що запитував і який документ використовувався. Це стане в пригоді під час перевірки відповідності GDPR.
Розмова без зобов'язань
Запланувати воркшоп із Paul
Оберіть тридцять хвилин або повноцінний воркшоп. Забронюйте час у календарі, підтвердження надійде одразу.
Paul Lazniak
Засновник HEXART
- Зустріч завжди з однією і тією ж людиною
- 30 хв
- biuro@hexart.pl
- +48 662 016 430
Контакти
Обговорімо ваш проєкт
Покажемо діюче рішення до того, як почнемо про нього розповідати. Напишіть, що вам потрібно: фільм, світ XR, система AI чи айдентика бренду.
Напишіть або зателефонуйте
Достатньо кількох речень: що має бути створено, на коли і для кого.
- Електронна пошта
- biuro@hexart.pl
- Телефон
- +48 662 016 430
- Адреса
- Aleja Zwycięstwa 96/98, 81-451 Gdynia