Вже місяць як мені накидали прикладів сайтів для демонстрації роботи LLM + RAG AI чат ботів, але я тільки нещодавно почав паблішити результати.
Одразу помітили декілька проблемних місць, edge cases, і пофіксили їх. Сильно розширили контексте вікно і зручність для середніх та великих сайтів – в першій версії система індексувала 10 сторінок. Після покращень, можна індексувати сайти хоч по 300+ сторінок і воно продовжує індексувати в бекграунді.
Так що тепер будемо публікувати результати по всьому що накидали, і якщо буде бажання то кидайте ще приклади веб сайтів, своїх або чужих на яких ви хотіли би побачити технологію в роботі. Нагадаю, що ми демонструємо як працює RAG бот – тобто LLM + проіндексований ваш веб-сайт, щоб в AI асистента був контекст про ваш бізнес.
За цей приклад дякую Val Pertsiya – ідеальний приклад як для малого бізнесу. Про власницю бізнесу та напрямок роботи LLM щось трошки знає, але без RAG починає галюцинації, тому що не має достатньо контексту (а також як ви знаєте, а може і не знаєте – але індексація в OpenAI наприклад наразі закінчується жовтнем 2023-го року). Про продукт та програму LLM не знає нічого – тому RAG тут працює дуже наочно.
В результаті експеріменту з проєктом “ЕкстраДетоксБокс“, можна підтвердити, що RAG працює і AI асистент на сайті стає дійсно корисним та працює як треба. Якщо ставити AI асистент на сайт, то точно таким чином як ми зробили, з додатковим контекстом через RAG або інші механізми. AI асистент на голому “ChatGPT”, навпаки, буде шкідливим.
При цьому, я не впевнений що наш RAG бот потрібний в такому випадку де сайт невеликий, навіть незважаючи на те що наш продукт безкоштовний для small business.
Чому AI асистент, скоріш за все, не додасть багато цінності у такому випадку? Тому що відвідувачам буде простіше переглянути 3-5 сторінок, ніж задавати питання боту. Але як раз для цього ми це і робимо щоб розібратися де які технології AI мають сенс для бізнесу, де ні.
Далі докладніше про конкретний case study.
Що таке RAG і чому це важливо?
RAG (Retrieval Augmented Generation) — це технологія, яка дозволяє AI-асистенту отримувати доступ до конкретної інформації вашого бізнесу в режимі реального часу.
Як це працює — простими словами:
* Індексація веб-сайту – система сканує всі сторінки вашого сайту
* Векторні ембедінги – текст перетворюється у математичний формат (вектори), який AI може швидко аналізувати
* Векторна база даних — вся інформація зберігається в спеціальній базі
* Розумний пошук – коли користувач ставить питання, система знаходить найрелевантнішу інформацію
* Контекстна відповідь – LLM отримує тільки релевантну інформацію та дає точну відповідь
Переваги RAG перед простим копіюванням тексту:
⚡ Швидкість – не треба передавати всю інформацію при кожному запиті
💰 Економія – менше токенів = менші витрати
🎯 Точність – тільки релевантна інформація
📈 Масштабованість – працює навіть з великими сайтами
🔄 Автоматичне оновлення – легко переіндексувати при змінах на сайті
Впровадження: Покрокова інструкція
Крок 1: Налаштування промпту
Спочатку ми змінили системний промпт з базового “You are a helpful assistant” на конкретний:
“Ти AI-асистент на сайті ExtraDetoxBox, присвяченому продукту ExtraDetoxBox. Твоя задача — допомагати відвідувачам отримувати інформацію щодо продукту та компанії, позиціонувати себе як частину команди.”
Результат: Бот почав позиціонувати себе як частину команди ExtraDetoxBox.
Крок 2: Індексація веб-сайту
В адмін-панелі Ethora ми просто вказали URL сайту:
Система автоматично:
* Проіндексувала всі доступні сторінки
* Перетворила контент у векторні ембедінги
* Створила базу знань для AI-асистента
Час індексації: До 5 хвилин
Крок 3: Налаштування параметрів similarity
Для малого бізнесу з невеликим сайтом ми встановили параметр similarity на рівні 0.3-0.4 (30-40%), що дозволяє AI знаходити релевантну інформацію навіть коли користувачі формулюють питання по-різному.
Крок 4: Встановлення віджета на сайт
Просто додали наданий код у розділ <body> HTML-сторінки:
html<!– Ethora AI Widget Code –>
<script>…</script>
Час встановлення: 2-3 хвилини
Результати: До і Після
Тест 1: Ідентифікація
До RAG:
❌ “Я штучний інтелект, розроблений компанією OpenAI”
Після RAG:
✅ “Ми ваш AI-асистент на сайті ExtraDetoxBox, присвячений продукту ExtraDetoxBox”
Тест 2: Рекомендація продукту
До RAG:
❌ Бот рекомендував: зелені смузі, трав’яні чаї, пробіотики (народні засоби та галюцинації від LLM, не маючи знань про наш продукт)
Після RAG:
✅ “Звичайно, ми рекомендуємо спробувати наш ExtraDetoxBox…”
Бот активно просуває власний продукт, або на більш загальні питання перелічить традиційні запити та порекомендує наш продукт.
Тест 3: Інформація про продукт
До RAG:
❌ Загальна інформація, здогадки
Після RAG:
✅ “ExtraDetoxBox – це наш унікальний продукт, розроблений спеціально для ефективної детоксикації організму…”
Конкретна інформація з сайту
Тест 4: Деталі програми
До RAG:
❌ “Інтервальне голодування може це…” (галюцинація)
Після RAG:
✅ Чітка відповідь про програму “Харчова пауза” з конкретними деталями про 6-тижневий курс
Тест 5: Відгуки клієнтів
До RAG:
❌ “Можуть суттєво варіюватися. Зазвичай клієнти діляться…” (загальна “вода”)
Після RAG:
✅ Конкретні відгуки з іменами реальних клієнтів з сайту
Тест 6: Ціна
До RAG:
❌ “Зазвичай ціна на такі комплекти коливається у межах 1000-3000 грн” (неправильно!)
Після RAG:
✅ “Ціна ExtraDetoxBox становить 13,900 гривень”
Точна інформація з сайту
Тест 7: Процес покупки
До RAG:
❌ Загальні поради про офіційні сайти та соцмережі
Після RAG:
✅ “Купити ExtraDetoxBox дуже просто! Ось кроки:
Ознайомтеся з продуктом на нашому сайті
Оплатити можна через Way4Pay, ApplePay, GooglePay
Доставка – товарно-транспортна накладна Нової Пошти”
Конкретні, практичні інструкції!
Ключові переваги для малого бізнесу
💼 Бізнес-результати:
✅ Правильне позиціонування – бот представляє себе як частину команди
✅ Промоція власних продуктів – рекомендує ExtraDetoxBox, а не конкурентів
✅ Точна інформація – правильні ціни, деталі програм, умови доставки
✅ Довіра клієнтів – реальні відгуки та факти замість “води”
✅ Конверсія – чіткі інструкції як купити продукт
⚙️ Технічні переваги:
✅ Швидке впровадження – до 30 хвилин загального часу
✅ Без технічних знань – не потрібно програмувати
✅ Автоматичне оновлення — легко переіндексувати сайт при змінах
✅ Масштабованість – працює для сайтів будь-якого розміру
✅ Мультимовність – підтримує українську, англійську та інші мови
Важливі уроки та рекомендації
1. Контекст рішає
Якість відповідей AI-асистента на 100% залежить від контексту. Чим краще структурована інформація на вашому сайті, тим точніші відповіді.
2. Налаштування similarity
Для малих сайтів рекомендуємо параметр similarity 0.3-0.4 (30-40%), щоб бот міг знаходити релевантну інформацію навіть при різних формулюваннях питань.
3. Якість та структура контенту на сайті
Якщо на сайті інформація неструктурована або називається по-різному (наприклад, продукт називається “ExtraDetoxBox”, а програма – “Харчова пауза”), це може створювати труднощі для AI.
Рішення:
- Додати чіткі заголовки та описи
- Вказати в промпті додаткову інформацію
- Проіндексувати додаткові джерела
4. Тестування – критично важливе
Після впровадження обов’язково протестуйте найпоширеніші питання від клієнтів і скоригуйте промпт або контент на сайті при потребі.
Вартість та ROI
Інвестиції:
* Впровадження: Безкоштовно (Free plan від Ethora)
* Час: 30 хвилин робочого часу
* Підтримка: Мінімальна (автоматичні оновлення)
Економія:
❌ Не потрібен окремий менеджер для відповідей на типові питання
❌ Не потрібен розробник для створення власного рішення
❌ Не потрібно вивчати складні технології
Результат:
✅ 24/7 підтримка клієнтів
✅ Миттєві точні відповіді
✅ Більше конверсій у продажі
✅ Професійний імідж компанії
Висновки
Впровадження AI-асистента з RAG-технологією на сайті ExtraDetoxBox показало:
- “Гола” LLM без контексту – шкідлива для бізнесу, оскільки дає неточну інформацію та рекомендує продукти конкурентів
- RAG-технологія – ключова для створення корисного AI-асистента, який розуміє ваш бізнес
- Малий бізнес може отримати enterprise-рівень AI-підтримки клієнтів за лічені хвилини
- Правильний промпт + індексація сайту = AI-асистент, який справді допомагає продавати
Рекомендую всім поексперіментувати з цією технологією та налаштувати ваш особистий RAG AI assistant чат бот для вашого бізнесу. Це зробити дуже просто – створіть акаунт на https://app.ethora.com/register та слідуйте інструкціям