ШІ-бот: як запустити в роботу чат-бот?
Запуск ChatGPT у 2022 році спровокував нову хвилю інтересу до штучного інтелекту (ШІ). Ажіотаж навколо генеративних технологій ШІ спантеличує і викликає суперечливі відчуття. Одні вважають їх революційними для бізнесу, інші – роздутою «мильною бульбашкою», розповідає CGO сервісу неострахування здоровʼя lilo Василь Задворний. З досвіду імплементації генеративного ШІ у продуктове середовище стартапу lilo він поділився думками, як цей бум може вплинути на бізнес та чи здатний ШІ вже зараз замінити людину.
Через популярність генеративного ШІ на кшталт ChatGPT складається хибне враження, що от-от фантастичні фільми стануть реальністю і світ захоплять «розумні машини». Насправді ж більшість сьогоднішніх рішень – це обгортки для мовних моделей (LLM), які використовують для створення нового контенту. Тож найбільший виклик для бізнесів – визначити, в яких бізнес-процесах вони зможуть принести найбільшу цінність для компанії та не зашкодити якості продукту.
ШІ не еквівалентний великим мовним моделям
ШІ – набагато ширша група алгоритмів і технологій, що народилася майже 70 років тому. Його розвиток уже пережив кілька періодів злетів і відкриттів, серед яких і створення нейромереж чи машинного навчання.
Генеративний ШІ, що базується на LLM, є лише одним із напрямів розвитку, новим підвидом ШІ.
Генеративні моделі ШІ – це вже готові алгоритми, що розвʼязують завдання, які до цього здавалися заскладними або задорогими для їх автоматичного розвʼязання. Наприклад, створення чат-бота для підтримки клієнтів, який розуміє різні варіації запитань та може надати швидку відповідь. Тепер можна просто взяти наявну модель і налаштувати її під конкретні запити.
Забудьте про тренування власної моделі, якщо ви не Ілон Маск чи Джефф Безос
Великі мовні моделі зробили революцію у сфері застосування ШІ, відкривши величезні можливості для створення контенту та обробки людського мовлення. Але їхня розробка коштує мільйони та мільярди доларів і потребує команди фахівців. Швидше й дешевше скористатися готовою мовною моделлю, наприклад GPT від Open AI, на якій побудовано ChatGPT, та адаптувати її під власні потреби.
Що автоматизувати насамперед
Найкраще генеративні моделі ШІ справляються з точковими завданнями, допомагаючи оптимізувати роботу спеціалістів: перевірка коректності заповнення форм, дотримання форматів або автоматичний аналіз документів.
Наприклад, ШІ-асистент може перевіряти заявки клієнтів ще до їхнього подання на розгляд або на етапі розгляду. Це зменшить кількість помилок та відхилень, зекономить час.
Надати інформацію про продукт чи порадити формат передплати на сервіс ШІ-асистент зможе, але давати рекомендації щодо лікування – поки що ні. Генеративний ШІ припускається помилок, і він не «думає, як людина», а виходить із заданого контексту і шукає відповідей серед доступної та наданої йому інформації. Тому давати ШІ завдання краще такі, де він не помилятиметься частіше, ніж людина. Або використовувати ШІ не для повної автоматизації, а як помічника співробітнику/відділу.
У стартапі lilo ми інтегрували ШІ-чат-бота. Він консультує клієнтів, як користуватися сервісом. Із ним типові запити користувачів обробляються швидше й точніше. Це у 15 разів дешевше, ніж якби ми залучали додаткових спеціалістів.
Впровадження ШІ – гра в довгу
Вдале впровадження ШІ в роботу компанії має три етапи:
- прототип: довести, що завдання автоматизується;
- мінімально життєздатний продукт (MVP);
- вихід на продуктивний рівень.
У співвідношенні це приблизно 1:5:15 за часом та зусиллями.
Перші результати будуть за кілька тижнів. На відшліфовування може піти до чотирьох місяців, бо вона неможлива без практики використання.
Приклад – впровадження в бізнес-процес ШІ-консультанта-помічника. Перші промпти (скрипти) для ШІ можуть бути написані не зовсім так, як люди реально взаємодіють із консультантом. Аналізуйте реальні звернення і діалоги та допрацьовуйте промпти.
Перший прототип має показати, чи ШІ взагалі здатен розвʼязати дане йому завдання. Якщо впровадження успішне, результат може бути довготривалим та ефективним. За $200 на місяць налаштований чат-бот на базі ChatGPT замінить консультанта підтримки клієнтів, що працює 24/7.
На кожен етап обирати відповідні інструменти
Сильний бік відкритих мовних моделей – у їхній доступності для прототипування. Для створення прототипу можна взяти стандартні інструменти, такі як Custom GPTs або Claude Projects. Тут не потрібне програмування високого рівня, знань і навичок продуктового бізнес-аналітика буде цілком достатньо.
На етапі MVP знадобляться складніші засоби, як мінімум використання інтеграцій з мовними моделями через Application Programming Interface (API).
Для тестування користуйтеся відкритими моделями: ChatGPT, сервіс CustomGPT або Claude із сервісом Projects. Краще їх платними версіями, безплатні обмежені можливостями для дуже тривіальних завдань. Для продуктивного застосування знадобиться кастомізація GPT-assistant-like рішень або й глибока інтеграція.
Для продуктового ж рішення скористайтеся RAG-підходом (Retrieval-Augmented Generation). Це комбінація традиційного програмування та використання ШІ, коли система спочатку шукає відповідну інформацію (retrieval) засобами стандартного програмування, а потім генерує текст (generation) засобами ШІ, а наприкінці валідує результат. Він поєднує стандартне програмування, пошук за базами даних (зокрема спеціальними, векторними) та генерацію тексту за допомогою LLM.
Наприклад, вам потрібно автоматизувати процес заповнення звіту: система спочатку шукає релевантні дані в базі, а потім генерує текст на основі знайденого. Це дозволяє моделі працювати з конкретними даними й знижує ризик помилок.
Покращувати продукти й процеси, а не скорочувати команди
Найближчим часом генеративний ШІ не зможе повністю замінити фахівця або відділ. ШІ-моделі досі схильні до помилок і галюцинацій, тому вони працюють ефективніше як асистенти. Критичні ж процеси краще залишити людям.
Генеративний ШІ можна порівняти із Google-пошуковиком на початку 2000-х – тоді якість результатів пошуку не завжди була на висоті й залежала від майстерності сформульованих запитів. Нині ШІ приблизно на такому самому рівні «навичок». Найближчі три роки його потенціал найкраще реалізувати для підвищення персональної ефективності, а в бізнесі – лише для точкових завдань.
ШІ – це інструмент, з яким варто взаємодіяти та не боятись експериментувати. Як і з будь-якою інновацією в особистих та бізнес-процесах, починайте з малого, вчасно робіть висновки та будуйте наступні кроки, виправляючи попередні помилки. Та знову інвестуйте.
Щоб досягти максимальної ефективності, необхідно постійно експериментувати і створювати якнайбільше прототипів.
