Впровадження генеративного штучного інтелекту в фармацевтичних компаніях

Богдан Пономар, співзасновник та CEO компанії Gathers, на конференції Pharma Digital Day розповів про впровадження генеративного штучного інтелекту в Фармринок.

Революційний вплив штучного інтелекту на суспільство

Ні для кого не секрет, що штучний інтелект кардинально змінив парадигму нашого існування.

Деякі люди порівнюють цей прогрес з винаходом інтернету, а інші навіть кажуть, що великі мовні моделі можна порівняти з винаходом письма.

Це дійсно революція. Якщо подивитися на історію, ми бачили індустріальне суспільство, потім постіндустріальне. Кожна революція супроводжувалася риторикою про те, що нові машини замінять людей і всі залишаться без роботи. Схожий наратив був під час постіндустріальної революції. Зараз ми перескакуємо з інформаційної в культурну революцію, де розвиток особистості і креативні сфери діяльності будуть домінуючими.

Типовий проект машинного навчання 

Я не знаю людини чи компанії, яка б не хотіла інтегрувати машинне навчання або скористатися ним, щоб пришвидшити свої процеси та стати ефективнішою. Що це зумовлює? Це зумовлює, що такі компанії стають лідерами на ринку.

Раніше, впровадження штучного інтелекту займало багато часу і ресурсів. Якщо згадати минулі роки, то для створення будь-якого рішення на основі штучного інтелекту 80% часу та ресурсів витрачалося на збір, генерацію, маркування та обробку даних. Це займало багато часу і коштів. Створення одного рішення зі штучного інтелекту займало приблизно рік, щоб випустити мінімальний життєздатний продукт (MVP) або мінімальний прототип.

Виклики

З класичним підходом до впровадження штучного інтелекту виникає багато викликів. Потрібно знайти висококваліфікованих інженерів, які є дорогими та рідкісними, їх треба переманити і забезпечити цікавими завданнями. Крім того, постійно доводиться працювати з даними, що є найскладнішою частиною, адже дані — це все.

Постійна комунікація між технічними та бізнес-командами також створює труднощі, оскільки ці люди часто не розуміють один одного. Як результат, на виході отримується певне рішення зі штучного інтелекту, яке працює, але після першої ітерації воно, швидше за все, не буде відпрацьовувати на 100%. Цей цикл доведеться запускати знову.

Такі рішення коштують від десятків тисяч до мільйонів доларів. І, як я кажу, немає кінця вдосконаленню моделей та створенню нових, робота з нейронними мережами може бути безкінечною.

Запуск ChatGPT 4 і створення Prompt Engineering

Справжнім переворотом стало випуск ChatGPT-4 компанією OpenAI. Я тут трохи зупинюся, і ми потім підемо глибше.

Що ж сталося?

Як сказав Андрій Карпати, колишній голова AI в Теслі, який наразі працює в OpenAI, тепер найгарячіша мова програмування — це англійська мова. І це дійсно так. Тепер не потрібно знати лінійну алгебру чи множення матриць. Все, що потрібно знати, це англійську мову та бути експертом у своїй галузі. І цього достатньо, щоб вже сьогодні, вдома чи в офісі, після нашої події, ви могли створювати певні оптимізації. Я покажу, яким чином.

З такою парадигмою з’являється новий підхід і нова роль на ринку праці — «PROMPT ENGINEER» (промт-інженер), і загалом така сфера як «PROMPT ENGINEERING» (промт-інженерія). Компанії готові платити таким фахівцям по 300 000 доларів на рік, як, наприклад, компанія ANTHROPIC, яку нещодавно придбала GOOGLE. Це свідчить про високу цінність цих фахівців.

З появою великих мовних моделей, зокрема GPT-4, створення рішень стає простішим. Потрібно визначити проблему, написати якісний промт і отримати результат, а потім оцінити його та за необхідності повторити.

Промт — це не просто питання-відповідь до GPT. Можливо, ви вже користувалися GPT. Промт — це структурована історія з кількома параметрами, яка може оптимізувати певну рутину або задачу. Тепер не потрібно працювати і маркувати дані, оскільки вони вже є в багатовимірному просторі нейронної мережі.

Уявіть собі нейронну мережу або велику мовну модель GPT як Будду, який увібрав всі знання світу. Він знає все, йому просто потрібно правильно задати задачу або запитання.

Що потрібно для роботи?

Для створення цих оптимізацій вам потрібні лише GPT-4 та інструмент для зберігання файлів, наприклад, Notion, Word або будь-який інший.

Можна сказати, що ми переходимо у світ гіперзвукових швидкостей створення рішень, нових компаній та технологій.

Якщо раніше все рухалося швидко, то зараз я щоранку прокидаюся з новим рівнем кортизолу, бо щоразу з’являється щось нове. І ти будуєш щось нове, думаючи: «О боже».

Такий підхід дозволяє створити конвеєр рішень, який може працювати навіть без нашої участі. Але що для цього потрібно?

Перед тим, як ми заглибимося далі, я простими словами поясню, що таке великі мовні моделі та PROMPT ENGINEERING (промт-інженерія). Це може здатися складним, і ви можете почуватися, ніби це не для вас.

Але уявіть це як метафору: у Хогвартсі вчать заклинанням, уявіть, що GPT-4 — це ваша магічна паличка, а правильні промти — це магічні заклинання. Все залежить від того, як ви їх сформулюєте і який запит ви отримаєте.

Правила для оптимізації

Для створення будь-якої AI оптимізації в GPT-4 або будь-якій іншій мовній моделі завжди потрібно вказувати правила.

Оптимізація AI:

• встановлюємо правила;
• ітеративно уточнюйте додаткові правила;
• вказати структуру очікуваної відповіді (навести 1-2 приклади);
• надайте контекст/дані.

Ви маєте точно вказати, що хочете отримати, якомога детальніше. Я зараз покажу приклад, як це виглядатиме. Після того, як ви отримаєте певний результат, потрібно додатково уточнювати правила, оскільки контекст, який видає модель, не завжди задовольняє вимоги. Вам потрібно точно вказати, у якому вигляді ви хочете отримати результат, наводити приклади цього результату, вказувати, як він має виглядати: наприклад, 5 речень, такою-то мовою, в такому-то стилі і так далі. Найголовніше — надавати контекст. Великі мовні моделі не можуть звертатися до вашої CRM чи інших внутрішніх ресурсів вашої компанії. Вони не є доменними спеціалістами, які знають специфіку вашої компанії. Щоб уникнути «галюцинацій» нейронної мережі, завжди надавайте контекст про клієнта, про ринок, на якому ви працюєте, про гіпотези, які ви створюєте.

Приклад використання

Ось найпростіший приклад того, як виглядає звичайний базовий промт (prompt).

Ви вказуєте: «Ти маєш діяти як найкращий фарм-спеціаліст на ринку Європи в галузі такій-то» та деталізуєте завдання. Тобі буде надана інформація про, наприклад, вашого клієнта, і ви окремо надаєте цю інформацію.

Вказуєте обов’язково завдання, яке має виконати GPT, і цілі, які ви передбачаєте. Наприклад, потрібно на основі наданої інформації згенерувати стратегію виходу нового продукту на певний ринок. Це завдання має підвищити рівень компанії.

Задавайте тон голосу (tone of voice), визначайте цільову аудиторію, налаштовуйте параметри, як-от температура та Top P (топ П). Температура — це показник від нуля до одиниці, де одиниця — максимальна креативність. Наприклад, якщо ви хочете згенерувати креативні ідеї, ставте температуру ближче до одиниці. Якщо потрібен лаконічний текст, ставте ближче до нуля.

Top P (топ П) визначає складність і насиченість тексту. Якщо ви ставите показник один, нейронна мережа видаватиме складні й довгі речення з багатим словниковим запасом. Це залежить від ваших цілей. Також надавайте приклад того, як має виглядати результат.

Це лише перша стадія. Після того як ви все це надали нейронній мережі й запустили механізм, ви отримаєте перший результат. Він може бути неідеальним і потребуватиме доопрацювання.

Наприклад, якщо ви запускаєте нові продукти на ринок або аналізуєте конкурентів, і вам потрібно щоразу виконувати рутинні завдання, можна створити цей промт. Копіюючи й надаючи нову інформацію, ви пришвидшите процеси в кілька разів.

Декомпозування задач

Щоб створити певну оптимізацію процесів, найголовніше, що треба зробити — це декомпозувати завдання. З досвіду можу сказати, що це найбільша проблема на цьому етапі.

Які у нас є процеси? Які конкретні завдання?

Найбільше часу витрачається саме на це. Але важливо підкреслити, що при задаванні контексту і наданні даних іноді потрібно враховувати поняття контекстного вікна. Нейронні мережі не мають безкінечної пам’яті, тому не можна завантажити туди 1000 PDF-файлів. Натомість, достатньо п’яти сторінок формату А4.

Важливо не перевантажувати систему зайвою інформацією, оскільки вона аналізує текст, зображення, графіки дуже якісно. Отримавши перший результат, завжди надавайте зворотний зв'язок: вказуйте, що вам подобається, що ні, що потрібно покращити, і запускайте процес знову.

Головна мета — створити ефективний промт, на який можна покластися. Наприклад, якщо до вашої компанії приходить новий співробітник у маркетинг-відділ, і завданням є щотижнева генерація newsletter, ви вже маєте готовий промт, який виконує це завдання за дві хвилини. Новому співробітнику не потрібно пояснювати, куди ходити і що робити.

Аналіз конкурентів також може бути оптимізований. Прикладів безліч, але перевага нейронних мереж у тому, що вони застосовні до всіх сфер і відділів, особливо у фармацевтичній галузі.

Робота з великими даними

Якщо у вас є великі обсяги даних, великі PDF або будь-які інші матеріали, нейронна мережа під назвою Claude може аналізувати ці величезні тексти і генерувати для вас зведення, які потім можна використовувати у інших промптах.

Щодо контекстного вікна, або того, яка кількість даних може бути завантажена, то у Claude це становить 100,000 токенів.

Тепер коротко про токени, що є важливим для розуміння роботи з нейронною мережею. У GPT-4 кожен токен становить 32 000, що відображає її потужність пам'яті та обробки.

Також важливим є поняття Embedding. Воно відображає процес перетворення текстів у числові значення, між якими можна визначити відстань. Нейронна мережа розглядає ці відстані як схожі слова, впорядковані за темами, наприклад, їжа в одній групі, соціальні мережі в іншій, і так далі.

Отже, є кілька аспектів, які нейронна мережа аналізує. Ми розуміємо, що текст перетворюється на токени, числові представлення, між якими мережа визначає відстань. Чим менша відстань, тим більше слова групуються разом, що дозволяє мережі передбачати наступний вихід. Важливо пам'ятати, що нейронна мережа не має свідомості, як людина; це алгоритм, створений людьми для людей. Міф про те, що штучний інтелект захопить світ, залишається міфом, бо ми віддалені від такої реальності.

Згадаємо про агентів. Не бійтеся штучного інтелекту; він не замінить вас, а лише допоможе вам. Ваші знання і креативність використовуються людьми, а не навпаки.

Дослідження показують, що нейронні мережі чудово аналізують початок і кінець тексту. Однак важливо пам'ятати, що вони можуть пропустити деяку інформацію всередині. Тому вибирайте правильний prompt і надавайте відповідні приклади, щоб уникнути неточностей.

Під час формулювання рекомендацій уникайте використання конструкцій «you should no». Замість цього, використовуйте техніку «You must avoid», оскільки нейронні мережі не завжди розуміють «no/not» і можуть неправильно інтерпретувати вказівки. 

Наприклад, замість «Не використовуйте такі параметри», краще писати «You must avoid using такі параметри».

Для того, щоб уникнути неправильних інтерпретацій і забезпечити, щоб нейронна мережа аналізувала всю вашу важливу інформацію, використовуйте техніку підтвердження. Наприклад, замість «Я впевнений, що ти проаналізував все», використовуйте «Я впевнений, що ти проаналізувала все». Нейронні мережі не мають статі, тому це важливо уникати будь-яких уточнень, які можуть призвести до неправильної інтерпретації. Коли вона підтверджує, що все проаналізовано, ви можете бути впевнені, що результати достовірні.

Ефективна стратегія полягає в тому, щоб завжди давати час нейронним мережам подумати, а не вимагати миттєвих відповідей. Це схоже на підхід до людини. Наприклад, коли мені запитати 8 * 128 без часу для рефлексії, я можу допустити помилку. Однак, якщо дати мені час подумати, я зможу точно відповісти. Так само із нейронними мережами: дайте їм час подумати і попросіть їх пояснити свої кроки логічно і раціонально. Цей метод дуже ефективний і підтверджений дослідженнями, що він забезпечує найвищу точність відповідей.

Джерело

Наприклад, це варіант, коли вам потрібно брейнштормити, зазвичай, ми пишемо: «Киньте мені якісь круті ідеї щодо такого-то продукту або концепції». Але цей підхід не завжди ефективний.

Спочатку ви тригерите процес брейнштормінгу у самій нейронній мережі без будь-якого контексту, просто запитуючи її накидати креативні ідеї щодо чогось. Вона починає генерувати різні фантастичні сценарії і творіння.

Потім, коли механізм брейнштормінгу вже активований, ви введете контекст того, для чого вам потрібні ці ідеї. Тоді мережа адаптує свої генерації під ваші потреби.

Важливо надавати зворотний зв'язок щодо результатів: що вам подобається, що не подобається, що потрібно покращити тощо. Після цього можна застосовувати базовий шаблон, який ми обговорювали раніше.

Також важливо пам'ятати, що нейронні мережі поки що не здатні зібрати всю інформацію, яка доступна в Інтернеті.

Є пропрієтарні дані, і всі ми захищаємо їх, ніхто не хоче, щоб ми скрапили дані будь-кого іншого. Тому важливо завжди надавати контекст нейронній мережі.

Я розумію, що можливо я не занадто вдаюсь у технічні деталі, і це абсолютно нормально. Я сподіваюсь, що ви зможете сприйняти цю інформацію, а коли ви почнете її використовувати, все стане дуже інтуїтивно зрозумілим.

Отже, наразі ми вже маємо базовий промпт і рухаємося далі: оптимізуємо щось, створюємо контент для маркетингового відділу, аналізуємо інтерв'ю рекрутерів за допомогою GPT, розробляємо нові продукти, виявляємо патерни залежностей в продуктах конкурентів, шукаємо нові можливості в нашій великій CRM і багато іншого. Ми створили промпт, взаємодіємо з GPT, але що далі?

Далі ми розуміємо, що використання штучного інтелекту це вже не просто конкурентна перевага — це спосіб залишатись на плаву. Промпти є фундаментом для майбутніх, трохи складніших інтеграцій.

Prompt engineering — це не межа можливостей. Це фундамент

І, щоб дати коротку визначну характеристику наших найкращих успішних кейсів з фармацевтичними компаніями, все обертається навколо підвищення продуктивності та ефективності. Ви більше не витрачаєте час на рутинні завдання або безкінечне вирішення проблеми білого аркуша перед монітором.

Велика частина нашої роботи включає аналіз документів для пошуку ліків за активним інгредієнтом, дослідження конкурентів для виявлення залежностей та створення унікальних продуктів, що відповідають вашим потребам і так далі.

Далі ми можемо поєднувати ці промпти між собою, як нитки, але для цього потрібні інженерні вміння. Наприклад, якщо ви маєте промпт для проведення брифінгу з вашим клієнтом, що спонукає його написати технічне завдання вашому відділу маркетингу або стратегічному плануванню. Вони, у свою чергу, створюють промпти для розробки гіпотез для маркетингових досліджень. Це може включати до 15 різних промптів, які можна об'єднати в один функціонал і створити штучний інтелект, що автоматизує значну частину завдань.

За допомогою таких агентів ви зможете ефективно розв'язувати завдання, навіть знаходячись десь на відпочинку на морі. Цей агент може здійснювати різні функції, і ключовою задачею є створення промптів таким чином, щоб максимально звузити діапазон дій і контексту, в якому вони виконуються.

І як він працює, коротко кажучи: він розглядає, що треба зробити, виконує дію, оцінює її результати і вирішує, чи вони відповідають його очікуванням. Якщо так, він повертається до початку циклу.

Це можна уявити як діаграму, де він автоматично розбиває завдання на окремі етапи (таски), виконує їх, зберігає результати і повертає вам готовий продукт.

Щоб стати більш конкретним, розглянемо, як це працює на практиці.

Наприклад, ми створили агента, який проводить маркетингові дослідження.

Ми просто пишемо йому запит: «Проаналізуйте п'ять брендів взуття». Він автоматично розбиває це завдання на підзадачі, виконує їх, і ми перевіряємо результати. Ми можемо оцінити, що нам подобається, а що — ні, додавати додаткові завдання і спостерігати за виконанням в реальному часі. Під кожне таке завдання звичайно зашиті десятки або сотні промтів. Щоб створити такого агента, потрібно взаємодіяти з усіма зацікавленими сторонами, розбивати завдання на компоненти і інтегрувати їх у систему. Проте тепер це не вимагає великих затрат на нові дослідження чи найм нових співробітників.

Ще один приклад — оптимізація холодних розсилок.

Ми вводимо завдання агенту: створити персоналізовану холодну розсилку для клієнтів на певному ринку. Агент самостійно переходить на LinkedIn, аналізує профайли і на основі цієї інформації генерує персоналізований лист. Ми спостерігаємо процес в реальному часі, оцінюємо швидкість обробки завдання. Розглянемо отримані результати.

Агент самостійно визначає необхідну інформацію з профайлів, щоб створити ефективний персоналізований лист для цільового клієнта. Він демонструє здатність оперативно адаптуватись до задач і генерує контент, спрямований на досягнення конкретних цілей. Цей агент може працювати з будь-якими профілями і написати персоналізовані листи під будь-яких клієнтів.

Резюмуємо. Тренди оптимізації

Зараз всі говорять про використання штучного інтелекту, про роль асистентів і агентів. Компанії починають наймати інженерів для їх створення. Однак ключовою проблемою стає необхідність декомпозиції завдань для цих технологій — і це завдання, яке вже зараз ви можете почати вирішувати самостійно.

Розробляйте промпти, які відповідають вашій компанії, продуктам і клієнтам. Потім інтегруйте їх у back-end системи для подальшої розробки інженерами. Це не складно і не потребує складної науки, це можна зробити швидко.

Головне завдання — декомпозувати ваші процеси, створювати промпти і рішення, ітерувати їх для оптимізації процесів. Ви зможете вийти на крок попереду, створюючи своїх цифрових колег, які допомагатимуть вам, а не замінятимуть.