Yui WorkSpace
Интервью · 12 сентября 2026

Нейросети в фармацевтике. Что нас ждёт?

Приложение 22 к GMP·человек в цикле·СОП и протоколы за минуты·что можно отдавать в облако·своё железо или внешние сервисы·RAG и база знаний компании·кого заменят нейросети

Что нейросети уже сегодня могут сделать для обычной фармацевтической компании — производства, дистрибьюции, системы качества, валидации. Сергей Астафьев и Александр Белинский разбирают регуляторику, конфиденциальность данных, облако против собственного железа и спорят о том, заменит ли ИИ специалиста.

Сергей Астафьев
Сергей Астафьев
Александр Белинский
Александр Белинский

52 минуты записи·~30 минут чтения

Главное за пять минут

  • Регуляторика уже есть: проект Приложения 22 к GMP ЕС и руководство ISPE 2025 года. Для критических GxP-решений (например, выпуск серии в оборот) генеративный ИИ запрещён, допустимы только детерминированные модели. Для некритических — можно, но с человеком в цикле.
  • Ответственность на языковую модель переложить нельзя. Модель делает проект документа за минуты, человек вычитывает и подписывает.
  • Что реально работает уже сейчас: проекты СОП и протоколов квалификации по корпоративному шаблону, отчёты об аудите, суммаризация встреч, поиск причин отклонений, объяснение поведения оборудования.
  • Данные: во внешние сервисы нельзя отдавать то, что идентифицирует площадку и заказчика. Обезличенные температуры и разрозненные фрагменты базы знаний — можно. Настоящая тайна — R&D и финансы.
  • Своё железо устаревает быстрее, чем облачные модели. Истина посередине: часть данных всегда on-premise, часть фрагментов — во внешние сервисы. Люди начали считать токены.
  • 90 % усилий при построении корпоративного ИИ-ассистента (RAG) уходит не на технику, а на эталонные вопросы и ответы, которые пишут эксперты.
  • «Нейросети заменят специалистов сразу после того, как Excel заменит бухгалтеров». Заменят не машины, а те, кто ими научился пользоваться.

Термины из разговора

63 терминов · 5 групп · короткие определения бытовым языком

Искусственный интеллект

Инструменты искусственного интеллекта (ИИ)
общее название для программ, которые распознают, предсказывают или создают что-то на основе данных. «Нейросеть» в быту — обычно один из таких инструментов.
Машинное обучение
фундамент: программа не пишется по правилам, а «учится» на примерах.
Глубокое обучение (deep learning)
машинное обучение на многослойных нейросетях. Так распознают картинки, символы, речь: на входе фото, на выходе «кот» или «собака».
Генеративный ИИ
обратная задача: на входе текст «кот», на выходе картинка, текст, видео или код.
Большая языковая модель (LLM, БЯМ)
генеративный ИИ, который работает с текстом: ChatGPT, GigaChat, Qwen и подобные.
Промпт
запрос или задача, которую пишут модели. От его качества сильно зависит результат.
Галлюцинация
уверенный, но неверный ответ модели. Свойство вероятностной природы модели, полностью не устраняется.
Детерминированная модель
при одних и тех же входных данных всегда даёт один и тот же результат. Противоположность — вероятностная модель, к которым относятся LLM.
Human in the loop (человек в цикле)
принцип: модель готовит проект, человек проверяет и несёт ответственность. Ответственность на модель переложить нельзя.
Агентный ИИ, агентные системы
модели, которые не только отвечают, но и выполняют цепочки действий: ищут, вызывают сервисы, заполняют документы.
Токены
единицы, в которых модель считает текст и в которых её работа оплачивается. «Считать токены» — считать стоимость использования.
Суммаризация (саммари)
краткий пересказ длинного текста или встречи, который делает модель.
Транскрибация
перевод записи речи в текст.
Дистиллированная модель
уменьшенная копия большой модели, которую можно запустить на своём сервере.
Модель с открытыми весами (open source)
модель, которую разработчик выложил для скачивания и локального запуска. Есть у Qwen, GigaChat, Яндекса; у OpenAI и Anthropic флагманских моделей в таком виде нет.

Данные и база знаний

База знаний
накопленные в компании документы: СОПы, протоколы, отчёты, сообщения об отклонениях.
Векторная (размеченная) база знаний
база, где документы переведены в числовое представление, по которому модель ищет по смыслу, а не по точному совпадению слов.
RAG (retrieval-augmented generation, генерация с дополненной выборкой)
схема, при которой модель перед ответом достаёт нужные фрагменты из базы знаний компании и отвечает по ним, а не «из головы».
GraphRAG
RAG, где кроме векторной базы есть граф связей между понятиями. Лучше справляется с вопросами на сравнение и обобщение.
Чанк
поисковый фрагмент, кусочек документа, на которые дробится база знаний. Во внешние сервисы можно передавать разрозненные чанки, а не документы целиком.
Эталонные вопросы и ответы (golden set)
набор проверенных экспертом пар «вопрос — правильный ответ», на котором настраивают и проверяют ассистента. По оценке Александра, это 90 % работы.
Multi-hop
вопрос, ответ на который требует собрать сведения из нескольких источников.
Open WebUI
открытый интерфейс для запуска собственных ИИ-ассистентов на своей инфраструктуре.
Пайплайн
последовательность шагов обработки данных: что и в каком порядке делает система.

Инфраструктура и безопасность

On-premise
программы и данные размещены на серверах самой компании, не в облаке.
Облако, SaaS
сервис работает на серверах поставщика, компания пользуется через интернет.
Мультитенантный сервер
один движок обслуживает много компаний, у каждой свой изолированный «этаж». Как многоквартирный дом: дешевле отдельного здания.
Инстанс
отдельная развёрнутая копия сервиса для одной компании.
Дата-центр Tier 3
уровень надёжности центра обработки данных: резервирование, работа без остановки на обслуживание.
PCI DSS
стандарт безопасности для систем, работающих с банковскими картами.
ISO 27001
международный стандарт системы управления информационной безопасностью; в России есть идентичный ГОСТ.
Критическая информационная инфраструктура (КИИ)
системы, для которых закон устанавливает особые требования к защите; для фармы это склоняет решения в сторону on-premise.
Анонимизация (обезличивание)
удаление из документа всего, что идентифицирует компанию, площадку и людей, перед передачей во внешний сервис.

Фарма и качество

GMP
надлежащая производственная практика, правила производства лекарств.
GxP
общее обозначение всех «надлежащих практик»: производственной (GMP), дистрибьюторской (GDP), лабораторной (GLP) и других.
Приложение 22 к GMP ЕС
проект приложения об искусственном интеллекте. Для критических GxP-решений допускает только детерминированные модели, для некритических — генеративный ИИ с человеком в цикле.
ISPE
международное общество фармацевтического инжиниринга, выпускает рекомендательные руководства, в том числе по ИИ.
СМК (QMS)
система менеджмента качества, совокупность процессов и документов, которыми компания обеспечивает качество.
СОП
стандартная операционная процедура: документ, описывающий, как выполнять конкретную операцию.
Отклонение, сообщение о несоответствии
зафиксированный случай, когда процесс или продукт вышли за установленные требования.
CAPA
корректирующие и предупреждающие действия: план, что сделать, чтобы отклонение не повторилось.
Валидация
документированное подтверждение, что процесс, система или оборудование стабильно дают ожидаемый результат. Квалификация — то же для оборудования и помещений.
Протокол квалификации
документ с планом испытаний и критериями приёмки; по нему проводят квалификацию.
Внутренний аудит
проверка своей системы качества силами компании, с отчётом.
Температурное картирование
измерение распределения температуры в складе, холодильной камере или машине множеством датчиков.
Холодовая цепь
непрерывное хранение и перевозка лекарств при заданной температуре, например 2–8 °C.
Чистые помещения
помещения с контролируемым количеством частиц в воздухе. Проверяются по счётной концентрации частиц и целостности HEPA-фильтров (фильтров тонкой очистки воздуха).
Паровой стерилизатор (автоклав)
стерилизует влажным паром под давлением. Эквивалентное время летальности (F0) — показатель стерилизующего эффекта.
Депирогенизационный туннель
стерилизует сухим жаром флаконы и ампулы, удаляя пирогены (вещества, вызывающие лихорадку).
Испаритель, конденсатор, оттайка
узлы холодильной установки: испаритель забирает тепло из камеры, конденсатор отдаёт его наружу, оттайка — периодическое размораживание испарителя, после которого в камере кратко теплеет.
Фарма 4.0
цифровая трансформация фармпроизводства: данные, автоматизация, ИИ.
Digital validation tools
программы для ведения валидации в электронном виде вместо бумаги.
Лифлет, datasheet (спецификация)
открытые документы производителя оборудования с его характеристиками.

Упомянутые сервисы и продукты

ChatGPT, GPTs
чат-бот OpenAI и его платные настраиваемые ассистенты.
GigaChat
языковая модель Сбера. Алиса, Яндекс Нейроэксперт — сервисы Яндекса; Нейроэксперт работает с загруженными документами.
Perplexity Spaces, Perplexity Computer
сервисы Perplexity: рабочие пространства с документами и агент, выполняющий задачи.
Qwen
языковые модели Alibaba, доступны для локального запуска. DeepSeek — китайский чат-бот.
Kling, MiniMax
сервисы генерации видео и изображений.
AlphaFold
система Google DeepMind для предсказания структуры белков; её авторы получили Нобелевскую премию по химии.
TrackWise, Dot Compliance
облачные системы управления качеством (QMS).
ValGenesis, Kneat, Valkit.ai
облачные системы для валидации.
Make, Albato
платформы для автоматизации, связывают сервисы между собой без программирования; Albato — российская.
Danfoss
производитель контроллеров холодильного оборудования.

Сергей АстафьевСергей Астафьев

Саша, привет. На наших глазах сегодня творится настоящая история. Я хочу поговорить о теме, которая касается практически каждого из нас, — о нейросетях. Но поговорить о них с точки зрения фармацевтической отрасли. Мы с тобой работаем в ней много лет, и она для нас важна. Применение нейросетей в фармацевтике — одна из самых интересных тем, которые можно обсудить. Вокруг искусственного интеллекта сейчас происходит очень много нового: каждый день что-то находят, выходят новые модели, публикуются исследования, появляются технологии, которые ещё несколько лет назад казались нам фантастикой.

Буквально несколько дней назад OpenAI заявила о решении задачи Навье — Стокса, одной из семи задач тысячелетия — той, что описывает движение жидкости и газа. До этого одну из задач тысячелетия решил только Григорий Перельман — гипотезу Пуанкаре. Он работал над ней, если не ошибаюсь, семь лет и сделал это без нейросетей. А сегодня вторую задачу тысячелетия решила нейросеть.

И здесь возникает очень интересный контраст. С одной стороны, мы читаем новости о том, как искусственный интеллект решает фундаментальные математические задачи, анализирует молекулы, участвует в поиске новых лекарств. Нейросети уже помогают делать открытия нобелевского уровня: разработчики AlphaFold из Google DeepMind получили премию по химии за предсказание структуры белка. А с другой стороны, я предлагаю спуститься с этих небес на землю, где живёт обычная фармацевтическая компания: производство, дистрибьюция, система качества, валидация. Саша, как ты думаешь, что конкретно нейросеть может сделать для такой обычной компании уже сегодня?

Александр БелинскийАлександр Белинский

Эта тематика, естественно, не прошла мимо меня — как минимум на волне хайпа вокруг нейросетей. И первое, что считаю своим долгом, — немного навести резкость в этом вопросе. Для меня самого это было необходимо ещё в прошлом году. Мы часто используем термин «нейросеть» в самых разных сочетаниях, хотя правильнее говорить об инструментах искусственного интеллекта, которых довольно много. Понятно, что мы ведём разговор в аудиоформате, без презентации и визуального материала, но в дальнейшем это можно нанизать. Скажу честно, такие попытки с моей стороны были — вводные презентации на эту тему.

Речь вот о чём. На большом фундаменте инструментов ИИ базируется машинное обучение. Чуть выше — глубокое обучение, deep learning. Это распознавание картинок, символов и прочего. И есть обратная задача — генеративный искусственный интеллект: мы пишем промпт, то есть ставим задачу в обратную сторону. Например, распознавание иллюстрации: кот или собака. С помощью глубокого обучения система распознаёт изображение. А обратная задача — мы пишем на вход «кот» или «собака» и получаем иллюстрацию. Это и есть генеративный ИИ.

То, о чём мы сейчас говорим, — использование больших языковых моделей. Англоязычный термин — LLM; в русскоязычной среде встречал сокращение БЯМ, но оно не очень распространено, так что остановимся на LLM. Это один из подвидов генеративного ИИ, где контентом является текст.

Сергей АстафьевСергей Астафьев

Создание текста и его редактирование.

Александр БелинскийАлександр Белинский

Да, всё верно. Это частный случай. Другой случай — создание изображений: тот же Kling, MiniMax и так далее, создание нового контента. И в фарме генеративный ИИ сейчас делает первые шаги, причём во всём мире. Мы будем говорить, в частности, про авангард — международную нормативку. Это драфт Приложения 22 к GMP Европейского союза об искусственном интеллекте и рекомендательное руководство ISPE 2025 года в отношении ИИ. Там описываются, казалось бы, азбучные истины, которые в бытовом смысле уже присутствуют во многих сферах: агентный ИИ, агентные системы — по сути, помощники, которые используются много где: в юриспруденции, в ритейле. Может использовать и фарма. И есть аккуратные попытки прислонить их, например, к СМК.

Сергей АстафьевСергей Астафьев

В этих документах по большей части описаны ограничения моделей или то, каким образом мы можем их применять? Ты сам видишь, какие новости в последнее время: OpenAI проводила исследования у себя в песочнице, и модели из неё вырвались — сломали сайт, организовали собственную ревизию. Был целый скандал. И вопрос: если мы применяем это в фармацевтике, насколько это безопасно? Можем ли мы доверить нейросети разработку своих документов?

Александр БелинскийАлександр Белинский

Что касается Приложения 22 Европейского союза — обрадую тех, кто с ним не знаком: это проект, и занимает он всего шесть страничек. Небольшой документ, возможно, его чем-то дополнят. Как регуляторный документ он говорит не о применениях, а об ограничениях. Для критических GxP-применений использование генеративного ИИ и больших языковых моделей прямо запрещено — можно использовать только детерминированные модели. Критическое применение — это, например, когда мы принимаем решение о выпуске лекарственных средств в гражданский оборот. Там может использоваться только детерминированная модель: та, которая при одних и тех же входных данных всегда даёт один и тот же результат, а не вероятностный.

Вместе с тем для некритических GxP-применений допустимо использование и генеративного ИИ, и больших языковых моделей — но с одной оговоркой: концепция human in the loop, «человек в цикле». Мы можем получить некий контент, но человек должен удостовериться, что результат приемлемый. И таких применений масса. Например, человек проводит внутренний аудит, а с помощью большой языковой модели создаёт проект отчёта об аудите по заданному шаблону — и делает это за считанные минуты. Естественно, потом вычитывает его «пешком» и подписывает от руки. Потому что ответственность на большую языковую модель возложить нельзя — её берёт на себя человек. В этом смысле это очень хорошее подспорье.

Буду стараться выводить на бытовой уровень, для более широкой аудитории. Мы часто используем — даже по текущей встрече — сервисы, которые транскрибируют содержимое, делают саммари и список задач. Но мы оба на этой встрече присутствуем и по горячим следам можем пройтись и посмотреть, насколько корректны тезисы, насколько корректно проведена суммаризация и составлен план. Внести правки от руки. И мы получим это за считанные минуты вместо того, чтобы потратить час-полтора на оформление. С одной стороны, это не бог весть какой буст. Но с другой — в фарме таких входных задач очень много.

Это и обработка, допустим, температурных данных — к исходным данным и графикам мы тоже можем обращаться. Это отслеживание CAPA. Тут я всё-таки добавлю терминов, хотя буду стараться их избегать. Интересно иметь не просто бытовой запрос в ChatGPT, GigaChat или к Алисе — не суть важно, — а некую базу. Например, если по CAPA, то это конкретные CAPA-планы. Если по отклонениям — свои сообщения об отклонениях. И эта база знаний необычная: не тунгусский вывал, а размеченная, или, иными словами, векторная база знаний. Отсюда аббревиатура RAG — retrieval-augmented generation, по-русски «генерация с дополненной выборкой». Ассистент понимает контекст, и мы делаем извлечение контекста. При этом могут быть ретроспективные оценки: какие отклонения были за последние пять лет, какие конкретно CAPA, как правило, принимались. Естественно, человек в цикле должен проверить эти сведения «пешком».

«Ответственность на большую языковую модель возложить нельзя — её берёт на себя человек»
Александр Белинский

Сергей АстафьевСергей Астафьев

Что ты здесь подразумеваешь? Что нейросеть, например, поможет написать и описать, а потом внести изменения в стандартную операционную процедуру? Или она проследит за тем, как сотрудники выполняют свои действия и проходят дальнейшие процедуры?

Александр БелинскийАлександр Белинский

По поводу «проследить» пример сейчас не на поверхности. А вот пример с шаблоном СОП — запросто. На вход мы даём корпоративный шаблон, то есть даём модели общий контекст. Это можно использовать и в бытовом плане: GPTs — платный тарифный план того же OpenAI, не на правах рекламы. Это может быть Яндекс Нейроэксперт — пока, насколько я знаю, в бесплатном доступе и наверняка слабее по функционалу: простенький промпт написать можно, базу знаний из документов выдать можно, но на этом, пожалуй, всё. Те же Perplexity Spaces. Это мы говорим про бытовые применения.

Какое здесь есть препятствие? Препятствие серьёзнейшее — перманентные споры. Тут мы возвращаемся к российским реалиям; наверное, не только к российским, но я не готов говорить, как это решено в международном масштабе, потому что всё бурно развивается. Перманентный спор: конфиденциальность, IT, безопасники — versus возможные решения в облаке. Получается довольно интересный момент, и этого важно коснуться. Я сейчас перечислил бытовые инструменты, но инструментарий можно создавать и свой — если будет время, этого коснёмся. Пока я дал широкие примеры, которые доступны условно всем.

Сергей АстафьевСергей Астафьев

Смотри, тебе зададут понятный вопрос: как можно этой бездушной машине доверить разработку какой-нибудь процедуры? Ты сам сказал, что можно загрузить шаблон операционной процедуры, описать общие требования. И многие специалисты скажут: это же наши процессы, мы их знаем, мы знаем, как их описать. У нас есть владельцы процессов, мы лучше знаем. Разве система может описать это действительно хорошо? Отсюда вопрос: нейросеть станет инструментом в руках специалистов или начнёт заменять самого специалиста?

Александр БелинскийАлександр Белинский

Первый момент: конечно же, важно попробовать. Иллюстративных материалов нам сейчас не хватит, но скажу честно: вчера в своей работе мне нужно было создать предмет договора и допущения — условия его выполнения. Без конфиденциальных данных, потому что в сеть я их выдавать не могу. Я просто надиктовываю контекст, даю опорный базис на открытых материалах. Открытые материалы очень простые: заходим на сайт производителя оборудования и скачиваем лифлет, спецификацию, datasheet по машине. Нужно осуществить приёмку этой машины и, соответственно, накидать предмет договора и условия выполнения проекта. Ограничения можно накидать условному Perplexity, надиктовав как на диктофон, — и мы за считанные минуты получаем проект, который потом правим от руки. В моём случае я вношу правки от руки, но получаю проект за пять минут. Не за час или полтора проработки, а за пять минут.

Теперь аспект по поводу замены человека. На мой взгляд, это определённая мистификация. На днях попалась такая шутка. «А правда ли, что нейросети заменят тех или иных специалистов?» — «Да, правда. Сразу же после того, как Excel заменит бухгалтеров».

«Нейросети заменят специалистов сразу же после того, как Excel заменит бухгалтеров»
Александр Белинский

Сергей АстафьевСергей Астафьев

Очень хороший ответ.

Александр БелинскийАлександр Белинский

Вопрос в том, что скорее специалисты, которые сумели адаптировать для себя ИИ-инструментарий, заменят тех, кто этого не сумел. Правда, это не касается сантехников и электриков — или касается их в меньшей степени.

Сергей АстафьевСергей Астафьев

Интересное замечание. Те, кто освоит нейросети, смогут ускорять свои процессы и перекладывать часть обязанностей на бездушные машины — чтобы те генерировали для них как минимум текст, а в дальнейшем, может быть, проводили какие-то исследования. Но в твоих словах прозвучала очень важная мысль — вопрос безопасности. Насколько это безопасно? Применяя любые глобальные нейросети, находясь на сайте, который предоставляет доступ к моделям, мы передаём свои данные в их дата-центры, чтобы они обработали нашу информацию и дали ответ. Но данные остаются у них. Отсюда вопрос: насколько безопасно ими делиться?

И ещё один маленький контекст. Несколько месяцев назад я читал в новостях: топ-менеджера уволили из какой-то компании — честно, не помню, из какой, — за то, что она общалась с DeepSeek и передавала ему конфиденциальную информацию компании. Не факт, конечно, что китайцы прочитали эту информацию и она была им действительно нужна. Скорее всего, таких, как она, там миллионы в день. Но сам факт: информация была передана. Что ты об этом думаешь?

Александр БелинскийАлександр Белинский

Я с этим сталкивался и точно так же поддержу — по действующим политикам компании, где работаю. Мы аккуратно обращаемся с нейросетями, потому что есть внутрикорпоративное обучение на этот счёт. Конфиденциальные данные — метаданные, которые однозначно обозначают заказчика, его реквизиты — категорически запрещено передавать во внешнюю сеть. Понятно, что это может всплыть, пусть косвенно, и могут быть негативные последствия. Примеры есть.

Второй аспект: на внешние сервисы могут передаваться анонимизированные данные. Вернёмся к примеру СОПов или протоколов квалификации, скажем, по температурному картированию. Мы должны выбить из колонтитула наименование компании, фамилии — Иванов, Петров, Сидоров, кто исполнитель, кто согласователь и так далее. То, что однозначно идентифицирует площадку. А обработка бездушных градусов Цельсия — условно, 15,2 °C, 24,7 °C, помещение XYZ, укрупнённо — мы не рискуем ничем.

Ещё один технический аспект, может быть, не всей аудитории будет понятен. Слышал по российским фармпредприятиям: конфиденциальная информация — те же сообщения о несоответствиях или CAPA — хранится локально, а во внешнюю сеть различные конструкторы передают только поисковые фрагменты, так называемые чанки: база знаний дробится на кусочки. Когда они разрозненно передаются на обработку во внешние сервисы, мы тоже мало чем рискуем. Но это диалог с безопасниками.

Следующий аспект тоже довольно интересный. Зачастую мы говорим: «Вы знаете, это суперконфиденциальные данные, и за передачу их в сеть действительно может наступить увольнение». Но, положа руку на сердце, мало кого интересуют конкретно 15,7 градуса Цельсия.

Сергей АстафьевСергей Астафьев

Или как принимают лекарства на складе.

Александр БелинскийАлександр Белинский

Или автоклав. Действительно конфиденциальная информация — это элемент R&D, возможно, коммерческая, финансовая информация, которая часто весит десять килобайт. Вот она утекать не должна никак. А как у нас прошло температурное картирование холодильной камеры — что называется, не смешите мои тапки: это мало кого будет интересовать во всём мире. За некоторыми исключениями, но их оставляю в локальном контуре.

Чем мы рискуем, когда начнём? Многие знают, что можно использовать так называемые дистиллированные модели. Они есть и у GigaChat, и у Яндекса. Qwen позволяет скачать модель локально, а, например, Anthropic или GPT — нет. Локальную модель можно запустить у себя.

Сергей АстафьевСергей Астафьев

Ты начал говорить про open-source-модели с открытыми весами.

Александр БелинскийАлександр Белинский

Не обязательно с открытыми весами — те, которые можно скачать локально, в том числе и с открытыми весами. Поясняю чисто качественно: можно запустить на своей IT-инфраструктуре, ничего не выдавая в сеть, и собрать ассистента. Но есть нюанс: железо, которое сможет это запускать, дорогущее, и оно устареет быстрее, чем технологии, доступные в онлайне. Получается, нужно сделать гигантские, совсем не бюджетные инвестиции в какой-либо сервис. У меня сейчас есть определённые попытки в этом отношении, изучение вопроса. Подставлять железо под такой сервис — всегда достаточно ресурсоёмко, в отличие от внешнего сервиса, который обслуживают транснациональные корпорации, — и по доступности, и по работоспособности. Наше железо устареет раньше, чем возможности по обработке вовне. И, возможно, истина будет лежать посередине: какая-то часть данных должна всегда оставаться on-premise, а какие-то поисковые фрагменты могут передаваться во внешние сервисы.

Хайп по использованию нейросетей в моей картине мира несколько схлынул, и с этого года люди начинают считать токены. Технически возможны очень многие вещи, но не все они коммерчески целесообразны, и люди просто смотрят на соотношение пользы и стоимости. Если какие-то простые обработки можно сделать локально, но стоимость железа и стоимость владения активом будет космическая, скорее всего, инвестиции на это выделены не будут. А с учётом того, как прекрасно многие внешние сервисы справляются с суммаризацией, наверное, можно найти компромисс: какую часть информации можно передать, чтобы такая суммаризация была выполнена.

Конкретный пример из фармы, доступный очень многим. У нас есть хороший корпоративный шаблон протокола квалификации чистых помещений и хороший шаблон протокола квалификации парового стерилизатора. Можно задать внешнему источнику: сделай мне, пожалуйста, протокол квалификации депирогенизационного туннеля — не готовый, а проект, который я буду вычитывать. Соответствующим образом настроенная модель за считанные минуты способна выдать такой протокол.

Немного контекста для тех, кто сталкивается с этим не ежедневно. В чистых помещениях есть испытания по счётной концентрации частиц, по целостности HEPA-фильтров. В депирогенизационном туннеле тоже есть HEPA-фильтры, высокотемпературные, тоже есть счётная концентрация частиц — просто другой объект. В паровом стерилизаторе есть эквивалентное время летальности, которое говорит о стерилизующем эффекте, — а в туннеле тоже происходит стерилизация, только сухожаровая: не влажным жаром, а сухим. Некая аналогия есть.

По итогу сотрудник, конечно, что-то подправит. Модель сгаллюцинирует, потому что это её природа — вероятностная модель. Количество ошибок сильно зависит от качества промпта, от задачи и исходных данных, но какой-то процент галлюцинаций априори будет. Однако подправить проект протокола и написать его с нуля — две большие разницы. Попробовав в каждом конкретном применении, человек понимает, в какой степени получается буст, усиление, а в какой степени целесообразно оставить задачу «от руки».

Приведу бытовой пример. В начале года я пробовал делать презентационные материалы — точнее, материалы к ним: различные таблицы с метриками, организовать их как иллюстративный материал к презентации по цифровой трансформации, Фарма 4.0. Пробовал, конечно же, платный тарифный план. Важный момент, и, думаю, Сергей, ты со мной согласишься: любой инструментарий, который действительно чего-то стоит и может принести серьёзную пользу, — это, как правило, платные тарифные планы. Бесплатные, пробные — это ограниченный набор шагов. Я попробовал Perplexity Computer — опять же, не на правах рекламы, аналогичные инструменты есть и другие. Плюс можно собирать свои, но они тоже, как правило, будут не бесплатными: если соберём какой-либо конструктор, то количество токенов — и, в конечном счёте, энергогенерацию — нужно будет оплатить.

Так вот, что интересно. С частью задач машина справилась очень хорошо: получились и условные операторы в готовом Excel, и выпадающие списки — за считанные минуты. Если бы я делал это от руки, это заняло бы два-три дня. Я и делал это от руки в нашем совместном контуре работы, году в 2023-м: метрики, чек-листы. Но с каким-то количеством задач сеть всё-таки не справлялась: какие-то конкретные оценки или формула не давались никоим образом. И когда я понимаю, что уже второй или третий час пытаюсь объяснить, как улучшить данный чек-лист, я понимаю, что этот конкретный шаг мне лучше выполнить от руки — уже по готовому материалу.

«Люди начинают считать токены: технически возможно многое, но не всё коммерчески целесообразно»
Александр Белинский

Сергей АстафьевСергей Астафьев

Мы тоже очень много применяем нейросети в разработке квалификационно-валидационных работ, особенно при подготовке отчёта. Иногда, глядя на работу испарителя и конденсатора в холодильной камере, когда видишь некие скачки, не сразу сам понимаешь, из-за чего это может происходить. И модели очень интересно начинают предлагать различные варианты: почему, например, через определённый промежуток времени происходят температурные всплески выше 8 °C, до 11 °C. У нас был такой пример. И мы поняли: включается компрессор, он начинает гонять фреон, а в испарителе после оттайки остаётся тёплый воздух. Вентиляторы испарителя были настроены так, что сначала выдували тёплый воздух, а потом включался компрессор и начинал охлаждать трубки. Из-за этого датчики постоянно фиксировали короткие температурные всплески выше верхнего порогового значения. Нейросеть помогла описать это с научной точки зрения — чтобы ребята, которые придут после нас регулировать работу холодильно-отопительной установки, детально понимали, что им нужно делать.

И, кстати, по поводу open-source-моделей. У меня есть подозрение, что в ближайшем будущем компании — особенно в фармацевтике, где все пытаются закрываться на своих дата-центрах, чтобы данные никуда не уходили, — начнут строить мини-дата-центры в своих офисах. Да, они будут устаревать достаточно быстро, и нейросети сейчас настолько ускоряются в своём развитии… Вспомни Уилла Смита: буквально несколько лет назад самый большой мем — про то, как он ест макароны. Ты наверняка про это слышал.

Александр БелинскийАлександр Белинский

Слышал. Но, думаю, для нашей аудитории правильнее будет воспроизвести.

Сергей АстафьевСергей Астафьев

Очень кратко. Это мировой мем: генерировали видеоролик, как Уилл Смит ест макароны. В 2023 году это выглядело ужасно: макароны вываливались, что-то происходило, выглядело смешно, в это нельзя было поверить — было видно сразу. В 2026 году выходят новые видеоролики, где Уилл Смит идеально ест эти макароны, и ты уже не понимаешь: это реальная видеосъёмка или сгенерировано нейросетью.

Поэтому ты очень правильную вещь сказал. Во-первых, мы уже должны задумываться о том, что нужно проводить внутреннее обучение команды. И в первую очередь не о том, как мы будем применять нейросети, а о том, что можно передавать. Потому что, скорее всего, люди начнут это использовать и передавать данные уже сейчас, применяя какие-то модели. Поэтому, видимо, надо уже начать внедрять обучение и как минимум говорить об этом.

И, конечно, векторная база. Это крайне удобная история, потому что в компаниях накоплена огромная база знаний, и вопрос — как быстро получить к ней доступ и как найти в ней нужную информацию в кратчайшие сроки. Мы можем раскладывать её на векторы и быстро в них ориентироваться с помощью нейросетей. Но какая крупная компания в здравом уме отдаст всю свою базу знаний через дата-центр, который находится где-нибудь в Калифорнии? Да даже в Москве — какая разница. В любом случае это утечка. Поэтому у меня есть подозрение, что в ближайшем будущем начнётся тренд: компании начнут строить свои мини-дата-центры и часть процессов обрабатывать на них.

«Какая крупная компания в здравом уме отдаст всю свою базу знаний через дата-центр в Калифорнии? Да даже в Москве — какая разница»
Сергей Астафьев

Александр БелинскийАлександр Белинский

Здесь интересный момент — постараемся не сильно затянуть. Даже помимо нейросетей есть небольшой тренд, который отличает тенденции в России и Беларуси от общемировых. На примере валидации, цифровых инструментов валидации — digital validation tools — ситуация аналогичная. Думаю, Сергей, ты меня скорректируешь. Это касается и систем обеспечения качества, QMS, — общемировых, сейчас недоступных в России или не безусловно доступных. Не на правах рекламы: это пресловутые TrackWise и Dot Compliance. По валидации — американский ValGenesis, ирландский Kneat, есть сейчас Valkit.ai, уже с элементами ИИ. Практически всё перечисленное — облачные решения. Они делают такие решения для Big Pharma. Тот же Kneat позиционируется как валидационный инструмент, который обслуживает восемь из десяти топовых фармкомпаний. И это исключительно облако, только SaaS. Они даже не открывают диалог, хочет ли условный Pfizer или условный GlaxoSmithKline разместить что-то на своих серверах. Они сразу говорят «нет».

Сергей АстафьевСергей Астафьев

Почему так происходит?

Александр БелинскийАлександр Белинский

У меня есть гипотеза — только моя версия, вы можете выдвинуть свои. Они уже «напрыгались» на ранних этапах: что такое криво запущенный сервис on-premise. Что-то недоступно, не формируется какой-то протокол, не нажимается какая-то кнопка, а виноват не поставщик услуги, а, условно говоря, криворукие исполнители на местах — никого не хочу обидеть. Иметь IT-команду уровня хорошего дата-центра Tier 3 в Зеленограде или в Грабцево — возвращаясь к российским примерам, для банковских процессинговых центров, зелёного, синего и красного банка, — этого достаточно. А для фармы удивительным образом оказывается, что нет: чтобы развить аналогичную инфраструктуру у себя, с точки зрения безопасности и так далее, требуются серьёзные усилия.

Есть ли здесь позитивные моменты? Конечно. Я лично сталкивался с тем, как вполне высококвалифицированные российские IT-команды выполняли нужные действия: сваливалась какая-то ошибка — увеличивали оперативную память. Сами IT-специалисты. Но нужно разобраться, как это будет выглядеть глазами пользователя, если это не было сделано своевременно: не формируется какой-нибудь сводный документ или отчёт, достаточно громоздкий, — и всё, возникает ассоциация, что этот сервис кривоватый. А на самом деле не сервис кривоватый: в компании X не выполнены одни условия, в компании Y — другие. Поэтому транснациональные компании, как правило, дают облако, и у них есть партнёр — Amazon, у которого всё это отскакивает от зубов.

Есть ещё такое сочетание — мультитенантный сервер. Условно говоря, это многоквартирный дом: движок один, а учётные записи — компании X и Y. Чем интересен мультитенант? Переведу на бытовой язык: дешевле, чем разворачивать отдельный инстанс для каждой компании. Вопрос IT-безопасности, конечно, возникает. Но, с другой стороны, те же процессинговые центры банков тоже проходят сертификацию — PCI DSS, к примеру. И с точки зрения ISO 27001, системы управления информационной безопасностью, — соответствующий ГОСТ тоже есть, идентичный по переводу и по содержанию. По большому счёту в облаке можно обеспечить безопасность не меньшую, а часто и большую. Это примерно как сравнивать индивидуального предпринимателя в сельском хозяйстве и сетевые супермаркеты: в сетевых супермаркетах всегда будет дешевле, по понятным причинам, при, как правило, сопоставимом качестве продукции.

Но в России тренд иной, и мы вряд ли должны ложиться поперёк рельсов. Тут два аспекта. Первый: действительно, есть определённое недоверие, все хотят развернуть on-premise. Но при этом сильно усекают возможности инструментов — любых, не только ИИ — или делают стоимость владения не безусловной, потому что содержание серьёзной и сильной IT-команды — это тоже очень хорошее денежное вливание.

Сергей АстафьевСергей Астафьев

Добавлю одно. Мини-дата-центр, я смотрел, стоит построить где-то от 11 до 23 тысяч долларов и больше. С одной стороны, это немало. С другой — если действительно оно того стоит… Ты сказал про Amazon. Amazon, кстати, активно внедряет нейронки: на приёмке товара делают фотографии, потом нейронка определяет помятости и так далее. Они уже активно применяют это в процессах. Не факт, что это дешевле, чем человек, но, скорее всего, они находятся в тренде и анализируют, насколько это может действительно кого-то заменить. Потому что, насколько я помню, американская компания — аналог «ВКонтакте», запрещённая в России, — в прошлом году уволила десять процентов сотрудников, попытавшись заменить их агентами. Получили очень плохие результаты и сейчас возвращают людей.

Александр БелинскийАлександр Белинский

Здесь я дам обратную связь прямо сейчас. Я бы не торопился — и, во-первых, не посыпал голову пеплом действующим специалистам: «ужас, нас заменят». В этом смысле я позволю себе побыть некоторым скептиком. Опять же, стараюсь вытаскивать некоторые платформы: есть определённый опыт создания — в соавторстве, разумеется, не единолично — через Open WebUI как раз таких RAG-систем. Причём не только RAG, но и GraphRAG: не только векторная база, но и графовая. Да, есть определённые результаты, но я бы не сказал, что это ближний космос. Оно упрощает жизнь, действительно даёт очень интересные ответы и обобщения. Но 90 % ресурса, чтобы подготовить хорошую базу, — это создание авторских эталонных вопросов и ответов. Потому что, чтобы модель хорошо рассуждала, в неё нужно заложить цепочку рассуждений. Оказалось, что техника — это 10 % ресурса, а создание вменяемой эталонной базы вопросов и ответов — 90 %.

У меня даже возникла идея — кстати, тема для будущих эфиров. Чтобы довести до ума подобные системы при одном и том же механизме, надо создать некий краудфандинг — по образу различных форумов, очных и заочных, Telegram-чатов и каналов. Потому что когда такие вопросы создаёт один Белинский или один Астафьев — это одна ситуация. У меня были примеры, когда я создавал порядка сотни вопросов и ответов, причём разных. Есть простые вопросы и ответы — на Хабре можно почитать, что такое GraphRAG, популярно, на уровне юриспруденции. Условно, в нашу базу мы можем загрузить три тысячи законов, где описано, какие санкции наступают за кражу, за разбой. А когда мы задаём вопрос, какая разница между кражей и разбоем, это может быть не прописано в законах явно, и обычный векторный RAG не сделает извлечение. Более того, если задать вопрос на обобщение — перечисли, пожалуйста, все виды имущественных преступлений: кража, разбой, завладение чужим имуществом путём обмана, то есть мошенничество, — то без подготовки, которую может сделать только живой юрист, три тысячи законов споткнутся. Они чётко скажут, что, например, за кражу со взломом — такая-то сумма штрафа, столько-то лет с конфискацией имущества, шучу. Но на обобщение, сравнение и сопоставление сама по себе модель не будет способна. Это делает человек, «пешком». Обычно это порядка сотни вопросов: часть простых, часть сравнений, часть multi-hop — из разных источников. И это обычно наш человеческий опыт, не заложенный ни в модель, ни в нормативные акты, ни в рекомендации.

К чему такой длительный спич? Вопрос в соотношении сигнал/шум. Если не сделать такие эталонные вопросы и ответы, помощь будет более слабой. Если вложиться в них, 90 % усилий мы потратим именно на создание такого дообучения. Истина где-то посередине. Но идея с краудфандингом довольно интересна, потому что по некоторым направлениям я могу такие эталонные вопросы и ответы озвучить, но понимаю, что на мне свет клином не сошёлся. И в момент проработки таких вопросов возникла идея: если условные Telegram-чаты как-то структурировать, упаковать и сформировать — чтобы объяснить моделям, как себя вести. Это может быть опыт инспекций Росздравнадзора или Минпромторга — обезличенный. Я не вижу проблемы, если озвучить то, что озвучивалось на GMP-конференциях: например, что схема, реализующая фильтрацию, ожидается регулятором такой-то. Если это было озвучено в прямом эфире и публиковалось — какая проблема? Без имён и фамилий: ожидание регулятора именно такое, регуляторная интерпретация именно такая. Если получится такой массовый эффект, тогда хороший помощник будет заметен.

На том же Хабре есть информация: если такой ассистент на базе RAG даёт меньше 70 % правильных ответов, а всё остальное — галлюцинации, то он бесполезен, лучше живой юрист. А если выше 70 % и далее — ассистент очень полезен, потому что живой юрист будет заниматься решением проблем, а рутиной — подобный ассистент. Мы проверяли: когда по эталонным вопросам и ответам — golden set — модель выдаёт 80–90 % точности, это становится хорошим подспорьем в обычной работе.

И, Сергей, твой пример с отчётом, на мой взгляд, блестящий. Его даже можно развить: скорее всего, можно указать модель контроллера, например Danfoss такой-то, скинуть мануал, который тоже не конфиденциальный, и сеть подскажет, какой параметр подкрутить — я сейчас фантазирую: дифференциал, задержки, коэффициенты. Это вполне реалистично и классное подспорье.

«Техника — это 10 % ресурса. Эталонная база вопросов и ответов — 90 %»
Александр Белинский

Сергей АстафьевСергей Астафьев

Классное для всех. С одной стороны, мы начали применять нейросети в быту, с другой — уже можем применять их в рабочей практике. И я надеюсь, что это никак не повлияет на здоровье и безопасность людей и для всех станет решением, а не проблемой. Саша, подытожь.

Александр БелинскийАлександр Белинский

Ключевой аспект — human in the loop, человек в цикле. Нельзя брать результат как есть, нужно перепроверять, на чём он основан. Но, как правило, в областях, где мы сами компетентны, получается очень хороший буст. Например, я со своей позиции не пошёл бы в область атомной энергетики или авиации: я там абсолютно некомпетентен и не отличил бы правомерный, качественный вывод от некачественного. А на примере холодовых цепей — возвращаясь к твоему же примеру про испаритель, холодильную камеру, холодильно-отопительную установку — это будет хорошее подспорье. Скорее всего, оно локализует проблему раньше, чем я бы это делал «пешком», точнее и с большим количеством вариантов, чем если бы я делал это, что называется, вручную — вернее, головой.

Сергей АстафьевСергей Астафьев

Саш, давай подытожим. Мы обсудили немало важных тем, и многие, возможно, найдут для себя подсказки и сделают выводы. Но если брать постсоветское пространство — как ты думаешь, какое ближайшее будущее нас ждёт? Мы далеко от западных стран с их дата-центрами. Догнать и перегнать их сейчас будет тяжеловато, но это вполне реальная цель, и, по крайней мере, её нужно ставить. Что нас ждёт в ближайшем будущем?

Александр БелинскийАлександр Белинский

В роли визионера на текущем интервале я высказывался бы очень осторожно — и речь не только обо мне: очень большое количество развилок, точек бифуркации. Но мы можем попробовать простроить траектории, исходя из имеющегося фундамента. А он следующий. С точки зрения больших языковых моделей фундамент постсоветских стран — хотя они сейчас неравномерны по доступу к мировым инструментам — таков: мы можем выделить семейство штатовских моделей, семейство китайских и семейство российских, в частности Яндекс и GigaChat. Причём и тот, и другой предоставляют дистиллированные модели — те, которые могут запускаться локально.

Второй момент: можно ли выстраивать такую же свою локальную IT-инфраструктуру? Да, можно. И есть способствующий инструментарий — преимущественно западного и китайского происхождения, но есть и российские платформы. Тоже не на правах рекламы: есть американский Make, средства автоматизации — это мы в детали пошли, — а есть российский Albato, который выполняет примерно аналогичные функции, может быть, несколько усечённый по функционалу.

В начале диалога ты говорил про поиск молекул — там, в авангарде, некоторое отставание есть, и мы вряд ли можем на это рассчитывать. Но с точки зрения рутинных задач, к которым мы довольно быстро перешли, — поиск неисправности испарителя, создание СОП — инструментарий и Яндекса, и Сбера вполне валиден. И в этой связи есть определённая перспектива, если говорить о странах, где нет ограничений по использованию инструментов, в том числе западных, — на постсоветском пространстве это точно среднеазиатский сегмент. Беларусь сюда, к сожалению, не попадает, как и Российская Федерация: есть определённые ограничения. Но, тем не менее, нет ограничений по китайским моделям — тот же дистиллированный Qwen вполне может использоваться. Поэтому окно возможностей остаётся достаточно широким для решения простых, ординарных задач.

Тренд так или иначе неизбежен, а его конкретная конфигурация зависит от конкретных применений в той или иной компании. Сейчас идут активные эксперименты, в том числе в зарубежных компаниях: кто-то пробует это в части CAPA, кто-то — в анализе лабораторных данных. Что работает, где инструментарий себя оправдывает, а где нет, — думаю, мы увидим в ближайшие годы. Скорее всего, завышенные ожидания текущего периода, эта волна хайпа, схлынет, но в сухом остатке мы увидим уверенные применения: и по твоему примеру с испарителями, и по моему — на базе корпоративных шаблонов создать такой-то протокол или СОП. Это вполне реалистичные сценарии, при которых для генеративного ИИ требуется человек в цикле, и в таком случае его использование абсолютно легитимно с точки зрения фармы.

Будет ли это локальный инструментарий, частично облачный или целиком облачный — сейчас ответить не готов. Но могу сказать, что тенденция «зажать гайки», сделать всё только on-premise, сильно усечёт возможности. Кто-то остановится на закупке железа и развёртывании IT-инфраструктуры, даже если сам пайплайн — сама идея, что должен делать обработчик событий, — будет конкурентным: стоимость владения сервисом окажется неконкурентной. Кому-то, наверное, удастся достигнуть компромисса с безопасниками, чтобы часть данных отдавать на облачные платформы — в случае Беларуси или России хотя бы в дата-центры, сертифицированные на территории этих стран. Это был бы вполне реалистичный сценарий. Но — и это касается конкретно России — есть законодательные инициативы по критической IT-инфраструктуре, и они склоняют чашу весов в сторону on-premise-решений, в рамках предприятия. Хотя, на мой взгляд, с точки зрения критической инфраструктуры тренд мог бы быть прямо обратным.

Сергей АстафьевСергей Астафьев

Саш, спасибо тебе большое, что нашёл сегодня время поговорить. Надеюсь, мы будем встречаться так чаще — посмотрим по обратной связи, насколько такой формат зайдёт. Тем для обсуждения ещё немало, особенно в теме нейросетей.

Александр БелинскийАлександр Белинский

Надеюсь, что наши коллеги к нам присоединятся. Хорошо бы эту тему всячески почелленджить, обстучать: каким будет тренд, объективно можно понять только в составе команды. Чем больше людей подключится к нашему диалогу, тем полезнее и предметнее он будет.

Сергей АстафьевСергей Астафьев

Было бы здорово в следующий раз действительно кого-то пригласить и вместе обсудить такие глобальные, актуальные темы. Спасибо тебе большое.

Александр БелинскийАлександр Белинский

До новой встречи в эфире.

Об участниках

Сергей Астафьев

Сергей Астафьев

Участник интервью. Описание появится позже.

Александр Белинский

Александр Белинский

Участник интервью. Описание появится позже.

Хотите обсудить тему или предложить свою?

Напишите нам — следующие разговоры мы собираем из ваших вопросов. А платформу Юи можно попробовать уже сейчас.