Как ИИ впервые начал ругаться матом после консультации гинеколога

Как врач заполнил пробелы препаратами, ИИ — уверенностью, а один реальный случай показал, почему в медицине нужен не электронный профессор, а второй интеллектуальный контур.

Иногда для медицинского проекта мне нужны не статьи и не чужие кейсы, а реальные исследования на людях, данные которых я хорошо знаю.

Недавно мне понадобилось посмотреть определённый вариант полисомнографии. В Саратове такого исследования не оказалось, пришлось искать возможность в Москве. Я попросил брата пройти его для проекта. Исследование мы получили. Брат получил почти бессонную ночь.

После этого дошла очередь до жены.

Мне сейчас для проекта очень нужен хороший гинеколог. Не просто человек, который умеет назначить УЗИ и взять мазок, а современный врач: понимающий заместительную гормональную терапию, стероидогенез, возможности масс-спектрометрии, умеющий отличать физиологию от патологии и, что особенно важно, знающий, когда человека лучше вообще не лечить.

Мне рекомендовали специалиста, который, судя по описанию, именно такой.

Я подумал: отлично. Проверим на реальном случае.

На себе возможности проверить гинеколога у меня несколько ограничены, поэтому попросил Марию сходить на консультацию.

Марии 29 лет. До этого она была у американского гинеколога, никаких проблем у неё он не нашёл, назначил плановый визит через год.

То есть для проекта случай практически идеальный: молодая женщина без тяжёлой патологии, с известным мне анамнезом и возможностью потом спокойно разобрать всю цепочку — что врач спросил, какие исследования назначил, как их интерпретировал и к какому лечению пришёл.

Сначала всё выглядело интересно

Назначили довольно большой набор анализов, в том числе нетривиальных. Мы все выполнили.

А потом я увидел лечение.

• Реамберин — внутривенно, десять капельниц.
• Тиотриазолин — внутривенно.
• Глутаксим — внутривенно струйно.

Я перечитал назначение ещё раз.

Потому что искал современного гинеколога, который разбирается в масс-спектрометрии, а неожиданно оказался в процедурном кабинете санатория где-то в конце девяностых.

Реамберин. Тиотриазолин. Глутаксим.

Три препарата из той удивительной части постсоветской медицины, где особенно любят слова «антигипоксический», «метаболический», «иммуномодулирующий», «детоксикационный».

У меня к такой медицине всегда один скучный вопрос: что именно мы лечим?

Какой диагноз? Какой патологический процесс? Какой клинический результат должен измениться после десяти капельниц? И как мы поймём, что лечение вообще сработало?

В выданном назначении ответа я не нашёл.

«Это не клиническое мышление, а ритуальная медицина»

Я загрузил анализы и назначения в свою рабочую биомедицинскую модель примерно на 70 миллиардов параметров на NVIDIA Blackwell B200, для ежедневной работы.

И вот здесь случилось неожиданное.

ИИ начал ругаться. Я не знал, что это может быть. Никогда в жизни он не ругался матом.

Не стандартным языком медицинского заключения: «целесообразно рассмотреть альтернативную терапевтическую стратегию».

Нет.

«Это не клиническое мышление, а ритуальная медицина».

«Врач не лечит конкретное состояние конкретного пациента, а воспроизводит шаблон, в котором сама капельница воспринимается как терапевтическая ценность».

Потом добрался до профессиональной компетентности врача.

Я сидел, читал, и впервые мой медицинский ИИ сказал:

«Вы что, …, делаете?»

Три точки оставлю. Каждый может поставить туда своё слово.

И самое неприятное — по существу его возмущение было вполне понятно.

Что действительно важно в анализах

В анализах Марии действительно есть некоторые отклонения. Лейкоциты 3,8 — небольшая лейкопения, которую разумно посмотреть в динамике. Трансферрин 2,05 при нормальном железе и нормальном насыщении трансферрина — нужно интерпретировать в контексте, посмотреть ферритин, CRP, белковый обмен, печёночные показатели. Лактат 0,9 ммоль/л — нормальный. B12 несколько повышен. Витамин D высокий достаточный.

И есть действительно важная находка:

• общий холестерин — 6,38 ммоль/л;
• ЛПНП — 4,36 ммоль/л;
• ApoB — 1,14 г/л.

Вот этим действительно надо заниматься.

Но «заниматься» не означает увидеть один анализ и немедленно начать лекарственную терапию.

Нужно поднять предыдущие значения липидов, повторить исследование, исключить вторичные причины, посмотреть ТТГ, функцию печени и почек, семейный анамнез самой Марии, остальные факторы риска и понять, устойчив ли вообще этот фенотип.

Статин после одной липидограммы

И тут выяснилось, что гинеколог заодно рекомендовала статин.

Вот здесь три точки понадобились уже мне.

Гинеколог, …, рекомендует статин 29-летней женщине после одной липидограммы.

Причём не пишет: «LDL 4,36 — рекомендую отдельно разобраться с дислипидемией».

Не предлагает сначала подтвердить результат.

Не проводит нормальную стратификацию риска.

Нет.

Мы уже лечим.

Я полез в российские клинические рекомендации.

В КР №752 «Нарушения липидного обмена» SCORE2 применяется для оценки риска у бессимптомных взрослых начиная с 40 лет в соответствующей популяции. Марии 29.

ЛПНП у неё 4,36 ммоль/л. Это высокий показатель, который нельзя игнорировать. Но это ещё не автоматический диагноз семейной гиперхолестеринемии и не ситуация, в которой один лабораторный результат сам по себе заменяет клиническую оценку.

Более того, российские рекомендации перед началом гиполипидемической терапии предусматривают повторное определение липидов — как минимум два измерения с интервалом в несколько недель, за исключением отдельных ситуаций очень высокого риска и острых состояний.

У Марии была одна липидограмма.

То есть рекомендация статина появилась раньше, чем клинические рекомендации успели попросить повторить анализ.

Где диагноз и где врачебная комиссия

Но с капельницами оказалось ещё интереснее.

Первоначально я воспринимал их просто как привычную постсоветскую «метаболическую терапию». Можно долго спорить о качестве исследований, искать публикации, обсуждать surrogate endpoints, международные рекомендации и механизмы действия.

А потом я открыл российское законодательство.

И там обнаружился гораздо более простой вопрос.

Российский порядок оказания медицинской помощи сегодня привязан к клиническим рекомендациям. Если врач назначает лекарственный препарат, который не предусмотрен соответствующей клинической рекомендацией или стандартом для данной ситуации, для такого назначения предусмотрен специальный порядок: должны существовать медицинские показания и решение врачебной комиссии с фиксацией в медицинской документации. Это следует из статьи 37 Федерального закона №323-ФЗ; Минздрав отдельно разъяснял порядок применения препаратов вне инструкции.

И вот тут разговор становится совсем другим.

• Какой диагноз?
• Какая клиническая рекомендация соответствует этому диагнозу?
• Где в ней Реамберин?
• Где Тиотриазолин?
• Где Глутаксим?

Если этих препаратов применительно к данной ситуации там нет — на каком основании врач выходит за рамки рекомендаций?

Где медицинские показания для такого решения?

Где решение врачебной комиссии?

Насколько мне известно, врачебной комиссии по поводу лечения моей жены никто не собирал.

И вот здесь разговор о «разных медицинских школах» заканчивается.

Мне совершенно неинтересно, кто верит в Реамберин, а кто не верит.

Медицина — не религия.

Есть диагноз. Есть показания. Есть клинические рекомендации. Есть установленный порядок выхода за их пределы.

Если всё это существует — покажите.

ИИ перепутал семейный анамнез с семейным положением

Но самое смешное произошло потом.

Я начал проверять собственного ИИ.

И обнаружил, что он тоже слегка увлёкся.

Увидев LDL 4,36, модель практически сразу решила, что перед ней семейная гиперхолестеринемия.

А дополнительным аргументом использовала мой собственный тяжёлый сердечно-сосудистый анамнез.

Тут возникла маленькая генетическая проблема.

Мария — моя жена.

Мы семья.

Но мои LDLR, APOB и PCSK9 через свидетельство о браке ей пока не передаются.

ИИ перепутал семейный анамнез с семейным положением.

Причём на основании этой ошибки уже начал строить клиническую рекомендацию.

И вот это мне понравилось больше всего.

Потому что врач и искусственный интеллект сделали практически одно и то же.

У врача не хватало данных — она заполнила пробелы препаратами.

У ИИ не хватало данных — он заполнил пробелы уверенностью.

Одна назначила капельницы.

Второй назначил диагноз.

Второй интеллектуальный контур

Именно поэтому я не верю в идею просто заменить врача искусственным интеллектом.

Мне не нужен электронный профессор, который знает ответ на всё. Таких профессоров среди людей достаточно.

Мне нужен второй интеллектуальный контур, который будет приставать к врачу с неприятными вопросами.

• Почему назначено?
• Где диагноз?
• Где клиническая рекомендация?
• Какой уровень доказательств?
• Какой клинический endpoint?
• Что мы будем контролировать?
• При каких условиях прекратим лечение?
• Какие альтернативные объяснения не исключены?

А потом нужен ещё один контур, который задаёт ровно такие же вопросы самому ИИ.

• Откуда ты это взял?
• Не придумал ли причинную связь?
• Не выдал ли вероятность за диагноз?
• Не перепутал ли жену с кровным родственником?

Потому что плохой врач опасен.

Но плохой медицинский ИИ способен стать ещё опаснее: он говорит быстрее, пишет убедительнее, знает больше терминов и способен оформить ошибку настолько красиво, что её просто перестанут перепроверять.

В итоге мой маленький эксперимент оказался полезнее, чем я предполагал.

Я искал хорошего гинеколога.

Получил Реамберин, Тиотриазолин, Глутаксим и рекомендацию статина.

Зато проверил собственный биомедицинский AI.

Способность замечать медицинскую бессмыслицу у него уже есть.

Теперь надо научить его вовремя замолкать, когда заканчиваются данные.

Что именно вы лечите?

Капельницы Мария делать не будет.

Липидами займёмся отдельно и нормально.

К этому гинекологу я её второй раз не отправлю.

Не потому, что так сказал искусственный интеллект.

А потому что после всех анализов и назначений у меня остался самый примитивный врачебный вопрос:

Что именно вы лечите?

И если на этот вопрос невозможно получить понятный ответ, никакая масс-спектрометрия и никакие разговоры о персонализированной медицине ситуацию не спасают.

Современная медицина иногда начинается не со способности назначить очень сложное лечение.

Она начинается со способности не назначить лишнего.

Гинеколог, откликнись

И теперь уже совершенно серьёзно.

Гинеколог, откликнись.

Нам как раз нужен сильный врач в проект.

Хорошие условия работы. Современная лабораторная диагностика. Генетика. Масс-спектрометрия. Медицинские AI-инструменты. Возможность разбирать действительно сложные случаи, а не работать на потоке.

И обучение — за наш счёт.

Не требуется знать всё. Не требуется соглашаться со мной.

Наоборот, мне нужен врач, который способен спорить со мной, с другими специалистами и с нашим AI, если для этого есть основания.

Есть только одно принципиальное условие:

лечение — по стандартам современной доказательной медицины.

• Не лечить анализ.
• Не назначать «на всякий случай».
• Не ставить капельницу потому, что «пациентам нравится прокапаться».
• Если доказательств недостаточно — сказать, что их недостаточно.
• Если человеку не нужно лечение — иметь профессиональную смелость ничего не назначить.

Вот такого гинеколога мы действительно ищем.

И, судя по этой истории, найти его оказалось сложнее, чем развернуть модель на 70 миллиардов параметров.