Кінець ери «пояснюваного ШІ: Відтепер теплових карт недостатньо для реальної медицини

Події медицини

11 лютого, 2026 09:55

134

Події медицини

11 лютого, 2026 09:55

134

Після того, як ми побачили матеріали Одеського національного політехнічного університету про хакатон MedAI, наша команда новин вирішила дізнатися більше. Ми хотіли зрозуміти, що насправді стоїть за цими прототипами. Нам передзвонили Дмитро Грибенюк та Олег Івченко, які були суддями на цьому заході. Вони не хотіли говорити про переможців. Вони хотіли обговорити єдину проблему, з якою не впоралася жодна команда, включно з їхньою власною.

Ось що вони нам розповіли

Цей хакатон став дзеркалом. Жорстоким дзеркалом. Дмитро описав, як спостерігав за фізіотерапевткою зі Львова, яка намагалася працювати з функцією «пояснюваності» їхнього власного прототипу  тепловою картою, настільки великою, що вона була просто марною. «Мій партнер Олег Івченко просто подивився на мене і сказав: "Ми знову будуємо для себе"». Питання із залу стосувалося не точності. Воно було простішим і водночас складнішим: «Звідки мені знати, що система приймає рішення на основі правильних даних?»

Вони затихли на місяць. А потім повністю перекреслили свою роботу.

Прогрес  це не нова модель. Це нове визначення слова «готово». Вони взяли свій фреймворк ScanLab і відмовилися від його базового припущення. Пояснюваність полягала не лише в тому, щоб показати, куди дивилася модель. Вона мала сформулювати те, що бачила, у клінічних термінах.

Олег Івченко переробив вихідний шар. Тепер система виконує вторинний аналіз (inference) самої теплової карти Grad-CAM. Вона ідентифікує анатомічні особливості і видає простий текстовий клінічний опис: «Фокальна асиметрія у верхньому правому квадранті, що корелює з патерном кластера мікрокальцинатів». Модель каже «рак». Система ж змушена казати: «рак саме через це»

Друга зміна відбулася після спостереження за тим, як команди хакатону використовували телефони як сканери. Дмитро Грибенюк вказав на фатальний недолік більшості мобільного ШІ: перемикання контексту. «Завантажити, почекати, переключитися на десктоп  це нежиттєздатна схема». Вони перевернули робочий процес. Тепер повне пояснення генерується на мобільному пристрої менш ніж за секунду. Ви наводите телефон на рентгенівський знімок на лайтбоксі, і обґрунтування з’являється на тому самому екрані. Жодних затримок через хмару. Жодного головного болю з передачею даних згідно з HIPAA. Лише edge-обчислення, що відчуваються миттєвими

Їхній план на 2026 рік є прямим результатом тих розмов на хакатоні. Вони відмовляються від слова «пояснюваний».

«Воно занадто м'яке»,  сказав Олег Івченко. «Воно звучить як пропозиція. Ми ж будуємо Аудиторський слід (Audit Trail)».

Кожен висновок системи генеруватиме постійний, незмінний лог: точна версія моделі, контрольна сума зрізу навчальних даних, довірчі інтервали для кожної ознаки, різниця порівняно з продуктивністю попередньої моделі. Дмитро Грибенюк пояснив це в контексті майбутнього Закону ЄС про ШІ (EU AI Act). «Лікар має знати не лише, чому ШІ діагностував пухлину, а й яка саме версія ШІ це зробила, і що змінилося з минулого вівторка, що могло вплинути на це рішення».

Олег називає це «холістичний MLOps» (holistic MLOps). Мета  надати клініцисту повний технічний інструментарій для того, щоб поставити під сумнів рішення системи. Відстежити рішення аж до конкретного батчу навчальних даних. Перетворити «чорну скриньку» на процес, який можна оскаржити.

Для Дмитра Грибенюка та Олега Івченка хакатон став не перемогою, а викликом з боку тих самих людей, для яких вони працюють. Їхня дорожня карта на 2026 рік базується саме на цьому принципі: продовжувати отримувати критику. Будувати аудиторський слід. Відправити систему в клініку на Середньому Заході і дати їм спробувати її зламати

Гучні дослідження для заголовків, за їхніми словами, відбуваються деінде, з більшими бюджетами. Вони ж просто будують тиху інфраструктуру довіри. Цеглина за цеглиною.

Автор текста Марія Орловко