Завантажити результати аналізів у ChatGPT, описати симптоми й попросити пояснити, що вони можуть означати, сьогодні може здатися швидкою альтернативою консультації з лікарем. Штучний інтелект справді здатен пояснювати складну медичну інформацію простими словами, але покладатися на його відповіді під час лікування небезпечно.
Експерти з цифрових навичок і розробники АІ-рішень Василь Орищук та Максим Валін в ефірі програми «Ранок Вдома» розповіли, у яких випадках штучний інтелект може бути корисним, а коли його відповіді не варто сприймати як медичну рекомендацію.
Чому ШІ може помилятися у питаннях здоров’я
Одна з головних проблем генеративного штучного інтелекту — можливість отримати переконливу, але неправдиву або неточну відповідь. Так звані «галюцинації» або фантазії виникають тоді, коли модель генерує інформацію, яка звучить логічно, однак не відповідає дійсності.
Є й інша проблема — актуальність інформації. За словами Максима Валіна, дані, на яких навчалася модель, мають часові обмеження. Тому ШІ може не враховувати нові дослідження, медичні рекомендації або інші зміни, що з’явилися пізніше.
“Модель має в собі певний датасет і він обмежений у часі. Наприклад, ChatGPT запам’ятав ті дані, на яких його навчали, що президент Джо Байден. Відтоді нова версія з оновленим датасетом ще не вийшла, тому він і зафіксував цю інформацію. Те саме може стосуватися і питань, пов’язаних зі здоров’ям. Наприклад, з’явилися якісь оновлення, дослідження про діабет чи захворювання серця — він не знає про них і, відповідно, буде давати стару інформацію”, — пояснив Максим Валін.
Тому навіть детальна відповідь чат-бота не означає, що вона є актуальною саме для конкретної людини та її ситуації.
Чи варто завантажувати аналізи в ChatGPT
Окремо експерти звертають увагу на конфіденційність. Медичні документи можуть містити ім’я, дату народження, результати обстежень та інші персональні відомості. Передавання таких даних стороннім сервісам створює додаткові ризики для приватності.
Тому перед завантаженням документа до чат-бота варто прибрати персональну інформацію, яка дозволяє встановити особу людини.
Коли ШІ може бути корисним
Водночас повністю відмовлятися від використання штучного інтелекту для роботи з медичною інформацією експерти не радять. За умови знеособлення даних його можна використовувати як допоміжний інструмент для отримання загальної інформації.
Наприклад, чат-бот може допомогти:
- простими словами пояснити загальне значення медичних термінів;
- сформувати список запитань для майбутньої розмови з лікарем;
- порівняти загальну інформацію про кілька препаратів;
- допомогти зорієнтуватися в доступній інформації про певне захворювання чи симптом.
“Використовувати ChatGPT можна, якщо ми гарантуємо, по-перше, знеособленість даних без персональної інформації, а по-друге — якщо нам потрібна лише загальна інформація. Наприклад, чат-бот добре працює, якщо описати симптоми й попросити сформувати перелік запитань для потенційної консультації з лікарем. Або ж коли є кілька препаратів і ми хочемо попросити його порівняти їх чи підказати, де їх можна придбати. У таких випадках це припустимо, адже йдеться лише про консультування”, — зазначив Максим Валін.
Чому ШІ не може замінити лікаря
Навіть якщо відповідь штучного інтелекту здається переконливою, вона не повинна ставати підставою для самостійної постановки діагнозу чи зміни лікування.
ШІ не несе відповідальності за наслідки своїх рекомендацій і не може повноцінно замінити професійну медичну консультацію. Остаточне рішення щодо діагностики та лікування має приймати фахівець.
“Якщо ви пишете будь-який запит або консультуєтесь щодо вашого симптому, відповідь ШІ не є остаточною. Кінцевим результатом завжди має бути консультація з людиною”, — наголосив Василь Орищук.
Отже, штучний інтелект може бути зручним способом отримати додаткове пояснення або підготуватися до розмови з лікарем. Але використовувати його як заміну медичній допомозі не варто.
Читайте також: Чи вмієте ви перевіряти контент, згенерований ШІ.
