Матеріал підготований редакцією медіа «Окрема Думка»
Від “доктора Google” до ChatGPT: еволюція самолікування
Для мільйонів людей у всьому світі пошук симптомів в інтернеті став настільки ж звичним, як ранкова кава. За даними дослідження eligibility.com, 89% пацієнтів у США звертаються до Google перед візитом до лікаря. Більше половини бельгійців (56%) використовують інтернет для пошуку інформації про здоров’я, а цей феномен навіть отримав жартівливу назву “доктор Google”.
Але технології розвиваються, і на зміну простим пошуковим запитам прийшли чат-боти на основі штучного інтелекту. ChatGPT та інші подібні інструменти здавалися ідеальними консультантами — вони працюють цілодобово, не потребують запису і можуть відповісти на будь-яке питання. Раптовий головний біль? Запитайте ChatGPT. Потрібна фінансова порада? Також до ChatGPT. Юридична консультація? І тут ChatGPT здавався готовим допомогти.
Проте ця епоха раптово закінчилася. 29 жовтня 2024 року OpenAI оновила правила використання ChatGPT, заборонивши надання конкретних медичних, юридичних чи фінансових порад. Тепер чат-бот офіційно є лише “освітнім інструментом”, а не “консультантом”.
Небезпечна гра в діагностику: чому це проблема?
Покладання на штучний інтелект у медичних питаннях виявилося набагато ризикованішим, ніж здавалося спочатку. Проблема полягає не лише в тому, що люди пропускають візити до лікарів — хоча й це є серйозним питанням. Справжня небезпека криється в тому, як працюють самі системи ШІ.
Дослідники виявили численні випадки “галюцинацій” штучного інтелекту — коли система генерує інформацію, яка виглядає переконливою, але є фактично неправильною або повністю вигаданою. У медичному контексті такі помилки можуть мати катастрофічні наслідки. Наприклад, ChatGPT міг надати детальну медичну статтю з посиланнями на PubMed, але при перевірці з’ясовувалося, що назви статей були вигаданими, а ідентифікатори PubMed відповідали зовсім іншим дослідженням.
Опитування 75 медичних працівників показало, що 91,8% з них стикалися з галюцинаціями ШІ у своїй щоденній роботі, а 84,7% вважають, що такі помилки можуть негативно вплинути на здоров’я пацієнтів. При цьому майже 40% респондентів все ще довіряють результатам роботи ШІ на високому рівні — тривожна статистика, яка свідчить про розрив між усвідомленням ризиків та довірою до технології. Реальні історії підтверджують ці побоювання.
Чому самодіагностика за допомогою ШІ — це небезпечна гра?
Фундаментальна проблема використання штучного інтелекту для медичної діагностики полягає в самій природі цієї технології. Великі мовні моделі працюють на основі статистичних патернів у тексті, без справжнього розуміння значення чи фактів. Вони навчені видавати відповіді, які звучать переконливо, але це не означає, що ці відповіді правильні.
Google не має знань про вашу медичну історію, які ліки ви приймаєте чи інші персональні чинники, важливі для правильного діагнозу. Те саме стосується ChatGPT та інших ШІ-систем. Звичайний головний біль може мати десятки причин, від зневоднення до мігрені, від стресу до серйозних неврологічних станів. Алгоритм може “вирішити”, що ваші симптоми найбільше схожі на найстрашніший варіант, просто тому, що така інформація частіше трапляється в його навчальних даних.
Дослідження 2016 року показало, що лікарі мають кращу точність діагностики порівняно з онлайн-перевірками симптомів, завдяки ретельній підготовці та доступу до історії хвороби пацієнта. Однак незважаючи на це, молодші покоління продовжують довіряти інформації в інтернеті. 56,7% людей віком 18-24 роки спочатку звертаються до Google, порівняно з лише 19,2% людей старше 65 років.
Ще одна серйозна проблема — це впевненість, з якою ШІ надає неправильну інформацію. ChatGPT завжди був майстром “переконливої неправди”. Коли це стосується вірша про вашого кота — нешкідливо. Коли йдеться про ваше здоров’я — це може бути катастрофою.
Коли настав переломний момент?
Офіційна політика використання OpenAI, востаннє оновлена 29 жовтня 2024 року, тепер забороняє використання ChatGPT для консультацій, що вимагають професійної сертифікації, включаючи медичні або юридичні поради. Компанія також заборонила використання системи для прийняття критичних рішень у сферах фінансів, освіти, житла, міграції чи працевлаштування без людського нагляду.
Тепер замість надання прямих рекомендацій модель буде “лише пояснювати принципи, окреслювати загальні механізми і говорити вам звернутися до лікаря, юриста чи фінансового професіонала”. Нові правила є чіткими: заборонено називати ліки або вказувати дозування, створювати шаблони судових позовів, надавати інвестиційні поради чи рекомендації щодо купівлі-продажу.
Що спровокувало цю зміну? Як повідомляє NEXTA, причиною стали регулювання та побоювання щодо юридичної відповідальності — великі технологічні компанії не хочуть позовів. Використання ШІ для надання професійних або делікатних консультацій залишається значною мірою нерегульованим, що створює ризики як для розробників, так і для користувачів.
OpenAI також оновила свою модель, щоб краще розпізнавати та підтримувати людей у стані стресу. Покращення безпеки в новій моделі зосереджені на таких сферах: психічні розлади, такі як психоз або манія; самоушкодження та суїцид; та емоційна залежність від ШІ.
Важливо зазначити, що OpenAI наполягає: зміни в політиці не означають повної відмови від надання інформації. Каран Сінгхал, керівник відділу Health AI в OpenAI, заявив у X (колишній Twitter): “Це неправда. Всупереч спекуляціям, це не нова зміна в наших умовах. Поведінка моделі залишається незмінною. ChatGPT ніколи не був заміною професійних порад, але він продовжуватиме бути чудовим ресурсом для допомоги людям у розумінні юридичної та медичної інформації”.
Уроки для користувачів: як безпечно використовувати технології
Революція штучного інтелекту в охороні здоров’я не закінчилася — вона лише стала обережнішою. ШІ може бути потужним інструментом для освіти, допомагаючи людям зрозуміти загальні принципи захворювань, механізми дії ліків чи основи здорового способу життя. Але він не може і не повинен замінювати кваліфікованого медичного працівника.
Медичні працівники проводять більшу частину часу, пояснюючи пацієнтам, чого у них немає, замість того, щоб розповідати, що у них насправді є. Google та ChatGPT часто призводять до тривожності, коли люди приходять до лікаря, переконані, що в них рак, хоча насправді це може бути щось набагато простіше.
Якщо ви все ж вирішили шукати інформацію про здоров’я онлайн, слідкуйте за кількома правилами: використовуйте лише надійні джерела, такі як університетські (.edu) або урядові (.gov) вебсайти; завжди консультуйтеся з лікарем замість самодіагностики; використовуйте онлайн-інформацію для підготовки до візиту до лікаря, а не як його заміну.
Найголовніше — пам’ятайте, що ваше здоров’я занадто цінне, щоб довіряти його алгоритму, який, хоч і надзвичайно складний, все одно не може замінити роки медичної освіти, клінічного досвіду та людського судження. Коли справа стосується вашого тіла, завжди краще почути думку справжнього лікаря, ніж найрозумнішого чат-бота.
Джерела для статті
1. Eligibility.com – Every State’s Most Googled Medical Symptoms
https://eligibility.com/medicare/states-most-googled-medical-symptom
2. HealthLeaders Media – Study finds 89% of US citizens turn to Google before their doctor
https://www.healthleadersmedia.com/clinical-care/study-finds-89-us-citizens-turn-google-their-doctor
3. WECT News – Study finds 89% of US citizens turn to Google before their doctor
https://www.wect.com/2019/06/24/study-finds-us-citizens-turn-google-before-their-doctor/
4. NEXTA – OpenAI Updates ChatGPT Policies
https://nexta.tv/p/68224
5. TechRadar – ChatGPT no longer gives medical or legal advice
https://www.techradar.com/computing/artificial-intelligence/chatgpt-no-longer-gives-medical-or-legal-advice-following-openai-policy-update
6. Medium – ChatGPT Won’t Give You Medical Advice Anymore
https://medium.com/@ai-horizon/chatgpt-wont-give-you-medical-advice-anymore-here-s-why-07e7fecc6e67
7. medRxiv – Medical Hallucinations in Foundation Models and Their Impact on Healthcare
https://www.medrxiv.org/content/10.1101/2025.02.28.25323115v2
8. arXiv – Medical Hallucinations in Foundation Models
https://arxiv.org/abs/2503.05777
9. BankInfoSecurity – Medical Hallucinations Persist as Clinicians Integrate AI
https://www.bankinfosecurity.com/medical-hallucinations-persist-as-clinicians-integrate-ai-a-27756
10. JMIR Medical Informatics – Reference Hallucination Score for Medical AI Chatbots
https://medinform.jmir.org/2024/1/e54345
11. PMC (PubMed Central) – A Call to Address AI “Hallucinations”
https://pmc.ncbi.nlm.nih.gov/articles/PMC10552880/
12. Clinical Trials Arena – Hallucinations in AI-generated medical summaries
https://www.clinicaltrialsarena.com/news/hallucinations-in-ai-generated-medical-summaries-remain-a-grave-concern/
13. BHM Healthcare Solutions – AI Hallucination in Healthcare Use
https://bhmpc.com/2024/12/ai-hallucination/
