Оксфордський аналіз розкрив небезпеку ШІ-чатботів у медицині: неточні поради загрожують пацієнтам
Фахівці з Оксфордського університету провели масштабне дослідження, яке виявило суттєві ризики, пов’язані з використанням чат-ботів на базі штучного інтелекту для отримання медичних консультацій. Згідно з висновками науковців, такі системи часто генерують неточну та суперечливу інформацію, що може поставити під загрозу безпеку пацієнтів. Основна проблема полягає у нездатності ШІ коректно інтерпретувати неповні або нечіткі дані, надані користувачем, що робить самодіагностику через ці інструменти вкрай небезпечною. Про це повідомляє видання УНН.
Детальний аналіз результатів
Експеримент, до якого долучилися 1300 учасників, продемонстрував, що ефективність відповідей ШІ значною мірою залежить від того, як сформульовано запитання. Учасникам пропонувалося описати свої симптоми, наприклад, сильний головний біль чи виснаження. Натомість, чат-боти часто надавали список можливих діагнозів, змушуючи людей самостійно вгадувати правильний варіант.
- Доктор Адам Махді, провідний автор дослідження, підкреслив у коментарі для BBC: “Коли штучний інтелект пропонує три ймовірні стани, користувач залишається сам-на-сам із необхідністю вгадувати, який саме йому підходить. Саме тут і криється небезпека”.
Доктор Ребекка Пейн, яка керувала дослідженням, назвала практику звернення за медичними порадами до ШІ “небезпечною”. Вона пояснила, що люди зазвичай надають інформацію частинами і можуть пропускати критично важливі деталі, які досвідчений лікар зміг би виявити під час особистого огляду. Внаслідок цього, користувачі чат-ботів часто отримували суміш корисних та потенційно шкідливих порад, що значно ускладнювало їхнє рішення щодо необхідності звернення до сімейного лікаря чи виклику екстреної допомоги.
Упередженість алгоритмів та майбутні перспективи
Окрім технічних помилок, експерти вказують на глибші системні недоліки технології. Докторка Ембер В. Чайлдс з Єльського університету зазначила, що штучний інтелект навчається на медичних даних, які вже містять багаторічні упередження, що можуть спотворювати результати.
Чат-бот може бути настільки ж добрим діагностом, наскільки добрими є досвідчені клініцисти, а вони, як відомо, не є ідеальними.
– додала вона.
Це створює додатковий ризик відтворення помилок, які вже існують у сучасній медичній практиці.
Незважаючи на критичні зауваження, фахівці бачать значний потенціал у спеціалізованих моделях штучного інтелекту. Доктор Берталан Меско припустив, що нові версії чат-ботів від OpenAI та Anthropic, розроблені спеціально для галузі охорони здоров’я, можуть демонструвати кращі результати. Однак, ключовою умовою для забезпечення безпеки залишається впровадження чітких національних правил, регуляторних механізмів та офіційних медичних рекомендацій для подальшого розвитку та вдосконалення таких систем.
Підсумок від Українське життя:
Ця новина є вкрай актуальною для кожного, хто користується сучасними технологіями для пошуку інформації про здоров’я. Вона нагадує про важливість критичного ставлення до будь-яких медичних порад, отриманих онлайн, особливо від систем штучного інтелекту. Хоча ШІ може бути корисним інструментом, його рекомендації не можуть замінити професійну консультацію лікаря. Тому, перш ніж приймати будь-які рішення щодо свого здоров’я, завжди варто звернутися до кваліфікованого медичного спеціаліста.
Подробиці можна знайти на сайті: unn.ua