Мнение: Чатботовете се превръщат в основни лекари на хората – впечатляващо, но рисковано

Прескачаме от Д-р Google към Д-р Chatbot доста бързо. През август, OpenAI съобщи за над 200 милиона активни потребители седмично, и докато най-честите въпроси на потребителите са свързани с писане и кодиране, някои ги използват за по-лични въпроси, от съвети за запознанства до рутини за грижа за кожата и диагнози на болести.

Скорошна проучване показа, че AI chatbot-ите надминават лекарите по точност на диагнозата. Но, можем ли наистина да се доверим на AI като нашите доктори?

Точно както се разшири обхватът на темите, за които хората се интересуват, така и тревогата за рисковете и опасностите от разчитане на изкуствен интелект в медицинската сфера също се увеличиха, включително и тези, свързани с въпроси на живот и смърт.

Д-р Чатбот стана вирусен със своите „чудеса“

Преди няколко дни, една жена стана вирусна в Reddit, тъй като сподели как ChatGPT й помогна да подобри кожата си по-добре от дерматолог с впечатляващи снимки преди и след.

37-годишна кавказка жена използва ChatGPT, за да създаде персонализирана рутина за грижа за кожата, за да лекува затворените си комедони, и то наистина й помогна! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 ноември, 2024

„След това аз дадох на chatGPT указание да се държи като професионален дерматолог и да ми помогне да създам рутина за кожата, която ще помогне за избавянето ми от затворените комедони, акнето, намаляването на порите и стягането на кожата, както и намаляването на фините линии. Също така подадох на бота снимки на кожата ми по това време“, написа тя и след това обясни, че казала на чатбота да вземе предвид всички продукти, които вече притежава, и да предложи нови заедно с рутина за грижа за кожата.

След два месеца, Redditor-ката беше изумена от подобренията в кожата си.

Това не е изолиран случай. Много потребители разкриха как чатботове са успяли да разберат и обяснят рентгенови снимки и кръвни тестове по-добре от собствените им лекари. Дори лекарите са били изумени от анализите на изображения и данни, интерпретирани от изкуствения интелект.

Защо хората използват чатботове като лекари?

ИИ може да се превърне в професионалиста, от когото имате нужда – общопрактикуващ лекар, терапевт, дерматолог, диетолог, радиолог – когато имате нужда от него, и има много причини поради които хората избират ИИ преди хората.

Специалистите могат да бъдат скъпи

Жената със скин кейс разкри, че е изхарчила около 400 долара за покупка на продуктите, които чатботът й е предложил.

„Това беше доста голяма инвестиция, но когато мисля за това, колко би струвала консултация с дерматолог, това дори не е лошо,“ написа тя.

Според BetterCare, през 2024 година пациент без здравна застраховка в Съединените щати трябва да плати около $150 за посещение при дерматолог и до $1000 за лечение. И средната цена на сесия психотерапия – друга популярна употреба на AI инструменти – варира от $100 до $200 на сесия, според Forbes Health.

AI чатботовете са по-евтини алтернативи и могат да бъдат разглеждани като единствения избор, особено за хора в по-ниски доходни групи.

Разбира се, възниква още един въпрос: Ако нещо се обърка, дали наистина е мярка за икономия на разходите?

По-бързи и удобни

Наскоро ми се появи обрив по ръката. Въпреки че видях поста за кожното чудо на онази жена, предпочетох да се консултирам с дерматолог в Испания. Най-ранната възможна среща беше след три месеца, дори с частна здравна застраховка. Имам късмет, че изглежда става въпрос просто за сухота, че не ме дразни, и че се надявам да изчезне до момента, в който лекарят може да ме види.

Сроковете за медицинско обслужване зависят от града и плана за здравна застраховка на пациента. Въпреки това, посещенията при специалисти и дори основни лекари се превръщат в изпитание за търпение в много части на света.

Чатботовете не са само буквално на досягаемо разстояние от нашите ръце, но могат да анализират нашите въпроси и да отговарят в рамките на секунди.

По-малко неловко

Имам приятелка доктор, към която мога да се обърна, когато имам нужда от медицинска консултация, но фактът, че тя е моя приятелка, понякога прави нещата неловки. Преди да й пиша, винаги се питам: Проверих ли как е тя наскоро? Тя е страхотен човек и прекрасен професионалист, и съм сигурна, че никога няма да спре да отговаря на моите медицински въпроси. Но, от човек към човек, не мога да не се грижа за нейните чувства също.

Едно от предимствата на изкуствения интелект е собствената му изкуствена същност. Той няма чувства или лош ден, няма да ви съди или да ви казва „Спри да си такъв хипохондър“ (не че моят приятел някога ми е казал това), защото те са обучени да бъдат вежливи и да отговарят на всичките ни тревоги с цялата информация, която искаме. Това е част от това, което прави технологията адиктивна, и вероятно защо много хора предпочитат да задават неприятни въпроси в „поверителността“ на своите смартфони.

Рисковете и опасностите от разчитането на чатботове

Всичко звучи яко и забавно, докато не отделим време да помислим за рисковете и предизвикателствата, пред които са изправени изкуственият интелект и човечеството.

Грешна указания, грешна формулировка

В това изследване, в което изкуственият интелект надмина лекарите, беше направен важен извод: групата лекари, които имаха право да използват изкуствения интелект като съюзник за диагнозите, не се представиха значително по-добре от тези, които не бяха позволени да го използват. Защо? Е, част от проблема беше, че те не знаеха как да напишат правилните подкани, за да извлекат максимума от изкуствения интелект.

„Те го третираха като търсачка за конкретни въпроси: ‘Представлява ли цирозата фактор за риск от рак? Какви са възможните диагнози за болка в очите?’“, каза д-р Джонатан Х. Чен, един от авторите на изследването, за New York Times.

Това е един от проблемите, с които се сблъскват много потребители и технологиите на изкуствения интелект. Чатботовете са добри в диагностиката, но много симптоми трябва да бъдат анализирани индивидуално и персонализирано. Какво ако човек не успее да предостави правилния контекст на чатбота? Или забрави да включи важни подробности или условия, които истински лекар пред пациента не би пропуснал?

Неточности и халюцинации

Чатботовете са професионални знаейки и понякога говорят грешни неща с голяма увереност. И ние ги приемаме. И потребителите, които разчитат на технологията всеки ден, все повече и повече й доверяват.

Трудно е да забравим онзи момент през май, когато Google Gemini предложи на потребителите да добавят „около 1/8 чаша нетоксично лепило към соса, за да стане по-лепкав“ към пицата.

Беше смешно, защото веднага успяхме да усетим халюцинацията – този фин наименование за случаите, когато изкуственият интелект дава абсурдни отговори. Но какво ако става въпрос за по-сложна тема, какво ако човекът, който чете отговора на изкуствения интелект, е изплашен, самотен и притеснен за своето здраве?

Дори когато изкуственият интелект става все по-добър месец след месец, възможността за грешка все още съществува.

Кой е виновен, ако нещо се обърка?

Етическото разискване е гореща тема в момента. Ако чатботът даде грешна диагноза или ужасен съвет, кой е виновен? Разработчиците, моделът, компанията за изкуствен интелект, източниците, които са обучили този модел?

Един трагичен случай предизвика загриженост преди няколко седмици, след като американска майка обвини ИИ за смъртта на своя 14-годишен син и подаде иск срещу стартъпа Character.ai – платформа за създаване на ИИ герои. Тийнейджърът страдаше от депресия и стана обсебен от технологията. Неговият аватар, Дейнерис Таргариън, обсъди с него план за самоубийство и дори го насърчаваше да го изпълни.

Докато ИИ е считано от Световния икономически форум за мощен инструмент за облекчаване на психичните кризи по света и намаляване на растящия процент на случаите на тревожност и депресия, то може също така да бъде опасно, особено за децата.

Го направете „на свой собствен риск“

Докато все още има нужда от подобрение, аз обичам да мисля, че изкуственият интелект има голям потенциал да намали времето за чакане в здравеопазването – както за специализирани прегледи, така и за спешни медицински грижи – да ускори научните постижения и да подкрепи лекарите, особено тези, претоварени с прекомерни работни натоварвания и ниски заплати, както често е случаят в Латинска Америка, като помага на пациентите с основни въпроси от дома.

Той също така може да помогне за преодоляване на различията в достъпа до здравеопазване между различните социални класи, изграждайки пътя за демократизация на медицината както никога досега. Всичко това вече е в наш достъп, само на един въпрос разстояние за всеки с достъп до смартфон.

Въпреки това, от съществено значение е да разберем, че все още сме в началните етапи и трябва да защитим най-уязвимото население. Всеки, който решава да използва Dr. Chatbot, за да подобри здравето си днес, трябва да го направи с разбиране на дребния шрифт в условията и условията, с критично мислене и със съзнанието, че – за сега – те поемат отговорността за свързаните рискове.