Изкуствен интелект (AI) е напреднал, но все още е далеч от съвършенството. AI системите могат да вземат пристрастни решения поради данните, върху които са обучени или начина, по който са проектирани, и ново проучване предполага, че клиницистите, използващи AI за диагностициране на пациенти, може да не са в състояние да забележат признаци на такова пристрастие.
Изследването, публикувано във вторник (19 декември) в ДЖАМА, тества специфична AI система, предназначена да помогне на лекарите да стигнат до диагноза. Те откриха, че наистина помага на клиницистите да диагностицират по-точно пациентите и ако изкуственият интелект „обясни“ как е взел решението си, точността им се увеличи още повече.
Но когато изследователите тестваха AI, който беше програмиран да бъде умишлено предубеден към поставяне на конкретни диагнози на пациенти с определени атрибути, използването му намали точността на клиницистите. Изследователите установиха, че дори когато изкуственият интелект дава обяснения, които показват, че резултатите му са очевидно пристрастни и пълни с неуместна информация, това не компенсира намаляването на точността.
Въпреки че отклонението в AI на изследването е проектирано да бъде очевидно, изследването сочи колко трудно може да бъде за клиницистите да забележат по-фини отклонения в AI, с който се сблъскват извън изследователския контекст.
„Документът просто подчертава колко е важно да направим нашата надлежна проверка, за да гарантираме, че тези модели нямат нито едно от тези пристрастия,“ Д-р Майкъл Сьодингдоцент по вътрешна медицина в Мичиганския университет и старши автор на изследването, каза пред Live Science.
Свързани: AI трансформира всеки аспект на науката. Ето как.
За целите на проучването изследователите създадоха онлайн проучване, което представи на лекари, практикуващи медицински сестри и асистенти лекари реалистични описания на пациенти, които са били хоспитализирани с остра дихателна недостатъчност – състояние, при което белите дробове не могат да получат достатъчно кислород в кръвта. Описанията включват симптомите на всеки пациент, резултатите от физическия преглед, резултатите от лабораторните изследвания и рентгеновата снимка на гръдния кош. Всеки пациент или е имал пневмония, сърдечна недостатъчност, хронична обструктивна белодробна болест, няколко от тези състояния или нито едно от тях.
По време на проучването всеки клиницист диагностицира двама пациенти без помощта на AI, шест пациенти с AI и един с помощта на хипотетичен колега, който винаги предлага правилната диагноза и лечение.
Три от прогнозите на AI са предназначени да бъдат умишлено предубедени – например, едно въвежда отклонение, основано на възрастта, което прави непропорционално по-вероятно пациентът да бъде диагностициран с пневмония, ако е на възраст над 80 години. Друг би предсказал, че пациенти със затлъстяване са имали фалшиво висока вероятност от сърдечна недостатъчност в сравнение с пациенти с по-ниско тегло.
AI класира всяка потенциална диагноза с число от нула до 100, като 100 е най-сигурната. Ако резултатът е 50 или по-висок, AI предоставя обяснения за това как е достигнал резултата: По-конкретно, той генерира „топлинни карти“, показващи кои области от рентгеновата снимка на гръдния кош AI счита за най-важни при вземането на своето решение.
Проучването анализира отговорите на 457 клиницисти, които са диагностицирали поне един измислен пациент; 418 са диагностицирани и на деветте. Без помощник с ИИ диагнозите на клиницистите бяха точни около 73% от времето. Със стандартния, безпристрастен AI, този процент скочи до 75,9%. Тези, на които е дадено обяснение, се справят дори по-добре, достигайки точност от 77,5%.
Въпреки това, пристрастният AI намалява точността на клиницистите до 61,7%, ако не е дадено обяснение. Беше само малко по-висока, когато бяха дадени пристрастни обяснения; те често подчертават неуместни части от рентгеновата снимка на гръдния кош на пациента.
Предубеденият AI също повлия върху това дали клиницистите са избрали правилните лечения. Със или без обяснения клиницистите предписват правилното лечение само в 55,1% от случаите, когато се показват прогнози, генерирани от предубедения алгоритъм. Тяхната точност без AI беше 70,3%.
Проучването „подчертава, че лекарите не трябва да разчитат прекалено на AI“, каза Рики Люн, доцент, който изучава изкуствен интелект и здраве в Училището по обществено здраве на университета в Олбани и не е участвал в проучването. „Лекарят трябва да разбере как са изградени използваните AI модели, дали има потенциално отклонение и т.н.“, каза Leung на Live Science в имейл.
Проучването е ограничено, тъй като използва модели на пациенти, описани в онлайн проучване, което е много различно от реална клинична ситуация с живи пациенти. Освен това не включва никакви рентгенолози, които са по-свикнали да интерпретират рентгенови снимки на гръдния кош, но не биха били тези, които вземат клинични решения в истинска болница.
Всеки AI инструмент, използван за диагностика, трябва да бъде разработен специално за диагностика и клинично тестван, като се обърне специално внимание на ограничаването на пристрастията, каза Sjoding. Но проучването показва, че може да е също толкова важно да се обучат клиницистите как правилно да използват AI при диагностициране и да разпознават признаци на пристрастия.
„Все още има оптимизъм [if clinicians] получат по-специфично обучение за използване на AI модели, те могат да ги използват по-ефективно“, каза Sjoding.
Някога се чудите защо някои хора изграждат мускули по-лесно от други или защо луничките излизат на слънце? Изпратете ни вашите въпроси за това как функционира човешкото тяло [email protected] с тема „Health Desk Q“ и може да видите отговор на въпроса си на уебсайта!