Сопротивление потребителей постановке им диагнозов искусственным интеллектом

20 июня, 2023 Другие новости  Нет комментариев

Искусственный интеллект (ИИ) в медицине предлагает уникальную возможность улучшить глобальную систему здравоохранения. Однако потребители по-прежнему скептически относятся к способности ИИ точно оценивать их состояние здоровья. Потребители менее склонны следовать медицинским рекомендациям нейросети (по сравнению с рекомендациями человека), даже когда медицинский диагноз даёт хорошие результаты для здоровья (т. е. симптомы не требуют медицинской помощи). И категорически отказываются, когда симптомы вызывают беспокойство и могут потребовать срочного лечения. Это происходит на фоне того, что искусственный интеллект уже способствует изменениям во многих аспектах жизни, особенно в сфере здравоохранения. Существующие варианты его использования в здравоохранении, включают помощь в поддержании здоровья, точной медицине и разработке лекарств (например, использование Pfizer IBM Watson). Эти и многие другие примеры способны продемонстрировать скептикам, как эта новая технология уже меняет отрасль.

Учитывая превосходство ИИ над поставщиками медицинских услуг с точки зрения точности, скорости и экономии средств, можно подумать, что потребители предпочтут следовать медицинским рекомендациям компьютерного разума, а не эксперту-человеку. Однако так бывает не часто. Недавние интереснейшие исследования были сосредоточены на выявлении психологических основ сопротивления потребителей рекомендациям ИИ в различных областях, включая сектор здравоохранения. Результаты предоставляют существенные доказательства того, что люди доверяют и предпочитают рекомендации практикующих врачей, не желая выполнять рекомендации алгоритмов и статистических моделей. Но при этом, признают, что прогресс может делать это лучше, но не в отношении них самих.

Возникает парадоксальная ситуация, когда люди не проявляют различий в своей готовности следовать медицинским советам от ИИ по сравнению с рекомендациями людей, даже когда схема лечения, показанная практикующим врачом, оказывает плохие результаты на здоровье. И опять же, потребители меньше доверяют рекомендациям ИИ (по сравнению с человеческими), когда медицинский диагноз компьютерного интеллекта даёт хорошие результаты. Более того, исследователи обнаружили, что этот эффект сильнее проявляется у потребителей, которые предрасположены к серьёзному заболеванию.

Серьёзная научная работа выявила несколько причин нежелания потребителей следовать рекомендациям искусственного интеллекта: потребители считают, что по сравнению с человеком, бездушная машина не может учитывать неопределённость или уникальность пациента. Более того, недоверие потребителей к рекомендациям алгоритмов можно объяснить тем, что ИИ не обладает важными отличительными человеческими качествами, такими как способность объяснять свои решения и демонстрировать ярко выраженную уверенность в себе. Работа в области психологии предполагает, что эта асимметрия является продуктом различия в восприятии. Например, в области экономики среднее ожидание разумной экономики заставляет людей рассматривать слегка негативную информацию либо как очень негативную, либо как особенно информативную, и они действуют соответственно. Теория перспектив постулирует, что люди больше заботятся о потере полезности, чем о выигрыше равной ценности, когда делают выбор в условиях неопределённости — концепция, известная как неприятие потерь. В соответствии с принципом «негативной предвзятости» информация с отрицательной окраской воспринимается как более надёжная и критически полезная, чем позитивная, и, таким образом, оказывает большее влияние на принятие решений людьми.

Поскольку люди проявляют сильное отвращение к потерям, а плохая информация имеет больший вес для восприятия, чем хорошая информация, потребители должны с большей готовностью следовать медицинским рекомендациям, основанным на плохих результатах (например, симптомы вызывают беспокойство; обратитесь в ближайшее отделение больницы или позвоните в скорую помощь), потому, что они будут мотивированы защищать своё здоровье и не будут различать источник рекомендаций (ИИ их предоставил или человек). Напротив, люди не прочь получить выгоду, и поэтому их немедленная реакция после хорошего медицинского результата (например, симптомы не требуют неотложной медицинской помощи; человек может справиться с состоянием посредством применения домашних средств; при появлении новых симптомов следует обратиться к врачу немедленно) не должно быть столь порывистым и решительным. В этом случае, на их готовность следовать медицинским рекомендациям могут влиять контекстуальные переменные, такие как несоответствие в восприятии надёжности ИИ по сравнению с людьми.

В контексте принятия решений, связанных со здоровьем, уровень беспокойства человека о здоровье будет влиять на его восприятие достоверности рекомендаций: люди психологически склонны доверять людям и сопротивляться ИИ, потому что машины воспринимаются как менее способные предоставлять достоверную и полезную информацию. Хотя все статистические данные показывают противоположные результаты, а катастрофическое количество подтверждённых врачебных ошибок, приводящих к летальному исходу каждый год, только подтверждают вероятность человеческого несовершенства в этом вопросе.

Тем не менее, опираясь на знания по социальному влиянию, учёные полагают, что использование социального доказательства — психологического феномена, при котором люди подчиняются отзывам или действиям других, предполагая, что эти действия отражают правильное поведение, — может повысить воспринимаемую достоверность диагноза, увеличивая готовность следовать медицинским рекомендациям искусственного интеллекта в медицине. Согласно теории социального сравнения, воспринимаемое нормативное поведение подобных других влияет на принятие решений целевой аудиторией.

Стратегия социального доказательства чрезвычайно эффективна для повышения доверия потребителей к товарам и услугам в различных коммерческих условиях, включая юридически, финансовые и бухгалтерские услуги, интернет-магазины, внедрение высокотехнологичных продуктов и традиционной розничной торговле. Поэтому оптимистические прогнозы распространяются и на сферу медицины. В маркетинге здравоохранения социальное доказательство может быть очень эффективным средством успокоения беспокойных потребителей, поскольку оно обеспечивает внешнее подтверждение точности медицинского диагноза. Один из многих способов использовать социальное доказательство — это подчёркивать положительный опыт людей и скорость принятия, показывая статистику в реальном времени.

Читайте также