Личные данные и «фуфломицины» от медицинских технологий | Мнение

Лиза Осипенко, преподаватель кафедры политики здравоохранения Лондонской школы экономики и политологии, об опасности непродуманных технологических решений в медицине

В интервью журналу Wall Street Journal, опубликованном ранее в этом году, Дэвид Фейнберг, глава Google Health и самозваный астролог, восторженно сказал: «Если вы верите мне, что мы лишь систематизируем информацию с целью упростить жизнь вашему врачу, то я, позволив себе некоторый патернализм, вряд ли когда-либо от этого откажусь». Другими словами, у пациентов скоро не останется иного выбора, кроме как получать персонализированные клинические гороскопы, основанные на их собственной истории болезни и выводах, сделанных на основе растущего банка анамнезов. Но даже если мы хотим жить в таком мире, то должны внимательно присмотреться к тому, что же на самом деле продают нынешние адепты медицинских технологий.

В последние годы большинство американских компаний Big Tech – а также многие стартапы, компании Big Pharma и другие – вступили в сферу медицинских технологий. С помощью аналитики больших данных, искусственного интеллекта (ИИ) и других новых методов они обещают сократить расходы на проблемные системы здравоохранения, произвести революцию в сфере принятия врачами решений о лечении – в общем, спасти нас от нас самих. Что же может пойти не так?

Оказывается, многое. В книге Weapons of Math Destruction («Оружие математического поражения») аналитик данных Кэти О’Нил приводит множество примеров того, как алгоритмы и данные могут без всякого злого умысла нас подвести. Когда прозрачные алгоритмы обратной связи для данных применялись к бейсболу, они работали даже лучше, чем ожидалось; но когда подобные модели используются в финансах, страховании, правоохранительной деятельности и образовании, они могут быть весьма дискриминационными и разрушительными.

Здравоохранение в этом смысле не является исключением. На медицинские данные людей влияют субъективные клинические решения, медицинские ошибки и эволюция сложившейся практики, а качество больших наборов данных часто ухудшается из-за отсутствия записей, ошибок измерений, а также недостаточного структурирования и стандартизации. Тем не менее, революция больших данных в здравоохранении подается так, будто этих тревожных ограничений не существует. Хуже того, на это ведутся многие ответственные лица, принимающие решения в области медицины.

Можно возразить, что, если новые решения дают некоторые преимущества, они заслуживают внимания. Но без масштабных, хорошо проработанных эмпирических исследований мы не можем уверенно сказать, действительно ли аналитика данных и ИИ улучшают текущую ситуацию. И отсутствуют не только доказательства этой пользы – отсутствует инфраструктура или нормативная база для их сбора. Приложения для работы с большими данными просто внедряются в систему здравоохранения, как если бы они были безвредными или бесспорно полезными.

Рассмотрим Project Nightingale, частную систему обмена данными между Google Health и Ascension, крупной некоммерческой системой здравоохранения в США. Когда в ноябре прошлого года Wall Street Journal впервые сообщил об этих секретных контактах, это вызвало скандал из-за опасений по поводу личных данных пациентов. Хуже того: как открыто признался Файнберг в той же газете всего два месяца спустя, «мы сами не понимали, что делаем».

Учитывая, что компании Big Tech не имеют опыта работы в сфере здравоохранения, такие признания не должны вызывать удивления, несмотря на попытки убедить нас в обратном. Более того, в то время как конфиденциальность становится для человека скорее роскошью, чем правом, алгоритмы, которые все больше управляют нашей жизнью, превращаются в недоступные черные ящики, закрытые от общественного или нормативного контроля с целью защиты корпоративных интересов. А в случае здравоохранения алгоритмические модели диагностики и принятия решений иногда дают результаты, которых не понимают сами врачи.

Несмотря на то, что многие из тех, кто стремится в сферу здравоохранения, руководствуются благими намерениями, нынешний подход в этой отрасли основан на отсутствии этики и на плохой информированности. Никто не возражает против улучшения здравоохранения с помощью технологий. Но прежде чем вступать в партнерские отношения с технологическими компаниями, руководители и организации здравоохранения должны лучше разобраться в медицинских технологиях.

Начнем с того, что важно помнить: выводы на основе больших данных делаются с помощью статистики и математики, для чего требуется специфическая грамотность. Когда алгоритм обнаруживает «причинно-следственную связь» или какой-либо другой признак ассоциации, эта информация может быть полезна для проведения дальнейших исследований, основанных на гипотезах. Но когда дело доходит до фактического принятия решений, математически управляемые прогностические модели не более надежны, чем данные, вводимые в них. А поскольку их фундаментальные допущения основаны на том, что уже известно, они дают нам картину прошлого и настоящего, но не будущего. Такие приложения имеют большой потенциал для улучшения здравоохранения и сокращения расходов, но польза от них не гарантирована.

Другой критической областью является ИИ, для которого требуется как собственная архитектура – то есть правила и базовая логика, определяющая, как работает система, – так и доступ к огромным объемам потенциально конфиденциальных данных. Цель – настроить систему так, чтобы она могла сама себя «обучить» находить оптимальные решения поставленных проблем. Но здесь нужно помнить, что создатели архитектуры – люди, пишущие правила и формулирующие проблемы, – столь же предвзяты, как и все остальные, независимо от того, хотят они этого или нет. Более того, как и в случае анализа данных, системы искусственного интеллекта руководствуются данными из системы здравоохранения в ее нынешнем виде, что может повлечь воспроизведение ими и ее неудач, и ее успехов.

Таким образом, улучшение здравоохранения с помощью больших данных и ИИ, вероятно, потребует гораздо большего количества проб и ошибок, чем думают технооптимисты. Проекты больших данных, если их проводить прозрачно и публично, могут научить нас создавать наборы высококачественных данных на перспективу, тем самым увеличивая шансы на успех алгоритмических решений. Кроме того, должны быть доступны и сами алгоритмы – если не для общественности, то хотя бы для регулирующих органов и организаций, подписавшихся на услугу.

В первую очередь медицинские организации и правительства должны снять розовые очки и критически подумать о последствиях использования в здравоохранении новых программ, в значительной степени непроверенных. Вместо того, чтобы просто раздавать истории болезни пациентов и другие данные, больницы и регулирующие органы должны следить за разработчиками технического сектора, которые выстраивают архитектуру и внедряют новые экспериментальные системы. Больше людей должны высказать свое мнение и критически оценить допущения, лежащие в основе первоначальных прототипов, а после этого нужно провести контролируемые эксперименты для оценки реальных характеристик этих технологий.

Решения для здравоохранения на основе больших данных, будучи чрезмерно разрекламированными, спешно отправляются на рынок без особого регулирования, прозрачности, стандартизации, подотчетности или надежных методов валидации. Пациенты заслуживают того, чтобы системы здравоохранения и медицинские учреждения защищали их, а не просто использовали как источники данных для экспериментов, нацеленных на получение прибыли.

Нажмите здесь, чтобы прослушать подкаст по этой теме с участием автора и других людей.

Об авторе: Лиза Осипенко – старший преподаватель практики на кафедре политики здравоохранения Лондонской школы экономики и политологии.

Copyright: Project Syndicate, 2020.
www.project-syndicate.org 

Вы можете внести вклад в борьбу с дезинформацией: Для сохранения объективности, редакция Factcheck.kz, как правило, отказывается от рекламы и сохраняет независимость и принципиальную равноудаленность от государства, крупных компаний и политических лагерей — и именно ваша поддержка делает это возможным. Мы гарантируем рациональное планирование расходов. Народное финансирование позволяет проекту быть ещё более устойчивым и продолжать верификацию информации и проверку заявлений государственных деятелей, чиновников и экспертов.


Пожалуйста, выберите любую сумму



Или введите свою

Редакция
Фактчек в Казахстане и Центральной Азии. Первый центральноазиатский фактчекинговый ресурс. Открыт в мае 2016 года. Член международной сети фактчекинговых организаций (IFCN)