Можно ли полагаться на искусственный интеллект для ответов на вопросы о раке?

Искусственный интеллект в помощь при вопросах о раке?

Исследования показывают, что искусственный интеллект (ИИ) не всегда является точным источником информации о здоровье, особенно когда речь идет о лечении рака.

Два новых исследования оценили качество ответов, предлагаемых чат-ботами на основе искусственного интеллекта, на различные вопросы о лечении рака.

Одно из исследований, опубликованное 24 августа в журнале JAMA Oncology, сосредоточилось на полнофразовом чат-боте, известном как ChatGPT, который был запущен с большой оглаской в ноябре прошлого года.

Положительная сторона: около двух третей информации о раке, предложенной ChatGPT, точно соответствовала текущим рекомендациям от Национальной комплексной раковой сети США.

• Собаки из приюта уязвимы перед заболеваниями, передаваемыми клещами...
• Проблемы с желудком могут быть ранним сигналом болезни Паркинсона.
• Приближаясь к пенсии, американский низкий средний класс сталкиваетс...

Негативная сторона: остальная часть информации не соответствовала.

«Некоторые рекомендации были явно неверными», – сказала автор исследования, доктор Даниэль Биттерман, ассистент профессора радиационной онкологии в Больнице Бригхема и Женщин и Институте рака Даны-Фарбера и в Медицинской школе Гарварда в Бостоне. «Например, случаи, когда рекомендовалось лечение с целью излечения при неизлечимом диагнозе».

Иногда неверные рекомендации были более скрытыми – например, включали в себя только некоторые, но не все, части лечебного режима, такие как рекомендация одного только хирургического вмешательства, когда стандартное лечение также включает радиотерапию и/или химиотерапию, сказала Биттерман.

Это вызывает беспокойство, поскольку «неверная информация была смешана с правильной, что особенно затрудняло обнаружение ошибок даже для экспертов», – отметила она.

Второе исследование в том же номере журнала дало более оптимистичную оценку точности ИИ.

В этом случае исследователи рассмотрели ответы от четырех разных чат-ботов – ChatGPT, Perplexity, Chatsonic и Bing от Microsoft. Каждый из них был попросен обсудить рак кожи, легких, груди, предстательной железы и/или толстой кишки.

Исследователи оценили качество и точность ответов как «хорошее».

Однако они отметили, что это не обязательно означает, что пациенты найдут полезным опыт использования ИИ. Это связано с тем, что большая часть предоставленной информации слишком сложна для большинства непрофессионалов в медицине.

В то же время все ответы были связаны с предупреждением о том, что пациенты не должны принимать решения о медицинском уходе на основе предоставленных данных без предварительной консультации с врачом.

Главный вывод: многие пользователи ИИ, вероятно, обнаружат, что медицинская информация, созданная чат-ботами, непонятна и непрактична.

«Результаты были обнадеживающими в том смысле, что мало было дезинформации, потому что это было нашей самой большой озабоченностью», – сказал автор исследования, доктор Абдо Кабаррити, главный уролог в South Brooklyn Health в Нью-Йорке.

«Но много информации, хоть и точной, было представлено не в доступной форме», – добавил он.

По сути, чат-боты предоставляли информацию на уровне чтения в колледже, в то время как обычный потребитель читает примерно на уровне шестого класса, сказал Кабаррити.

Информация, полученная командой Кабаррити, была, по его словам, «гораздо более сложной».

Еще один фактор, который, вероятно, вызовет разочарование у многих пациентов, заключается в том, что ИИ не скажет вам, что делать с симптомами рака, о которых он сообщает, сказал Кабаррити.

«Он просто скажет ‘проконсультируйтесь со своим врачом’», – сказал он. «Возможно, здесь есть вопрос ответственности. Но суть в том, что чаты ИИ не заменяют взаимодействие, которое пациентам нужно будет иметь с их врачами».

Доктор Атул Бутте, главный ученый-датаспециалист в Университетской системе здравоохранения Калифорнии, написал сопровождающую статью.

Несмотря на обеспокоенность, вызванную обоими исследованиями, он считает, что ИИ “положительно влияет” на пациентов и медицинское сообщество в целом.

«Я считаю, что бокал уже наполовину полон», – сказал Бутте, отметив, что со временем информация, предоставляемая чат-ботами, неизбежно станет все более точной и доступной.

Как уже показали некоторые исследования, ИИ имеет потенциал предложить более качественные советы и даже больше сочувствия, чем медицинские специалисты.

Его мнение: с течением времени чат-боты на основе ИИ будут играть все более важную роль в предоставлении медицинской информации и помощи. Для многих пациентов это будет ощутимой пользой, предсказал Бутте.

Как отметил он, не многие пациенты имеют ресурсы или привилегию обращаться в лучшие медицинские центры мира.

“Но представьте себе, если бы мы могли обучить искусственный интеллект на данных и практиках из этих лучших мест, а затем передавать этот знания через цифровые инструменты по всему миру”, – сказал Бутт.

“Вот почему я начинаю называть искусственный интеллект ‘масштабируемой привилегией'”, – добавил он. “[Это] наш лучший способ масштабирования этой привилегированной медицинской помощи, которую могут получить только некоторые, для всех.”

СЛАЙД-ШОУ

Дополнительная информация

Национальный институт биомедицинского изображения и биоинженерии США представляет обзор искусственного интеллекта.

ИСТОЧНИКИ: Даниэль Биттерман, доктор медицины, доцент, лучевая онкология, Больница Бригама и женской больницы / Институт рака Дана-Фарбер и Медицинская школа Гарварда, Бостон; Абдо Кабаррити, доктор медицины, главный уролог, Южный Бруклин Хелс, Нью-Йорк; Атул Бутт, доктор медицины, доктор философии, главный научный сотрудник по данным, Университетская система здравоохранения Калифорнии и профессор, первый директор Института вычислительных наук о здоровье Бакар, Университет Калифорнии в Сан-Франциско; JAMA Oncology, 24 августа 2023 года