В Великобритании исследование показало, что использование чат-ботов с искусственным интеллектом (ИИ) для получения советов по здоровью не всегда помогает людям принимать правильные решения о лечении.
Несмотря на популярность ИИ, даже самые передовые модели – ChatGPT, Command R+ и Llama 3 – часто недооценивали серьезность заболеваний и давали запутанные рекомендации участникам исследования, состоящего из 1300 жителей страны.
Ученые отмечают двусторонний сбой коммуникации между пользователями и ИИ: люди не всегда сообщают все важные детали, а чат-боты выдают сложные для интерпретации советы.
Существующие методы оценки ИИ недостаточно учитывают нюансы взаимодействия человека и машины в медицине, где ошибка может быть критичной.
Технологические компании активно внедряют ИИ в здравоохранение (Apple, Amazon, Microsoft), но врачи и Американская медицинская ассоциация пока осторожны, считая, что ИИ не должен заменять полноценную консультацию с доктором.
