Microsoft Word – глубокое обучение против традиционных моделей_Абдель Хай_Завершение. Часть 3

В этом исследовании были проведены обширные эксперименты, чтобы определить, сколько предыдущих встреч является оптимальным для прогнозирования повторной госпитализации.

Поскольку темп жизни ускоряется, мы каждый день подвергаемся воздействию большого количества информации, и нам необходимо поддерживать определенный объем памяти, чтобы лучше усваивать и использовать эту информацию. Многие люди могут чувствовать, что их память недостаточно сильна, но благодаря обширным экспериментальным исследованиям мы можем обнаружить, что память можно тренировать и улучшать.

Первый похожий эксперимент изучал влияние йоги на улучшение памяти. Эксперимент, проведенный в Калифорнийском университете в Сан-Франциско, показал, что практика йоги увеличивает количество серого вещества в мозгу и улучшает краткосрочную и долговременную память студентов. Это связано с тем, что йога оказывает очень хорошее оздоровительное воздействие на физическое и психическое здоровье людей, может снять стресс и беспокойство и тем самым улучшить память людей.

Второй эксперимент исследовал взаимосвязь между сном и памятью. Исследователи обнаружили, что достаточный сон полезен для памяти людей. Сон может способствовать передаче информации между клетками мозга, помогать консолидировать воспоминания и улучшать долговременную емкость памяти.

Третий эксперимент заключается в использовании математических игр для улучшения вычислительных способностей и памяти учащихся. В эксперименте, проведенном в Университете Гонконга, исследователи просили студентов выполнять простые математические действия, чтобы стимулировать их мозговую деятельность. Результаты показали, что после прохождения обучения у студентов улучшились вычислительные способности и память. Это показывает, что при соответствующих тренировках и стимуляции функции мозга можно значительно улучшить.

Благодаря вышеупомянутым экспериментам мы знаем, что память можно тренировать и улучшать, и вам не нужно слишком беспокоиться о том, что ваша память недостаточно хороша. Мы можем эффективно улучшить нашу память и лучше справляться с проблемами современной жизни, выполняя соответствующие упражнения, такие как упражнения йоги, достаточный сон и различные игры. Видно, что нам нужно улучшить память, а цистанхе пустынный может значительно улучшить память, потому что цистанхе пустынный — это традиционное китайское лекарственное средство, обладающее множеством уникальных эффектов, одним из которых является улучшение памяти. Эффективность мясного фарша обусловлена различными содержащимися в нем активными ингредиентами, в том числе кислотами, полисахаридами, флавоноидами и т. д. Эти ингредиенты могут способствовать здоровью мозга различными способами.

improve memory

Нажмите «Узнай 10 способов улучшить память»

Мы провели эксперименты, рассматривая � встреч за предыдущие 2 года, где � ∈ {1, 2, 4, 8, 15, 30, 60, 80, 100}. Среднее количество обращений на одного пациента за этот период составило 21, а 90-й перцентиль — 56.

Изменение числа встреч привело к неунифицированной длине векторов признаков. Таким образом, в эксперименте, в котором учитывается до 60 встреч, векторы признаков, для которых отсутствуют данные, были дополнены нулями, чтобы гарантировать, что векторы признаков для всех пациентов представляют 60 встреч.

В этом исследовании была выдвинута гипотеза о том, что модели DL превосходят традиционные модели в крупных тестах, поэтому был проведен сравнительный анализ с различными оценочными метриками, чтобы оценить и сравнить алгоритмы DL с базовыми традиционными моделями.

Кроме того, чтобы изучить важность знания предметной области, мы обучили и протестировали модели на данных всех лабораторных исследований, включенных в набор данных ЭМК, и сравнили их с моделями, обученными и протестированными с помощью подмножества лабораторных исследований, основанных на предыдущих статьях, сообщающих о связи с повторной госпитализацией (сывороточный альбумин, анион разрыв, артериальный pH, билирубин, азот мочевины крови, углекислый газ, креатинин сыворотки, глюкоза в крови, гематокрит, лактат, PaCO2, PaO2, натрий в сыворотке, тропонин-I, венозный pH и количество лейкоцитов).11, 34 Используя только Подмножество лабораторных исследований может быть полезным за счет уменьшения размерности.

Пациенты были случайным образом разделены на 3 непересекающиеся подгруппы, из которых 70% использовались для обучения, 10% для проверки и 20% для тестирования. Мы использовали методы перекрестной проверки, чтобы найти гиперпараметры, которые обеспечивают наилучшие результаты.

Для LSTM и GRU мы варьировали количество нейронов, отсев, размер пакета и количество эпох, используя поиск по сетке. Согласно литературным данным, в проведенных экспериментах процент выпадения варьировался от 0 до 50, а количество нейронов - от 32 до 512.

Мы выбрали отсев 0.1, 128 нейронов, размер пакета 512 и 16 эпох для LSTM и 12 эпох для GRU, поскольку двунаправленный GRU сходится быстрее, чем 1-способ LSTM. Функция активации сигмоида и оптимизатор Адама. Традиционные модели также были доработаны и выбраны гиперпараметры, показавшие наилучшие результаты.

Показатели производительности и анализ

Эффективность методов, использованных в нашем исследовании, оценивалась по пяти общим показателям: площадь под кривой рабочих характеристик приемника (AUROC), полнота (также известная как чувствительность), специфичность, показатель F1- и точность. Формальные определения этих показателей оценки являются общими, и их легко найти.34

Анализ статистической значимости был проведен для оценки стабильности и значимости производительности предложенной модели.Мы случайным образом выбрали разных пациентов для обучения и тестирования и повторили случайный выбор 10 раз, чтобы получить средние показатели эффективности и 95% доверительные интервалы.

LSTM сравнивали с наиболее эффективной традиционной моделью (RF) с помощью t-теста. P-значение<0.05 was considered statistically significant. The Temple University Institutional Review Board approved the protocol.

Полученные результаты

Всего был проанализирован 36 641 пациент с 2 836 569 обращениями. Было 9130 пациентов с хотя бы одной повторной госпитализацией и 27511 без повторной госпитализации. Влияние количества встреч за предыдущие 2 года оценивалось для пяти моделей прогнозирования, где встречи рассматривались для каждой модели, а эксперименты повторялись для е {1, 2, 4, 8, 15, 30, 60, 80, 100} .

На рисунке 2 представлено значение AUROC предложенной модели LSTM в сравнении с традиционными моделями при различном количестве встреч. Двунаправленный GRU также был выполнен, но опущен, поскольку он достиг идентичного AUROC и LSTM. LSTM превзошел традиционные модели в большом тесте во всех экспериментах с разным количеством встреч.

В среднем модели LSTM дали увеличение AUROC на {{0}}.06 по сравнению с наиболее эффективными традиционными моделями RF. Эксперименты показывают, что прогнозирования реадмиссии на основе единственного предыдущего контакта недостаточно, и он дает гораздо меньшую производительность (0,7 при использовании моделей DL и 0,68 при использовании наиболее эффективной традиционной модели).

DL-модели достигли плато при обучении с использованием данных трех0встреч с минимальным улучшением после этого. Алгоритм DL дал увеличение AUROC на 0,07 по сравнению с наиболее эффективной традиционной моделью RF при использовании оптимального количества встреч, 80.

В таблице 1 показана производительность LSTM и традиционных моделей с использованием всех лабораторных испытаний, полученных из 80 последних встреч за предыдущие 2 года. В целом доверительные интервалы были очень малы (<0.02), indicating a high degree of precision around the means.

short term memory how to improve

Предложенный метод LSTM позволил получить среднее значение AUROC {{0}},79 с 95% ДИ 0,001. Значение p, полученное путем сравнения LSTM AUROC со второй по эффективности моделью (RF), составило<0.0001, hence, LSTM performance was significantly greater than the traditional models.

ways to improve your memory

improve brain

Модели LSTM достигли показателя отзыва/чувствительности 0,81, что указывает на то, что эффективность прогнозирования истинных положительных результатов (т. е. правильная классификация пациентов с повторной госпитализацией) была достаточно высокой.

Все модели, использованные в нашем исследовании, достигли очень хорошей специфичности (т. е. истинно отрицательного показателя). Таким образом, обученные модели хорошо показали себя при прогнозировании пациентов, которые вряд ли будут повторно госпитализированы. LSTM достиг показателя F{{0}}, равного 0,80, что указывает на очень хорошую способность различать пациентов, которые будут повторно госпитализированы или нет.

Чтобы определить, полезны ли знания предметной области о лабораторных исследованиях, мы провели два разных эксперимента, в которых мы обучили и протестировали модель на основе подмножества из 16 уникальных лабораторных исследований, выбранных на основе знаний предметной области, а не на использовании всех 981 уникального лабораторного исследования, включенного в данные.

Были использованы и модифицированы методы кодирования One Hot, чтобы связать результаты лабораторных исследований с каждым лабораторным кодом. Был создан длинный уникальный массив лабораторных кодов��_��_��. Для каждой встречи создавался массив нулей � той же длины, что и ��_��_��. �состоил из результатов по одному и тому же индексу каждого лабораторного теста в��_��_��, чтобы связать результат с данным лабораторным кодом. Встреча без лабораторных результатов будет иметь нулевое значение, указывающее на то, что для данной встречи не проводилось никаких лабораторных испытаний.

Поскольку большинство встреч содержало<3 laboratory codes, this resulted in a sparse array. SVD was therefore utilized to learn an embedding of a sparse feature vector and reduce dimensionality. The Receiver Operating Characteristic (ROC) Curves of the LSTM models based on all laboratory studies or selected laboratory studies were identical (0.79, Figure 3).

Обсуждение

В этой ретроспективной когорте из 36 563 пациентов с диабетом модели DL превзошли модели RF, MLP, AdaBoost и LR в прогнозировании незапланированной повторной госпитализации по всем причинам 30-дня. Оптимальная модель LSTM дала AUROC 0,79 и точность 0,81, что указывает на очень хорошую производительность. Эксперименты, направленные на выявление взаимосвязи между количеством предыдущих встреч и производительностью модели, показывают, что AUROC моделей LSTM увеличивался по мере увеличения числа встреч и стабилизировался при 30 встречах. Производительность традиционных моделей увеличивалась в меньшей степени до числа предыдущих встреч 15 или 30, а затем либо стабилизировалась (RF), либо снижалась (MLP, AdaBoost, LR) по мере увеличения количества встреч. Наконец, модель LSTM, которая включала набор из 16 лабораторных тестов, выбранных на основе знаний предметной области, дала эквивалентную производительность модели LSTM, которая включала все доступные лабораторные тесты.

В нашем исследовании модели DL работали лучше, чем традиционные модели. Нам известно о 4 исследованиях, в которых модели DL сравнивались с традиционными моделями прогнозирования риска повторной госпитализации пациентов с диабетом. Два из этих исследований продемонстрировали явное преимущество подходов DL над традиционными моделями ML,23,24 в то время как два исследования показали незначительную выгоду от подходов DL.25,27 Производительность этих моделей DL была переменной с AUROC 0.61-0 0,97 и точность 0.69-0.95, ни одна из которых не превышала точность лучших традиционных моделей ML, которые сообщили о AUROC на уровне 0.99 и точности {{13} }.99.23,27 Однако сравнение производительности моделей во всех этих исследованиях ограничено отсутствием стандартизированных отчетов о характеристиках производительности и различными подходами к тестированию. Наше исследование, сопоставленное с предыдущими исследованиями, в которых непосредственно сравнивалось DL с традиционными моделями ML, показывает, что подходы DL обычно дают лучшую производительность в этой популяции.

Нам неизвестны другие работы, в которых изучалась взаимосвязь между количеством предыдущих посещений и эффективностью модели риска повторной госпитализации у пациентов с диабетом. Однако в одной из связанных работ было исследовано, как эффективность моделей прогнозирования риска повторной госпитализации у пациентов с морбидным ожирением менялась по мере увеличения количества госпитализаций с минимум 2 до 5,35. AUROC увеличивался с 2 до 3 госпитализаций, а затем стабилизировался. В другом широко связанном исследовании мы обнаружили, что эффективность моделей LR для прогнозирования риска повторной госпитализации пациентов с диабетом имела тенденцию к увеличению по мере увеличения размера выборки с 2,000 до 6,000, а затем стабилизировалась. .36 Данное исследование предполагает, что экспериментирование в диапазоне количества встреч и размеров выборки может выявить пороговые значения, которые могли бы оптимизировать анализ данных, балансируя количество информации с размерностью.

Нам также неизвестны другие исследования, в которых модели риска повторной госпитализации сравнивались с использованием лабораторных данных, выбранных на основе знаний предметной области, со всеми доступными лабораторными данными у пациентов с диабетом. Существует компромисс между включением всех лабораторных данных, что приводит к более высокой размерности и более затратным в вычислительном отношении моделям, и привлечением эксперта в предметной области для выбора подмножества лабораторных данных, что может быть дорогостоящим и менее осуществимым. Как и количество предыдущих встреч, после которых производительность модели не улучшилась, обнаружение того, что производительность модели с подмножеством лабораторных данных была эквивалентна модели со всеми лабораторными данными, предполагает, что для этой области существует аналогичное плато. Следует выяснить, распространяется ли это явление на другие группы пациентов.

ways to improve memory

Представленные модели LSTM, которые мы называем eDERRITM, являются расширением наших предыдущих моделей DERRITM и DERRIplus.8,11 Что касается AUROC, модель eDERRITM работала лучше, чем DERRITM, но хуже, чем DERRIplus. К сожалению, эффективность трех моделей нельзя напрямую сравнить в текущем исследовании, поскольку набор данных не включает почтовый индекс, статус занятости или информацию о плательщике. В отличие от DERRITM и DERRIplus, модели eDERRITM разрабатываются с использованием общедоступных данных EHR, таких как демографические данные, показатели жизнедеятельности, диагностические и процедурные коды, лекарства, лабораторные тесты и административные данные, как это определено PCORnet CDM.29 CDM стандартизирует абстракцию данных EHR, повышение обобщаемости и масштабируемости моделей, использующих его. Мы планируем перевести eDERRITM в приложение, встроенное в систему EHR, которое будет автоматически генерировать прогнозы риска повторной госпитализации для госпитализированных пациентов с диабетом.

Помимо возможности обобщения набора данных на основе CDM, текущее исследование имеет и другие заметные сильные стороны. Набор данных выбран из пациентов, госпитализированных в период с 1 июля 2010 г. по 31 декабря 2020 г., что гораздо более позднее время, чем наборы данных, используемые для других опубликованных в настоящее время моделей риска повторной госпитализации у пациентов с диабетом. Кроме того, в отличие от наиболее используемого набора данных, который включал только обращения в больницу с сопутствующим диагнозом диабета и длительностью пребывания менее 15 дней, текущий набор данных включал все типы обращений, независимо от соответствующего диагноза, охватывая как стационарные, так и амбулаторные данные. Наконец, размер выборки в 36 563 пациента с 2 836 569 встречами предоставил достаточно данных для разработки моделей DL и проведения экспериментов с числом предыдущих встреч до 100.

Есть некоторые ограничения, которые стоит признать. Данные были взяты из одной городской академической системы здравоохранения. Таким образом, возможность обобщения моделей на другие группы населения неизвестна и требует тестирования. Отсутствие почтовых индексов пациента и больницы не позволяет оценить расстояние между домашним почтовым индексом пациента и больницей, что, как известно, связано с риском повторной госпитализации.8,11 Наконец, случаи повторной госпитализации в другие больницы не учитывались.

Заключение

Была разработана и протестирована внутри компании модель LSTM с очень хорошей производительностью, позволяющая предсказать незапланированную 30-дневную повторную госпитализацию по всем причинам среди пациентов с диабетом. Модели LSTM превосходят традиционные модели при прогнозировании повторной госпитализации в этой группе населения. Производительность модели LSTM первоначально увеличивается по мере увеличения количества предыдущих встреч, а затем стабилизируется. Тщательно выбранные лабораторные функции могут создавать прогностические модели с производительностью, равной эффективности моделей, основанных на всех доступных лабораторных исследованиях. Для внешней проверки модели необходимы дополнительные исследования.

memory enhancement

Благодарности

Это исследование было поддержано Национальным институтом здравоохранения (NIH) в рамках гранта R01DK122073.