Взгляд на прогнозирование спроса на основе глубокого обучения в интеллектуальных сетях (1)

Абстрактный: интеллектуальные сети способны прогнозировать модели потребления клиентов, т. е. их спрос на энергию, и, следовательно, электроэнергия может передаваться после учета ожидаемого спроса. Чтобы справиться с сегодняшними проблемами прогнозирования спроса, когда данные, генерируемые интеллектуальными сетями, огромны, необходимо использовать современные методы, основанные на данных. В этом сценарии модели глубокого обучения являются хорошей альтернативой изучению закономерностей на основе данных о клиентах, а затем прогнозированию спроса для различных горизонтов прогнозирования. Среди широко используемых искусственных нейронных сетей заметную роль играют сети долговременной памяти, основанные на рекуррентных нейронных сетях. В этом документе рассматривается важность проблемы прогнозирования спроса и других связанных с ней факторов в контексте интеллектуальных сетей, а также собирается некоторый опыт использования методов глубокого обучения для целей прогнозирования спроса. Чтобы иметь эффективную энергосистему, необходим баланс между спросом и предложением. Поэтому отраслевые заинтересованные стороны и исследователи должны приложить особые усилия для прогнозирования нагрузки, особенно в краткосрочной перспективе, что имеет решающее значение для реагирования на спрос.

Ключевые слова: прогнозирование спроса; прогнозирование нагрузки; спрос на ответ; горизонт прогнозирования; умная сеть электроснабжения; умная среда; Глубокое обучение; Сети с долговременной кратковременной памятью; Сверточные нейронные сети; Cistanche Deserticola

Пустынный женьшень

1. Введение

Электроэнергию нелегко хранить для будущих поставок, в отличие от других товаров, таких как нефть. Это означает, что электроэнергия должна быть передана потребителям сразу после ее производства. Распределение электроэнергии конечным пользователям осуществлялось с помощью традиционной электрической сети (см. определение в Таблице 1), которая позволяет доставлять электроэнергию от производителей к потребителям. Для достижения этой цели он соединяет электростанции и линии электропередач, которые доставляют электроэнергию конечным пользователям. Традиционные электрические сети различаются по размеру. Когда эти сетки начали расширяться, управление ими стало очень сложной и трудной задачей. Кроме того, прогнозирование спроса (см. определение в таблице 1) традиционно не рассматривалось.

В этом контексте возникает концепция интеллектуальной сети (см. определение в таблице 1), которая начинает играть важную роль. Эта концепция исчерпывающе рассмотрена в литературе (например, [1–4]). Умные сети обеспечивают двустороннюю связь между потребителями и поставщиками. Интеллектуальные сети добавляют аппаратное и программное обеспечение к традиционной электрической сети, чтобы предоставить ей возможность автономного реагирования на различные события, которые могут повлиять на электрическую сеть. Конечной целью является достижение оптимальной ежедневной эффективности производства электроэнергии. В [4] авторы определяют «умную сеть» как новую форму электрической сети, которая предлагает самовосстановление, совместное управление, энергетическую безопасность и надежность с использованием цифровых технологий. В [2] авторы подчеркивают, что концепция интеллектуальной сети преобразует традиционную электрическую сеть с использованием различных типов передовых технологий. По мнению этих авторов, эта концепция объединяет все элементы, необходимые для эффективного и экономичного производства, распределения и потребления энергии. В [5] авторы подчеркивают, что концепция интеллектуальной сети возникла, чтобы сделать традиционную электрическую сеть более эффективной, безопасной, надежной и стабильной, а также обеспечить возможность реагирования на спрос (см. определение в таблице 1).

Таблица 1. Важные ключевые слова для прочтения этой статьи.

Парадигма интеллектуальной сети позволяет потребителям узнать свои модели использования энергии. Следовательно, потребители могут контролировать свое потребление и более эффективно использовать энергию. В реализации концепции «умных сетей» важную роль играет реагирование на спрос — как в бытовых, так и в промышленных целях. Еще одним полезным инструментом является прогнозирование нагрузки (см. определение в таблице 1). В [6] авторы отмечают важность этой концепции в контексте интеллектуальных сетей, поскольку прогнозирование электроэнергии, необходимой для удовлетворения спроса, позволяет энергетическим компаниям лучше сбалансировать спрос и предложение. Энергетические компании особенно заинтересованы в получении точных прогнозов на следующие 24 часа, что называется профилем нагрузки (см. определение в таблице 1).

Кроме того, в последние годы повышенный спрос на электроэнергию в определенное время суток создал ряд проблем. Прогнозирование нагрузки особенно важно в часы пик. Реагирование на спрос побуждает клиентов сбрасывать второстепенное потребление энергии в часы пик.

Чтобы справиться с проблемами прогнозирования нагрузки, необходимо использовать современные методы, основанные на данных. Действительно, внедрение новых технологий, таких как большие данные, машинное обучение, глубокое обучение и Интернет вещей (IoT), подняло концепцию интеллектуальных сетей на новый уровень, поскольку эти технологии позволяют улучшить прогнозирование спроса и автоматизированное реагирование на спрос. .

В этом документе представлена ​​информация о важности прогнозирования спроса и важных сопутствующих факторов в контексте интеллектуальных сетей, а также о возможности использования для этой цели методов, основанных на данных. В частности, авторы сосредотачиваются на методах глубокого обучения, поскольку оно оказалось хорошим вариантом для реализации прогнозирования спроса в контексте интеллектуальных сетей. В статье собран некоторый опыт использования различных методов глубокого обучения в области энергетики для целей прогнозирования. Энергосистема с изображением клиента должна учитывать реакцию на спрос. Кроме того, важно точное прогнозирование нагрузки, особенно в краткосрочной перспективе, поэтому заинтересованные стороны и исследователи отрасли прилагают к этому особые усилия.

Цистанхе пустынная эксперимент

Нажмите здесь, чтобы просмотреть продукты Cistanche

【Запросите дополнительную информацию】 Электронная почта: cindy.xue@wecistanche.com / Whats App: 0086 18599088692 / Wechat: 18599088692

Оставшаяся часть этой статьи организована следующим образом. В разделе 2 представлены причины, по которым прогнозирование спроса важно в контексте интеллектуальных сетей. Раздел 3 описывает наиболее важные факторы прогнозирования спроса. В разделе 4 представлены различные возможные классификации методов прогнозирования спроса. В разделе 5 представлены некоторые основы и концепции, полезные для понимания моделей глубокого обучения, обычно используемых в области энергетики. В разделе 6 собраны данные о различном опыте использования этих моделей в контексте интеллектуальных сетей для целей прогнозирования. Наконец, в разделе 7 резюмируются основные выводы этой работы.

2. Важность прогнозирования спроса

В [7] авторы резюмируют основные требования к интеллектуальным сетям следующим образом: достаточно гибкие для удовлетворения потребностей пользователей, способные управлять событиями с неопределенностью, доступные для всех пользователей, достаточно надежные, чтобы гарантировать качественную доставку энергии потребителям, и достаточно инновационные. эффективно управлять энергией.

С учетом этих требований интеллектуальные сети должны стремиться к разработке недорогих, простых в развертывании технических решений с распределенным интеллектом для эффективной работы в сегодняшних все более сложных сценариях. Для преобразования традиционной электрической сети в интеллектуальную сеть необходимы интеллектуальные и безопасные коммуникационные инфраструктуры [4].

Согласно исследованию, представленному в [8], прогнозирование может применяться в двух основных областях: управление сетью и реагирование на спрос. В [9] авторы подчеркивают, что модели прогнозирования необходимы для обеспечения оптимального качества энергоснабжения при наименьших затратах. Кроме того, информация о моделях потребления энергии пользователями в режиме реального времени позволит применять более сложные и эффективные модели прогнозирования. Прогнозирование также должно учитывать необходимость управления постоянно меняющейся информацией. В [10] авторы подчеркивают, что с помощью интеллектуальной сети программы реагирования на спрос могут сделать сеть более рентабельной и устойчивой.

Авторы в [11] отмечают, что существуют серьезные проблемы в прогнозировании спроса из-за неопределенностей в профиле генерации распределенных и возобновляемых источников энергии. Все большее внимание уделяется моделям прогнозирования нагрузки, особенно применительно к возобновляемым источникам энергии (солнечная радиация, ветер и др.) [9].

Что делает цистанхе - улучшает память

Парадигма распределенной генерации облегчает использование возобновляемых источников энергии, которые можно разместить вблизи точек потребления. При использовании этой парадигмы интеллектуальные сети имеют несколько небольших станций, которые снабжают энергией свое окружение. Следовательно, зависимость от распределительной и передающей сети меньше [9]. Однако эта парадигма делает управление сетью еще более неопределенным, особенно когда источники распределенной генерации являются возобновляемыми и, следовательно, имеют случайный характер. Несмотря на эту трудность, в ближайшие годы ожидается увеличение доли в производстве энергии переменных возобновляемых источников энергии [12].

Еще одним ключевым элементом являются микросети (см. определение в таблице 1) [13,14]. На основе этой концепции и с учетом интеллектуальных возможностей зданий появились новые концепции, включая «умные дома» (см. определение в таблице 1) и «умные здания» (см. определение в таблице 1). Здания сегодня представляют собой сложные комбинации конструкций, систем и технологий. Технологии — отличный союзник в оптимизации ресурсов и повышении безопасности. Достижения в области строительных технологий объединяют сетевые датчики и запись данных инновационными способами [15]. Современные объекты могут регулировать отопление, охлаждение и освещение для максимальной энергоэффективности, а также предоставлять подробные отчеты о потреблении энергии. В этих новых интеллектуальных средах (см. определение в таблице 1) используются датчики и интеллектуальные устройства для получения достаточной информации о моделях энергопотребления пользователей. Опять же, для этого требуются модели прогнозирования, которые должны применяться к конкретным переменным контролируемого сценария.

Модели прогнозирования позволят учитывать переменные (климатические, социальные, экономические, связанные с привычками и др.), которые могут влиять на точность прогнозов [9]. Эти авторы отмечают, что оценки спроса на энергию в дезагрегированных сценариях, таких как жилые потребители в умных зданиях, являются более сложными по сравнению с оценками спроса на энергию для агрегированного сценария, такого как страна. Дезагрегирование спроса также облегчает реализацию реакции на спрос, поскольку могут предлагаться разные цены на основе критериев, установленных энергетической компанией.

Постепенная интеграция интеллекта на уровне передачи, распределения и конечного пользователя системы электроснабжения направлена ​​на оптимизацию производства и распределения энергии, чтобы привести предложение производителей в соответствие со спросом потребителей. Кроме того, интеллектуальные сети стремятся улучшить алгоритмы обнаружения неисправностей [16]. Точные прогнозы спроса очень полезны для поставщиков энергии и других участников энергетического рынка [17]. Прогнозирование нагрузки было одной из основных проблем, с которыми столкнулась энергетика с момента внедрения электроэнергии [18].

3. Важные факторы прогнозирования спроса

На спрос на электроэнергию влияют различные переменные или детерминанты. К таким переменным относятся горизонты прогнозирования, уровень агрегации нагрузки, погодные условия (влажность, температура, скорость ветра, облачность), социально-экономические факторы (развитие промышленности, рост населения, стоимость электроэнергии и др.), тип потребителя (жилой, коммерческие и промышленные), а также потребительские факторы потребления электроэнергии (характеристики электрооборудования потребителя) (например, [19–23]).

Чтобы полностью понять методы и цели прогнозирования спроса, необходимо изучить эти детерминанты. В этом разделе авторы сосредоточатся на (1) периоде, (2) экономических проблемах, (3) погодных условиях и (4) факторах, связанных с клиентами.

Преимущества cistanche tubulosa-улучшить память

3.1. Период или горизонт прогнозирования

Период, обычно называемый горизонтом прогнозирования, вероятно, является одним из факторов, оказывающих наибольшее влияние.

По мнению разных авторов (например, [17,24]), прогнозирование спроса можно разделить на три категории в зависимости от горизонта прогнозирования:

• Краткосрочные (обычно от одного часа до одной недели).

• Среднесрочные (обычно от одной недели до одного года).

• Долгосрочные (обычно более одного года).

Факторы, влияющие на краткосрочное прогнозирование спроса, обычно недолговечны, например внезапные изменения погоды [22]. Качество краткосрочного прогнозирования спроса имеет решающее значение для участников рынка электроэнергии [20]. С другой стороны, факторы, влияющие на среднесрочное прогнозирование спроса, часто имеют определенную продолжительность во времени, например, сезонные изменения погоды. Наконец, факторы, влияющие на долгосрочное прогнозирование спроса, действуют в течение длительного времени, как правило, в течение нескольких периодов прогнозирования, например, изменения валового внутреннего продукта (ВВП) [22]. Действительно, экономические факторы оказывают важное влияние на долгосрочное прогнозирование спроса, а также на среднесрочное и краткосрочное прогнозирование [25].

Авторы [26] выделяют следующие категории горизонта прогнозирования:

• Очень краткосрочные (обычно от секунд или минут до нескольких часов).

• Краткосрочные (обычно от нескольких часов до недель).

• Среднесрочные и долгосрочные (обычно от месяцев до лет).

По мнению этих авторов, для управления потоком обычно используются очень краткосрочные модели прогнозирования спроса. Модели краткосрочного прогнозирования спроса обычно используются для согласования спроса и предложения. И, наконец, модели среднесрочного и долгосрочного прогнозирования спроса обычно используются для планирования полезности активов.

Авторы в [27] показали, что кривая нагрузки сетевых станций является периодической не только в суточной кривой нагрузки, но и в недельной, месячной, сезонной и годовой кривых нагрузки. Такая периодичность позволяет достаточно эффективно прогнозировать нагрузку.

Спрос также отражает повседневный образ жизни потребителя [28]. Ежедневные модели потребительского спроса основаны на их повседневной деятельности, включая работу, отдых и часы сна. Кроме того, существуют и другие закономерности изменения спроса с течением времени. Например, в праздничные и выходные дни спрос в промышленности и офисах значительно ниже, чем в будние дни, из-за резкого снижения активности. Наконец, спрос на электроэнергию также циклически меняется в зависимости от времени года, дня недели и времени суток [22].

3.2. Социально-экономические факторы

Социально-экономические факторы, включая промышленное развитие, ВВП и стоимость электроэнергии, также существенно влияют на эволюцию спроса. Действительно, как упоминалось в предыдущем разделе, экономические факторы существенно влияют на долгосрочные прогнозы спроса, а также оказывают существенное влияние на среднесрочные и краткосрочные прогнозы.

Например, развитие промышленности, несомненно, приведет к увеличению потребления энергии. То же самое будет и с ростом населения. Это означает, что существует положительная корреляция между промышленным развитием, ростом населения и потреблением энергии.

ВВП – это показатель, отражающий объем производства страны. Страны с более высоким ВВП производят большее количество товаров и услуг и, следовательно, имеют более высокий уровень жизни и образ жизни, что будет стимулировать спрос на энергию.

Еще одним экономическим фактором, который следует учитывать, является стоимость, поскольку она также влияет на спрос. Например, когда цена на электроэнергию снижается, расточительное потребление электроэнергии имеет тенденцию к увеличению [22].

Стоимость электроэнергии зависит от разных факторов и формируется по-разному. Например, в некоторых странах, таких как Испания, существует два рынка электроэнергии (регулируемый и бесплатный). На свободном рынке стоимость электроэнергии устанавливается в договоре, который подписывает потребитель. Напротив, на регулируемом рынке цена на электроэнергию зависит от спроса и предложения. Цена обновляется ежечасно и колеблется. Со стороны спроса, чем больше спрос на электроэнергию, тем она дороже. Чем меньше электроэнергии требуется, тем она дешевле. Обычно дешево использовать электричество на рассвете и дорого, когда его используют все остальные (например, во время обеда).

Но на цены влияет не только спрос, но и предложение энергии. Причина в том, что колебания цен на электроэнергию на регулируемом рынке вызваны разницей между спросом и предложением. Следовательно, снабжение должно учитывать различные способы производства электроэнергии, которые имеют разные затраты. Самой дешевой является электроэнергия, вырабатываемая возобновляемыми источниками энергии, такими как солнечная, ветровая и гидроэлектроэнергия. Цена ядерной энергии также низка; однако во многих странах (например, в Испании) ядерная энергия не покрывает все потребности в энергии. Тепловая энергия (уголь), когенерация или комбинированный цикл, основным топливом которых является газ, как правило, дороже. Также важно помнить, что основные источники возобновляемой энергии, такие как гидроэнергетика или ветер, зависят от неконтролируемых внешних факторов. Например, достаточное количество осадков необходимо для производства гидроэлектроэнергии. Однако нет способа контролировать погоду, чтобы сделать ее благоприятной для производства электроэнергии. Учитывая вышеизложенное, цена определяется ценой сочетания различных источников выработки электроэнергии, от самых дешевых до самых дорогих, до тех пор, пока не будет удовлетворен весь спрос на энергию.

Добавка Cistanche рядом со мной-улучшить память

3.3. Погодные условия

Существуют различные погодные переменные, важные для прогнозирования спроса, такие как температура, влажность и скорость ветра.

Влияние погодных условий на прогнозирование спроса привлекает внимание многих исследователей. Например, авторы в [29] предложили различные модели для прогнозирования совокупной нагрузки на следующий день с использованием искусственных нейронных сетей (ИНС), учитывающих наиболее важные погодные переменные, в частности, среднюю температуру, относительную влажность и совокупное солнечное излучение. анализировать влияние погоды.

Некоторые авторы изучали взаимосвязь между температурой и потреблением электроэнергии и утверждают, что корреляция между температурой и кривой электрической нагрузки положительна, особенно летом (например, [25]).

В настоящее время во всем мире стали более распространенными волны тепла, а также возможность экстремальных температур. Кроме того, периоды сильной жары не только более часты, но и более интенсивны и продолжительны. Кроме того, ночи становятся теплее, что является дополнительной проблемой. Основным эффектом аномальной жары является увеличение потребления энергии, поскольку потребитель включает кондиционер чаще и на более длительные периоды времени. Кроме того, системы охлаждения должны работать интенсивнее, поскольку они должны справляться с более высокими температурами.

Летом из-за сильной жары сеть работает на максимальной мощности. Одним из способов воздействия аномальной жары на потребление является повышенное насыщение электрической сети. В то время как волнам холода противодействуют электричеством, газом, дровами и т. д., с волнами жары можно бороться только электричеством. Другими словами, устройства, которые потребители используют для охлаждения, в основном питаются от электричества. По этой причине аномальная жара создает большую нагрузку на линии электропередач, а также увеличивает потребление.

Следует отметить, что в более холодных странах увеличение потребления во время жары обычно меньше. Это связано с тем, что установка систем кондиционирования воздуха не так распространена, как в более теплых странах. Однако эти более холодные страны сталкиваются с волнами жары, которых не было в предыдущие годы (до изменения климата), и это вызывает у них всевозможные проблемы, поскольку они менее подготовлены. Эта ситуация вынуждает эти страны вносить изменения, такие как увеличение использования систем охлаждения.

С другой стороны, суровые температуры усиливаются с увеличением влажности, особенно в сезон дождей и летом. По этой причине потребление электроэнергии увеличивается во влажные летние дни. Также важно отметить, что в прибрежных районах, таких как Средиземноморье в Испании, потребление электроэнергии, как правило, выше. Это связано как с тем, что дома, как правило, имеют больше электрооборудования, чем в других районах, так и с высокой степенью влажности из-за близости моря.

Скорость ветра также влияет на потребление электроэнергии. Когда ветрено, человеческое тело чувствует, что температура намного ниже и требуется больше обогрева, что увеличивает потребление электроэнергии. Однако следует также отметить, что энергия ветра является одной из основных возобновляемых источников энергии. Другими словами, при наличии ветра потребление электроэнергии увеличивается, но при этом ее цена снижается. Это связано с тем, что, как пояснялось в предыдущем разделе, цена на электроэнергию обычно определяется как сочетание различных источников энергии, от самых дешевых (возобновляемых источников энергии, включая энергию ветра и атомной энергии) до самых дорогих источников генерации (тепловая, комбинированная энергия). цикл).

Температура, влажность и ветер влияют на использование электроэнергии. Влажность и температура также являются основными погодными переменными, используемыми в системах прогнозирования спроса на электроэнергию для минимизации эксплуатационных расходов. Однако другие факторы, такие как облака, также играют роль. Например, днем, когда облака мешают солнечному свету, обычно происходит понижение температуры и, как следствие, повышенный расход электроэнергии.

3.4. Факторы клиента

Тип потребителя (бытовой, коммерческий и промышленный), а также другие потребительские факторы, связанные с потреблением электроэнергии (характеристики электрооборудования потребителя), также могут влиять на спрос. Это важно, потому что у большинства энергетических компаний есть разные типы потребителей (жилые, коммерческие и промышленные потребители), у которых есть оборудование различного типа и размера. Эти разные типы потребителей имеют разные кривые нагрузки, хотя между коммерческими и промышленными потребителями есть некоторое сходство.

В таблице 2 приведены основные определяющие факторы, влияющие на спрос на электроэнергию, описанные в этом разделе.

Таблица 2. Основные переменные, влияющие на спрос на электроэнергию.

4. Классификация методов прогнозирования спроса

В этом разделе модели прогнозирования спроса классифицируются по трем различным критериям: (1) период, (2) цель прогнозирования и (3) тип используемой модели.

Первая классификация фокусируется на точке зрения прогнозируемого периода, т. е. горизонта прогнозирования. Для выбора этого критерия были рассмотрены детерминанты спроса на электроэнергию, представленные в предыдущем разделе. Вторая классификация фокусируется на точке зрения цели прогнозирования, различая методы прогнозирования, которые дают одно значение, и те, которые дают несколько значений. Наконец, третья классификация фокусируется на точке зрения используемой модели.

4.1. Классификация методов прогнозирования спроса по горизонту прогнозирования

Как объяснялось в предыдущем разделе, можно выделить следующие основные горизонты прогнозирования:

• Очень краткосрочные: обычно от секунд или минут до нескольких часов.

• Краткосрочные: обычно от часов до недель.

• Среднесрочный: обычно от недели до года.

• Долгосрочные: обычно более года.

Основное отличие заключается в области действия переменных, используемых в каждом случае. Модели очень краткосрочного прогнозирования используют недавние входные данные (обычно минуты или часы), модели краткосрочного прогнозирования используют входные данные, как правило, в диапазоне дней, а модели среднесрочного и долгосрочного прогнозирования используют входные данные, как правило, в диапазоне недель или даже месяцев.

Энергетические компании особенно заинтересованы в получении точных прогнозов профиля нагрузки (например, [9,30,31]). Это связано с тем, что это может напрямую повлиять на оптимальное планирование энергоблоков. Однако из-за нелинейного и стохастического поведения потребителей профиль нагрузки является сложным, и хотя исследования в этой области проводились, точные модели прогнозирования по-прежнему необходимы [32].

4.2. Классификация методов прогнозирования спроса по целям прогнозирования

Модели прогнозирования также можно классифицировать по количеству прогнозируемых значений. В этом случае можно рассмотреть две основные категории.

Первая категория относится к методам прогнозирования, которые дают только одно значение (например, общая нагрузка на следующий день, пиковая нагрузка на следующий день, нагрузка на следующий час и т. д.). Примеры можно найти в [33,34].

Вторая категория относится к методам прогнозирования, которые выдают несколько значений, например пиковую нагрузку следующего часа плюс еще один параметр (например, совокупную нагрузку) или профиль нагрузки. Примеры можно найти в [35–37].

Вообще говоря, прогнозы с одним значением полезны для оптимизации работы помощников по загрузке. С другой стороны, многозначные прогнозы в основном используются для планирования производства энергии [9].

4.3. Классификация методов прогнозирования спроса по используемой модели

Какую модель использовать, обычно решает практикующий врач. С точки зрения моделей основными группами являются линейный и нелинейный подходы.

Линейные модели включают спектральную декомпозицию (SD), частичный метод наименьших квадратов (PLS), авторегрессионное интегрированное скользящее среднее (ARIMA), авторегрессионную условную гетероскедастичность (ARCH), авторегрессию (AR), авторегрессию и скользящее среднее (ARMA). ), модель скользящего среднего (MAM), линейная регрессия (LR) и пространство состояний (SS).

Линейные методы постепенно теряют важность и интерес в пользу нелинейных методов, основанных на ИНС. В моделях глубокого обучения используются ИНС, вдохновленные нервной системой человека. Эти модели могут изучать закономерности на основе сгенерированных данных и прогнозировать пиковый спрос в контексте современных сложных интеллектуальных сценариев, когда из разных источников постоянно генерируется большой объем данных [7].

В таблице 3 приведены критерии, обычно используемые для классификации моделей прогнозирования спроса.

Табл. 3. Основные критерии, обычно используемые для классификации моделей прогнозирования спроса.

5. Основы и концепции машинного обучения и систем глубокого обучения

Искусственный интеллект — это сложная концепция, которая в двух словах относится к машинному интеллекту [38]. В отличие от людей, искусственный интеллект может выявлять закономерности в большом объеме данных, используя довольно ограниченное количество времени и ресурсов. Кроме того, вычислительная мощность машин не уменьшается со временем и/или утомлением [39].

Системы искусственного интеллекта используют различные типы методов обучения, такие как машинное обучение и глубокое обучение.

5.1. Машинное обучение

Алгоритмы машинного обучения предварительно обучены для получения результата при столкновении с никогда ранее не встречавшимся набором данных или ситуацией [40]. Однако для обучения компьютеру требуется больше примеров, чем людям [41]. Машинное обучение позволяет внедрить интеллектуальное принятие решений во многих областях и приложениях, где разработка алгоритмов будет сложной и необходимы отличные результаты [42].

Существуют различные категории алгоритмов машинного обучения, включая контролируемое, частично контролируемое, неконтролируемое обучение и обучение с подкреплением. Эти различные категории алгоритмов кратко описаны ниже.

5.1.1. Контролируемое обучение

После обучения на наборе примеров размеченных данных эти алгоритмы могут предсказывать значения меток, когда на входе есть неразмеченные данные. Проблемы, обычно связанные с этим типом обучения, включают (1) регрессию и (2) классификацию [43].

В регрессии алгоритм фокусируется на понимании взаимосвязи между зависимыми и независимыми переменными. В классификации алгоритм используется для предсказания метки класса данных. Общие проблемы классификации включают (1) бинарную классификацию между двумя метками классов; (2) многоклассовая классификация, между более чем двумя метками классов; и (3) классификация с несколькими метками, когда одна часть данных связана с несколькими классами или метками, в отличие от традиционных задач классификации с взаимоисключающими метками классов [44].

Методы, используемые для обучения с учителем, включают линейный дискриминантный анализ (LDA), наивный байесовский анализ (NB), K-ближайших соседей (KNN), метод опорных векторов (SVM), дерево решений (DT), случайный лес (RF), адаптивное повышение (AdaBoost). ), Экстремальное повышение градиента (XGBoost), Стохастический градиентный спуск (SGD), Классификация на основе правил (для классификации); и LR, нелинейная регрессия (NLR) и обычная регрессия наименьших квадратов (OLS) (для регрессии) [44,45]. Наиболее широко цитируемыми и реализуемыми в литературе контролируемыми обучающимися являются алгоритмы DT, NB и SVM [46].

Некоторыми интересными практическими приложениями являются классификация текста, прогнозирование настроения текста (например, твита или других социальных сетей), оценка экологической устойчивости продуктов одежды [47], характеристика, прогнозирование и лечение психических расстройств [48] и оценка пиковая потребность в энергии.

5.1.2. Неконтролируемое обучение

Этот тип обучения использует неразмеченные данные. В этом случае система исследует немаркированные данные, чтобы найти скрытые структуры, а не предсказывает правильный вывод. Этот тип обучения не применим напрямую к задачам регрессии или классификации, поскольку возможные значения выходных данных неизвестны [49]. Вместо этого он часто используется для (1) кластеризации, (2) ассоциации и (3) уменьшения размерности [43].

Кластеризация позволяет группировать немаркированные данные на основе их сходства или различия [49,50]. Ассоциация использует разные правила для выявления новых и релевантных идей между объектами набора. Наконец, уменьшение размерности позволяет уменьшить количество признаков (или измерений) набора данных, чтобы исключить нерелевантные или менее важные признаки и, таким образом, уменьшить сложность модели [44]. Это сокращение количества признаков может быть достигнуто за счет сохранения подмножества исходных признаков (выбор признаков) или путем создания совершенно новых признаков (извлечение признаков).

Наиболее популярным алгоритмом кластеризации, вероятно, является кластеризация K-средних, где значение k представляет размер кластера [44,45,51]. Алгоритмы ассоциации включают априорные алгоритмы, алгоритмы преобразования класса эквивалентности (ECLAT) и алгоритмы роста частых паттернов (FP). Наконец, при уменьшении размерности обычно используется критерий хи-квадрат, тест дисперсионного анализа (ANOVA), коэффициент корреляции Пирсона, рекурсивное исключение признаков (RFE) для выбора признаков и анализ основных компонентов (PCA) для извлечения признаков.

Согласно [46], наиболее часто используемыми неконтролируемыми обучающимися являются K-средние, иерархическая кластеризация и PCA.

Эти неконтролируемые учащиеся могут иметь множество практических применений, таких как распознавание лиц, классификация клиентов, классификация пациентов, обнаружение кибератак или вторжений [52] и анализ данных в области астрономии [53].

5.1.3. Полууправляемое обучение

Концептуально расположенный между контролируемым и неконтролируемым обучением, этот тип обучения позволяет использовать преимущества больших немаркированных наборов данных, которые в некоторых случаях доступны в сочетании с (обычно меньшими) объемами помеченных данных [54,55]. Это открывает интересные возможности, поскольку размеченных данных часто мало, а неразмеченные данные встречаются чаще, а учащийся с полуучителем может получать более точные прогнозы, чем те, которые производятся с использованием только размеченных данных [44].

Приложения-кандидаты — это те приложения, в которых есть только небольшой набор помеченных примеров и гораздо больше немаркированных, или когда усилия по маркировке слишком велики. Примером может служить медицинская визуализация, где небольшое количество обучающих данных может обеспечить значительное улучшение точности [43,56].

В таблице 4 сравнивается контролируемое и неконтролируемое обучение с акцентом на тип входных данных, используемых в каждом случае (размеченные и неразмеченные данные), и на основные задачи, для которых используются оба типа обучения (классификация, регрессия и кластеризация, ассоциация и уменьшение размерности). ).

Таблица 4. Контролируемое и неконтролируемое обучение.

5.1.4. Обучение с подкреплением

Этот метод обучения зависит от отношений между агентом, выполняющим деятельность, и его окружением, что обеспечивает положительную или отрицательную обратную связь [57,58]. Агент должен выбирать действия, которые максимизируют вознаграждение в этой среде. Популярные методы включают Монте-Карло, Q-обучение и глубокое Q-обучение [44].

Традиционно распространенные приложения включают стратегические игры, такие как шахматы, автономное вождение, логистика и производство цепочки поставок, генетические алгоритмы [57], управление мобильностью 5G [59] и персонализированное оказание помощи [60].

5.2. Глубокое обучение

Машинное обучение можно разделить на поверхностное и глубокое, учитывая сложность и структуру алгоритма [41]. Глубокое обучение использует несколько слоев нейронов, состоящих из сложных структур, для моделирования абстракций данных высокого уровня [61]. Тип вывода и характеристики данных определяют алгоритм, который будет использоваться для конкретного варианта использования [62].

Глубокое обучение использует ИНС, вдохновленные нервной системой человека [63]. Этот тип сети обычно имеет два слоя входных и выходных узлов соответственно, соединенных друг с другом одним или несколькими слоями скрытых узлов. Возможные архитектуры глубоких ИНС включают многослойный персептрон (MLP), рекуррентные нейронные сети с долговременной кратковременной памятью (LSTMRNN), генеративно-состязательные сети (GAN) и сверточные нейронные сети (CNN или ConvNet).

Согласно нашему обзору литературы, наиболее широко используемыми моделями в энергетической области являются сверточные нейронные сети (CNN), рекуррентные нейронные сети (RNN), долговременная кратковременная память (LSTM), глубокие Q-сети (DQN) и условные ограничения Больцмана. Машина (CRBM) и вариант любой из них, комбинация двух или более из них или комбинация любой из них с другими приемами. Эти модели кратко описаны ниже.

5.2.1. Сверточные нейронные сети

Эти сети являются биологически вдохновленными сетями, такими как обычные нейронные сети. Однако в этом типе сети предполагается, что входы имеют определенную структуру, такую ​​как изображения [64]. Будучи одной из наиболее широко используемых и эффективных моделей глубокого обучения, эти сети обычно включают в себя два типа слоев (т. е. слои объединения и свертки). Типичная архитектура CNN обычно состоит из входного слоя, сверточного слоя, слоя максимального пула и конечного полностью связанного слоя, как показано на рисунке 1 [65].

Рисунок 1. Архитектура стандартной сверточной нейронной сети [65]

Различные архитектурные проекты исследуют влияние многоуровневых преобразований на способность таких сетей к обучению. Одним из таких возможных архитектурных решений является пирамида. Пирамидальная архитектура сверточных нейронных сетей широко известна как Pyramid-CNN [66].

5.2.2. Рекуррентные нейронные сети

В этом типе сети связи между узлами образуют направленный или неориентированный граф вдоль временной последовательности. На рис. 2 показана типичная структура RNN [65].

Рисунок 2. Структура рекуррентной нейронной сети: входной слой (Xt); выходной слой (Выт); скрытый слой (Ст); матрицы параметров и векторы (U, V, W); функция активации выходного слоя (σy); и функция активации скрытого слоя (σh) [65].

Эта сеть может использовать механизм шлюзования, называемый Gated Recurrent Units (GRU), введенный авторами в 2014 году [67]. GRU похож на сети LSTM, но с воротами забывания и меньшим количеством параметров, поскольку у них нет выходных ворот.

Другим вариантом этого типа сети, предложенным Элманом [68], является RNN Элмана, которая включает модифицируемые прямые связи и фиксированные рекуррентные связи. Он использует набор узлов контекста для хранения внутренних состояний, что дает ему определенные уникальные динамические характеристики по сравнению со статическими [69].

5.2.3. Долгая кратковременная память

Эти сети представляют собой особый вид RNN. В отличие от стандартных нейронных сетей с прямой связью, эти сети имеют обратные связи и могут даже обрабатывать целые последовательности данных (например, речь или видео) в дополнение к отдельным точкам данных (например, изображениям). Этот тип RNN содержит входной слой, рекуррентный скрытый слой и выходной слой со структурой блоков памяти, как показано на рисунке 3 [70].

Рис. 3. Блок памяти LSTM [70].

Блок памяти LSTM можно описать в соответствии со следующими уравнениями [70]:

где tx — вход модели в момент времени t; Wi, Wf, Wc, W{{0}}, Ui, Uf, Uc, U0, V0 — весовые матрицы; bi, bf , bc, b0 — векторы смещения; it, ft, 0t — соответственно активации трех ворот в момент времени t; это состояние ячейки памяти в момент времени t; ht — выход блока памяти в момент времени t; представляет скалярное произведение двух векторов; σ(x) — функция активации ворот; g(x) — функция активации входа ячейки; h(x) — функция активации выхода ячейки.

Возможным расширением этой модели является двунаправленный LSTM (B-LSTM). Этот тип сети LSTM предназначен для анализа последовательностей как спереди назад, так и сзади вперед, т. Е. Сбор информации о последовательности в обоих направлениях назад и вперед, в отличие от обычного LSTM.

5.2.4. Сеть Deep Q и дуэльная сеть Deep-Q

Deep Q Networks (DQN) и Dueling Deep-Q Networks (DDQN) — это тип ANN, использующий алгоритм обучения Deep Q, который популярен в обучении с подкреплением. В дуэльной сети есть два потока для отдельной оценки значения состояния, а также преимуществ каждого действия. Основная цель сети Deep-Q — выбрать наилучшее действие в определенном состоянии. Учитывая, что π — это политика, которой следует агент в данной среде, функция Qπ может быть определена следующим образом [71]:

где s — состояние; а — действие; ri — потенциальное вознаграждение; ∈ [0, 1] — коэффициент дисконтирования, делающий немедленное вознаграждение более важным, чем будущее. Следовательно, цель Q-обучения состоит в максимизации оптимизированной функции ценности Q* (s, a)=max πQ π(s, a). На рис. 4 показана схема типичной архитектуры DQN [71]. 5.2.5. Условно-ограниченная машина Больцмана Ограниченная машина Больцмана (RBM) представляет собой стохастическую RNN с двумя слоями, один с видимыми единицами и один с бинарными скрытыми единицами. Этот тип сети может изучать распределение вероятностей по набору входных данных. RBM являются вариантом архитектуры Deep Q-Network машин Больцмана [71].

Рисунок 4. На рисунке 4 показана схема типичной архитектуры DQN [71].