Модель многомерной (векторной) регрессии

Многомерный процесс Р_Dj может представляться моделью многомерной (векторной) авторегрессии (векторная AR-модель) [1, 15, 32, 67]:

, (3.28)

где – n-мерные векторы реализации процесса для момента времени ; g – порядок векторной авторегрессии; – квадратная матрица коэффициентов авторегрессии размером n на n; – n-мерный центрированный случайный вектор погрешности (“белый шум”):

;

Для учета воздействия внешних факторов на координаты n-мерного вектора в модели (3.28) вводят дополнительно регрессионные составляющие (векторная ARX-модель) [1, 4, 14, 15]:

, (3.29)

где – матрица коэффициентов регрессии размером n на l ; – l-мерный вектор значений внешних влияющих факторов в(j-i) момент времени; q – порядок векторной регрессии.

Выражение (3.29) можно записать в блочно-матричном виде и затем упростить его запись:

. (3.30)

Выбор метода оценки блочной матрицы параметров модели (3.30) (метода идентификации) в значительной мере определяется имеющейся априорной информацией о моделируемом процессе работы радиоэлектронной системы и влияющих на него факторов. В настоящее время наиболее широко используются следующие методы оценки параметров модели многомерной регрессии [5, 9, 14, 15]:

- метод байесовских оценок параметров, который применяется, когда априори известно многомерное вероятностное описание и в виде априорного распределения вероятностей , семейства условных распределений ;

- метод максимального правдоподобия, который используется, если отсутствует информация о плотности вероятностей , а априори известна лишь условная плотность ;

- метод наименьших квадратов, который не требует никакой дополнительной априорной информации о процессе, кроме непосредственно выборок реализаций самого процесса и влияющих факторов.

Сущность метода байесовских оценок определяется формулой [9, 14, 15]:

,

где – безусловная плотность распределения вероятностей наблюдений . Таким образом, вычисляют апостериорную многомерную плотность условного распределения вероятностей параметров относительно результатов наблюдения процесса . Далее определяют наиболее вероятные значения параметров , например, по формуле

,

которые и рассматривают как найденные параметры модели. По мере прихода новой информации уточняются априорные плотности вероятности и, следовательно, уточняются параметры модели.

Байесовский подход используют при прогнозировании тридцатиминутной заявленной мощности предприятий [7]. Он позволяет учесть как результат прогнозирования, получаемый с помощью современных математических методов, так и субъективную информацию специалиста, определяющую «степень веры» в полученный результат относительно параметров модели . Большая уверенность в величине ведет к выбору распределения с меньшей дисперсией, иначе – с большей.

В методе максимального правдоподобия неизвестную величину заменяют постоянной величиной, тем самым, считая, что любое значение параметров равновероятное. В результате формулы метода Байеса преобразуются к виду [9, 14, 15]:

.

Таким образом, для отыскания наилучшей оценки параметров модели максимизируется условная плотность вероятностей , что равнозначно минимизации в силу монотонности логарифмической функции критерия качества

.

Оптимальная оценка при этом определяется как решение уравнения

.

Логарифм от апостериорной плотности вероятностей называют функцией правдоподобия, а последнее уравнение называют уравнением правдоподобия.

Основным недостатком методов байесовских оценок и максимального правдоподобия является необходимость получения и использования сложных условных многомерных плотностей вероятности , которые трудно получить и сложно использовать. Эти подходы используют в случае одномерных моделей, типа временных рядов, когда плотности вероятностей преобразуются в одномерные и набор оцениваемых параметров модели преобразуется из матрицы в вектор.

Метод наименьших квадратов не требует априорной информации о плотностях распределения параметров и моделируемого процесса , а определение параметров модели осуществляется на основе минимизации критерия качества

,

где M[…] – знак среднего значения (математического ожидания) по переменной j; – евклидова норма вектора; – разность действительного и прогнозного значения процесса, полученного с помощью модели.

В векторной форме рассмотренный критерий качества записывают как положительно определенную квадратичную форму:

,

где – положительно определенная весовая матрица, зачастую в качестве используют матрицу , где – корреляционная матрица помехи .

Можно показать [1, 9], что минимум критерия обеспечивается, когда параметры определяются выражением

. (3.31)

Если при этом , то оценку параметров называют марковской [9, 15].

Модель векторной регрессии в полной мере реализует концепцию многомерного моделирования электропотребления. В общем случае моделирование многомерных процессов электропотребления осуществляют так [1, 12]: выделяют многомерную детерминированную изменяющуюся составляющую (тренд) Р_Sj и многомерный ряд случайных остатков Р_Dj из общего многомерного процесса P_j. Многомерный ряд случайных остатков Р_Dj моделируют с использованием методов многомерной векторной регрессии [12, 15, 32]. Однако следует отметить особенности, сильно затрудняющие использование векторной регрессии.

Рассмотренный метод (3.31) определения параметров модели (3.29), (3.30) на основе МНК в общем случае подразумевает решение следующих вопросов: оценка порядков регрессионной g и авторегрессионной q частей модели (3.29), используя предысторию изменения процесса; оценка параметров модели и как элементов матриц А_i, B_i или φ. Порядки модели g и q определяются, например, путем последовательных испытаний моделей с возрастающим порядком [1, 15, 64], при этом на каждом испытании определяются соответствующие матрицы коэффициентов А_i и B_i. Оценивание же параметров модели А_i и B_i связано, как правило, с решением плохо обусловленных систем линейных уравнений, что требует специальных процедур идентификации и ведет к значительному усложнению расчетов [1, 15], применение классических процедур идентификации [26] при этом затруднено. Последнее обстоятельство зачастую связано с мультиколлинеарностью исходных данных, используемых при построении модели векторной регрессии.

При идентификации авторегрессионной составляющей модели необходимо выполнение условия стационарности описываемого многомерного процесса , что не всегда возможно достичь. Использование конечных разностей (как в ARIMA-модели) для многомерного процесса также затруднено и не исследовано.

Кроме того, при вычислении матриц коэффициентов А_i и B_i необходимо использование блочных матриц достаточно больших размеров, что в свою очередь также сказывается на времени идентификации и ведет к увеличению ошибок округления, а следовательно, и ошибки идентификации [1, 80].