Судовой журнал
  АТОС (Ассоциация ТОчных и Смекалистых)
  Вопрос: Матрица кова...

Боцманы:  Pankrat

Форум клана открыт для общественности

 Страница   из 1    |  Показывать   на странице
Старые сначала  Тема: Вопрос: Матрица ковариации
Axierus





Я был бы очень благодарен, если кто-нибудь мог бы мне чего-нибудь посоветовать в одном прикладном вопросе. Мне приходится часто оценивать дискретные стохастические модели в рамках анализа временных рядов с помощью maximum likelihood (ML). То есть, программирую loglikelihood-функцию на основе эмпирических или симулированных данных, сбрасываю её в какой-нибудь оптимизационный алгоритм матлаба и поехали. На выходе получаю оценённые параметры модели. Вечная проблема - коэффициент вариации: он иногда оценивается негативным, что разумеется не есть гут. Данная проблема решается мной просто: вместо коэффициента вариации sigma, я оцениваю c, где sigma = exp(c). Таким нелинейным образом накладываю рестрикцию позитивности.

Теперь проблема: каким образом можно наложить схожую рестикцию неотрицательной определённости на целую матрицу ковариации любой размерности? Возможно ли это вообще? Причём так, чтобы это занимало не больше нескольких листов кода в матлабе.
----------------------
тантрадзен
06 Сентября 2007 12:15      
xWanderer
Студент в процессе




Axierus пишет:
Я был бы очень благодарен, если кто-нибудь мог бы мне чего-нибудь посоветовать в одном прикладном вопросе. Мне приходится часто оценивать дискретные стохастические модели в рамках анализа временных рядов с помощью махимум ликелихоод (МЛ). То есть, программирую логликелихоод-функцию на основе эмпирических или симулированных данных, сбрасываю её в какой-нибудь оптимизационный алгоритм матлаба и поехали. На выходе получаю оценённые параметры модели. Вечная проблема - коэффициент вариации: он иногда оценивается ...


Сходу не скажу, но это явно на тему алгебр Ли, производных от групп Ли. (На примере группы Ли кваратных матриц). Вот по этим ключевым словам надо порыться.
Было бы время, сам поискал бы, но до 20 числа редко буду в сети.
----------------------
Барон настолько не любил конфликты, что предпочитал во время крестьянских свар просто сжигать обе враждующие деревни дотла...
06 Сентября 2007 19:53      
Axierus





xWanderer пишет:
Сходу не скажу, но это явно на тему алгебр Ли, производных от групп Ли. (На примере группы Ли кваратных матриц). Вот по этим ключевым словам надо порыться.
Было бы время, сам поискал бы, но до 20 числа редко буду в сети.


Спасибо за внимание, если что придумаешь, с удовольствием почитаю такие высоко-теоретические выкладки!

Но создав тему, я здесь походу и сам начал просветляться. Каждый элемент матрицы ковариации (covariance matrix) можно представить как произведение из коэффициента корреляции и соответствующих дисперсий: cov(ij) = rho(ij)*var(i)*var(j). В рамках оптимизации, дисперсии я могу заставить быть позитивными, как писал уже выше: var(i) = exp(c(i)). Коэффициент корреляции должен лежать между -1 и 1, то есть надо сделать rho(ij) монотонной дифференцируемой функций с областью значений [-1,1], rho(ij) = f(b(ij)), где b(ij) in R и f(.) in [-1,1], что не проблема, и проводить оптимизацию по b(ij). А потом можно склеить cov(ij) из этих компонентов и моя интуиция говорит, что должна получиться неотрицательно определённая матрица ковариации... Правда я ещё не совсем уверен, что эта фигня будет однозначно идентифицирована. Кроме того, как такую нелинейную конструкцию переварит оптимизационный алгоритм, тоже не совсем ясно, но попробовать стоит.

PS: Если тема пойдёт в сторону алгебр Ли, не гарантирую, что смогу поддержать её - человек я примитивный, занимаюсь в основном кратковременными макроэкономическими прогнозами и изредка пишу очень прикладные статьи по очень прикладной асимптотике. Но может быть тему поддержит кто-то ещё...
----------------------
тантрадзен
07 Сентября 2007 11:37      
xWanderer
Студент в процессе




Axierus пишет:
Спасибо за внимание, если что придумаешь, с удовольствием почитаю такие высоко-теоретические выкладки!

Но создав тему, я здесь походу и сам начал просветляться. Каждый элемент матрицы ковариации (цоварианце матрих) можно представить как произведение из коэффициента корреляции и соответствующих дисперсий: цов(ий) = рхо(ий)*вар(и)*вар(й). В рамках оптимизации, дисперсии я могу заставить быть позитивными, как писал уже выше: вар(и) = ехп(ц(и)). Коэффициент корреляции должен лежать между -1 и 1, то есть ...


Просто я думал, что нужен подход в общем случае именно через аналог экспоненты.

Кстати, перечитав еще раз внимательно, не совсем понял, как именно решает проблему оценки переход к экспоненте, ведь при обратном переходе вновь может получиться отрицательная величина.
----------------------
Барон настолько не любил конфликты, что предпочитал во время крестьянских свар просто сжигать обе враждующие деревни дотла...
08 Ноября 2007 16:30      
Log_deV
Бывший океанец

xWanderer пишет:
Просто я думал, что нужен подход в общем случае именно через аналог экспоненты.

Кстати, перечитав еще раз внимательно, не совсем понял, как именно решает проблему оценки переход к экспоненте, ведь при обратном переходе вновь может получиться отрицательная величина.


я не всё понел скожу чесно.. но если отрецательную велечену в betrag взять? или тогда вырожения будет полнастью нправельно?
08 Ноября 2007 16:37      
berliner23
Студент в процессе




Axierus пишет:
Я был бы очень благодарен, если кто-нибудь мог бы мне чего-нибудь посоветовать в одном прикладном вопросе. Мне приходится часто оценивать дискретные стохастические модели в рамках анализа временных рядов с помощью махимум ликелихоод (МЛ). То есть, программирую логликелихоод-функцию на основе эмпирических или симулированных данных, сбрасываю её в какой-нибудь оптимизационный алгоритм матлаба и поехали. На выходе получаю оценённые параметры модели. Вечная проблема - коэффициент вариации: он иногда оценивается ...


Мне кажется, что ты колесо придумываешь. Опиши поточнее какие модели. [ARIMA, GARCH, VAR,...]там их много в [time series]. Опиши поточнее проблему, чтоб я знал какая модель лучше всего подходит.

Матлаб кажется продает дорогой пакет с уже встроенными алгоритмами. Рекоммендую почитать в нете про [JMulti] и про [R]. Там уже все форпрограммиерт с полным описанием референций
----------------------
08 Ноября 2007 17:13      
xWanderer
Студент в процессе




Log_deV пишет:
я не всё понел скожу чесно.. но если отрецательную велечену в бетраг взять? или тогда вырожения будет полнастью нправельно?


Я же не знаю, как устроен алгоритм, которым пользуется автор (и вообще достаточно слабо знаком с прикладной математикой на практическом уровне).

Поэтому это вопрос к нему.
(Но просто прямолинейная замена параметра на его модуль почти наверняка не поможет.)
----------------------
Барон настолько не любил конфликты, что предпочитал во время крестьянских свар просто сжигать обе враждующие деревни дотла...
09 Ноября 2007 12:09      
 Страница   из 1    |  Показывать   на странице
Перейти в
© Stanislav Neuberger 2001-∞ · Служба поддержки