Математика и математическое моделирование. 2018; : 13-25
Исследование новых критериев для обнаружения автокорреляции остатков первого порядка в регрессионных моделях
https://doi.org/10.24108/mathm.0318.0000102Аннотация
При оценивании регрессионных моделей с помощью метода наименьших квадратов, одной из его предпосылок является отсутствие автокорреляции в остатках регрессии. Наличие автокорреляции остатков делает оценки регрессии, полученные методом наименьших квадратов, неэффективными, а стандартные ошибки этих оценок – несостоятельными. Количественно автокорреляцию в остатках регрессионной модели традиционно принято оценивать с помощью критерия Дарбина–Уотсона, представляющего собой отношение суммы квадратов разностей последовательных значений остатков к сумме квадратов остатков. К сожалению, такой аналитический вид критерия Дарбина – Уотсона не позволяет интегрировать его в виде линейных ограничений в задачу отбора информативных регрессоров, являющуюся, по сути, задачей математического программирования, в регрессионной модели. Задача отбора информативных регрессоров заключается в выделении из заданного числа возможных регрессоров заданного числа переменных на основе некоторого критерия качества. Целью данной работы является разработка и исследование новых критериев для обнаружения автокорреляции остатков первого порядка в регрессионных моделях, которые в дальнейшем могут быть интегрированы в задачу отбора информативных регрессоров в виде линейных ограничений. Для этого в статье предложены модульные критерии автокорреляции, для которых с использованием пакета Gretl сначала экспериментально были определены диапазоны их возможных значений и предельные значения в зависимости от значения выборочного коэффициента авторегрессии. Затем полученные результаты были подтверждены с помощью модельных экспериментов по методу Монте-Карло. Недостатком предложенных модульных критериев адекватности является то, что их зависимости от выборочного коэффициента авторегрессии не являются четными функциями. Для этого предлагаются двойные модульные критерии автокорреляции, которые с помощью специальных приёмов могут быть использованы в виде линейных ограничений в задачах математического программирования для отбора информативных регрессоров в регрессионных моделях.
Список литературы
1. Айвазян С.А. Методы эконометрики. М.: Магистр; ИНФРА-М., 2010. 506 с.
2. Доугерти К. Введение в эконометрику: учебник: пер с англ. М.: ИНФРА-М, 2009. 464 с. [English version: Dougherty Ch. Introduction to econometrics. 3rd ed. Oxf.: Oxford Univ. Press, 2007. 464 p.].
3. Базилевский М.П., Гефан Г.Д. Проблема автокорреляции остатков регрессии на примере моделирования грузооборота железнодорожного транспорта по данным временных рядов // Современные технологии. Системный анализ. Моделирование. 2016. № 1(49). С. 141–147.
4. Miller A.J. Subset selection in regression. 2nd ed. Boca Raton; L.: CRC Press, 2002. 238 p.
5. Konno H., Yamamoto R. Choosing the best set of variables in regression analysis using integer programming // J. of Global Optimization. 2009. Vol. 44. No. 2. Pp. 273-282. DOI: 10.1007/s10898-008-9323-9
6. Park Y.W., Klabjan D. Subset selection for multiple linear regression via optimization. Режим доступа: http://www.arXiv.org/pdf/1701.07920.pdf (дата обращения: 17.05.2018).
7. Tamura R., Kobayashi K., Takano Y., Miyashiro R., Nakata K., Matsui T. Mixed integer quadratic optimization formulations for eliminating multicollinearity based on variance inflation factor. Режим доступа: http://www.optimization-online.org/DB_HTML/2016/09/5655.html (дата обращения: 17.05.2018).
8. Chung S., Park Y.W., Cheong T. A mathematical programming approach for integrated multiple linear regression subset selection and validation. Режим доступа: https://arxiv.org/abs/1712.04543 (дата обращения: 17.05.2018).
9. Miyashiro R., Takano Y. Mixed integer second-order cone programming formulations for variable selection. Режим доступа: http://www.me.titech.ac.jp/technicalreport/h25/2013-7.pdf (дата обращения: 17.05.2018).
10. Miyashiro R., Takano Y. Subset selection by Mallows’ Cp: a mixed integer programming approach. Режим доступа: http://www.me.titech.ac.jp/technicalreport/h26/2014-1.pdf (дата обращения: 17.05.2018).
Mathematics and Mathematical Modeling. 2018; : 13-25
Research of New Criteria for Detecting First-order Residuals Autocorrelation in Regression Models
https://doi.org/10.24108/mathm.0318.0000102Abstract
When estimating regression models using the least squares method, one of its prerequisites is the lack of autocorrelation in the regression residuals. The presence of autocorrelation in the residuals makes the least-squares regression estimates to be ineffective, and the standard errors of these estimates to be untenable. Quantitatively, autocorrelation in the residuals of the regression model has traditionally been estimated using the Durbin-Watson statistic, which is the ratio of the sum of the squares of differences of consecutive residual values to the sum of squares of the residuals. Unfortunately, such an analytical form of the Durbin-Watson statistic does not allow it to be integrated, as linear constraints, into the problem of selecting informative regressors, which is, in fact, a mathematical programming problem in the regression model. The task of selecting informative regressors is to extract from the given number of possible regressors a given number of variables based on a certain quality criterion.
The aim of the paper is to develop and study new criteria for detecting first-order autocorrelation in the residuals in regression models that can later be integrated into the problem of selecting informative regressors in the form of linear constraints. To do this, the paper proposes modular autocorrelation statistic for which, using the Gretl package, the ranges of their possible values and limit values were first determined experimentally, depending on the value of the selective coefficient of auto-regression. Then the results obtained were proved by model experiments using the Monte Carlo method. The disadvantage of the proposed modular statistic of adequacy is that their dependencies on the selective coefficient of auto-regression are not even functions. For this, double modular autocorrelation criteria are proposed, which, using special methods, can be used as linear constraints in mathematical programming problems to select informative regressors in regression models.
References
1. Aivazyan S.A. Metody ekonometriki. M.: Magistr; INFRA-M., 2010. 506 s.
2. Dougerti K. Vvedenie v ekonometriku: uchebnik: per s angl. M.: INFRA-M, 2009. 464 s. [English version: Dougherty Ch. Introduction to econometrics. 3rd ed. Oxf.: Oxford Univ. Press, 2007. 464 p.].
3. Bazilevskii M.P., Gefan G.D. Problema avtokorrelyatsii ostatkov regressii na primere modelirovaniya gruzooborota zheleznodorozhnogo transporta po dannym vremennykh ryadov // Sovremennye tekhnologii. Sistemnyi analiz. Modelirovanie. 2016. № 1(49). S. 141–147.
4. Miller A.J. Subset selection in regression. 2nd ed. Boca Raton; L.: CRC Press, 2002. 238 p.
5. Konno H., Yamamoto R. Choosing the best set of variables in regression analysis using integer programming // J. of Global Optimization. 2009. Vol. 44. No. 2. Pp. 273-282. DOI: 10.1007/s10898-008-9323-9
6. Park Y.W., Klabjan D. Subset selection for multiple linear regression via optimization. Rezhim dostupa: http://www.arXiv.org/pdf/1701.07920.pdf (data obrashcheniya: 17.05.2018).
7. Tamura R., Kobayashi K., Takano Y., Miyashiro R., Nakata K., Matsui T. Mixed integer quadratic optimization formulations for eliminating multicollinearity based on variance inflation factor. Rezhim dostupa: http://www.optimization-online.org/DB_HTML/2016/09/5655.html (data obrashcheniya: 17.05.2018).
8. Chung S., Park Y.W., Cheong T. A mathematical programming approach for integrated multiple linear regression subset selection and validation. Rezhim dostupa: https://arxiv.org/abs/1712.04543 (data obrashcheniya: 17.05.2018).
9. Miyashiro R., Takano Y. Mixed integer second-order cone programming formulations for variable selection. Rezhim dostupa: http://www.me.titech.ac.jp/technicalreport/h25/2013-7.pdf (data obrashcheniya: 17.05.2018).
10. Miyashiro R., Takano Y. Subset selection by Mallows’ Cp: a mixed integer programming approach. Rezhim dostupa: http://www.me.titech.ac.jp/technicalreport/h26/2014-1.pdf (data obrashcheniya: 17.05.2018).
События
-
К платформе Elpub присоединился журнал «The BRICS Health Journal» >>>
10 июн 2025 | 12:52 -
Журнал «Неотложная кардиология и кардиоваскулярные риски» присоединился к Elpub >>>
6 июн 2025 | 09:45 -
К платформе Elpub присоединился «Медицинский журнал» >>>
5 июн 2025 | 09:41 -
НЭИКОН принял участие в конференции НИИ Организации здравоохранения и медицинского менеджмента >>>
30 мая 2025 | 10:32 -
Журнал «Творчество и современность» присоединился к Elpub! >>>
27 мая 2025 | 12:38