خواص مجانبی برآوردهای انقباضی در مدل‌های رگرسیونی با استفاده از تابع تاوانیده با نرم L1

نوع مقاله : مقاله پژوهشی

نویسنده

گروه آمار، دانشکده علوم پایه، دانشگاه قم، قم، ایران

10.22091/maa.2023.9446.1003

چکیده

در این مقاله، ابتدا یک مدل دوسطحی با ساختار خطی معرفی خواهیم کرد. از برآوردهای گشتاوری، ماکسیمم درست‌نمایی و SURE،  برای برآورد انقباضی پارامترهای مدل و برآورد پارامترهای مدل رگرسیونی استفاده خواهیم کرد. به دلیل اینکه مدل‌های رگرسیونی کاربرد فراوانی برای تحلیل داده‌های با ابعاد بزرگ دارند، لذا با فرض تُنک بودن بردار ضرایب مدل رگرسیونی، خواص مجانبی برآوردکننده‌های حاصل تحت تابع خطای L_2 و تابع تاوانیده با نرم L_1 بررسی خواهند شد.

کلیدواژه‌ها

موضوعات


عنوان مقاله [English]

Shrinkage estimators' properties in regression models using L_1 penalized norm

نویسنده [English]

  • Seyed Kamran Ghoreishi
Department of Statistics, University of Qom, Qom, Iran
چکیده [English]

In this paper, we first introduce a two-level hierarchical model with a linear structure.  We use the moment, maximum likelihood, and SURE estimators to obtain the regression coefficients shrinkage estimators. Since, regression models have vast applications in high-dimensional datasets, using sparsity assumption, we discuss the asymptotic properties of the regression estimators under L_2 error norm and L_1 penalty norm. 

کلیدواژه‌ها [English]

  • Hierarchical models
  • Shrinkage estimators
  • Regression models
  • High-dimensional datasets
[1] Baranchik, A.J. (1970). A Family of Minimax Estimators of the Mean of a Multivariate Normal Distribution. Ann. Math. Statist, 41, 642–645.
[2] Berger, J. (1976). Admissible Minimax Estimation of a Multivariate Normal Mean With Arbitrary Quadratic Loss.
The Annals of Statistics, 4, 223–226.
[3] Berger, J.,
& Strawderman, W.E. (1996). Choice of Hierarchical Priors: Admissibility in Estimation of Normal Means. The Annals of Statistics, 24, 931–951.
[4] Brown, L.D. (1971). Admissible Estimators, Recurrent Diffusions, and Insoluble Boundary Value Problems.
Ann. Math. Statist, 42, 855–903. 
[5] Buhlmann, P. (2013). Statistical significance in high-dimensional linear models. Bernoulli, 19, 1212–1242.
[6] Buhlmann, P.,
& van de Geer, S. (2011). Statistics for high-dimensional data. Springer-Verlag.
[7] Cai, T.T.,
& Zijian, Guo. (2016). Accuracy assessment for high-dimensional linear regression. arXiv preprint arXiv: 1603.03474.
[8] Efron, B.,
& Morris, C. (1973). Stein’s Estimation Rule and Its Competitors: An Empirical Bayes Approach. J. Amer. Statist. Assoc, 68, 117–130.
[9] Ghoreishi, S.K.,
& Meshkani, M.R. (2014). On SURE estimators in hierarchical models assuming heteroscedasticity for both levels of a two-level normal hierarchical model. J. of Multivariate Analysis, 132, 129–137.
[10] James, W.,
& Stein, C.M. (1961). Estimation With Quadratic Loss. Proceedings of the 4th Berkeley Symposium on Probability and Statistics, 1, 367–379.
[11] Morris, C. (1983). Parametric Empirical Bayes Inference: Theory and Applications.
J. Amer. Statist.Assoc, 78, 47–55.
[12] Shanita, V.,
& Ghoreishi, S.K. (2020). Empirical Estimation for Sparse Double-Heteroscedastic Hierarchical Normal Models. Journal of Statistical Theory and Applications, 19, 148–161.
[13] Stein, C.M. (1962). Confidence Sets for the Mean of a Multivariate Normal Distribution (with discussion).
J. Roy.Statist. Soc. Ser. B, 24, 265–296.
[14] Xie, X., Kou, S.C.,
& Brown, L.D. (2012). SURE Estimates for a Heteroscedastic Hierarchical Model. J. Amer. Statist. Assoc, 107, 1465–1479.
[15] Xie, X., Kou, S.C.,
& Brown, L.D. (2016). Optimal shrinkage estimation of mean parameters in family of distributions with quadratic variance. The Annals of Statistics, 44, 564–597.