多変量重回帰における変数選択

Variable selection in multivariate multiple regression.

• Asokan Mulayath Variyath
• Anita Brobbey

抄録

はじめに:

多くの実用的な状況では、相関のある多重応答に対する共変量の効果に関心がある。この論文では、多応答重回帰モデルにおける推定と変数選択に焦点を当てる。有効な推論のためには、応答変数間の相関をモデル化しなければならない。

INTRODUCTION: In many practical situations, we are interested in the effect of covariates on correlated multiple responses. In this paper, we focus on estimation and variable selection in multi-response multiple regression models. Correlation among the response variables must be modeled for valid inference.

方法:

我々は、一般化推定方程式（GEE）手法の拡張を用いて、非線形関数を用いてバイナリ、カウント、および連続の結果を同時に解析した。変数選択は、推定されなければならないモデルパラメータの数が多いため、相関応答のモデリングにおいて重要な役割を果たす。我々は、パラメータ推定と変数選択を同時に行うために、拡張GEEに基づくペナルティ付き尤度アプローチを提案する。

METHOD: We used an extension of the generalized estimating equation (GEE) methodology to simultaneously analyze binary, count, and continuous outcomes with nonlinear functions. Variable selection plays an important role in modeling correlated responses because of the large number of model parameters that must be estimated. We propose a penalized-likelihood approach based on the extended GEEs for simultaneous parameter estimation and variable selection.

結果と結論:

我々は、異なるサンプルサイズと回答変数の数を考慮して、我々の手法の性能を調査するために、一連のモンテカルロシミュレーションを行った。その結果、回答を無相関として扱う場合と比較して、我々の手法がうまく機能することが示されました。本研究では、ベイズ情報量規準（BIC）を用いた非構造化相関モデルを用いてチューニングパラメータを選択することを推奨する。本研究では，コンクリートスランプ試験のデータを用いて，本手法を実証した．

RESULTS AND CONCLUSIONS: We conducted a series of Monte Carlo simulations to investigate the performance of our method, considering different sample sizes and numbers of response variables. The results showed that our method works well compared to treating the responses as uncorrelated. We recommend using an unstructured correlation model with the Bayesian information criterion (BIC) to select the tuning parameters. We demonstrated our method using data from a concrete slump test.