使用标准化 Y 模拟回归数据

Question

基于this topic，我创建了一个函数，该函数通过特定的线性系数返回一个数据集，其中包含与结果 (y) 相关的变量。

simulate_data_regression <- function(sample=10, coefs=0, error=0){

  n_var <- length(coefs)
  X <- matrix(0, ncol=n_var, nrow=sample)

  beta <- as.matrix(coefs)

  for (i in 1:n_var){
    X[,i] <- scale(rnorm(sample, 0, 1))
  }

  y <- X %*% beta

  if(error != 0){
    y <- y + rnorm(sample, 0, error)
  }


  data = data.frame(X=X)
  names(data) <- paste0("V", 1:n_var)
  data$y <- as.vector(y)

  return(data)
}

data <- simulate_data_regression(sample=50, coefs=c(0.1, 0.8), error=0)
summary(data)
sd(data$V1)
sd(data$y)

效果很好。但是，我需要有一个标准化的y（平均值为 0 和 SD 1）。但是当我尝试缩放它时，系数会发生变化：

data <- simulate_data_regression(sample=50, coefs=c(0.1, 0.8), error=0)
data$y <- as.vector(scale(data$y))
coef(lm(y ~ ., data=data))

有可能做这样的事情吗？非常感谢！

---

编辑

换句话说，我想要指定为标准化系数的系数（以结果的 SD 表示）。

后验缩放y 将系数更改为1/sd(y)。但是，我想不出任何办法在生成 y 之前更改 beta，以便在缩放 y 后 beta 返回到它们的指定值。

---

编辑 2：尝试失败

我已尝试运行该函数两次，首先提取sd(y) 并用它缩放系数，希望一旦我缩放y，这些缩放系数将更改为指定的系数。但它不起作用，这是预期的，因为sd(y) 在我更改 coefs 时会发生变化:'(

这是失败的尝试：

simulate_data_regression <- function(sample=10, coefs=0, error=0, standardized=TRUE){

  stuff <- .simulate_data_regression(sample=sample, coefs=coefs, error=error)
  if(standardized == TRUE){
    y_sd <- sd(data$y)
    data <- .simulate_data_regression(sample=sample, coefs=y_sd*coefs, error=error, X=stuff$X)$data
    data$y <- as.vector(scale(data$y))
  } else{
    data <- stuff$data
  }
  return(data)
}


.simulate_data_regression <- function(sample=10, coefs=0, error=0, X=NULL, y=NULL){

  n_var <- length(coefs)

  if(is.null(X)){
    X <- matrix(0, ncol=n_var, nrow=sample)
    for (i in 1:n_var){
      X[,i] <- scale(rnorm(sample, 0, 1))
    }
  }

  beta <- as.matrix(coefs)
  y <- X %*% beta

  if(error != 0){
    y <- y + rnorm(sample, 0, error)
  }


  data = data.frame(X=X)
  names(data) <- paste0("V", 1:n_var)
  data$y <- as.vector(y)

  return(list(X=X, y=y, data=data))
}

Answer 1

如果您缩放y，推断将是相同的，只有截距的 p 值会发生变化，系数的 p 值不会发生变化。
在这个例子中，我设置了error = 1。

set.seed(1234)    # Make the results reproducible
data <- simulate_data_regression(sample = 50, coefs = c(0.1, 0.8), error = 1)
data2 <- data
data2$y <- scale(data2$y)

fit <- lm(y ~ ., data)
fit2 <- lm(y ~ ., data2)

summary(fit)
summary(fit2)

如您所见，尽管系数本身不同，但系数的 p 值完全相同。您会期望，因为您正在按回归量的标准误差进行缩放，因此系数将按这些标准误差的倒数进行缩放。

下面的函数版本有一个参数which，允许指定要缩放的回归量。它的默认值是所有这些。

simulate_data_regression2 <- function(sample = 10, coefs = 0, error = 0, which = seq_along(coefs)){
  n_var <- length(coefs)
  X <- matrix(0, ncol=n_var, nrow=sample)
  beta <- as.matrix(coefs)
  for (i in 1:n_var){
    X[,i] <- rnorm(sample, 0, 1)
    if(i %in% which) X[, i] <- scale(X[, i])
  }
  y <- X %*% beta
  if(error != 0){
    y <- y + rnorm(sample, 0, error)
  }
  data = data.frame(X=X)
  names(data) <- paste0("V", 1:n_var)
  data$y <- as.vector(y)
  data
}

现在测试函数。

set.seed(1234)    # Make the results reproducible
data <- simulate_data_regression2(sample=50, coefs=c(0.1, 0.8), error=1)

set.seed(1234)    # Reproduce the data generation process
data2 <- simulate_data_regression2(sample=50, coefs=c(0.1, 0.8), error=1, which = 2)

fit <- lm(y ~ ., data)
fit2 <- lm(y ~ ., data2)

如您所见，V2 的系数相等。

coef(fit)
#(Intercept)          V1          V2 
# 0.01997809  0.19851020  0.96310013

coef(fit2)
#(Intercept)          V1          V2 
# 0.07040538  0.21130549  0.96310013

系数V2 的估计值也相等

summary(fit)
summary(fit2)