30) Обобщенная линейная модель в R

Переучить образование

Из приведенного выше графика видно, что переменное образование имеет 16 уровней. Это существенно, и некоторые уровни имеют относительно небольшое количество наблюдений. Если вы хотите улучшить объем информации, которую вы можете получить из этой переменной, вы можете преобразовать ее в более высокий уровень. А именно, вы создаете большие группы с одинаковым уровнем образования. Например, низкий уровень образования будет преобразован в отсев. Высшие уровни образования будут изменены на магистерские.

Вот деталь:

recast_data <- data_adult_rescale % > %
	select(-X) % > %
	mutate(education = factor(ifelse(education == "Preschool" | education == "10th" | education == "11th" | education == "12th" | education == "1st-4th" | education == "5th-6th" | education == "7th-8th" | education == "9th", "dropout", ifelse(education == "HS-grad", "HighGrad", ifelse(education == "Some-college" | education == "Assoc-acdm" | education == "Assoc-voc", "Community",
    ifelse(education == "Bachelors", "Bachelors",
        ifelse(education == "Masters" | education == "Prof-school", "Master", "PhD")))))))

Код Объяснение

• Мы используем глагол mutate из библиотеки dplyr. Мы меняем ценности образования с заявлением ifelse

В таблице ниже вы создаете сводную статистику, чтобы увидеть, в среднем, сколько лет обучения (z-значение) требуется, чтобы достичь степени бакалавра, магистра или доктора наук.

recast_data % > %
	group_by(education) % > %
	summarize(average_educ_year = mean(educational.num),
		count = n()) % > %
	arrange(average_educ_year)

Вывод:

## # A tibble: 6 x 3
## education average_educ_year count			
##      <fctr>             <dbl> <int>
## 1   dropout       -1.76147258  5712
## 2  HighGrad       -0.43998868 14803
## 3 Community        0.09561361 13407
## 4 Bachelors        1.12216282  7720
## 5    Master        1.60337381  3338
## 6       PhD        2.29377644   557

Recast Семейное положение

Также возможно создание более низких уровней для семейного положения. В следующем коде вы изменяете уровень следующим образом:

# Change level marry
recast_data <- recast_data % > %
	mutate(marital.status = factor(ifelse(marital.status == "Never-married" | marital.status == "Married-spouse-absent", "Not_married", ifelse(marital.status == "Married-AF-spouse" | marital.status == "Married-civ-spouse", "Married", ifelse(marital.status == "Separated" | marital.status == "Divorced", "Separated", "Widow")))))

Вы можете проверить количество людей в каждой группе.

table(recast_data$marital.status)

Вывод:

## ##     Married Not_married   Separated       Widow
##       21165       15359        7727        1286	

Пришло время проверить некоторые статистические данные о наших целевых переменных. На приведенном ниже графике вы считаете процент людей, заработавших более 50 000, с учетом их пола.

# Plot gender income
ggplot(recast_data, aes(x = gender, fill = income)) +
    geom_bar(position = "fill") +
    theme_classic()

Вывод:

Любая контролируемая задача машинного обучения требует разделения данных между набором поездов и тестовым набором. Вы можете использовать «функцию», которую вы создали в других контролируемых учебных пособиях, чтобы создать набор поездов / тестов.

set.seed(1234)
create_train_test <- function(data, size = 0.8, train = TRUE) {
    n_row = nrow(data)
    total_row = size * n_row
    train_sample <- 1: total_row
    if (train == TRUE) {
        return (data[train_sample, ])
    } else {
        return (data[-train_sample, ])
    }
}
data_train <- create_train_test(recast_data, 0.8, train = TRUE)
data_test <- create_train_test(recast_data, 0.8, train = FALSE)
dim(data_train)

Вывод:

## [1] 36429     9

dim(data_test)

Вывод:

## [1] 9108    9	

Чтобы увидеть, как работает алгоритм, вы используете пакет glm (). Обобщенная линейная модель представляет собой набор моделей. Основной синтаксис:

glm(formula, data=data, family=linkfunction()
Argument:
- formula:  Equation used to fit the model- data: dataset used
- Family:     - binomial: (link = "logit")			
- gaussian: (link = "identity")			
- Gamma:    (link = "inverse")			
- inverse.gaussian: (link = "1/mu^2")			
- poisson:  (link = "log")			
- quasi:    (link = "identity", variance = "constant")			
- quasibinomial:    (link = "logit")			
- quasipoisson: (link = "log")	

Вы готовы оценить логистическую модель, чтобы разделить уровень дохода между набором функций.

formula <- income~.
logit <- glm(formula, data = data_train, family = 'binomial')
summary(logit)

Код Объяснение

• формула <- доход ~.: создать модель, чтобы соответствовать
• logit <- glm (формула, data = data_train, family = ‘binomial’): согласовать логистическую модель (family = ‘binomial’) с данными data_train.
• summary (logit): распечатать сводку модели

Вывод:

## 
## Call:
## glm(formula = formula, family = "binomial", data = data_train)
## ## Deviance Residuals: 
##     Min       1Q   Median       3Q      Max  
## -2.6456  -0.5858  -0.2609  -0.0651   3.1982  
## 
## Coefficients:
##                           Estimate Std. Error z value Pr(>|z|)    
## (Intercept)                0.07882    0.21726   0.363  0.71675    
## age                        0.41119    0.01857  22.146  < 2e-16 ***
## workclassLocal-gov        -0.64018    0.09396  -6.813 9.54e-12 ***
## workclassPrivate          -0.53542    0.07886  -6.789 1.13e-11 ***
## workclassSelf-emp-inc     -0.07733    0.10350  -0.747  0.45499    
## workclassSelf-emp-not-inc -1.09052    0.09140 -11.931  < 2e-16 ***
## workclassState-gov        -0.80562    0.10617  -7.588 3.25e-14 ***
## workclassWithout-pay      -1.09765    0.86787  -1.265  0.20596    
## educationCommunity        -0.44436    0.08267  -5.375 7.66e-08 ***
## educationHighGrad         -0.67613    0.11827  -5.717 1.08e-08 ***
## educationMaster            0.35651    0.06780   5.258 1.46e-07 ***
## educationPhD               0.46995    0.15772   2.980  0.00289 ** 
## educationdropout          -1.04974    0.21280  -4.933 8.10e-07 ***
## educational.num            0.56908    0.07063   8.057 7.84e-16 ***
## marital.statusNot_married -2.50346    0.05113 -48.966  < 2e-16 ***
## marital.statusSeparated   -2.16177    0.05425 -39.846  < 2e-16 ***
## marital.statusWidow       -2.22707    0.12522 -17.785  < 2e-16 ***
## raceAsian-Pac-Islander     0.08359    0.20344   0.411  0.68117    
## raceBlack                  0.07188    0.19330   0.372  0.71001    
## raceOther                  0.01370    0.27695   0.049  0.96054    
## raceWhite                  0.34830    0.18441   1.889  0.05894 .  
## genderMale                 0.08596    0.04289   2.004  0.04506 *  
## hours.per.week             0.41942    0.01748  23.998  < 2e-16 ***
## ---## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## ## (Dispersion parameter for binomial family taken to be 1)
## ##     Null deviance: 40601  on 36428  degrees of freedom
## Residual deviance: 27041  on 36406  degrees of freedom
## AIC: 27087
## 
## Number of Fisher Scoring iterations: 6

Краткое изложение нашей модели раскрывает интересную информацию. Производительность логистической регрессии оценивается с помощью конкретных ключевых показателей.

• AIC (Akaike Information Criteria): это эквивалент R2 в логистической регрессии. Он измеряет соответствие, когда к числу параметров применяется штраф. Меньшие значения AIC указывают на то, что модель ближе к истине.
• Нулевое отклонение: соответствует модели только с перехватом. Степень свободы n-1. Мы можем интерпретировать его как значение хи-квадрат (подходящее значение, отличное от проверки гипотезы фактического значения).
• Остаточное отклонение: модель со всеми переменными. Это также интерпретируется как проверка гипотезы хи-квадрат.
• Количество итераций по шкале Фишера: количество итераций до схождения.

Вывод функции glm () сохраняется в списке. Приведенный ниже код показывает все элементы, доступные в переменной logit, которую мы создали для оценки логистической регрессии.

# Список очень длинный, выводятся только первые три элемента

lapply(logit, class)[1:3]

Вывод:

## $coefficients
## [1] "numeric"
## 
## $residuals
## [1] "numeric"
## 
## $fitted.values
## [1] "numeric"

Каждое значение может быть извлечено со знаком $, за которым следует имя метрики. Например, вы сохранили модель как logit. Чтобы извлечь критерии AIC, вы используете:

logit$aic

Вывод:

## [1] 27086.65

Матрица путаницы

Матрица неточностей является лучшим выбором для оценки эффективности классификации по сравнению с различными метриками вы видели раньше. Общая идея состоит в том, чтобы подсчитать, сколько раз Истинные экземпляры классифицируются как Ложные.