Contenido

1. Observaciones multivariadas
2. Datos: tabla, vector de medias, matrices de covarianzas y correlación
3. Combinaciones lineales (Ejemplo: ARWU)
4. Componentes Principales
5. Teorema de la Descomposición Espectral (TDE)
6. Teorema de la Descomposición en Valores Singulares (TDVS)
7. Datos atípicos: Distancia de Mahalanobis
8. Distancias entre observaciones multivariadas
9. Laboratorio

Observaciones multivariadas

En el contexto multivariado, en lugar de una, se observan \(p\) variables \(X_1,\ldots,X_p\) simultáneamente sobre el mismo objeto \(i\) (ciudad, universidad, persona, etc.), y por tanto una observación para el objeto \(i\) es un vector de \(p\) componentes:

\[x_i = \left(x_{i1},\ldots,x_{ij},\ldots,x_{ip}\right)^\prime,\]

donde \(x_{ij}\) es la observación de la variable \(j\) sobre el objeto \(i\).

Tabla de datos

Para \(n\) objetos, las observaciones se arreglan en una tabla de datos como la siguiente:

Media, Varianza y Correlación

\[ \begin{aligned} \bar{x}_j &= \frac{1}{n} \sum_{i=1}^{n} x_{ij} && \text{media de } X_j \\ s_j^2 &= \frac{1}{n} \sum_{i=1}^{n} (x_{ij}-\bar{x}_j)^2 && \text{varianza de } X_j \\ s_{jk} &= \frac{1}{n} \sum_{i=1}^{n} (x_{ij}-\bar{x}_j)(x_{ik}-\bar{x}_k) && \text{covarianza} \\ r_{jk} &= \frac{s_{jk}}{s_j s_k} && \text{correlación} \end{aligned} \]

Nótese que para el cálculo de la varianza se utilizó como denominador n, debido a que en datos multivariados se considera suficientemente grande como para que s² siga siendo un estimador insesgado de la varianza poblacional.

Tabla vs. Matriz

• Tabla: Para referirse a los datos con nombres en filas y columnas.
• Matriz: Para utilizar las propiedades algebraicas de la tabla.

\[X = \{x_{ij}\} = \begin{bmatrix} x_{11} & x_{12} & \cdots & x_{1p} \\ x_{21} & x_{22} & \cdots & x_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ x_{n1} & x_{n2} & \cdots & x_{np} \end{bmatrix}\]

Se asume que \(n \ge p\).

Columna de la tabla de datos

En esta matriz, la columna \(j\) representa las observaciones de la variable \(X_j\) sobre los \(n\) objetos y se denota como un vector columna:

\[X_{\cdot j} = \begin{bmatrix} x_{1j} \\ x_{2j} \\ \vdots \\ x_{nj} \end{bmatrix}, \quad j=1,\ldots,p\]

Fila de la tabla de datos

Análogamente, la fila \(i\), o el punto objeto \(i\), representa las observaciones de las \(p\) variables sobre el objeto \(i\) que se denota como un vector columna:

\[ x_{i \cdot} = (x_{i1}, \ldots, x_{ip})' = \begin{bmatrix} x_{i1} \\ x_{i2} \\ \vdots \\ x_{ip} \end{bmatrix}, \quad i=1,\ldots,n. \]

Vector de medias

El vector de medias contiene los promedios de cada una de las \(p\) variables:

\[\bar{x} = \begin{bmatrix} \bar{x}_1 \\ \bar{x}_2 \\ \vdots \\ \bar{x}_p \end{bmatrix}\]

Ejemplo: Ciudades Colombianas

library(pacman)
p_load(tidyverse, janitor, corrplot, gt)

url <- "https://github.com/jgbabativam/Curso_Multivariado/raw/main/Datos/"
ciudades <- read.csv2(paste0(url, "ciudades.csv"), sep=";") |> clean_names()

Fila de la tabla de datos

La fila 5 de la Tabla es la observación de las cinco variables para la ciudad de Cali (objeto 5):

\[x_{5}=(2169801, 0.08, 1.02, 0.22, 22)^\prime= \begin{bmatrix} 2168901 \\ 0.08 \\ 1.02 \\ 0.22 \\ 22 \end{bmatrix}\]

Columna de la tabla de datos

La variable \(X_4\) (Cobertura en educación superior) es la columna:

\[X_4= \begin{bmatrix} 0.27 \\ 0.31 \\ \vdots \\ 0.15 \\ 0.17 \end{bmatrix}\]

Vector de medias o centroide

Vector de medias o centroide

\[ \text{med}(X) = \bar{x}= \frac{1}{n} \mathbf{1_n}^\prime X = \begin{bmatrix} \bar{x}_1\\ \bar{x}_2\\ \vdots\\ \bar{x}_p \end{bmatrix}, \quad \text{donde} \quad \mathbf{1_n} = \begin{bmatrix} 1\\ 1\\ \vdots\\ 1 \end{bmatrix} \]

Ejemplo: Vector de medias

(med <- round(colMeans(ciudades[, 2:6]), 2))

                  num_hab             analfabetismo cobertura_pria_y_secdaria 
                888021.77                      0.12                      1.09 
         cobertura_ed_sup               rel_al_prof 
                     0.21                     23.27 

El vector de medias de las variables de la tabla de ciudades expresado como un vector es: \(\bar{x}^\prime = (888021.77, 0.12, 1.09, 0.21, 23.27)^\prime\):

Matriz de datos centrados

\[\tilde{X} = X - \mathbf{1}_n \, \bar{x}' = \begin{bmatrix} x_{11}-\bar{x}_1 & x_{12}-\bar{x}_2 & \cdots & x_{1p}-\bar{x}_p \\ x_{21}-\bar{x}_1 & x_{22}-\bar{x}_2 & \cdots & x_{2p}-\bar{x}_p \\ \vdots & \vdots & \ddots & \vdots \\ x_{n1}-\bar{x}_1 & x_{n2}-\bar{x}_2 & \cdots & x_{np}-\bar{x}_p \end{bmatrix}, \{\tilde{x}_{ij}\} = \{x_{ij} - \bar{x}_j\} \] Oberve que:

\[\operatorname{med}(\tilde{X}) = \frac{1}{n}\,\tilde{X}^{\prime}\mathbf{1}_n = \left( \frac{1}{n}X^{\prime}\mathbf{1}_n - \frac{1}{n}\bar{x}^{\prime}\mathbf{1}_n^{\prime}\mathbf{1}_n \right) = 0\]

Matriz de datos centrados

Se puede comprobar fácilmente que todas las variables tienen media cero:

Xtil <- ciudades |> 
        column_to_rownames("ciudades") |> 
        mutate(across(where(is.numeric), ~ . - mean(.)))

Matriz de covarianzas

La matriz de covarianzas se define a partir de la matriz de datos centrados \(\tilde{X}\):

\[ S = \frac{1}{n} \tilde{X}^\prime \tilde{X} = \left[ \begin{array}{cccc} s_1^2 & s_{12} & \cdots & s_{1p} \\ s_{21} & s_2^2 & \cdots & s_{2p} \\ \vdots & \vdots & \vdots & \vdots \\ s_{p1} & s_{p2} & \cdots & s_p^2 \end{array} \right], \quad s_j^2 = s_{jj} \]

Otras medidas de variabilidad multivariada

• Varianza generalizada: definida como el determinante de la matriz de covarianzas \(|S|\).

• Varianza total: definida como \(traza(S)\).

Estas medidas se pueden expresar en términos de los valores propios de \(S\), los cuales, como se verá más adelante, representan las varianzas de las componentes principales (factores).

Ejemplo: Matriz de covarianzas

A continuación se presenta la matriz de covarianzas calculada para las variables del conjunto de datos de ciudades:

(mat_cov <- round(var(ciudades[, 2:6]), 2))

Matriz de datos centrados y estandarizados

Contiene las observaciones centradas y estandarizadas: \(y_{ij} = \frac{x_{ij}- \bar{x}_j}{s_j}\)

\[ \tilde{Y} = \left\{\tilde{y}_{ij} \right\} = \left[ \begin{array}{cccc} \frac{x_{11}-\bar{x}_1}{s_1} & \frac{x_{12}-\bar{x}_2}{s_2} & \cdots &\frac{x_{1p}-\bar{x}_p}{s_p} \\ \frac{x_{21}-\bar{x}_1}{s_1} & \frac{x_{22}-\bar{x}_2}{s_2} & \cdots &\frac{x_{2p}-\bar{x}_p}{s_p}\\ \vdots & \vdots & \vdots & \vdots \\ \frac{x_{n1}-\bar{x}_1}{s_1} & \frac{x_{n2}-\bar{x}_2}{s_2} & \cdots& \frac{x_{np}-\bar{x}_p}{s_p} \end{array} \right] \]

De esta manera \(\bar{Y_j} = 0\) y \(Var(Y_j) = 1\).

Matriz de correlación

Es una matriz simétrica que contiene unos en la diagonal, correspondientes a las correlaciones de cada variable consigo misma y por fuera de la diagonal aparecen las correlaciones \(r_{ij}\) entre pares de variables. Se define como

\[R = D^{-1/2}\, S \, D^{-1/2}\]

Matriz de correlación

También se obtiene a partir de la matriz de datos centrados estandarizados así:

\[ R = \frac{1}{n} \tilde{Y}^\prime \tilde{Y} = \left[ \begin{array}{cccc} 1 & r_{12} & \cdots & r_{1p} \\ r_{21} & 1 & \cdots & r_{2p} \\ \vdots & \vdots & \vdots & \vdots \\ r_{p1} & r_{p2} & \cdots & 1 \end{array} \right], \quad r_{ij} = \frac{s_{ij}}{s_i s_j} \]

Matricialmente:

\[ R = D^{-1/2} S D^{-1/2} \] Nótese que la matriz de covarianzas de \(\tilde{Y}\) es también \(R\), puesto que

\[ S_{\tilde{Y}} = \frac{1}{n}\,\tilde{Y}^{\top}\tilde{Y} = \frac{1}{n}\,D^{-1/2}\tilde{X}^{\top}\tilde{X}\,D^{-1/2} = D^{-1/2} S D^{-1/2} = R. \]

Ejemplo: Matriz de correlación

Matriz de correlación entre las variables del archivo de ciudades:

(mat_cor <- round(cor(ciudades[, 2:6]), 2))

corrplot(mat_cor, method = "color",  type = "upper",  addCoef.col = "black", tl.col = "black", tl.srt = 45, col = colorRampPalette(c("#2c7bb6", "white", "#d7191c"))(200), diag = FALSE, number.cex = 0.8)

Varianza total

En particular, para las matrices de datos centrados y estandarizados se tiene

\[ S_{\tilde{Y}} = S_Y = R \]

donde \(R\) es la matriz de correlaciones.

Utilidad en Estadística Multivariada

Las combinaciones lineales son herramientas esenciales en el análisis de datos multivariados.

Un caso destacado son las Componentes Principales, las cuales:

Combinación lineal de los valores de una variable en \(n\) objetos

Sea \(X_{\cdot j}\) la j-ésima columna de la matriz de datos. Se define la combinación de los \(n\) valores de la variable \(j\) con constantes de ponderación \(a' = (a_1, \ldots, a_n)'\) por:

\[X^{\star}_j = a' X_{\cdot j} = \sum_{i=1}^{n} a_i x_{ij}, \qquad j = 1, \ldots, p.\]

Ejemplo: El promedio

En particular, el promedio de la variable \(j\) es una combinación lineal con constantes de ponderación \(p^\prime = (\frac{1}{n}, \ldots, \frac{1}{n})\):

\[ \bar{x}_j = p^\prime X_{\cdot j} = \sum_{i=1}^n \frac{1}{n} x_{ij}\]

Combinación lineal de \(p\) variables sobre un mismo objeto

Para el objeto \(i\) de la matriz de datos, cuyas observaciones están en la fila \(x_i^\prime = (x_{i1}, \ldots, x_{ip})^\prime\), se define la combinación lineal de los valores de las \(p\) variables con ponderaciones \(b^\prime = (b_1, \ldots, b_p)\) como:

\[ z_i = b^\prime x_{i \cdot} = \sum_{j=1}^p b_j x_{ij}, \quad i=1,\ldots,n\]

Ejemplo: Academic Rank of World Universities (ARWU)

Uno de los más exigentes rankings del mundo es el Academic Rank of World Universities (ARWU), que utiliza los siguientes seis criterios de actividad académica e investigativa (entre paréntesis las ponderaciones):

• Score on Alumni (\(X_1\)): Premios Nobel de exalumnos (10%).
• Score on Award (\(X_2\)): Premios Nobel de docentes de la universidad (20%).
• Score on HiCi (\(X_3\)): Artículos altamente citados en 21 categorías temáticas (20%).
• Score on N&S (\(X_4\)): Artículos publicados en las revistas Nature y Science (20%).
• Score on PUB (\(X_5\)): Artículos indexados en Science Citation Index-Expanded o Social Science Citation Index (20%).
• Score on PCP (\(X_6\)): Productividad per cápita de los docentes de la universidad (10%).

Puntajes de las universidades

library(pacman)
p_load(tidyverse, janitor)

url <- "https://github.com/jgbabativam/Curso_Multivariado/raw/main/Datos/"
arwu <- read.csv2(paste0(url, "ARWU_100_top.csv")) |> clean_names()

Cálculo del Puntaje Total

El puntaje del ranking es una combinación lineal de los puntajes obtenidos por una universidad, con ponderaciones

\[b^\prime = (0.1, 0.2, 0.2, 0.2, 0.2, 0.1)\] donde \(\sum_{j=1}^p b_j = 1\) y

\[y_i = \sum_{j=1}^p b_j x_{ij} = b^\prime x_{i \cdot}\]

Cálculo del Puntaje Total

Ejemplo: Ajuste del Ranking ARWU

Para la Universidad de Cambridge, el cálculo de la combinación lineal es:

\[ \begin{aligned} y_5 &= 0.1(88.5) + 0.2(92.6) + 0.2(53.9) + 0.2(54.3) + 0.2(65.7) + 0.1(53.1) \\ y_5 &= 67.46 \end{aligned} \]

Considerando que el valor máximo de referencia (Harvard) fue \(96.92\), el puntaje ajustado para Cambridge es:

\[67.46 / 0.9692 = 69.6\]

Combinación lineal que produce las componentes principales

Las componentes principales son combinaciones lineales de los valores de las variables. Para su construcción se utilizan ponderaciones \(v_1' = (v_{11}, \ldots, v_{p1})\), la primera componente para el objeto \(i\), cuyas observaciones para las \(p\) variables están en la \(i\)-ésima fila de \(Y\) (matriz de datos centrados y estandarizados), \(y_{i\cdot}\) tiene la forma:

\[z_{i1} = y_{i\cdot}' \, v_1= \sum_{j=1}^{p} v_{j1} \, y_{ij},\qquad i = 1, \ldots, n.\]

\(z_{i1}\) es un promedio ponderado de los valores de las variables observadas en el objeto \(i\).

• La primera componente para el objeto \(i\) es la proyección de los valores de las variables sobre el vector de ponderaciones \(v_1\).

En el siguiente capítulo se realiza la construcción formal de las componentes y sus ponderaciones.

Combinación lineal que produce las componentes principales

Como se verá en el siguiente capítulo, estas componentes tienen, entre otras, dos importantes propiedades:

Rango intercuartílico (IQR)

Definición (medida de dispersión) El rango intercuartílico es una medida robusta de dispersión definida por:

\[IQR = Q_{0.75} - Q_{0.25}\]

Construcción del rango para detectar atípicos A partir del IQR se define el intervalo:

\[\left( Q_{0.25} - 1.5 \cdot IQR, \quad Q_{0.75} + 1.5 \cdot IQR \right)\]

Una observación se considera atípica si cae por fuera de este rango.

Motivación: La Referencia Normal

Esta regla es coherente con la idea de concentración de probabilidad en la distribución normal \(N(\mu, \sigma^2)\). Aproximadamente:

• El 68% de las observaciones se encuentran en el intervalo \(\mu \pm \sigma\).
• El 95% de las observaciones se encuentran en el intervalo \(\mu \pm 2\sigma\).
• El 99% de las observaciones se encuentran en el intervalo \(\mu \pm 3\sigma\).

Ejemplo: Indicadores de Educación en Ciudades

library(pacman)
p_load(tidyverse, janitor, corrplot, gt)

url <- "https://github.com/jgbabativam/Curso_Multivariado/raw/main/Datos/"
ciudades <- read.csv2(paste0(url, "ciudades.csv"), sep=";") 

Detección de Ciudades Atípicas

Utilizando la regla del Rango Intercuartílico (\(IQR\)): \([Q_1 - 1.5IQR, Q_3 + 1.5IQR]\).

ciudades_atipicas <- ciudades

# Función para identificar atípicos y marcarlos
marcar_atipicos <- function(x) {
  q1 <- quantile(x, 0.25, na.rm = TRUE)
  q3 <- quantile(x, 0.75, na.rm = TRUE)
  iqr <- q3 - q1
  inf <- q1 - 1.5 * iqr
  sup <- q3 + 1.5 * iqr
  
  # Retornar el valor original como texto o "*" si es atípico
  ifelse(x < inf | x > sup, "*", as.character(round(x, 2)))
}

ciudades_atipicas[, 2:6] <- lapply(ciudades[, 2:6], marcar_atipicos)

Detección de Ciudades Atípicas

Datos atípicos en dos variables

Concepto de distancia

Intuitivamente, la distancia entre dos puntos A y B en una superficie plana es la longitud del espacio que hay entre ellos.

Si se desea ir de A hacia B, la distancia se puede medir en unidades físicas (como metros), lo que nos da una idea clara de qué tan lejos o cerca se encuentran el uno del otro.

Propiedades de una métrica

Esta idea de distancia se formaliza mediante las siguientes propiedades. Sean \(A\), \(B\) y \(C\) puntos en el espacio \(\mathbb{R}^2\) (o superior):

• No negatividad: La distancia siempre es mayor o igual a cero, \(d(A,B) \ge 0\).

  • Si los puntos coinciden, la distancia es cero: \(d(A,A)=0\).

• Simetría: La distancia de \(A\) a \(B\) es la misma que de \(B\) a \(A\): \[d(A,B) = d(B,A)\]

• Desigualdad triangular: Ir de \(A\) a \(B\) directamente es siempre más corto o igual que pasar por un tercer punto \(C\): \[d(A,B) \le d(A,C) + d(C,B)\]

Ejemplo: Valor Absoluto

Un ejemplo básico de estas métricas es el valor absoluto entre dos números \(a\) y \(b\).

La distancia se mide por la diferencia entre ellos. Para evitar la ambigüedad que produce el signo de la diferencia (\(a-b\) vs \(b-a\)), se utiliza el valor absoluto: \[|a-b|\] Este valor siempre es positivo y cumple con todas las propiedades de una métrica mencionadas anteriormente.

Distancia Euclidiana

Para dos filas (\(i\), \(i'\) con \(i \ne i'\)) de la matriz de datos \(\mathbf{X}\):

• \(\mathbf{x}_i = (x_{i1}, \dots, x_{ip})^\top\)
• \(\mathbf{x}_{i'} = (x_{i'1}, \dots, x_{i'p})^\top\)

La distancia euclidiana es la raíz cuadrada de la suma de las diferencias al cuadrado entre las coordenadas de cada variable:

\[d_e(\mathbf{x}_i, \mathbf{x}_{i'}) = \sqrt{(\mathbf{x}_i - \mathbf{x}_{i'})^\top (\mathbf{x}_i - \mathbf{x}_{i'})} = \sqrt{\sum_{j=1}^p (x_{ij} - x_{i'j})^2}\]

Distancia Euclidiana entre ciudades

El paquete distances permite calcular las distancias entre objetos:

library(pacman)
p_load(tidyverse, distances)

Xmat <- ciudades |> 
        column_to_rownames("CIUDADES") |> 
        mutate(ProPoblacional = Num.Hab / sum(Num.Hab)) |> 
        select(-Num.Hab)

distEuc <- distances(Xmat, id_variable = row.names(Xmat))

Distancia Euclidiana entre ciudades

Distancia de Mahalanobis

La Distancia de Mahalanobis es una medida de la distancia entre observaciones multivariadas que posee la propiedad de incluir tanto las distancias euclidianas entre las variables como el grado de correlación entre ellas.

Distancia de Mahalanobis entre observaciones

Asumiendo que hay \(n\) observaciones para dos variables \(X_1\) y \(X_2\):

\[ \begin{bmatrix} x_{11} & x_{12} \\ \vdots & \vdots \\ x_{i1} & x_{i2} \\ \vdots & \vdots \\ x_{i'1} & x_{i'2} \\ \vdots & \vdots \\ x_{n1} & x_{n2} \end{bmatrix} \]

Distancia de Mahalanobis entre observaciones

La distancia de Mahalanobis al cuadrado entre las observaciones \(i\) e \(i'\) se define como:

\[ d_M^2(i,i') = \frac{1}{(1-r_{12}^2)} \left[ \frac{(x_{i1}-x_{i'1})^2}{s_1^2} + \frac{(x_{i2}-x_{i'2})^2}{s_2^2} - 2r_{12}\frac{(x_{i1}-x_{i'1})(x_{i2}-x_{i'2})}{s_1s_2} \right] \]

Donde:

• \(\frac{(x_{i1}-x_{i'1})^2}{s_1^2}\) y \(\frac{(x_{i2}-x_{i'2})^2}{s_2^2}\) son las distancias euclidianas estandarizadas entre los dos puntos.
• \(r_{12}\) es el coeficiente de correlación entre \(X_1\) y \(X_2\).
• \(s_1\) y \(s_2\) son las desviaciones estándar de cada variable.

Interpretación de la distancia de Mahalanobis

La distancia de Mahalanobis ajusta la métrica de cercanía basándose en la estructura de covarianza de los datos. Su comportamiento depende críticamente del coeficiente de correlación \(r_{12}\):

Efecto de la Correlación en la Distancia de Mahalanobis

Elipses de distancia para tres niveles de correlación (\(r\)).

Distancia de Mahalanobis

• Distancia a la media multivariada La distancia de Mahalanobis de la observación \(i\) al centro de los datos se obtiene reemplazando \(x_{i^\prime}\) por el vector de medias: \[\bar{\mathbf{x}} = (\bar{x}_1, \bar{x}_2)\] Esto permite cuantificar la separación de cada individuo respecto a la estructura global de las variables.

Distancia de Mahalanobis

• Estimación de las varianzas Para cada variable se utiliza usualmente el estimador insesgado: \[s_j^2 = \frac{1}{n-1} \sum_{i=1}^n (x_{ij}-\bar{x}_j)^2, \qquad j=1,2\] En contextos poblacionales o para tamaños muestrales grandes puede emplearse el denominador \(n\), ya que la diferencia entre \(n\) y \(n-1\) resulta despreciable.

Caso particular: dos observaciones y dos variables

• Matriz de datos reducida Cuando solo se dispone de dos observaciones, la matriz de datos toma la forma: \[\begin{bmatrix} x_{11} & x_{12} \\ x_{21} & x_{22} \end{bmatrix}\]

• Varianzas como sumas de cuadrados Dado que \(n=2\), las varianzas se simplifican a: \[s_j^2 = \sum_{i=1}^2 (x_{ij}-\bar{x}_j)^2, \qquad j=1,2\]

Distancia de Mahalanobis: Análisis de Proximidad

En R se usa el mismo paquete distances agregando el argumento normalize = "mahalanobize"

distMah <- distances(Xmat, id_variable = row.names(Xmat), normalize = "mahalanobize")

Obteniendo:

TDE y Componentes Principales

Una matriz simétrica \(B_{p \times p}\) (como \(R\) o \(S\)) se puede reconstruir o factorizar a partir de sus valores y vectores propios:

\[B = U \Lambda U^\prime\]

Donde:

• \(U\) es una matriz ortogonal cuyas columnas son los vectores propios estandarizados de \(B\).
• \(\Lambda = \text{diag}\{\lambda_\alpha\}\) con \(\lambda_1 \ge \cdots \ge \lambda_p\) son los valores propios de \(B\) en orden descendente.

TDE y Componentes Principales

Casos particulares:

Caso 1: \(B = R\) (Matriz de correlación)

Es el caso más común. Se descompone como

\[R = U \Lambda U^\prime\]

La multiplicación de cada columna de \(U\) por cada fila de la matriz de datos centrada y estandarizada \(Y\) produce una componente principal.

TDE y Componentes Principales

Casos particulares:

Caso 2: \(B = S\) (Matriz de covarianzas)

Caso menos frecuente:

\[S = U \Lambda U^\prime,\]

donde \(U\) y \(\Lambda\) contienen los vectores y valores propios de \(S\) respectivamente.

Obtención de las Componentes Principales

Tomando la \(j\)-ésima columna de \(U\), denotada por \(u_j^\prime = (u_{1j}, \ldots, u_{pj})^\prime\), la \(j\)-ésima componente principal se obtiene mediante el producto matricial:

\[ Y u_j = \begin{bmatrix} \sum_{k=1}^{p} u_{kj} y_{1k} \\ \vdots \\ \sum_{k=1}^{p} u_{kj} y_{ik} \\ \vdots \\ \sum_{k=1}^{p} u_{kj} y_{nk} \end{bmatrix} = \begin{bmatrix} z_{1j} \\ \vdots \\ z_{ij} \\ \vdots \\ z_{nj} \end{bmatrix}, \quad j = 1, \ldots, p \]

Para \(j=1\), este resultado corresponde a la primera componente principal.

Ejemplo: Ranking ARWU

Aunque en la práctica no se justifica un Análisis de Componentes Principales (ACP) con solo dos variables ya que el coeficiente de correlación y una gráfica de dispersión bastan para representar las relaciones entre ellas, realizaremos un ACP de los rankings regional y mundial con el único objetivo de ilustrar cómo funcionan las componentes y el tipo de información que contienen.

Visualización de Rankings: Regional vs. Mundial

A continuación se presenta la distribución de las instituciones según su posición en los rankings:

library(pacman)
p_load(tidyverse, janitor, FactoMineR)

url <- "https://github.com/jgbabativam/Curso_Multivariado/raw/main/Datos/"
arwu <- read.csv2(paste0(url, "arwu.csv")) 

rownames(arwu) <- arwu$Institution

(g1 <- ggplot(arwu, aes(x = Regional.Rank, y = World.Rank, color = Country, label = Country)) +
  geom_text() +
  theme_bw() +
  labs(title = "Rankings ARWU",
       x = "Ranking Regional",
       y = "Ranking Mundial"))

ACP de los rankings ARWU

Biplot para los rankings regional y mundial. Permite visualizar la dirección de máxima varianza y cómo se agrupan los países en relación con estas nuevas dimensiones.

Ejemplo: Variables de Educación en Ciudades

Visualización de los datos originales comparando la relación alumnos/profesor frente a la tasa de analfabetismo por ciudad.

Ejemplo: Variables de Educación en Ciudades

Visualización de los datos originales comparando la relación alumnos/profesor frente a la tasa de analfabetismo por ciudad.

Componentes Principales

TDVS (1)

La descomposición en valores singulares es más general que el TDE, pues no requiere que la matriz sea simétrica, lo que garantiza que también la matriz de datos puede ser descompuesta.

El TDVS garantiza que una matriz \(C_{n \times p}\), con \(n \ge p\) y rango \(r\) (equivalentemente, con \(r\) columnas linealmente independientes, como la matriz de datos \(X\) o la estandarizada \(Y\)), se puede factorizar como:

\[C = U L V^\prime \tag{1}\]

TDVS (2)

Donde los componentes de la factorización \(C = ULV'\) son:

• \(U_{n \times r}\) y \(V_{p \times r}\) son matrices con columnas ortonormales: \(U^\prime U = V^\prime V = I_r\).
• \(L_{r \times r} = \mathrm{diag}(\sqrt{\lambda_1}, \ldots, \sqrt{\lambda_r})\), con \(\sqrt{\lambda_1} \ge \cdots \ge \sqrt{\lambda_r} > 0\).
• \(\sqrt{\lambda_j}\) son los valores singulares de \(C\).
• \(V_{p \times r} = (v_1, \ldots, v_r)\) contiene en sus columnas los vectores propios de \(C^\prime C\).
• \(U_{n \times r} = (u_1, \ldots, u_r)\) contiene en sus columnas los vectores propios de \(CC^\prime\).

La equivalencia con los valores propios no nulos de \(CC^\prime\) se establece tomando \[L = \mathrm{diag}(\sqrt{\mu_1}, \ldots, \sqrt{\mu_r}),\] donde \(\mu_\alpha\) es el \(\alpha\)-ésimo valor propio no nulo de \(CC^\prime\).

Reconstrucción a partir del TDVS

Reconstrucción de la matriz de puntajes del ranking ARWU mediante el TDVS

El ejercicio implica los siguientes pasos:

1. Lectura de los datos y construcción de la matriz \(C \in \mathbb{R}^{n \times p}\).
2. Cálculo de \(C'C\) y \(CC'\).
3. Valores y vectores propios de \(C'C\): obtener \(\lambda_\alpha\) y \(V\).
4. Selección de los valores propios estrictamente positivos; construir la submatriz \(V_r\).
5. Valores singulares: \(\sigma_\alpha = \sqrt{\lambda_\alpha}\); construir \(L = \mathrm{diag}(\sigma_1, \ldots, \sigma_r)\).
6. Cálculo de \(U = C V_r L^{-1}\), verificando que \(U'U = I_r\).
7. Reconstrucción: \(C = U L V_r'\).
8. Evaluación del error: \(\| C - U L V_r' \|_F \approx 0\).

Ejemplo: Reconstrucción SVD del ARWU

url <- "https://github.com/jgbabativam/Curso_Multivariado/raw/main/Datos/"
arwu_svd <- read.csv2(paste0(url, "ARWU_100_top.csv"))[, -c(2:6)]
rownames(arwu_svd) <- arwu_svd[, 1]
C <- as.matrix(arwu_svd[, -1])

# Descomposición SVD
svd_C <- svd(C)
U <- svd_C$u
L <- diag(svd_C$d)
V <- svd_C$v

# Reconstrucción completa y error
C_rec <- U %*% L %*% t(V)
error_total <- norm(C - C_rec, type = "F")

r_max <- ncol(C)
errores <- sapply(1:r_max, function(r) {
  C_r <- svd_C$u[, 1:r, drop = FALSE] %*%
         diag(svd_C$d[1:r], r, r) %*%
         t(svd_C$v[, 1:r, drop = FALSE])
  norm(C - C_r, type = "F")
})

Ejemplo: Reconstrucción SVD del ARWU

Laboratorio 1

Con los datos del ARWU_100_top.csv elaborar un diagrama de barras que muestre las primeras 20 universidades según World Rank, con barras de la altura del indicador de

• Grupo_1: número de premios Nobel o medallas Field obtenidos por sus docentes (Award)
  
• Grupo_2: número de premios Nobel o medallasFields obtenidos por sus egresados (Alumni)
  
• Grupo_3: número de investigadores altamente citados (HiCi)
  
• Grupo_4: número publicaciones en las revistas Science o Nature (N.S)
  
• Grupo_5: número de artículos altamente citados (PUB)
  
• Grupo_6: desempeño per cápita de su personal académico (PCP)

¿Hay universidades que se distinguen por el indicador que le correspondió al grupo?, ¿Cuáles?

Laboratorio 2

Utilizar los datos del archivo r14_Sci_Qs_Webometrics.csv para elaborar gráficos de dispersión de

• Grupo_1: del SC.Lac.Ranking con QS.Ranking
  
• Grupo_2: del SC.Lac.Ranking con SC.Ibe.Ranking
  
• Grupo_3: del SC.Lac.Ranking con WEB.Ranking.LA
  
• Grupo_4: del QS.Ranking con SC.Ibe.Ranking
  
• Grupo_5: del QS.Ranking con WEB.Ranking.LA
  
• Grupo_6: del QS.Ranking con WEB.Ranking.mundial

¿Hay inconsistencias en las posiciones de las universidades entre los rankings que se compararon?
Usar como referencia el ejemplo 2.4.2

Laboratorio 3

Con los datos del ARWU_100_top.csv elaborar una matriz de dispersión con

• Grupo_1: Los criterios del Scimago incluyendo el SC.Lac.Ranking
  
• Grupo_2: Los criterios del QS incluyendo el QS.Ranking
  
• Grupo_3: Los criterios del Scimago incluyendo el QS.Ranking
  
• Grupo_4: Los criterios del QS incluyendo el SC.Lac.Ranking
  
• Grupo_5: Los criterios del Scimago incluyendo el WEB.Ranking.LA
  
• Grupo_6: Los criterios del QS incluyendo el WEB.Ranking.LA

¿Se puede intuir algún tipo de asociación entre los criterios y el tipo de ranking que se incluyó en la matriz de dispersión? Usar como referencia la gráfica 2.10

Laboratorio 4

Con los datos del archivo datos_ciudades.xlsx elaborar diagramas de cajas (Boxplots) para visualizar si hay datos atípicos en las variables

• Grupo_1: Ciencia y Tecnología C&T
  
• Grupo_2: Infraestructura INFRA
  
• Grupo_3: Finanzas FIN
  
• Grupo_4: Gestión productividad GOB
  
• Grupo_5: Crecimiento FOR
  
• Grupo_6: Internacionalización INT

Laboratorio 5

Utilizar el archivo datos_ciudades.xlsx para calcular los cuantiles \(Q_{.25}\) y \(Q_{.75}\) para corroborar si hay observaciones atípicas en las variables del conjunto que le correspondió al grupo.

Laboratorio 6

Calcular la matriz de correlación entre las variables del conjunto que le correspondió al grupo en el ejercicio 5 y escoger las dos variables que tienen mayor correlación. Calcular la distancia euclidiana entre San Andrés y Riohacha con respecto a estas dos variables y luego calcular la distancia de Mahalanobis entre las mismas ciudades respecto a las mismas dos variables. Para el cálculo de la distancia de Mahalanobis utilizar la matriz de covarianzas de las dos variables con todas las ciudades.

1. ¿Son las dos distancias igual?

2. ¿A qué se puede atribuir la diferencia si la hay?

Laboratorio 7

Utilizar los datos del archivo datos_ciudades.xlsx y los mismos grupos de variables asignados en el ejercicio de datos atípicos, junto con la subtabla de indicadores de Recursos Humanos del mismo archivo de ciudades, para conformar una nueva tabla que contenga los dos conjuntos de variables.

1. Calcular el vector de medias de todas las variables del conjunto asignado al grupo.
2. Calcular la matriz de datos centrados \(\tilde{X}\).
3. Calcular la matriz de covarianzas a partir de la matriz de datos centrados: \(S = \frac{1}{n}\tilde{X}'\tilde{X}\).

Laboratorio 8

4. Calcular la matriz de covarianzas con el comando cov() de R. ¿Coincide con la obtenida en el punto 3? ¿Por qué?

5. Calcular la matriz \(Y\) de datos centrados estandarizados a partir del vector de medias y las desviaciones estándar del punto 1.

6. Calcular la matriz de correlación a partir de \(\frac{1}{n}Y'Y\). Calcular también la matriz de correlación con el comando cor() de R. ¿Coinciden? ¿Por qué?

Laboratorio 9

7. Calcular la matriz de covarianzas \(S\) e identificar las dos variables con mayor covarianza y las dos con menor covarianza.

8. Calcular la matriz de correlación \(R\) e identificar las dos variables con mayor correlación y las dos con menor correlación. ¿Son las mismas que las identificadas en el punto 7?

9. Calcular el producto \(\frac{1}{n}Y'Y\) y verificar que coincide exactamente con la matriz \(R\) obtenida en el punto 8. ¿Por qué?

Laboratorio 10

10. Comprobar que la matriz de covarianzas se obtiene con \(\frac{1}{n}\tilde{X}'\tilde{X}\).

11. Comprobar que la matriz de correlación se obtiene con \(\frac{1}{n}Y'Y\).

12. Construir una matriz de datos con los puntajes en los seis criterios del ranking ARWU para las universidades del grupo asignado y comprobar que con el TDVS se puede reconstruir.

Laboratorio complementario

Como preparación para el examen, se recomienda resolver el siguiente laboratorio:

Laboratorio