Seminários de Machine Learning, Geometria e Topologia

1ª Palestra:
Boas vindas e uma introdução ao aprendizado de máquina

Ministrante: Monica Maria Funk Drechsler
Doutoranda em Matemática — IME USP

Orientador: Marcos Alexandrino

O que é aprendizado de máquina?

  • Aprendizado supervisionado:

O modelo é treinado com dados rotulados, onde a resposta correta é fornecida para cada exemplo de entrada.

  • Aprendizado Não Supervisionado: O modelo é treinado com dados não rotulados, e ele procura encontrar padrões e estruturas por conta própria.

Clustering da MNIST - UMAP uniform manifold approximation and projection for dimension reduction

Imagens com 28\times 28 pixels.

  • Aprendizado por Reforço: O modelo aprende por tentativa e erro, recebendo recompensas ou penalidades por suas ações.

Aprendizado supervisionado com mais detalhes

Dados: \{x_i\}_{i=1}^N\subset \mathcal{X}, \{y_i\}_{i=1}^N\subset \mathcal{Y}.

  • \begin{aligned} X: \;&\Omega = \{1, \cdots, N\}\longrightarrow\mathcal{X} \\ \;\;i&\longmapsto x_i \end{aligned}

  • \begin{aligned} Y: \;&\Omega \longrightarrow\mathcal{Y} \\ \;\;i&\longmapsto y_i \end{aligned}

Funções modelo \rho_{\textbf{w}}: \mathcal{X}\to \mathcal{Y}, onde \textbf{w}\in\mathcal{W} e \mathcal{W} é o espaço de parâmetros.

  • \begin{aligned} Y_{\textbf W}: \;&\Omega \longrightarrow\mathcal{Y} \\ \;\;i&\longmapsto \rho_{\textbf w} \circ X(i) \end{aligned}

Divergência estatística \ell:\mathbb{M}\times \mathbb{M}\to \mathbb{R} onde \mathbb{M} é uma variedade estatística e uma função custo c:\mathcal{W}\mapsto\mathbb{R}

  • \displaystyle c(\textbf{w}) \;=\; \frac{1}{N}\sum_{i=1}^{N}\ell\big(Y(i),\; \rho_{\textbf{w}}\circ X(i)\big)

O nosso objetivo então se torna: encontrar o parâmetro \textbf{w}^* que minimiza a função c(\textbf{w}).

A nossa hipótese ideal então se torna: \rho_{\textbf{w}^*}.

Exemplos de funções modelo - aprendizado profundo

Definição de neurônio

\begin{aligned} n_{\textbf{w}}: \;&\mathbb{R}^{d_0}\longrightarrow\mathbb{R}^{d_1} \\ \;\;x_i&\longmapsto n_\textbf{w}(x_i)=\sigma\circ g_\textbf{w}(x_i) = \sigma\left( W x_i + b\right) \end{aligned}

onde

\sigma:\mathbb{R}^{d_1} \to \mathbb{R}^{d_1}: função de ativação (ReLU, sigmóide, sign), que age componente a componente;

g_\textbf{w}(x) = Wx+b: transformação afim, com W\in\mathbb{R}^{d_1\times d_0} a matriz de pesos e b\in\mathbb{R}^{d_1} o vetor de bias;

\textbf{w}=(W,b) é um elemento do espaço de parâmetros \mathcal{W}.

Funções de ativação

As mais usadas são:

  • Sign \begin{aligned} s(x) = \begin{cases} 1 &\text{se } x\ge 0 \\ -1 &\text{se } x<0 \end{cases} \end{aligned}
  • ReLU: \ \operatorname{ReLU}(x)=\max\{0,x\}
  • Sigmóide: \ \sigma_{\text{sig}}(x)=\dfrac{1}{1+e^{-x}}
  • Softmax: \ \sigma_{\text{soft}}(z)_i = \dfrac{e^{z_i}}{\sum_{c=1}^{C} e^{z_c}}

Neurônio em uma rede neural

Seja n_j^{(p-1)} o j-ésimo neurônio da camada p-1. Então o i-ésimo neurônio da camada p é dado por n_i^{(p)}=\sigma^{(p)}\left(\sum_{j=1}^{d_{p-1}}w_{ij}^{(p-1)}\,n_j^{(p-1)}+b_i^{(p-1)}\right).

Rede neural em termos matriciais. Sejam P\in\mathbb{N}, d_0,d_1,\dots,d_{P+1}\in\mathbb{N} e \sigma^{(l)}:\mathbb{R}^{d_l}\to\mathbb{R}^{d_l} funções de ativação. Uma função \phi_\textbf{w}:\mathbb{R}^{d_0}\to\mathbb{R}^{d_{P+1}} é chamada de rede neural de profundidade P se existem matrizes W^{(l)}\in\mathbb{R}^{d_{l+1}\times d_{l}} e vetores b^{(l)}\in\mathbb{R}^{d_{l+1}}, l=0,1,\dots,P, tais que

  • N^{(0)} = x   (entrada)
  • N^{(p)} = \sigma^{(p)}\big(W^{(p-1)} N^{(p-1)}+b^{(p-1)}\big) = \sigma^{(p)}\circ G^{(p)}\big(N^{(p-1)}\big), para 0<p<P+1
  • N^{(P+1)} = \sigma^{P+1}( W^{(P)} N^{(P)}+b^{(P)})   (saída)

e \phi_\textbf{w}(x)=N^{(P+1)}. Equivalentemente, \phi_\textbf{w}=\sigma^{P+1}\circ G^{(P+1)}\circ\sigma^{(P)}\circ G^{(P)}\circ\cdots\circ\sigma^{(1)}\circ G^{(1)},onde G^{(l)}(z)=W^{(l-1)}z+b^{(l-1)}.

Chamamos P de profundidade e \max_{l} d_l de largura; o vetor \textbf{w}=\big((W^{(0)},b^{(0)}),\dots,(W^{(P)},b^{(P)})\big) reúne todos os parâmetros.

E o que essas redes fazem?

Saída neurônio utilizando função de ativação ReLU

Saída da segunda camada

Compondo os dois neurônios acima com um terceiro, também ReLU:

A mesma construção com a sigmoide

Segunda camada com a sigmoide

Por que as redes funcionam tão bem?

Teorema da Aproximação Universal!

(Convergência compacta) Seja d\in\mathbb{N}. Uma sequência de funções f_n:\mathbb{R}^d\to \mathbb{R}, n\in \mathbb{N}, converge compactamente para f:\mathbb{R}^d\to \mathbb{R} se, para cada compacto K\subseteq \mathbb{R}^d, vale \lim_{n\to \infty} \sup _{x\in K}|f_n(x) - f(x)| =0. Neste caso escrevemos f_n\overset{cc}{\to} f.

(Aproximador universal) Seja d\in\mathbb{N}. Um conjunto de funções \mathcal{H} de \mathbb{R}^d para \mathbb{R} é um aproximador universal (de C^{0}(\mathbb{R}^d)) se, para todo \varepsilon>0, cada compacto K\subseteq \mathbb{R}^d e cada f\in C^0(\mathbb{R}^d), existe g\in\mathcal{H} tal que \sup_{x\in K}|f(x)-g(x)|<\varepsilon.

Lema Seja d\in \mathbb{N} e \mathcal{H} um conjunto de funções de \mathbb{R}^d para \mathbb{R}. Então \mathcal{H} é um aproximador universal de C^0 se, e somente se, C^0 (\mathbb{R}^d) \subseteq \overline{\mathcal{H}}^{cc}

(Teorema de Stone-Weierstrass) Seja d\in \mathbb{N}, seja K\subseteq\mathbb{R}^d compacto e seja \mathcal{H}\subseteq C^0(K,\mathbb{R}) satisfazendo que - para todo x\in K existe f\in\mathcal{H} tal que f(x)\ne 0, - para todo x\ne y existe f\in \mathcal{H} tal que f(x)\ne f(y), - \mathcal{H} é uma álgebra de funções, i.e., \mathcal{H} é fechada para adição, multiplicação e multiplicação por escalares.

Portanto, \mathcal{H} é denso em C^0(K).

(Espaço das redes neurais) Sejam d,\,m,\,L,\,n\in\mathbb{N} e \sigma:\mathbb{R}\to\mathbb{R}. O conjunto de todas as funções realizadas por redes neurais com entrada de dimensão d, saída de dimensão m, profundidade no máximo L, largura no máximo n e ativação \sigma é denotado por \mathcal{N}_d^m(\sigma;L,n) := \big\{\phi:\mathbb{R}^d\to \mathbb{R}^m \;\big|\; \phi \text{ rede neural},\ \operatorname{prof.}(\phi)\le L,\ \operatorname{larg.}(\phi)\le n \big\}. Ainda, \mathcal{N}^m_d(\sigma; L) = \bigcup_{n\in \mathbb{N}}\mathcal{N}_d^m(\sigma;L,n).

Teorema (Aproximação Universal — Leshno–Lin–Pinkus–Schocken; Petersen–Zech, Thm. 3.9) Sejam d\in \mathbb{N} e \sigma \in \mathcal{M}. Então \mathcal{N}_d^1(\sigma; 1) é um aproximador universal de C^0(\mathbb{R}^d) se e somente se \sigma não é um polinômio.

(Conjunto admissível de ativações) \mathcal{M} é o conjunto das funções \sigma\in L^\infty_{\mathrm{loc}}(\mathbb{R}) para as quais existe M\in\mathbb{N} finito e intervalos I_1,\dots,I_M particionando \mathbb{R} com \sigma\in C^0(I_j) para todo j=1,\dots,M.

Ideia da prova. A estratégia se resume às três reduções abaixo:

  1. Se C^0(\mathbb{R}^1)\subseteq \overline{\mathcal{N}^1_1(\sigma; 1)}^{cc} então C^0(\mathbb{R}^d)\subseteq \overline{\mathcal{N}_d^1(\sigma; 1)}^{cc}.

  2. Se \sigma \in C^{\infty}(\mathbb{R}) não é um polinômio, então C^0(\mathbb{R}^1)\subseteq\overline{\mathcal{N}_1^1(\sigma; 1)}^{cc}.

  3. Se \sigma \in \mathcal{M} não é um polinômio então existe \tilde\sigma\in C^{\infty}(\mathbb{R}) \cap \overline{\mathcal{N}_1^1(\sigma; 1)}^{cc} que não é polinomial.

  1. Se C^0(\mathbb{R}^1)\subseteq \overline{\mathcal{N}^1_1(\sigma; 1)}^{cc} então C^0(\mathbb{R}^d)\subseteq \overline{\mathcal{N}_d^1(\sigma; 1)}^{cc}.

Lema Assuma que \mathcal{H} é um aproximador universal de C^0(\mathbb{R}). Então, para cada d\in\mathbb{N} span \{x\to g(\textbf{w}\cdot x) \;|\; \textbf{w}\in \mathbb{R}^d, g\in \mathcal{H}\} é um aproximador universal de C^0(\mathbb{R}^d).

  1. Se \sigma \in C^{\infty}(\mathbb{R}) não é um polinômio, então C^0(\mathbb{R}^1)\subseteq\overline{\mathcal{N}_1^1(\sigma; 1)}^{cc}.

Lema Se \sigma \in C^\infty(\mathbb{R}) e \sigma não é polinomial, então \mathcal{N}^1_1(\sigma;1) é denso em C^0(\mathbb{R}).

  1. Se \sigma \in \mathcal{M} não é um polinômio então existe \tilde\sigma\in C^{\infty}(\mathbb{R}) \cap \overline{\mathcal{N}_1^1(\sigma; 1)}^{cc} que não é polinomial.

Lema Seja \sigma\in\mathcal{M}. Então, para cada \varphi\in C_{c}^\infty(\mathbb{R}) vale que \sigma * \varphi \in \overline{\mathcal{N}_1^1(\sigma;1)}^{cc}.

Lema Se \sigma \in \mathcal{M} e \sigma * \varphi é um polinômio para todo \varphi \in C_{c}^{\infty}(\mathbb{R}), então \sigma é um polinômio.

Como estas redes aprendem?

Dadas as amostras \{(x_i,y_i)\}_{i=1}^{N}, procuramos \textbf{w}^* \in \operatorname*{arg\,min}_{\textbf{w} \in \mathcal{W}} \; \frac{1}{N}\sum_{i=1}^{N} \ell\big(y_i, \phi_\textbf{w}(x_i)\big) \;=\; \operatorname*{arg\,min}_{\textbf{w} \in \mathcal{W}} c(\textbf{w}), onde \ell(\cdot,\cdot) mede a divergência entre a predição e o valor esperado.

Gradiente descendente

Para resolver \min_{\textbf{w}\in \mathcal{W}} c(\textbf{w}) seguimos a direção -\nabla c, iterando \textbf{w}_{k+1}=\textbf{w}_k - \alpha_k \nabla c(\textbf{w}_k), onde \alpha_k>0 é a taxa de aprendizado.

Uma superfície de custo em \mathbb{R}^2

O gradiente descendente em ação

Otimização Riemanniana

Seja f:\mathcal{W}\to \mathbb{R}, como descrever seu ponto de mínimo?

f:\mathcal{W}\to\mathbb{R} poderia, por exemplo, modelar o custo dos problemas vistos anteriormente.

Gradiente descendente Riemanniano

Dados um ponto \textbf{w}_0\in \mathcal{W} e uma retração R em \mathcal{W}, o algoritmo do gradiente descendente Riemanniano itera \textbf{w}_{k+1}=R_{\textbf{w}_k}\big(-\alpha_k \operatorname{grad} f(\textbf{w}_k)\big), onde \operatorname{grad} f(\textbf{w}_k)\in T_{\textbf{w}_k}\mathcal{W} é o gradiente Riemanniano.

O que é uma retração?

Uma retração em uma variedade \mathcal{W} é uma aplicação suave R:T\mathcal{W}\to\mathcal{W}, (\textbf{w},v)\mapsto R_\textbf{w}(v), tal que, para todo \textbf{w}\in\mathcal{W}:

  • R_\textbf{w}(0_\textbf{w})=\textbf{w}, onde 0_\textbf{w} é o elemento nulo de T_\textbf{w}\mathcal{W};
  • DR_\textbf{w}(0_\textbf{w})=\operatorname{id}_{T_\textbf{w}\mathcal{W}}.

Ou seja: R devolve um ponto da variedade e, em primeira ordem, se comporta como o passo linear que queríamos dar no espaço tangente. A exponencial Riemanniana é um exemplo.

Teorema (Convergência local). Seja \mathcal{W} uma variedade Riemanniana completa com uma retração R e seja f:\mathcal{W}\to \mathbb{R} suave. Seja w_*\in \mathcal{W} um ponto crítico de f, isto é, \operatorname{grad} f(w_*)=0. Suponha que todos os autovalores de \operatorname{Hess} f(w_*) sejam positivos, digamos 0 < \lambda_1\le \cdots \le \lambda_{\max}<L. Defina F:\mathcal{W}\to\mathcal{W} por F(w)=R_w\left(-\tfrac{1}{L} \operatorname{grad} f(w)\right). Então:

  • dF_{w_*}=\operatorname{Id}-\tfrac{1}{L}\operatorname{Hess} f(w_*);
  • existe uma vizinhança U de w_* tal que, para todo w_0\in U, a sequência w_{k+1}=F(w_k) converge para w_*.

Em outras palavras: o gradiente descendente Riemanniano converge para o mínimo local w_* desde que o ponto inicial w_0 esteja em U.

Criticalidade dos pontos de aderência

Hipótese 1 (limitação inferior). f é limitada inferiormente: existe f_{\text{low}}\in \mathbb{R} com f_{\text{low}}\le f(\textbf{w}) para todo \textbf{w} \in \mathcal{W}.

Hipótese 2 (regularidade). Dado S\subseteq T\mathcal{W}, existe L>0 tal que, para todo v\in S_\textbf{w}, f\big(R_{\textbf{w}}(v)\big)\le f(\textbf{w})+\big\langle \operatorname{grad} f(\textbf{w}),\, v\big\rangle+\frac{L}{2}\|v\|^2.

É a versão Riemanniana da condição de gradiente L-Lipschitz: garante que o modelo linear em T_\textbf{w}\mathcal{W} não subestima demais a função ao longo da retração.

Condição de Armijo–Goldstein f(\textbf{w})-f\big(R_\textbf{w}(-\alpha \operatorname{grad} f(\textbf{w}))\big) \;\ge\; r\,\alpha \,\|\operatorname{grad} f(\textbf{w})\|^2 para alguma constante r\in (0,1).

Algoritmo de Backtracking line-search

Pseudocodigo do algoritmo de backtracking line-search

Lema. Seja f suave na variedade Riemanniana \mathcal{W}. Fixe \textbf{w}\in \mathcal{W}, uma retração R_\textbf{w}, um passo inicial \bar{\alpha}>0 e constantes \tau, r \in (0,1). Suponha que a Hipótese 2 valha para f\circ R_\textbf{w}(s) com constante L, onde s=-\alpha\operatorname{grad} f(\textbf{w}), \alpha \in [0, \bar{\alpha}]. Então:

  • existe um primeiro N>0 tal que \alpha_N=\tau^{N-1}\bar{\alpha} satisfaz a condição de Armijo–Goldstein;
  • esse \alpha_N é limitado inferiormente por \min\left(\bar{\alpha},\, \dfrac{2\tau(1-r)}{L}\right).

Proposição (criticalidade dos pontos de aderência). Seja f suave satisfazendo a Hipótese 1 em uma variedade Riemanniana \mathcal{W}. Fixe \tau, r\in(0,1) e S\subseteq T\mathcal{W} onde a Hipótese 2 vale com a retração R. Suponha:

  • \{\textbf{w}_k\} é a sequência gerada pelo gradiente descendente Riemanniano;
  • as taxas \alpha_k são obtidas pelo backtracking line-search;
  • os passos iniciais satisfazem \displaystyle\liminf_{k\to \infty} \bar{\alpha}_k\ge \bar{\alpha}>0;
  • -t\operatorname{grad} f(\textbf{w}_k)\in S para todo t\in(0,\bar{\alpha}_k).

Então \displaystyle\lim_{k\to\infty}\|\operatorname{grad} f(\textbf{w}_k)\|=0.

Ideia da demonstração. Como a taxa de aprendizado satisfaz a condição de Armijo–Goldstein, f(\textbf{w}_k) - f\big(R_{\textbf{w}_k}(-\alpha_k \operatorname{grad} f(\textbf{w}_k))\big) \;\ge\; r\,\alpha_k\, \|\operatorname{grad} f(\textbf{w}_k)\|^2.

Mas os passos são limitados inferiormente: \alpha_k\ \ge\ \min\left(\bar{\alpha},\, \frac{2\tau(1-r)}{L}\right)=:d\ >\ 0 .

Logo, com c:=r\,d>0, f(\textbf{w}_k) - f(\textbf{w}_{k+1}) \;\ge\; c\,\|\operatorname{grad} f(\textbf{w}_k)\|^2 , isto é, \{\textbf{w}_k\} é suficientemente decrescente.

Suficientemente decrescente. A cada iteração o algoritmo apresenta decaimento suficiente: existe c>0 tal que, para todo k, f(\textbf{w}_k)-f(\textbf{w}_{k+1})\ \ge\ c\,\|\operatorname{grad} f(\textbf{w}_k)\|^2.

Lema. Seja f suave satisfazendo a Hipótese 1 em uma variedade Riemanniana \mathcal{W} e seja w_0, w_1, w_2,\dots a sequência de iterados de um algoritmo suficientemente decrescente com constante c. Então \lim_{k\to \infty}\|\operatorname{grad} f(w_k)\| =0.

Ou seja: todos os pontos de acumulação são críticos.

Otimização de segunda ordem

Algoritmos que utilizam a segunda derivada

Uma função modelo de segunda ordem seria m_\textbf{w}(s)= f(\textbf{w})+\big\langle\operatorname{grad} f(\textbf{w}),\,s\big\rangle +\tfrac{1}{2}\big\langle[\operatorname{Hess} f(\textbf{w})]s,\,s\big\rangle .

Algoritmo de Newton:

Pseudocodigo do metodo de Newton Riemanniano

O método de Newton apresenta dois problemas:

  • envolve a solução de um sistema linear de custo O(n^3) a cada iteração;
  • se o passo cair longe demais do ponto de expansão, a aproximação de Taylor perde validade.

Algoritmo do gradiente conjugado:

Pseudocodigo do metodo do gradiente conjugado

Algoritmo de regiões de confiança Pseudocodigo do metodo de regioes de confianca

Resultados obtidos ao utilizarmos otimização riemanniana em um problema de aprendizado de máquina

Grafico do erro final

Grafico da funcao de perda ao longo do treinamento

Referências bibliográficas

  • DRECHSLER, Monica. Uma introdução ao aprendizado profundo e à otimização Riemanniana. São Paulo: Instituto de Matemática, Estatística e Ciência da Computação, Universidade de São Paulo, 2025. Dissertação de Mestrado em Matemática.
  • BOUMAL, Nicolas. An introduction to optimization on smooth manifolds. Cambridge University Press, 2023.
  • SATO, Hiroyuki. Riemannian optimization and its applications. Springer, 2021.
  • PETERSEN, Philipp; ZECH, Jakob. Mathematical theory of deep learning. arXiv:2407.18384, v4 (jan. 2024).
  • YE, Jong Chul. Geometry of Deep Learning. Springer Singapore, 2022.
  • ABU-MOSTAFA, Yaser S.; MAGDON-ISMAIL, Malik; LIN, Hsuan-Tien. Learning from data. New York: AMLBook, 2012.
  • CALIN, Ovidiu. Deep learning architectures. New York City: Springer International Publishing, 2020.
  • WATT, Jeremy; BORHANI, Reza; KATSAGGELOS, Aggelos K. Machine learning refined: Foundations, algorithms, and applications. Cambridge University Press, 2020.
  • TOWNSEND, James; KOEP, Niklas; WEICHWALD, Sebastian. Pymanopt: a python toolbox for optimization on manifolds using automatic differentiation. Journal of Machine Learning Research 17.137 (2016), pp. 1-5. URL: http://jmlr.org/papers/v17/16-177.html.

Muito obrigada pela atenção

Email para contato: monicadrechsler@gmail.com