Representações e Modelos de Mundo: o Mapa da Série

Uma câmera entrega pixels. Um microfone entrega amostras de pressão. Um robô recebe posições articulares, forças, imagens e comandos. Nenhuma dessas medições vem acompanhada de uma etiqueta informando o que é permanente, o que é ruído, o que pode mudar e qual mudança depende de uma ação. Antes de prever o mundo, uma máquina precisa decidir o que conta como estado do mundo.

Essa decisão é o objeto desta série.

Começaremos por representações. Veremos como um encoder transforma observações em vetores, quais tarefas obrigam esses vetores a conservar informação e por que uma perda pequena pode esconder uma representação inútil. Depois chegaremos às JEPA, de Joint-Embedding Predictive Architectures (arquiteturas preditivas de embeddings conjuntos), que aprendem prevendo alvos no espaço de representação. Finalmente, usaremos essas representações como estados de modelos que renderizam observações, simulam dinâmica, imaginam futuros e sustentam planejamento.

Neste ponto da leitura a atenta leitora deve saber que eu, este pobre escriba, não sei qual é a melhor representação de mundo, nem sequer imagino onde essa pesquisa vai nos levar. Hoje, no começo da série, escolhi parar em JEPA. Mas, não escrevi isso em uma pedra.

O percurso contém vinte artigos, mas não é uma coleção de vinte respostas independentes. Cada artigo remove uma ambiguidade necessária para o seguinte. Este primeiro texto apresenta a arquitetura inteira, fixa o vocabulário e oferece um mapa vivo do que já pode ser lido.

1. Duas perguntas, uma série

A série será governada por duas perguntas encadeadas:

Que tarefa de pré-treinamento força uma rede a conservar a informação que será útil depois?

Que futuro o modelo precisa prever, sob quais ações e incertezas, para melhorar uma decisão?

A primeira pergunta pertence ao aprendizado de representação e pode ser facilmente definida:

Seja $x$ uma observação, como uma imagem, e seja $f_\theta$ um encoder com parâmetros $\theta$. Chamaremos de $z$ o vetor ou tensor que resume essa observação. A representação será

\[z=f_\theta(x),\]

na qual $z$ é um vetor ou tensor que resume $x$. A fórmula é curta porque esconde a escolha difícil. A leitora engenheira terá que escolher quais propriedades de $x$ devem permanecer acessíveis em $z$.

Modelar é sempre difícil.

Se o objetivo pedir reconstrução de pixels, detalhes locais serão valiosos. Se pedir concordância entre duas views da mesma cena, a representação será pressionada a ignorar transformações como aumentos da área de um objeto na cena. Se pedir previsão de uma região ausente, o contexto terá de carregar informação suficiente para antecipar o alvo.

A segunda pergunta requer mais atenção. O problema começa quando $z$ passa a representar um estado que evolui.

Vamos denotar por $z_t$ a representação no instante $t$, por $a_t$ a ação executada, por $F_\phi$ um modelo de dinâmica com parâmetros $\phi$ e por $\hat z_{t+1}$ a representação prevista para o próximo instante. Uma previsão mínima assumirá a forma

\[\hat{z}_{t+1}=F_\phi(z_t,a_t),\]

na qual $\hat{z}_{t+1}$ é o estado previsto para o próximo instante. Agora a qualidade de $z_t$ não pode ser medida apenas por reconstrução ou classificação. O estado precisa distinguir futuros que exigem ações diferentes. Se duas situações visualmente semelhantes levam a consequências incompatíveis, comprimi-las no mesmo ponto economiza memória enquanto destrói o planejamento. Há economias que custam caro. Esta, destrói o modelo.

As duas perguntas se encontram aqui: a tarefa de representação decide quais diferenças o modelo de mundo conseguirá prever.

Modelagem é sempre complexo.

1.1 Quando uma representação pode ser chamada de estado

A curiosa leitora deve lembrar que estamos tentando representar o mundo real, ou uma parte dele, neste mundo, existem agentes que interferem com o ambiente por meio de ações. Também deve considerar que, nesta série, usaremos o conceito de histórico para entender toda a sequência de informações acumuladas pelo agente até o instante ($t$): a observação inicial ($x_0$), as ações já executadas e as observações produzidas em seguida, até ($x_t$). Portanto, ($h_t$) descreve o percurso conhecido antes da escolha de ($a_t$), e não apenas a observação atual. Essa distinção é importante porque, em ambientes parcialmente observáveis, dois históricos que terminam no mesmo ($x_t$) podem levar a previsões diferentes sobre o que acontecerá depois.

Seja o histórico disponível no instante $t$

\[h_t=(x_0,a_0,x_1,a_1,\ldots,x_t)\]

e seja $z_t=f_\theta(h_t)$ a representação interna do histórico no instante $t$. A função $f_\theta$)$, parametrizada por $\theta$, recebe toda a sequência $h_t$ e a transforma em um vetor $z_t$, normalmente mais compacto. Esse vetor deve resumir as informações do passado que são relevantes para prever o próximo resultado após a ação $a_t$. Denotaremos por $r_t$ a recompensa ou o custo observado depois dessa ação e por $p(\cdot\mid\cdot)$ uma distribuição condicional. Se conseguir preservar ambos, $z_t$ pode ser tratado como um estado preditivo, mesmo sem reconstruir todos os detalhes do histórico. Para $z_t$ funcionar como estado preditivo, queremos que o histórico deixe de acrescentar informação relevante sobre o próximo resultado depois de conhecidos $z_t$ e $a_t$:

\[p(x_{t+1},r_t\mid h_t,a_t) =p(x_{t+1},r_t\mid z_t,a_t).\]

Aqui $r_t$ é uma recompensa ou custo observado após a ação. A igualdade é uma condição de suficiência preditiva. Ela não exige que $z_t$ reconstrua cada detalhe do passado; exige que preserve tudo o que altera a distribuição do próximo dado relevante. Releia esse parágrafo. Ele é muito importante.

Considere uma bola movendo-se em uma linha com posição $p_t$ e velocidade $v_t$. Se a dinâmica for

\[p_{t+1}=p_t+v_t, \qquad v_{t+1}=v_t+a_t,\]

usar somente $z_t=p_t$ não basta. Dois históricos podem terminar na mesma posição, um com $v_t=1$ e outro com $v_t=-1$, e produzir posições seguintes diferentes sob a mesma ação. Por exemplo, fixe a posição atual em $p_t=5$ e aplique a mesma ação $a_t=0$ nos dois casos. Se a velocidade for $v_t=1$, então

\[p_{t+1}=5+1=6, \qquad v_{t+1}=1+0=1.\]

Se, porém, a velocidade for $v_t=-1$, teremos

\[p_{t+1}=5+(-1)=4, \qquad v_{t+1}=-1+0=-1.\]

Assim, a representação $z_t=p_t$ atribui o mesmo estado, $z_t=5$, às duas situações, embora elas produzam posições seguintes distintas:

\[(z_t=5,a_t=0)\longrightarrow \begin{cases} p_{t+1}=6, & \text{se } v_t=1,\\ p_{t+1}=4, & \text{se } v_t=-1. \end{cases}\]

Ao incluir a velocidade, a ambiguidade desaparece, pois os dois estados passam a ser distintos:

\[\bigl((p_t,v_t)=(5,1),a_t=0\bigr)\longrightarrow (p_{t+1},v_{t+1})=(6,1),\] \[\bigl((p_t,v_t)=(5,-1),a_t=0\bigr)\longrightarrow (p_{t+1},v_{t+1})=(4,-1).\]

O par $z_t=(p_t,v_t)$ foi suficiente para essa dinâmica determinística. A dimensão cresceu, mas a ambiguidade preditiva diminuiu.

Há ainda uma noção orientada à decisão.

Dois estados podem ser agrupados se produzirem as mesmas recompensas imediatas e as mesmas distribuições sobre grupos futuros para todas as ações.

Essa ideia está por trás das abstrações por bissimulação. Intuitivamente, dois estados podem receber a mesma representação quando, para toda ação disponível, produzem a mesma recompensa ou custo imediato e levam às mesmas possibilidades futuras, com as mesmas probabilidades. Nesse caso, as diferenças entre eles não alteram o retorno esperado nem a escolha da melhor ação e, portanto, podem ser descartadas. Em contrapartida, se alguma ação produz recompensas distintas ou conduz a futuros relevantes diferentes, reunir os dois estados na mesma representação esconderia uma informação capaz de mudar o valor da decisão. A bissimulação define a equivalência entre estados por suas consequências para a previsão e o controle, e não por sua aparência ou descrição superficial.

1.2 Exercícios de lápis e papel

Considere novamente a dinâmica

\[p_{t+1}=p_t+v_t, \qquad v_{t+1}=v_t+a_t.\]

1. Para a bola da Seção 1.1, calcule $(p_{t+1},v_{t+1})$ quando $(p_t,v_t)=(3,-1)$ e $a_t=2$.

Solução: Substituindo $(p_t,v_t)=(3,-1)$ e $a_t=2$ nas equações da dinâmica, obtemos

\[p_{t+1}=3+(-1)=2, \qquad v_{t+1}=-1+2=1.\]

Portanto,

\[(p_{t+1},v_{t+1})=(2,1).\]

2. Construa dois estados com a mesma posição, mas com velocidades diferentes, que produzam próximos estados distintos quando $a_t=0$.

Solução: Considere os estados

\[(p_t,v_t)=(5,1) \qquad\text{e}\qquad (p_t,v_t)=(5,-1).\]

Ambos têm a mesma posição, mas, para $a_t=0$, produzem

\[(5,1)\longrightarrow(6,1)\]

e

\[(5,-1)\longrightarrow(4,-1).\]

A posição isolada não distingue essas situações e, por isso, não é suficiente para prever o próximo estado.

3. Explique por que incluir todo o histórico $h_t$ em $z_t$ evita a perda de informação, mas pode produzir uma representação computacionalmente inadequada.

Solução: Se definirmos $z_t=h_t$, nenhuma informação observada até o instante $t$ será descartada. Entretanto, o tamanho do histórico cresce com o tempo, aumentando os custos de memória e de processamento. Além disso, o histórico pode conter informações repetidas, ruído e detalhes irrelevantes para a previsão. Uma representação mais útil procura comprimir o histórico, preservando apenas o que pode alterar as transições, as recompensas ou o valor das ações.

4. Dê um exemplo de detalhe visual que possa ser descartado em um jogo sem alterar suas transições nem suas recompensas.

Solução: Em um jogo, a textura de uma parede ao fundo ou a cor de uma nuvem decorativa pode ser descartada, desde que esse elemento não participe de colisões, não altere o movimento dos personagens e não afete a pontuação. Embora modifique a imagem observada, esse detalhe não muda a dinâmica nem a recompensa.

5. Dê um exemplo de detalhe visual que não possa ser descartado em um problema de direção autônoma porque altera a ação segura.

Solução: A cor de um semáforo não pode ser descartada em um sistema de direção autônoma. Diante da mesma geometria de uma interseção, um sinal verde pode permitir que o veículo prossiga, enquanto um sinal vermelho exige que ele pare. Como esse detalhe visual altera a ação segura, a representação deve preservá-lo.

2. Representação não é modelo de mundo

Na Seção 1, construímos uma representação capaz de separar dois movimentos que terminavam na mesma posição. A tentação seguinte é chamar essa representação de modelo de mundo. Resista um pouco. Um estado bem escolhido é necessário para prever consequências, mas não realiza, por si só, a previsão, não compara ações e não produz a observação que um sensor receberia.

Precisamos, portanto, distinguir três objetos. Chamaremos de observação aquilo que o agente mede. Tais como pixels, pressão sonora ou posição de uma articulação. Chamaremos de estado físico, denotado por $s_t$, a configuração do ambiente que determina sua evolução no modelo considerado. Finalmente, chamaremos de representação interna, denotada por $z_t$, o resumo que o agente constrói a partir do histórico disponível.

Esses objetos podem coincidir em um problema simples. Não conte com isso. É raro, quase apenas didático.

Uma câmera não mostra o carro escondido atrás de um caminhão. Uma imagem isolada não informa diretamente a velocidade de uma bola. Um bom embedding visual pode separar automóveis de bicicletas e continuar incapaz de prever qual deles atravessará primeiro um cruzamento. Até uma representação semanticamente excelente pode não possuir dinâmica condicionada por ações, função de custo ou mecanismo de busca.

Representação é a matéria-prima de um modelo de mundo, não o modelo de mundo inteiro.

Para localizar as peças que ainda faltam, separaremos três papéis funcionais: produzir observações, fazer o estado avançar e comparar futuros. Um mesmo sistema neural pode desempenhar os três, com uma mão amarrada nas costas. Porém, misturá-los na linguagem nos impediria de descobrir qual peça falhou.

O primeiro papel pertence ao renderer, o renderizador. Ele responde à pergunta: como este estado apareceria para o sensor?. Se $R_\psi$ for um modelo de observação com parâmetros $\psi$, chamaremos de $\hat x_t$ a medição que ele prevê a partir do estado representado por $z_t$. Escreveremos

\[\hat{x}_{t}=R_\psi(z_t),\]

na qual $\hat{x}_t$ é a imagem, o áudio ou outra medição produzida a partir do estado representado por $z_t$. Um renderer pode transformar a posição tridimensional de um carro em uma imagem de câmera. Ele não precisa saber qual aceleração o carro terá no instante seguinte.

O segundo papel pertence ao simulador. Ele recebe um estado e uma ação e responde: o que mudaria se fizéssemos isto?. Com o modelo de dinâmica $F_\phi$ da Seção 1, a transição será

\[\hat{z}_{t+1}=F_\phi(z_t,a_t).\]

O simulador pode trabalhar com pixels, vetores latentes, objetos, grafos, campos tridimensionais ou distribuições de crença.

A escolha do portador não é cosmética.

Se $z_t$ não separar a bola que se move para a direita daquela que se move para a esquerda, nenhuma sofisticação posterior de $F_\phi$ recuperará a velocidade descartada.

As duas bolas ocupam a mesma posição no instante $t$, porém têm velocidades opostas:

\[(x_t,+v) \neq (x_t,-v).\]

Se $z_t$ representar ambas da mesma maneira, ele conserva $x_t$, mas perde o sinal da velocidade, isto é, a direção do movimento. Por isso, $F_\phi$ não consegue determinar se a próxima posição será $x_t+v\Delta t$ ou $x_t-v\Delta t$.

O terceiro papel pertence ao planejador. Ele consulta o simulador para comparar sequências de ações. Seja $H$ o número de passos considerados, seja $C(z,a)$ o custo de executar a ação $a$ no estado $z$ e seja $\mathbf{a}_{t:t+H-1}$ uma sequência candidata. O planejador procura

\[\mathbf{a}_{t:t+H-1}^\star = \underset{\mathbf{a}_{t:t+H-1}}{\operatorname{arg\,min}} \; \mathbb{E} \left[ \sum_{k=0}^{H-1} C(z_{t+k},a_{t+k}) \right],\]

na qual $\mathbf{a}_{t:t+H-1}^\star$ é a sequência de menor custo esperado. A esperança $\mathbb{E}$ indica que o mesmo estado e a mesma ação podem levar a futuros diferentes.

Ou em bom português, procuramos a sequência de ações, do instante $t$ ao instante $t+H-1$, que produz o menor custo acumulado esperado ao longo dos $H$ passos considerados. A esperança $\mathbb{E}$ indica que comparamos esse custo levando em conta a incerteza sobre os estados futuros previstos pelo simulador.

Depois da comparação, o agente normalmente executa apenas a primeira ação, observa o que realmente aconteceu e planeja outra vez.

Suponha que três sequências recebam custos previstos $7$, $3$ e $5$. O simulador previu o futuro correspondente a cada sequência, e o planejador escolheu a segunda porque $3<5<7$. Se algum dos futuros usados nessa comparação estiver errado, a falha pertence ao estado ou ao simulador. Se os futuros estiverem corretos, mas a função de custo premiar uma colisão, a falha pertence ao objetivo. A conta pode ser pequena. A separação de responsabilidades não é.

Prever um futuro não é escolhê-lo. Escolher um futuro não é renderizá-lo.

A Figura 1 reúne essas interfaces sem apagar suas fronteiras. A representação $z_t$ serve de entrada comum, mas cada componente assume um contrato próprio: o renderizador produz uma observação, o simulador produz futuros condicionados por ações e o planejador compara esses futuros antes de agir. No exemplo numérico, o simulador não escolhe aleatoriamente a segunda sequência; ele apenas prevê os três futuros. A escolha aparece somente quando o planejador compara $7$, $3$ e $5$.

Figura 1: A mesma representação alimenta contratos diferentes. O renderizador produz observações; o simulador produz futuros condicionados pelas ações; e o planejador compara seus custos, escolhe o segundo futuro e executa somente a primeira ação da sequência escolhida.

Um único sistema pode cumprir todos esses papéis. Nossa taxonomia não pretende repartir burocraticamente o mundo; ela existe para que, diante de uma decisão ruim, saibamos onde procurar o erro. Além disso, não suporto burocracia.

2.1 Parcial observabilidade e estado de crença

Vamos voltar ao carro escondido atrás do caminhão.

A câmera não permite afirmar com certeza onde ele está, mas o desaparecimento da imagem também não apaga o carro do mundo. O agente precisa representar possibilidades e atualizar o peso de cada uma destas possibilidades quando uma nova observação chegar.

Essa é a situação de um POMDP, de partially observable Markov decision process (processo de decisão de Markov parcialmente observável). O estado físico $s_t$ existe, mas não é observado diretamente. A solução probabilística clássica mantém uma distribuição de crença. Chamaremos de $b_t(s)$ a probabilidade atribuída ao estado $s$ depois do histórico $h_t$:

\[b_t(s)=P(s_t=s\mid h_t).\]

Aqui, $b_t(s)$ é a probabilidade atribuída ao estado $s$ depois de todo o histórico $h_t$. A crença não escolhe prematuramente uma única explicação; ela carrega a incerteza que os sensores deixaram aberta.

Depois de executar $a_t$ e receber a observação $x_{t+1}$, o agente atualiza a crença em duas etapas, previsão e correção. Usaremos $s$ para um estado anterior e $s’$ para um estado candidato no instante seguinte; $P(s’\mid s,a_t)$ representará a dinâmica e $P(x_{t+1}\mid s’,a_t)$ a probabilidade da nova observação nesse candidato:

\[b_{t+1}(s') \propto P(x_{t+1}\mid s',a_t) \sum_sP(s'\mid s,a_t)b_t(s).\]

O somatório transporta cada estado anterior $s$ pela dinâmica $P(s’\mid s,a_t)$ e produz uma crença prevista sobre o próximo estado $s’$. O fator $P(x_{t+1}\mid s’,a_t)$ aumenta o peso dos estados capazes de explicar a nova observação. O símbolo $\propto$ informa que ainda falta dividir todos os pesos pela soma total para que voltem a somar $1$.

A fórmula parece solene, quase dogmática. Duas caixas e uma moeda bastam para desmontá-la.

A atualização que faremos é uma aplicação do teorema de Bayes. Quando recebemos uma evidência $E$, ele atualiza a probabilidade de cada hipótese $H_i$ por meio de

\[P(H_i\mid E) = \frac{P(E\mid H_i)P(H_i)} {\sum_j P(E\mid H_j)P(H_j)}.\]

A probabilidade $P(H_i)$ representa aquilo em que acreditávamos antes da nova evidência e, por isso, recebe o nome de probabilidade a priori. A verossimilhança $P(E\mid H_i)$ mede a probabilidade de observarmos $E$ caso $H_i$ seja verdadeira. O denominador soma os pesos de todas as hipóteses possíveis e normaliza o resultado. A probabilidade obtida depois da atualização, $P(H_i\mid E)$, é chamada de probabilidade posterior. Na literatura sobre POMDPs, encontraremos esse procedimento pelos nomes teorema de Bayes, inferência bayesiana e atualização da distribuição de crença. Nesta série, vou usar qualquer um destes termos de forma livre, mas vou tentar dar prioridade para atualização da distribuição de crença. Não me culpe se eu não conseguir.

Vamos voltar as caixas e a moeda.

Considere duas caixas fechadas, esquerda e direita, e uma moeda escondida em uma delas. Antes de qualquer observação, atribuímos a mesma probabilidade às duas hipóteses:

\[b_t=\left(\frac{1}{2},\frac{1}{2}\right).\]

Um sensor informa em qual caixa acredita que a moeda esteja e acerta em $80\%$ dos casos. Assumiremos que seus erros são simétricos: se a moeda estiver à esquerda, ele relata esquerda com probabilidade $0{,}8$; se estiver à direita, relata esquerda por engano com probabilidade $0{,}2$.

Quando o sensor relata esquerda, o teorema de Bayes produz

\[P(\text{moeda à esquerda}\mid\text{relato esquerda}) = \frac{0{,}8\cdot0{,}5} {0{,}8\cdot0{,}5+0{,}2\cdot0{,}5} = 0{,}8.\]

O produto $0{,}8\cdot0{,}5=0{,}4$ é o peso da hipótese de que a moeda esteja à esquerda e o sensor relate esquerda. A hipótese concorrente, moeda à direita com um relato incorreto de esquerda, recebe o peso $0{,}2\cdot0{,}5=0{,}1$.

O denominador soma essas duas maneiras de obter o mesmo relato:

\[0{,}4+0{,}1=0{,}5.\]

Dividimos cada peso por essa soma para que as probabilidades atualizadas voltem a somar $1$. Afinal a soma de todas as probabilidades é $1$. Assim, a nova distribuição de crença é

\[b_{t+1} = \left( \frac{0{,}4}{0{,}5}, \frac{0{,}1}{0{,}5} \right) = (0{,}8,0{,}2).\]

O sensor não revelou em qual caixa a moeda está. Ele forneceu uma evidência que transformou uma dúvida de $50\%$ em uma confiança de $80\%$ na hipótese da caixa esquerda.

Em um POMDP conhecido, a crença completa funciona como estado suficiente: conhecidos $b_t$ e $a_t$, o histórico anterior não precisa ser consultado novamente para atualizar a distribuição.

Em redes neurais, a representação interna, $z_t$, costuma ser uma aproximação aprendida e comprimida dessa crença. Neste caso, $z_t$ é um estado latente, isto é, um vetor aprendido que comprime a crença do agente sobre a situação atual do ambiente. Ele não precisa armazenar explicitamente toda a distribuição de probabilidades, mas deve preservar as informações necessárias para prever resultados e orientar decisões.

Se o modelo retornar apenas um ponto, poderá esconder alternativas plausíveis e oferecer uma certeza que a evidência não sustenta.

Quando o mundo permanece ambíguo, um bom estado também representa a ambiguidade.

2.2 De identificação de sistemas a modelos de mundo neurais

Modelos de mundo não começaram com geradores de vídeo. Engenheiros de controle já tentavam identificar a dinâmica de sistemas a partir de entradas e saídas muito antes de uma rede neural produzir uma imagem convincente. A pergunta que queriam responder era meramente operacional: se aplicarmos esta entrada agora, qual saída aparecerá depois?

No começo da década de 1990, Schmidhuber descreveu sistemas recorrentes que aprendiam a prever entradas sensoriais futuras a partir de observações e ações e usou explicitamente a expressão world model. No mesmo período, o Dyna, de Sutton, integrou experiência real, aprendizado de um modelo e planejamento no mesmo laço. O agente agia no ambiente, atualizava seu modelo com a experiência obtida e também aprendia com transições simuladas pelo próprio modelo.

Em 2018, Ha e Schmidhuber popularizaram uma composição que hoje parece familiar. Um modelo visual comprime cada observação em um vetor latente; uma dinâmica recorrente prevê como esse vetor mudará depois de cada ação; e um controlador, o módulo responsável por escolher ações, aprende interagindo com as trajetórias assim produzidas. Os autores chamaram essas simulações internas de sonhos porque nelas o agente deixa de receber observações do ambiente real e passa a agir dentro de um ambiente gerado pelo próprio modelo. A metáfora tornou a proposta memorável, mas o mecanismo continuava sendo concreto: prever consequências para aprender quais ações escolher.

Essa genealogia evita dois erros. O primeiro é tratar world model como sinônimo recente de gerador de vídeo. Muito comum nas redes sociais. O segundo é esquecer ações. Um modelo que prevê a próxima observação sem receber a intervenção pode ser excelente para previsão passiva e ainda não responder ao contrafactual que interessa ao planejamento: o que aconteceria se eu fizesse outra coisa?.

A pergunta histórica permaneceu estável: como usar um modelo aprendido das consequências para escolher o que fazer?

2.3 Exercícios de lápis e papel

1. No exemplo das caixas, que vimos acima, calcule a crença posterior se o sensor reportar direita.

Solução: Por simetria, o relato direita recebe peso $0{,}8\cdot0{,}5=0{,}4$ quando a moeda está à direita e peso $0{,}2\cdot0{,}5=0{,}1$ quando ela está à esquerda. Depois da normalização,

\[b_{t+1} =\left(\frac{0{,}1}{0{,}5},\frac{0{,}4}{0{,}5}\right) =(0{,}2,0{,}8).\]

2. Repita a atualização para um sensor com acerto de $60\%$ que relata esquerda.

Solução: O peso da hipótese esquerda será $0{,}6\cdot0{,}5=0{,}3$ e o da hipótese direita será $0{,}4\cdot0{,}5=0{,}2$. Como a soma vale $0{,}5$,

\[b_{t+1} =\left(\frac{0{,}3}{0{,}5},\frac{0{,}2}{0{,}5}\right) =(0{,}6,0{,}4).\]

Um sensor menos confiável move menos a crença.

3. Normalize o vetor não normalizado $(0{,}12,0{,}48)$.

Solução: A soma dos pesos é $0{,}12+0{,}48=0{,}60$. Dividindo cada componente por $0{,}60$,

\[\left(\frac{0{,}12}{0{,}60},\frac{0{,}48}{0{,}60}\right) =(0{,}2,0{,}8).\]

4. Classifique a operação de transformar um estado tridimensional em uma imagem de câmera.

Solução: A operação pertence ao renderer. Ela produz a observação que um sensor receberia a partir de um estado, sem precisar avançar a dinâmica nem comparar ações.

5. Classifique a operação de comparar cem sequências de ações pela soma de seus custos previstos.

Solução: A operação pertence ao planejador. O simulador pode produzir os cem futuros, mas é o planejador que compara seus custos e escolhe uma sequência.

3. O mapa vivo da série

Vinte artigos podem formar uma sequência de aprendizagem, uma parede de títulos ou uma dor de cabeça. Depende se você está estudando, se mostrando, ou defendendo uma tese. O mapa abaixo existe para produzir o primeiro objetivo. Aprender. Cada cartão informa qual pergunta o artigo responde, de quais conceitos depende e qual artefato deverá tornar a ideia manipulável.

Se tudo correr bem, o mapa precisa mostrar simultaneamente o que planejamos, o que já publicamos e o que a leitora pode estudar agora. Eu vou construir a série enquanto estudo, então este será meu ritmo, documentado.

Escolha um arco, filtre os textos publicados e selecione qualquer cartão. O painel de explicação mostrará a responsabilidade editorial do artigo, suas dependências e o laboratório previsto. Quando o texto estiver disponível, o próprio cartão abrirá a leitura.

4. Primeiro arco: aprender representações

Os Artigos 2 a 8 investigarão tarefas de pré-treinamento. O objeto comum não será uma arquitetura específica, mas a pressão exercida pela função de perda. Uma rede conserva aquilo que a ajuda a reduzir o erro que recebeu; ela não adivinha, por cortesia, qual informação desejaremos seis meses depois.

Que informação cada tarefa recompensa, e qual informação ela permite desaparecer?

Essa pergunta acompanhará reconstrução, geração, contraste, autodestilação e mascaramento. O primeiro arco não escolherá uma vencedora universal. Ele nos ensinará a ler o contrato escondido em cada objetivo.

4.1 Reconstruir e gerar

Começaremos pela tarefa mais direta: comprimir uma observação e tentar produzi-la novamente. No Artigo 2, Autoencoders: o Gargalo, a Reconstrução e o Latente, um encoder $f_\theta$ transforma $x$ na representação $z=f_\theta(x)$, e um decoder $g_\varphi$ produz a reconstrução $\hat x$:

\[\hat{x}=g_\varphi(f_\theta(x)).\]

Aqui, $\hat{x}$ é a reconstrução e os parâmetros $\theta$ e $\varphi$ pertencem às duas redes. O gargalo limita a informação que atravessa $z$ e dificulta a cópia trivial. A dificuldade editorial e matemática será descobrir o que essa limitação realmente preserva. No caso linear, examinaremos a relação cuidadosa com PCA, de principal component analysis (análise de componentes principais); depois, os denoising autoencoders mostrarão por que corromper a entrada pode obrigar o modelo a aprender regularidades mais estáveis.

Esse artigo também estabelece o novo padrão de aplicação da série. A teoria chega a um programa C++23 completo que baixa e valida o Fashion-MNIST, aprende um autoencoder linear sem BLAS, produz reconstruções e calcula a própria contabilidade de memória e FLOPs. Os fragmentos explicam o caminho; o arquivo integral permanece disponível para abrir e baixar.

Considere uma imagem de trânsito com $100\,000$ pixels e uma placa vermelha ocupando apenas $100$ deles. Esses pixels representam $0{,}1\%$ da imagem, pois

\[\frac{100}{100\,000}\times100\%=0{,}1\%.\]

Se a perda usar MSE, de mean squared error (erro quadrático médio), cada pixel contribuirá para uma média sobre a imagem. A reconstrução poderá acertar quase toda a estrada, o céu e os prédios, perder a placa e ainda obter erro pequeno. Para a aparência global, o resultado parece bom. Para decidir se o veículo deve parar, o detalhe descartado era o artigo inteiro.

A perda mede o contrato que recebeu, não o contrato que desejávamos em silêncio.

O Artigo 3, Autoencoders Espaciais: da Projeção Linear ao Latente Gerativo, preencherá a lacuna entre o vetor linear e o autoencoder que um modelo generativo consegue usar. Substituiremos o vetor global por um tensor que conserva vizinhanças, construiremos redução e recuperação de resolução com convoluções e examinaremos por que um latente treinado apenas para reconstruir pode possuir regiões vazias e geometria inadequada para amostragem. A tarefa continuará sendo representação: precisaremos declarar quais detalhes permanecem decodificáveis e qual regularização torna o espaço utilizável depois do treino.

O Artigo 4, Difusão Latente: Comprimir Antes de Gerar, separará duas responsabilidades frequentemente misturadas. O autoencoder definirá o espaço latente e seu decoder decidirá quais detalhes podem voltar ao espaço de observações. O modelo de difusão aprenderá uma distribuição nesse espaço comprimido, removendo gradualmente o ruído que um processo direto acrescentou.

Essa divisão economiza computação porque o modelo generativo trabalha sobre uma representação menor. Também cria um limite. Se o decoder não souber reconstruir a placa, o processo de difusão poderá amostrar latentes com enorme elegância estatística e continuará sem possuir o detalhe perdido.

Reconstrução e geração formarão nossa primeira linhagem. Elas ensinam a comprimir observações e a produzir novas amostras. Ainda não garantem que o latente seja o melhor estado para prever movimento ou escolher uma ação.

4.2 Contrastar e destilar

O Artigo 5, SimCLR: Aprender por Contraste e Pagar pelos Negativos, mudará o alvo. Em vez de reconstruir pixels, criaremos duas views da mesma imagem por meio de aumentos de dados. O par correspondente será positivo; as representações das outras imagens do lote funcionarão como negativos. A perda NT-Xent, de normalized temperature-scaled cross entropy (entropia cruzada normalizada e escalada por temperatura), aproximará o positivo e afastará os negativos, com uma temperatura controlando o quanto as diferenças de similaridade serão amplificadas.

Os aumentos não são decoração. Ao recortar, mudar cores ou alterar escala e ainda declarar “é o mesmo objeto”, escolhemos quais transformações a representação deve ignorar. Uma transformação mal escolhida pode apagar justamente a informação da tarefa posterior. Se a cor do semáforo for alterada e tratada como invariância, ensinaremos a rede a considerar vermelho e verde equivalentes. A rede aprenderá a lição. Nós talvez não gostemos da prova.

O Artigo 6, BYOL: Aprender sem Negativos sem Entregar Tudo ao Colapso, apresentará BYOL, de Bootstrap Your Own Latent (inicialize seu próprio latente), e removerá os pares negativos. Uma rede online tentará prever a representação produzida por uma rede-alvo. Os parâmetros da rede-alvo serão atualizados por EMA, de exponential moving average (média móvel exponencial), e não diretamente pelo gradiente. O preditor, o stop-gradient e as duas escalas temporais tornam o treinamento empiricamente resistente ao colapso nas configurações estudadas.

Resistente não significa magicamente imune. Nenhuma peça isolada transforma a solução constante em impossibilidade matemática por decreto. O Artigo 6 separará evidência experimental, explicação mecanística e teorema, três categorias que costumam ser apresentadas como se compartilhassem o mesmo crachá.

O Artigo 7, DINO: Autodestilação e Objetos que Emergem da Atenção, apresentará DINO, de self-distillation with no labels (autodestilação sem rótulos). Manteremos a família student-teacher, estudante e professora, mas trocaremos a regressão de vetores pela concordância entre distribuições. A centralização impedirá que uma dimensão domine todas as saídas; o sharpening controlará a concentração das probabilidades; e o multi-crop ligará vistas locais e globais.

Os mapas de atenção do Vision Transformer revelaram estruturas de objetos sem supervisão de segmentação. Trataremos isso como evidência mensurada, não como prova de que cada cabeça de atenção descobriu uma entidade causal do mundo. Uma figura bonita continua precisando de uma hipótese precisa.

Esses três artigos formarão a linhagem de joint embedding. Ela ensinará como aproximar representações relacionadas, quanto custam os negativos e quais assimetrias permitem removê-los sem entregar o treinamento à solução constante.

4.3 Mascarar para obrigar o contexto a trabalhar

O Artigo 8, MAE: Mascarar 75% da Imagem e Reconstruir o que Falta, levará o mascaramento à visão. MAE, de masked autoencoder (autoencoder mascarado), divide a imagem em patches, esconde grande parte deles e entrega ao encoder somente os blocos visíveis. Um decodificador menor recebe as representações visíveis e mask tokens para tentar reconstruir os pixels ausentes.

Mascarar $75\%$ não significa apenas tornar o quebra-cabeça mais difícil. Se a imagem tiver $196$ patches, restarão apenas $49$ no encoder. A tarefa estatística muda porque o contexto precisa sustentar uma previsão mais distante; o custo físico também muda porque a parte mais cara do modelo processa um quarto dos tokens.

O MAE será a ponte para JEPA. Ambos escondem regiões e usam contexto visível, mas o alvo muda. O MAE reconstrói unidades observáveis; o I-JEPA, de image-based Joint-Embedding Predictive Architecture (arquitetura preditiva de embeddings conjuntos baseada em imagens), prevê representações produzidas por outro encoder. A troca permite ignorar detalhes de pixels difíceis de prever, mas reabre a porta do colapso: se alvo e previsão forem constantes, a perda poderá desaparecer sem que o modelo aprenda a cena.

Mudar o espaço do alvo muda o que vale a pena conservar.

4.4 Exercícios de integração do primeiro arco

1. Associe cada objetivo a sua família: MSE de pixels, NT-Xent, regressão entre representações, entropia cruzada entre professora e estudante e reconstrução de patches ocultos.

Solução: O MSE aplicado a pixels pertence aos autoencoders de reconstrução. A NT-Xent pertence ao SimCLR. A regressão entre representações pertence ao BYOL. A entropia cruzada entre professora e estudante pertence ao DINO. A reconstrução de patches ocultos pertence ao MAE.

2. Indique quais métodos usam negativos explícitos e quais usam uma rede-alvo atualizada por EMA.

Solução: O SimCLR usa negativos explícitos formados pelas outras imagens do lote. BYOL e DINO usam redes-alvo atualizadas por EMA. O MAE reconstrói regiões mascaradas e não depende nem de negativos explícitos nem de uma rede-alvo por EMA.

3. Explique por que um autoencoder linear pode preservar a maior variância e perder a variável que decide uma classe.

Solução: A reconstrução premia direções que explicam grande parte da variação total dos dados. Se a classe depender de uma direção com pouca variância, como uma pequena placa ocupando poucos pixels, essa direção pode contribuir pouco para o erro médio e desaparecer no gargalo. Preservar o que mais varia não é o mesmo que preservar o que decide.

4. Calcule quantos patches visíveis restam em uma grade $14\times14$ com máscara de $75\%$.

Solução: A grade contém

\[14\cdot14=196\]

patches. Uma máscara de $75\%$ deixa visíveis $25\%$ deles:

\[196\cdot0{,}25=49.\]

O encoder processará $49$ patches.

5. Compare SimCLR, BYOL, DINO e MAE pelo alvo, pelo mecanismo contra degeneração e pela informação recompensada.

Solução:

Método	Alvo da tarefa	Mecanismo contra degeneração	Informação recompensada
SimCLR	Aproximar duas views da mesma imagem	Negativos e temperatura	Invariância aos aumentos escolhidos
BYOL	Prever a representação da rede-alvo	Assimetria, stop-gradient, preditor e EMA	Concordância entre duas views
DINO	Igualar distribuições da professora e da estudante	Centralização, sharpening, multi-crop e EMA	Estrutura compartilhada entre vistas locais e globais
MAE	Reconstruir pixels de patches ocultos	Gargalo imposto pela máscara	Conteúdo visual necessário para preencher regiões ausentes

5. Segundo arco: prever em espaço de representação

O primeiro arco termina com uma inquietação. Reconstruir pixels pode obrigar o modelo a gastar capacidade com texturas imprevisíveis; aproximar duas views pode ensinar invariâncias úteis, mas não exige prever o que está escondido. Os Artigos 9 a 12 combinarão as duas ideias: usar um contexto visível para prever um alvo ausente, não no espaço de pixels, mas no espaço de representação.

Se o alvo também for aprendido, o que impede contexto, previsão e alvo de se tornarem a mesma constante inútil?

Essa será a pergunta do arco JEPA. Seja $x$ o contexto disponível e seja $y$ o alvo que desejamos prever. Um encoder de contexto $f_\theta$ produz $s_x$; um encoder alvo $f_{\bar{\theta}}$ produz $s_y$; e um preditor $g_\phi$ tenta obter $\hat{s}_y$ a partir de $s_x$. Chamaremos de $D$ a função que mede a discrepância entre previsão e alvo:

\[s_x=f_\theta(x), \qquad s_y=f_{\bar{\theta}}(y), \qquad \hat{s}_y=g_\phi(s_x), \qquad \mathcal{L}=D(\hat{s}_y,s_y),\]

na qual $D$ mede a discrepância entre previsão e alvo. A barra sobre $\bar{\theta}$ distingue os parâmetros do encoder alvo dos parâmetros $\theta$ do encoder de contexto. Em várias instâncias da família, o alvo não recebe gradientes diretamente e seus parâmetros acompanham os parâmetros de contexto por EMA.

A arquitetura cabe em quatro linhas. O comportamento depende de como escolhemos $x$, $y$, $D$, as máscaras, as assimetrias e a distribuição das representações. Os quatro artigos perguntarão o que muda quando imagem, vídeo, ação, energia e futuros múltiplos entram nesse esquema.

5.1 O template e o colapso

O Artigo 9, Prever, não Gerar: o Template JEPA e o Problema do Colapso, reunirá as linhagens anteriores. Compararemos a previsão de pixels com a previsão de representações e construiremos explicitamente a solução constante.

Suponha que os dois encoders ignorem suas entradas e produzam sempre o mesmo vetor $c$, e que o preditor também devolva $c$:

\[f_\theta(x)=c, \qquad f_{\bar{\theta}}(y)=c, \qquad g_\phi(c)=c.\]

Então

\[\mathcal{L}=D(c,c)=0\]

para qualquer par $(x,y)$. A função de perda foi minimizada, embora $c$ não informe qual imagem entrou, qual região foi escondida nem qual alvo deveria ser previsto.

Uma função de perda satisfeita não é sinônimo de uma tarefa cumprida.

O artigo separará mecanismos frequentemente jogados no mesmo saco. SimCLR usa negativos; BYOL e I-JEPA introduzem assimetrias entre os ramos; DINO combina centralização e sharpening; VICReg, de variance-invariance-covariance regularization (regularização de variância, invariância e covariância), restringe estatísticas das representações; LeJEPA regulariza sua distribuição. Comparar esses mecanismos exige duas perguntas: qual degeneração cada um combate e qual custo estatístico ou computacional acrescenta?

5.2 I-JEPA como sistema computacional

O Artigo 10, I-JEPA do zero em C++ e CUDA, será o coração implementacional da série. CUDA, de Compute Unified Device Architecture (arquitetura de dispositivo de computação unificada), fornecerá o ambiente de programação paralela usado na aceleradora. Uma imagem de $224\times224$ pixels, dividida em patches de $16\times16$, produz

\[\frac{224}{16}\times\frac{224}{16} =14\times14 =196\]

patches. O artigo mostrará como transformar cada bloco em um token, aplicar posições, selecionar máscaras retangulares, executar o encoder de contexto, construir os alvos, chamar o preditor e atualizar o encoder alvo por EMA.

Apresentaremos a matemática antes do código e separaremos o território de cada máquina. Na CPU, de central processing unit (unidade central de processamento), a seleção de índices, a organização contígua dos patches e a atualização dos parâmetros encontrarão caches, SIMD, de single instruction, multiple data (uma instrução, múltiplos dados), e largura de banda. Na GPU, de graphics processing unit (unidade de processamento gráfico), atenção, projeções e kernels de EMA encontrarão warps, memória compartilhada, acessos coalescidos e custo de lançamento.

A mesma máscara é um objeto estatístico e um objeto de memória. Estatisticamente, ela decide quanta informação permanece no contexto. Computacionalmente, ela decide quais tokens serão reunidos, copiados e processados. A matemática não desaparece quando o código começa; ela ganha endereços.

5.3 Vídeo, ação e planejamento

O Artigo 11, V-JEPA e o salto para o planejamento, acrescentará tempo. Em imagens, um patch ocupa uma região do espaço. Em vídeo, um patch espaço-temporal ocupa também vários quadros. O número de tokens cresce, a atenção fica mais cara e a representação precisa carregar movimento, permanência de objetos e mudanças que uma imagem isolada não revela.

V-JEPA, de Video Joint-Embedding Predictive Architecture (arquitetura preditiva de embeddings conjuntos para vídeo), aprende regularidades de vídeo sem receber ações. Isso pode produzir representações fortes de movimento e ainda não responder ao contrafactual “o que acontecerá se o agente virar à esquerda?”. V-JEPA 2 combina pré-treinamento em vídeo com um preditor condicionado por ações. A ação deixa de ser apenas algo observado no conjunto de dados e entra como variável de intervenção:

\[\hat{z}_{t+1}=F_\phi(z_t,a_t).\]

Se o objetivo for representado por $z_{\text{meta}}$, diferentes sequências de ações podem ser simuladas e comparadas pela distância entre o estado final previsto e a meta. Ainda não teremos uma teoria geral de planejamento. Teremos uma demonstração concreta de que uma representação preditiva pode tornar a busca tratável ao descartar detalhes que não alteram a consequência relevante.

Vídeo ensina o que costuma mudar. A ação ensina o que muda porque interferimos.

5.4 Energia, distribuição e futuros múltiplos

O Artigo 12, LeJEPA, energia e modelos de mundo, fechará o arco perguntando qual geometria desejamos para o espaço aprendido. LeJEPA identifica a gaussiana isotrópica como distribuição-alvo das representações e introduz SIGReg, de Sketched Isotropic Gaussian Regularization (regularização gaussiana isotrópica esboçada), para aproximá-la por projeções unidimensionais. Derivaremos a ligação com o teorema de Cramér-Wold e com funções características antes de discutir o regularizador.

Também chamaremos de $E(x,y)$ a energia de compatibilidade entre o contexto $x$ e o alvo $y$, definida pela discrepância entre a previsão e a representação-alvo:

\[E(x,y)=D\!\left(g_\phi(f_\theta(x)),f_{\bar{\theta}}(y)\right),\]

na qual $E(x,y)$ é baixa quando o alvo $y$ é compatível com o contexto $x$ e alta quando a previsão e a representação-alvo discordam. Essa leitura permite comparar candidatos sem exigir que o modelo normalize explicitamente uma probabilidade sobre todos os futuros possíveis.

Falta lidar com a multiplicidade. Considere um carro diante de uma bifurcação: virar à esquerda e virar à direita são continuidades plausíveis. Um preditor determinístico treinado por erro quadrático pode aproximar as duas com uma média que segue em frente e atravessa o canteiro. O erro numérico gosta do compromisso. A estrada, menos.

Um latente adicional pode indexar diferentes futuros e permitir que o modelo represente as duas continuidades sem fundi-las. A distinção reaparecerá no terceiro arco: incerteza não é um defeito a esconder, mas uma propriedade do estado que o planejador precisa receber.

5.5 Exercícios de integração do arco JEPA

1. Substitua encoders constantes e um preditor constante na perda e explique o colapso.

Solução: Se $f_\theta(x)=c$, $f_{\bar{\theta}}(y)=c$ e $g_\phi(c)=c$ para um vetor constante $c$, então

\[\hat{s}_y=c, \qquad s_y=c, \qquad \mathcal{L}=D(c,c)=0.\]

A perda é mínima, mas a representação não depende da entrada. O modelo colapsou.

2. Para $\bar{\theta}\leftarrow0{,}99\bar{\theta}+0{,}01\theta$, calcule a nova meta quando $\bar{\theta}=2$ e $\theta=5$.

Solução: Substituindo os valores,

\[\bar{\theta}_{\text{novo}} =0{,}99\cdot2+0{,}01\cdot5 =1{,}98+0{,}05 =2{,}03.\]

A rede-alvo move-se de $2$ para $2{,}03$, apenas $1\%$ da distância instantânea até $5$.

3. Dê um exemplo de contexto visual com dois futuros plausíveis e explique por que a média pode ser irreal.

Solução: Um carro diante de uma bifurcação pode virar à esquerda ou à direita. Se os dois futuros forem combinados por uma média no espaço de posições, o resultado poderá apontar para o canteiro central, uma trajetória que nenhum dos futuros reais executa. A média minimiza o erro quadrático sem representar uma continuação plausível.

4. Classifique a ação de um robô e o rumo ainda não decidido de um pedestre.

Solução: A ação executada pelo robô é uma variável observada e conhecida pelo sistema. O rumo futuro do pedestre é uma variável latente desconhecida; antes que a escolha se revele, o modelo deve representar mais de uma possibilidade ou uma distribuição sobre elas.

5. Compare MAE e I-JEPA pelo contexto, pelo espaço do alvo e pela necessidade de decoder de pixels.

Solução:

Aspecto	MAE	I-JEPA
Entrada do encoder de contexto	Apenas patches visíveis	Apenas blocos de contexto visíveis
Espaço do alvo	Pixels dos patches mascarados	Representações dos blocos-alvo
Decoder de pixels	Necessário durante o pré-treinamento	Desnecessário para a perda preditiva

Os dois métodos usam contexto parcial. O que muda é aquilo que precisam prever.

6. Terceiro arco: modelos de mundo

Os Artigos 13 a 20 ampliarão o foco. Nos dois primeiros arcos, perguntamos o que uma representação conserva e como prever dentro dela. Agora precisaremos declarar o mundo em que a previsão será usada: quais objetos compõem o estado, quais observações chegam ao agente, quais ações podem intervir, por quantos passos simularemos e como os futuros serão comparados.

Que previsões, intervenções e decisões esta representação sustenta?

Uma resposta séria não caberá na aparência de um vídeo. O terceiro arco passará por estado, renderização, geometria, física, imaginação latente, planejamento, risco e integração de agentes.

O Artigo 13, Modelos de mundo: estado, observação, ação e três papéis, formalizará o laço agente-mundo. Começaremos por MDP, de Markov decision process (processo de decisão de Markov), passaremos ao POMDP da Seção 2.1 e voltaremos ao estado de crença. Os contratos de renderer, simulador e planejador impedirão que qualquer gerador de vídeo receba o título de modelo de mundo apenas por entusiasmo lexical.

O Artigo 14, Renderizar futuros: da difusão de vídeo aos mundos interativos, tratará geração temporal condicionada como modelo de observações. Compararemos fidelidade visual, aderência às ações, permanência de objetos e consistência de longo horizonte. Genie, GameNGen e DIAMOND, de Diffusion As a Model Of eNvironment Dreams (difusão como modelo de sonhos do ambiente), entrarão como mecanismos documentados, não como uma parada de produtos. Um vídeo pode parecer convincente por cinco segundos e ainda trocar a identidade de dois objetos no sexto.

O Artigo 15, Simular o espaço: NeRF, Gaussian Splatting e gráficos inversos, mudará o portador do estado. NeRF, de neural radiance fields (campos de radiância neurais), representará a cena por um campo implícito; o Gaussian Splatting usará gaussianas explícitas. Compararemos síntese de vistas, custo, editabilidade e validade contrafactual. Produzir a imagem correta de uma câmera conhecida e representar uma geometria que permaneça correta depois de mover um objeto são contratos relacionados, mas não idênticos.

O Artigo 16, Simular a física: objetos, relações e dinâmica em grafos, representará objetos como nós e interações como arestas. Interaction Networks, Graph Network-based Simulators e MeshGraphNets ensinarão passagem de mensagens, integração temporal e erro acumulado. Uma trajetória pode estar quase correta no próximo quadro e, depois de cem passos, perder energia, momento ou estabilidade. O erro local não assina um contrato de bom comportamento global.

O Artigo 17, Imaginar em latentes: World Models, PlaNet e Dreamer, combinará memória recorrente determinística e estado estocástico. PlaNet planejará no espaço latente; Dreamer aprenderá comportamento em rollouts imaginados. Derivaremos prior, posterior, reconstrução e recompensa antes de estudar o risco mais curioso do método: uma política pode tornar-se excelente em explorar regularidades que existem apenas nos erros do próprio modelo.

O Artigo 18, Planejar com modelos aprendidos: MuZero, MPC e TD-MPC2, comparará busca em árvore, MPC, de model predictive control (controle preditivo por modelo), e políticas que amortizam o custo da busca. O TD-MPC2, segunda versão de temporal difference learning for model predictive control (aprendizado por diferenças temporais para controle preditivo por modelo), combinará dinâmica latente, valor e otimização local de trajetórias. Um modelo barato para uma previsão pode tornar-se caro quando consultado milhares de vezes por decisão. Também construiremos um caso em que o planejador encontra precisamente a região onde a dinâmica aprendida está otimista. Otimização é eficiente inclusive para explorar nossos enganos.

O Artigo 19, Prever sem certeza: crenças, multimodalidade e risco, distinguirá a incerteza inerente ao ambiente da ignorância do modelo. Custo esperado, pior caso, restrições probabilísticas e CVaR, de conditional value at risk (valor em risco condicional), poderão escolher ações diferentes diante da mesma distribuição de futuros. A calibração deixará de ser uma métrica ornamental quando uma probabilidade entrar no freio de um robô.

O Artigo 20, Do VLA ao agente: interfaces para um modelo de mundo unificado, fechará a série. Uma VLA, de vision-language-action (visão, linguagem e ação), mapeia observações e instruções para ações; um modelo de mundo representa estados e transições reutilizáveis em decisões diferentes. Integraremos percepção, memória, dinâmica, custo, planejador e ator por contratos verificáveis. Colocar todas as responsabilidades em uma única rede não as transforma, por osmose, em responsabilidades resolvidas.

6.1 Como o erro de um passo cresce em um rollout

Antes de percorrer os oito artigos, precisamos desmontar uma promessa inocentemente perigosa: o erro de um passo é pequeno, portanto o modelo pode imaginar muitos passos. A conclusão não segue sem conhecermos como a dinâmica propaga diferenças.

Considere uma dinâmica verdadeira $F$ e uma dinâmica aprendida $\hat{F}$. As duas começam no mesmo estado, recebem a mesma sequência de ações e produzem, respectivamente, os estados $z_{t+k}$ e $\hat{z}_{t+k}$. Suponha primeiro que o erro da dinâmica aprendida, avaliada em qualquer estado relevante $z$ e ação $a$, seja limitado por $\varepsilon$:

\[\lVert \hat{F}(z,a)-F(z,a)\rVert\le\varepsilon.\]

O número $\varepsilon$ limita o erro introduzido pelo modelo em uma única aplicação. Suponha também que $F$ seja $L$-Lipschitz no estado:

\[\lVert F(z,a)-F(z',a)\rVert \le L\lVert z-z'\rVert.\]

A constante $L$ mede quanto a dinâmica verdadeira pode ampliar uma diferença entre dois estados submetidos à mesma ação. Se $L<1$, ela contrai diferenças; se $L>1$, pode ampliá-las.

Vamos definir o erro acumulado no passo $k$ por

\[e_k=\lVert\hat{z}_{t+k}-z_{t+k}\rVert.\]

No passo seguinte, somamos e subtraímos $F(\hat{z}{t+k},a{t+k})$ dentro da norma e aplicamos a desigualdade triangular:

\[\begin{aligned} e_{k+1} &= \left\lVert \hat{F}(\hat{z}_{t+k},a_{t+k}) -F(z_{t+k},a_{t+k}) \right\rVert\\ &\le \left\lVert \hat{F}(\hat{z}_{t+k},a_{t+k}) -F(\hat{z}_{t+k},a_{t+k}) \right\rVert\\ &\quad+ \left\lVert F(\hat{z}_{t+k},a_{t+k}) -F(z_{t+k},a_{t+k}) \right\rVert\\ &\le \varepsilon+Le_k. \end{aligned}\]

O primeiro termo é o erro do modelo no estado previsto; o segundo é a amplificação, pela dinâmica verdadeira, do erro que já carregávamos. Como as trajetórias começam juntas, $e_0=0$. Abrindo os primeiros passos,

\[e_1\le\varepsilon,\] \[e_2\le\varepsilon+L\varepsilon =\varepsilon(1+L),\] \[e_3\le\varepsilon+L\varepsilon(1+L) =\varepsilon(1+L+L^2).\]

Depois de $H$ passos, reconhecemos a soma geométrica:

\[e_H \le\varepsilon\sum_{j=0}^{H-1}L^j = \begin{cases} \varepsilon H,&L=1,\\[4pt] \varepsilon\dfrac{L^H-1}{L-1},&L\ne1. \end{cases}\]

Se $L<1$, a dinâmica contrai diferenças e a soma fica abaixo de $\varepsilon/(1-L)$. Se $L=1$, cada passo acrescenta no máximo outro $\varepsilon$, e o limite cresce linearmente como $\varepsilon H$. Se $L>1$, os erros anteriores podem ser ampliados e o limite cresce geometricamente.

Um excelente erro de um passo não garante um bom rollout.

O planejador acrescenta outro risco. Ele procura precisamente as ações de menor custo previsto e pode encontrar regiões nas quais $\hat{F}$ está otimista por falta de dados. Imagine que o modelo subestime a profundidade de um buraco em uma faixa pouco visitada. Uma política comum talvez passe longe. Um otimizador que compare milhares de trajetórias poderá descobrir que, no mundo imaginado, atravessar o buraco é um atalho maravilhoso.

O planejador encontrou um erro e o chamou de oportunidade.

Por isso, avaliaremos separadamente erro de um passo, rollout aberto e resultado em malha fechada. A última avaliação executa as ações no ambiente e compara o custo realmente obtido com o custo prometido pelo modelo.

6.2 Exercícios de rollout e decisão

1. Para $\varepsilon=0{,}1$, $L=1$ e $H=10$, calcule o limite de erro.

Solução: Quando $L=1$, usamos $e_H\le\varepsilon H$. Portanto,

\[e_{10}\le0{,}1\cdot10=1.\]

2. Para $\varepsilon=0{,}1$, $L=1/2$ e $H=3$, some a série geométrica.

Solução:

\[e_3 \le0{,}1\left(1+\frac12+\frac14\right) =0{,}1\cdot1{,}75 =0{,}175.\]

Como $L<1$, cada erro antigo recebe um peso menor no passo seguinte.

3. Para $\varepsilon=0{,}1$, $L=2$ e $H=4$, calcule o limite.

Solução:

\[e_4 \le0{,}1(1+2+4+8) =0{,}1\cdot15 =1{,}5.\]

O erro de um passo continua sendo $0{,}1$, mas a dinâmica pode amplificar os erros acumulados.

4. Explique por que medir somente $e_1$ não revela se $L$ é menor ou maior que $1$.

Solução: Com $e_0=0$, a recorrência fornece $e_1\le\varepsilon$ independentemente de $L$. A constante $L$ começa a influenciar o limite quando um erro anterior precisa ser propagado. Precisamos observar pelo menos mais de um passo, ou estimar diretamente a sensibilidade da dinâmica, para distinguir contração de amplificação.

5. Dê um exemplo em que um planejador explora um erro otimista e escolhe uma ação perigosa.

Solução: Considere um veículo cujo modelo subestima a profundidade de um buraco em uma faixa pouco representada nos dados. O planejador prevê baixo custo para atravessar a região e escolhe esse caminho como atalho. No ambiente real, a suspensão é danificada. A busca não criou o erro do modelo; ela encontrou a ação que mais se beneficia dele.

7. Três distinções que manterão a série honesta

Uma série longa corre o risco de permitir que palavras próximas troquem de lugar sem aviso. “Abstração”, “fidelidade” e “planejamento” podem soar corretas enquanto escondem contratos diferentes. As três distinções seguintes funcionarão como testes de sanidade para todos os artigos.

7.1 Perder informação não é aprender abstração

Toda compressão perde informação. Isso é consequência do gargalo, não evidência de inteligência. Chamaremos a perda de abstração útil somente quando aquilo que desaparece for irrelevante para o conjunto declarado de previsões e decisões.

Vamos voltar à cena de trânsito da Seção 4.1. Descartar a textura das nuvens pode ser aceitável para controlar o veículo; descartar a cor do semáforo não é. As duas operações reduzem informação. Apenas a primeira preserva, nesse problema, as decisões seguras.

Um vetor latente menor não é semanticamente melhor por ocupar menos bytes. A avaliação precisa perguntar se a representação preserva transferência, previsão, intervenção ou controle, conforme a promessa que recebeu.

Abstrair não é esquecer muito. É esquecer o que foi demonstrado como irrelevante.

7.2 Parecer correto não é estar correto

Fidelidade visual mede observações. Fidelidade de estado mede a estrutura que sustenta vistas, intervenções e dinâmica. Um vídeo pode conservar textura, iluminação e nitidez enquanto troca a identidade de dois objetos atrás de uma oclusão. Também pode mostrar uma bola perfeitamente redonda ganhando energia a cada quique.

O caso inverso importa. Um simulador pode produzir imagens medíocres e prever trajetórias suficientes para um controlador evitar colisões. Julgá-lo apenas pela aparência puniria o contrato que cumpriu e premiaria o contrato errado.

Por isso, o terceiro arco medirá cada papel separadamente. Renderização pedirá fidelidade de observação; simulação pedirá consistência de transições e invariantes; planejamento pedirá custo realizado em malha fechada.

Uma imagem plausível pode encobrir um estado impossível.

7.3 Prever não é decidir

Um modelo prevê consequências. Um planejador compara ações por meio de um custo ou valor. Uma política escolhe ações, possivelmente sem executar uma busca explícita no instante da decisão.

Suponha que o modelo preveja corretamente duas trajetórias: uma rápida, com colisão, e outra lenta, sem colisão. Se o custo premiar apenas velocidade, o planejador poderá escolher a primeira. A previsão estava correta. A decisão também minimizou exatamente o objetivo que recebeu. O defeito estava no objetivo.

Agora suponha que modelo e custo estejam corretos, mas a busca examine apenas uma ação. A falha pertence ao planejador. Se a ação escolhida for correta no modelo e falhar no mundo, investigaremos dinâmica, estado e diferença entre treinamento e execução.

Misturar esses objetos torna o diagnóstico impossível. Não saberemos se o estado omitiu informação, se a dinâmica errou, se o custo premiou a coisa errada ou se a busca terminou cedo.

Sistemas compostos falham de maneira composta; interfaces nos dizem qual composição examinar.

7.4 Exercícios de diagnóstico

1. Uma reconstrução troca a textura da parede, mas preserva posição e velocidade dos objetos. Discuta renderização e controle.

Solução: Para renderização fiel, a troca é um erro porque a observação produzida não corresponde à cena. Para um controlador cuja recompensa e dinâmica não dependem da textura, a perda pode ser irrelevante. O mesmo detalhe deve ser avaliado contra o contrato declarado.

2. Um simulador prevê posições corretas por um passo e diverge em vinte. Indique duas causas possíveis.

Solução: A primeira possibilidade é um pequeno viés do modelo em cada passo, que se acumula mesmo quando a dinâmica não amplia diferenças. A segunda é uma dinâmica com $L>1$, capaz de amplificar erros anteriores. Também devemos investigar se o estado omitiu uma variável lenta cuja influência só aparece depois de vários passos.

3. Um planejador escolhe a trajetória prevista, mas o custo premia velocidade e ignora colisões. Localize a falha.

Solução: A falha está na função de custo. O modelo pode ter previsto a colisão corretamente e o planejador pode ter minimizado o custo recebido. Como colisões não foram penalizadas, o objetivo declarou que a trajetória rápida era aceitável.

4. Uma política falha embora modelo e custo estejam corretos porque a busca avalia apenas uma ação. Localize a falha.

Solução: A falha está no planejador ou no orçamento de busca. Estado, dinâmica e custo podem estar corretos, mas nenhuma decisão boa aparecerá se o conjunto de candidatas não a contiver.

5. Escreva um teste distinto para representação, dinâmica, planejador e execução em malha fechada.

Solução:

Componente	Teste
Representação	Verificar se situações que exigem ações diferentes permanecem separáveis em $z_t$
Dinâmica	Medir erro de um passo e de vários passos usando sequências de ações fixadas
Planejador	Comparar a ação encontrada com a melhor ação conhecida sob o mesmo modelo e custo
Malha fechada	Executar as ações no ambiente e comparar custo previsto com custo realizado

8. Quatro rotas de leitura

A ordem canônica continua sendo a rota mais segura, mas nem toda leitora chega com a mesma pergunta. Algumas querem compreender o conceito de estado; outras precisam implementar máscaras e atenção; outras vieram pelo controle. As rotas abaixo indicam onde concentrar esforço sem fingir que os pré-requisitos desapareceram.

Os números da tabela referem-se aos artigos da série, não às seções deste texto.

Rota	Sequência recomendada	Pergunta que conduz a leitura
Conceitual	1, 2, 3, 5, 6, 8, 9, 12, 13, 19, 20	O que uma representação conserva e quando ela se torna estado?
Generativa	1, 2, 3, 4, 8, 9, 14, 15	Quando reconstruir, gerar, renderizar ou representar geometria?
Implementacional	1, 2, 3, 5, 6, 8, 9, 10, 11	Como máscaras, atenção, EMA, memória e operações de ponto flutuante aparecem no sistema real?
Controle	1, 9, 11, 12, 13, 16, 17, 18, 19, 20	Como previsões condicionadas por ação se transformam em decisões?

A rota conceitual acompanha a passagem de observação para representação, estado e risco. A rota generativa segue reconstrução, difusão e renderização de mundos. A rota implementacional concentra o trabalho em perdas, máscaras, atenção, organização de memória e custo computacional. A rota de controle começa pela suficiência do estado e termina na integração entre previsão, risco e ação.

O laboratório da Seção 3 continuará sendo a fonte mais confiável para disponibilidade. As sequências incluem artigos planejados porque descrevem dependências conceituais; um cartão cinza informa que aquela explicação ainda não atravessou o contrato de publicação.

Uma rota de leitura é uma prioridade, não um teletransporte.

9. O contrato de publicação

Um mapa só é útil se os artigos que ele anuncia obedecerem a um contrato verificável. Explicar o método não basta, porque dois autores podem usar essa frase para entregar objetos muito diferentes.

O que a leitora poderá exigir de cada artigo desta série?

Cada texto técnico definirá o objeto previsto e a função de perda antes de comparar métodos. Apresentará pelo menos um exemplo pequeno que possa ser conferido à mão, quantificará algum custo de computação ou memória e ensinará um modo de falha. Uma afirmação de eficiência virá acompanhada da contagem, da medição ou das duas.

O código publicado será C++23. Quando o território for GPU, usaremos CUDA C++ no kernel e manteremos o código hospedeiro em C++23. O JavaScript permanecerá dentro dos laboratórios interativos; ele poderá implementar a experiência, mas não ocupará o lugar do exemplo algorítmico do artigo.

O Artigo 2 fixa uma referência adicional para as aplicações. Quando um texto transformar teoria em experimento sobre dados reais, ele explicará proveniência, licença, aquisição, leitura, preparação, algoritmo, gradientes, decisões de memória e desempenho, compilação, execução, validação e limites. O código completo ficará disponível no próprio artigo até existir um repositório comum. Números de memória e trabalho que dependam da implementação deverão ser produzidos ou conferidos pelo programa, para que prosa e executável não contem histórias diferentes.

Os textos sobre modelos de mundo terão obrigações adicionais. Deverão declarar estado, observação, ação, horizonte e uso da previsão. Separarão erro de um passo, rollout aberto e resultado em malha fechada. Quando houver incerteza, o erro médio não bastará. Quando houver planejamento, compararemos custo previsto com custo realizado.

Cada artigo também deverá dizer em qual máquina a discussão pisa. Uma escolha de máscara pode ser estatística e, ao mesmo tempo, decidir cópias em CPU ou movimentação de tokens na GPU. A leitora não será obrigada a adivinhar quando trocamos de hierarquia.

Este artigo de abertura é a única exceção ao requisito de código algorítmico. Seu programa é o mapa da Seção 3. Inserir um trecho C++23 apenas para marcar uma caixa e definir um modelo produziria código sem objeto matemático próprio, o equivalente editorial de instalar um velocímetro em uma estante.

Conclusão

Começamos este artigo com medições brutas e descobrimos que nenhuma delas vem marcada com aquilo que importa. A bola da Seção 1 mostrou que posição sem velocidade reúne futuros incompatíveis. As caixas da Seção 2 mostraram que, quando a observação não decide o estado, a representação precisa carregar uma distribuição de possibilidades.

Agora temos o mapa.

No primeiro arco, perguntaremos o que sobrevive à reconstrução, à difusão, ao contraste, à autodestilação e ao mascaramento. No segundo, preveremos representações com JEPA e levaremos essa previsão a vídeo, ações, energia e futuros múltiplos. No terceiro, construiremos modelos de observação, espaço, física, imaginação, risco e decisão.

A direção conceitual será

\[\text{observação} \longrightarrow \text{representação} \longrightarrow \text{estado preditivo} \longrightarrow \text{futuros sob ações} \longrightarrow \text{decisão}.\]

Cada seta possui uma hipótese. Da observação para a representação, escolhemos o que esquecer. Da representação para o estado preditivo, exigimos que futuros relevantes permaneçam distinguíveis. Do estado para os futuros sob ações, aprendemos uma dinâmica. Dos futuros para a decisão, introduzimos custo, risco e busca.

Cada seta também possui uma função de perda e um modo de falha.

Esta série não procurará uma representação universal por decreto. Procurará contratos que possamos escrever, exemplos que possamos calcular, sistemas que possamos medir e falhas que possamos localizar. Se ao final soubermos exatamente o que um modelo prevê, o que ignora e por que sua decisão merece confiança, teremos avançado mais do que avançaríamos acrescentando a palavra “mundo” ao nome de uma rede.

Antes de modelar o mundo, precisamos declarar o que estamos dispostos a esquecer.

Acrônimos e Abreviações neste artigo

Acrônimo	Definição em Inglês	Tradução em Português
BYOL	Bootstrap Your Own Latent	Inicialize Seu Próprio Latente
CPU	Central Processing Unit	Unidade Central de Processamento
CUDA	Compute Unified Device Architecture	Arquitetura de Dispositivo de Computação Unificada
CVaR	Conditional Value at Risk	Valor em Risco Condicional
DIAMOND	Diffusion As a Model Of eNvironment Dreams	Difusão como Modelo de Sonhos do Ambiente
DINO	Self-Distillation with No Labels	Autodestilação sem Rótulos
EMA	Exponential Moving Average	Média Móvel Exponencial
GPU	Graphics Processing Unit	Unidade de Processamento Gráfico
I-JEPA	Image-based Joint-Embedding Predictive Architecture	Arquitetura Preditiva de Embeddings Conjuntos Baseada em Imagens
JEPA	Joint-Embedding Predictive Architecture	Arquitetura Preditiva de Embeddings Conjuntos
MAE	Masked Autoencoder	Autoencoder Mascarado
MDP	Markov Decision Process	Processo de Decisão de Markov
MPC	Model Predictive Control	Controle Preditivo por Modelo
MSE	Mean Squared Error	Erro Quadrático Médio
NeRF	Neural Radiance Fields	Campos de Radiância Neurais
NT-Xent	Normalized Temperature-Scaled Cross Entropy	Entropia Cruzada Normalizada e Escalada por Temperatura
PCA	Principal Component Analysis	Análise de Componentes Principais
POMDP	Partially Observable Markov Decision Process	Processo de Decisão de Markov Parcialmente Observável
SIGReg	Sketched Isotropic Gaussian Regularization	Regularização Gaussiana Isotrópica Esboçada
SIMD	Single Instruction, Multiple Data	Uma Instrução, Múltiplos Dados
TD-MPC2	Temporal Difference Learning for Model Predictive Control 2	Aprendizado por Diferenças Temporais para Controle Preditivo por Modelo 2
V-JEPA	Video Joint-Embedding Predictive Architecture	Arquitetura Preditiva de Embeddings Conjuntos para Vídeo
VICReg	Variance-Invariance-Covariance Regularization	Regularização de Variância, Invariância e Covariância
VLA	Vision-Language-Action	Visão, Linguagem e Ação

Referências

ALONSO, E. et al. Diffusion for World Modeling: Visual Details Matter in Atari. NeurIPS, 2024. Disponível em: https://arxiv.org/abs/2405.12399. Acesso em: 29 jul. 2026.

ASSRAN, M. et al. Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture. ICCV, 2023. Disponível em: https://arxiv.org/abs/2301.08243. Acesso em: 29 jul. 2026.

ASSRAN, M. et al. V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning. arXiv, 2025. Disponível em: https://arxiv.org/abs/2506.09985. Acesso em: 29 jul. 2026.

BALESTRIERO, R.; LECUN, Y. LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics. arXiv, 2025. Disponível em: https://arxiv.org/abs/2511.08544. Acesso em: 29 jul. 2026.

BARDES, A.; PONCE, J.; LECUN, Y. VICReg: Variance-Invariance-Covariance Regularization for Self-Supervised Learning. ICLR, 2022. Disponível em: https://arxiv.org/abs/2105.04906. Acesso em: 29 jul. 2026.

BATTAGLIA, P. W.; PASCANU, R.; LAI, M.; REZENDE, D.; KAVUKCUOGLU, K. Interaction Networks for Learning about Objects, Relations and Physics. NeurIPS, 2016. Disponível em: https://arxiv.org/abs/1612.00222. Acesso em: 29 jul. 2026.

BRUCE, J. et al. Genie: Generative Interactive Environments. arXiv, 2024. Disponível em: https://arxiv.org/abs/2402.15391. Acesso em: 29 jul. 2026.

CARON, M. et al. Emerging Properties in Self-Supervised Vision Transformers. ICCV, 2021. Disponível em: https://arxiv.org/abs/2104.14294. Acesso em: 29 jul. 2026.

CHEN, T.; KORNBLITH, S.; NOROUZI, M.; HINTON, G. A Simple Framework for Contrastive Learning of Visual Representations. ICML, 2020. Disponível em: https://arxiv.org/abs/2002.05709. Acesso em: 29 jul. 2026.

CRAMÉR, H.; WOLD, H. Some Theorems on Distribution Functions. Journal of the London Mathematical Society, v. s1-11, n. 4, p. 290-294, 1936. Disponível em: https://doi.org/10.1112/jlms/s1-11.4.290. Acesso em: 29 jul. 2026.

FERNS, N.; PANANGADEN, P.; PRECUP, D. Metrics for Finite Markov Decision Processes. Proceedings of the 20th Conference on Uncertainty in Artificial Intelligence, p. 162-169, 2004. Disponível em: https://arxiv.org/abs/1207.4114. Acesso em: 29 jul. 2026.

GRILL, J.-B. et al. Bootstrap Your Own Latent: A New Approach to Self-Supervised Learning. NeurIPS, 2020. Disponível em: https://arxiv.org/abs/2006.07733. Acesso em: 29 jul. 2026.

HA, D.; SCHMIDHUBER, J. World Models. arXiv, 2018. Disponível em: https://arxiv.org/abs/1803.10122. Acesso em: 29 jul. 2026.

HAFNER, D. et al. Dream to Control: Learning Behaviors by Latent Imagination. ICLR, 2020. Disponível em: https://arxiv.org/abs/1912.01603. Acesso em: 29 jul. 2026.

HAFNER, D. et al. Learning Latent Dynamics for Planning from Pixels. ICML, 2019. Disponível em: https://arxiv.org/abs/1811.04551. Acesso em: 29 jul. 2026.

HANSEN, N.; SU, H.; WANG, X. TD-MPC2: Scalable, Robust World Models for Continuous Control. ICLR, 2024. Disponível em: https://arxiv.org/abs/2310.16828. Acesso em: 29 jul. 2026.

HE, K. et al. Masked Autoencoders Are Scalable Vision Learners. CVPR, 2022. Disponível em: https://arxiv.org/abs/2111.06377. Acesso em: 29 jul. 2026.

HINTON, G. E.; SALAKHUTDINOV, R. R. Reducing the Dimensionality of Data with Neural Networks. Science, v. 313, n. 5786, p. 504-507, 2006. Disponível em: https://doi.org/10.1126/science.1127647. Acesso em: 29 jul. 2026.

HO, J.; JAIN, A.; ABBEEL, P. Denoising Diffusion Probabilistic Models. NeurIPS, 2020. Disponível em: https://arxiv.org/abs/2006.11239. Acesso em: 29 jul. 2026.

KAELBLING, L. P.; LITTMAN, M. L.; CASSANDRA, A. R. Planning and Acting in Partially Observable Stochastic Domains. Artificial Intelligence, v. 101, n. 1-2, p. 99-134, 1998. Disponível em: https://doi.org/10.1016/S0004-3702(98)00023-X. Acesso em: 29 jul. 2026.

KERBL, B.; KOPANAS, G.; LEIMKÜHLER, T.; DRETTAKIS, G. 3D Gaussian Splatting for Real-Time Radiance Field Rendering. ACM Transactions on Graphics, v. 42, n. 4, 2023. Disponível em: https://arxiv.org/abs/2308.04079. Acesso em: 29 jul. 2026.

LECUN, Y. A Path Towards Autonomous Machine Intelligence. OpenReview, 2022. Disponível em: https://openreview.net/forum?id=BZ5a1r-kVsf. Acesso em: 29 jul. 2026.

MILDENHALL, B. et al. NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis. ECCV, 2020. Disponível em: https://arxiv.org/abs/2003.08934. Acesso em: 29 jul. 2026.

PFAFF, T. et al. Learning Mesh-Based Simulation with Graph Networks. ICLR, 2021. Disponível em: https://arxiv.org/abs/2010.03409. Acesso em: 29 jul. 2026.

ROCKAFELLAR, R. T.; URYASEV, S. Optimization of Conditional Value-at-Risk. Journal of Risk, v. 2, n. 3, p. 21-41, 2000. Disponível em: https://doi.org/10.21314/JOR.2000.038. Acesso em: 29 jul. 2026.

ROMBACH, R.; BLATTMANN, A.; LORENZ, D.; ESSER, P.; OMMER, B. High-Resolution Image Synthesis with Latent Diffusion Models. CVPR, 2022. Disponível em: https://arxiv.org/abs/2112.10752. Acesso em: 29 jul. 2026.

SANCHEZ-GONZALEZ, A. et al. Learning to Simulate Complex Physics with Graph Networks. ICML, 2020. Disponível em: https://arxiv.org/abs/2002.09405. Acesso em: 29 jul. 2026.

SCHMIDHUBER, J. Curious Model-Building Control Systems. Proceedings of the International Joint Conference on Neural Networks, v. 2, p. 1458-1463, 1991. Disponível em: https://people.idsia.ch/~juergen/curioussingapore/curioussingapore.html. Acesso em: 29 jul. 2026.

SCHRITTWIESER, J. et al. Mastering Atari, Go, Chess and Shogi by Planning with a Learned Model. Nature, v. 588, p. 604-609, 2020. Disponível em: https://arxiv.org/abs/1911.08265. Acesso em: 29 jul. 2026.

SUTTON, R. S. Dyna, an Integrated Architecture for Learning, Planning, and Reacting. ACM SIGART Bulletin, v. 2, n. 4, p. 160-163, 1991. Disponível em: https://doi.org/10.1145/122344.122377. Acesso em: 29 jul. 2026.

VALEVSKI, D. et al. Diffusion Models Are Real-Time Game Engines. arXiv, 2024. Disponível em: https://arxiv.org/abs/2408.14837. Acesso em: 29 jul. 2026.