6× micro-ONNX • virtuální váhy • stream tokenů

— ms

W_EMB

48D • —

ATT QK

head 1 • —

FFN

192 → 48

HEAD

logits

Attention heatmap

—

🧬 2D mapa embeddingů 48D → 2D hover slovo • zelená = trajektorie

fialová=foto • cyan=díra • amber=obloha • pink=láska • kroužek = průměr věty

Distribuce • softmax T=0.82

H — • PPL —

Entropie = nejistota • Perplexita = exp(H) • nízká = jistý

Tenzory Transformeru • live shapes

Každý krok = [seq,48] × [48,48] → [seq,48] • Attention: [seq,seq]

Věta jako celek — koherence

průměr 48D → cosine

token attention + embedding věty drží téma a gramatiku A→T→G

Real-Backprop Trainer — skutečně naučené váhy

0 epoch

loss — Adam • teacher-forcing • cross-entropy

Na rozdíl od náhodných vah: backprop skutečně klesá loss a váhy se učí → předpovědi drží téma.

◈

EMB

◎

ATT

⬢

FFN

⬣

NORM

⬔

HEAD

⬥

SAMP

Teplota 0.82

PPL —

↵

Virtuální váhy 48D • Tenzory live • 2D mapa • Entropie • Větvení • 100% offline • T=0.82

GENIUS 演讲者 — 48D 反向传播 Transformer + GGUF

Swarm Chat GENIUS SPEAKER