Bir LLM, olasılık dağılımına dayalı olarak bir sonraki kelimeyi tahmin eder. 𝑃 ( 𝑤 1 , 𝑤 2 , … , 𝑤 𝑁 ) P(w 1 ​ ,w 2 ​ ,…,w N ​ ) bir kelime dizisinin olasılığı olsun. Perplexity şu şekilde tanımlanır: 𝑃 𝑃 ( 𝑊 ) = 𝑃 ( 𝑤 1 , 𝑤 2 , … , 𝑤 𝑁 ) − 1 𝑁 PP(W)=P(w 1 ​ ,w 2 ​ ,…,w N ​ ) − N 1 ​ Veya, olasılık zincir kuralını kullanarak: 𝑃 𝑃 ( 𝑊 ) = ∏ 𝑖 = 1 𝑁 1 𝑃 ( 𝑤 𝑖 ∣ 𝑤 1 , … , 𝑤 𝑖 − 1 ) 𝑁 PP(W)= N ∏ i=1 N ​ P(w i ​ ∣w 1 ​ ,…,w i−1 ​ ) 1 ​ ​ Dedektörler düşük perplexity (yüksek olasılık) arar. "İstatistiksel olarak en olası bir sonraki token'ı seçme" prompt talimatı, modeli olasılık dağılımında daha aşağıdaki konumlardan token seçmeye zorlar (örneğin, 1. yerine 3. veya 4. en olası kelime), 𝑃 𝑃 PP değerini insan seviyelerine uyacak şekilde yapay olarak şişirir.