Một LLM dự đoán từ tiếp theo dựa trên phân phối xác suất. Cho 𝑃 ( 𝑤 1 , 𝑤 2 , … , 𝑤 𝑁 ) P(w 1 ​ ,w 2 ​ ,…,w N ​ ) là xác suất của một chuỗi từ. Độ phức tạp được định nghĩa là: 𝑃 𝑃 ( 𝑊 ) = 𝑃 ( 𝑤 1 , 𝑤 2 , … , 𝑤 𝑁 ) − 1 𝑁 PP(W)=P(w 1 ​ ,w 2 ​ ,…,w N ​ ) − N 1 ​ Hoặc, sử dụng quy tắc chuỗi xác suất: 𝑃 𝑃 ( 𝑊 ) = ∏ 𝑖 = 1 𝑁 1 𝑃 ( 𝑤 𝑖 ∣ 𝑤 1 , … , 𝑤 𝑖 − 1 ) 𝑁 PP(W)= N ∏ i=1 N ​ P(w i ​ ∣w 1 ​ ,…,w i−1 ​ ) 1 ​ ​ Các công cụ phát hiện tìm kiếm độ phức tạp thấp (xác suất cao). Hướng dẫn prompt "Không chọn token tiếp theo có xác suất thống kê cao nhất" buộc mô hình chọn token từ vị trí thấp hơn trong phân phối xác suất (ví dụ: từ có khả năng cao thứ 3 hoặc thứ 4 thay vì thứ 1), làm tăng giá trị 𝑃 𝑃 PP một cách giả tạo để phù hợp với mức độ của con người.