gpt2small-en-it-nanochat-lr2e4-bs7-step9000 / probe_step9000_summary.json
nazdef's picture
Upload bs7 best checkpoint step_9000
b162fdc verified
[
{
"language": "en",
"prompt": "The capital of Italy is",
"expected_next_text": " Rome",
"completion": " the capital of Italy. The capital of Italy is the capital of Italy. The capital of Italy is the capital of Italy. The capital of Italy is the capital",
"correct_token_rank": 248,
"correct_token_probability": 0.0003604888916015625,
"entropy": 5.0625
},
{
"language": "en",
"prompt": "A small language model should",
"expected_next_text": " be",
"completion": " be used to be used to be used to be used to be used to be used to be used to be used to be used to be used to be used",
"correct_token_rank": 1,
"correct_token_probability": 0.45703125,
"entropy": 3.703125
},
{
"language": "it",
"prompt": "La capitale d'Italia è",
"expected_next_text": " Roma",
"completion": " stata occupata da un'altra parte, e la sua posizione è stata di fatto. La sua posizione è stata di fatto, e la sua posizione è stata di",
"correct_token_rank": 1103,
"correct_token_probability": 4.6253204345703125e-05,
"entropy": 5.125
},
{
"language": "it",
"prompt": "Un piccolo modello linguistico dovrebbe",
"expected_next_text": " essere",
"completion": " essere un'opera di un'opera di un'opera di un'opera di un'opera di un'opera di un'opera di un'opera",
"correct_token_rank": 1,
"correct_token_probability": 0.3984375,
"entropy": 4.34375
}
]