COSC-4P80-Assignment-3/results/bins-64/5x5-2000/Edge-Wrapped-Grid/Random-Unit-1/quantization_avg.csv

2003 lines
14 KiB
Plaintext
Raw Normal View History

2024-11-22 10:41:54 -05:00
error
21.8333
19.9333
20.1333
20.0667
20.7333
20.4333
21.3
21.4
22.3333
21.3333
21.9
20.9
20.3667
21.1333
23.0333
21.9667
21.4
22.4667
20.5667
20.7333
22.1
22.6667
21.5333
23.7667
21.4
21.5
21.1
21.0333
20.6333
22.4
22.3
21.4667
22.6667
21.3667
21.9667
23.2333
20.5333
23.3
23.5
22.8667
21.9667
21.3
22.4333
24.3
20.8667
22.7
22.0667
20.7
21.6
21.4667
22.5667
20.5667
22.8
22.3333
21.3667
21.8
21.6333
23.9333
23.0333
21.7
21.2
22.6333
23.8333
21.8
24.2333
23.5
21.1333
23.0333
22.1333
20.4
21.3333
21.8667
24.0333
22.7
23.0667
23.4333
21.6333
21.1667
21.9333
22.3333
22.3
22.9333
21
22.6667
22.8
21.2333
21.8333
23.0333
21.6
22.7333
22.5667
20.9667
22.8667
20.7
20.7667
21.5667
20.8333
21.4
21.7667
21.0333
24.1
22.5333
22.3333
21.3667
20.3667
23.6667
22.5333
20.8
22.1333
23
22.2667
21
20.6667
21.8667
20.6333
21.4
21.2667
20.6667
21.6333
21.9667
22.4
21.0667
22.1333
22.6667
23.4333
22.1333
23
21.5667
21.6333
22.4333
22.7
23.3667
21.1333
21.9
21.5
21.1333
22.8
21.7
22.2667
22.1333
22.6667
21.2333
22.5
22.1
21.7333
22.5667
22.1667
22.0667
22.7
21.7667
21.9333
22
22.6667
22.4667
21.2667
21.8333
22.3333
21.0667
22.0333
22
21.1
22.0667
21.9667
22.6667
23.1
21.3667
21.6667
22.0667
22.3333
22.0333
21.5667
21.8
21.9333
21.5
21.6667
22.2667
21.5667
21.6667
22.1333
21.4333
21.5
21.8
22.2333
22.1333
21.5333
22.6333
21.9
22.4667
22.8333
21.6333
21.1667
21.6333
22.2333
22.2
21.6333
21.8667
21.9667
21.3
21.3333
21.4
21.4
21.5333
21.7
22
22.7
21.9333
21.6
21.5
21.9333
21.9333
21.3
21.3667
21.9667
21.7333
20.8667
22.0667
21.6667
21
22
22.1
21.4333
21.8333
21.4
22.2333
21.7667
21.5
21.4667
21.6333
20.7333
21.8667
22.1
21.3
21.8
21.9667
22.0667
21.9333
21.3
21.9667
21.7667
21.7333
21.8333
21.6333
21.5667
22.1333
21.6667
21.6333
21.6333
21.6333
22
21.5333
21.7
21.4667
21.8333
21.6333
21.9
21.8
22.1333
21.1333
21.1
21.5
22.2
21.7333
21.5333
21.3667
20.9667
22.0333
21.9333
21.7
21.8667
21.6
21.3333
22.1333
21.7667
21.6
21.3667
21.6667
21.3667
22.1
21.6
21.5
22
22
21.9333
21.7667
21.9333
21.1
21.7
21.6
21.8333
22.0333
22.1333
21.5
21.7333
21.8
21.5333
22.5
21.6
21.8
22.5333
21.8333
21.6333
22.1667
22.1
21.7667
22.1333
22.1
21.5333
22.0667
22.1667
21.9
22.0667
21.8333
21.7667
21.7667
21.5333
20.6667
21.9667
22.2
22.3333
21.8333
21.6333
22.5333
21.6333
21.7
21.4333
22.3
22
22
22.6333
22.0667
22.1667
22.0667
22.2333
21.9
22.1667
22.0333
21.3333
21.9667
21.4667
22.3333
21.5333
22.1667
22.3
21.8333
21.8667
21.8333
21.7667
22.4333
22.2
22.1
21.8
22.6333
22.0667
22.2667
21.7667
22.6
22.2667
21.8
21.9
22.2333
21.6
21.5333
22.3
21.9
22
22.5
22.1667
21.7667
22.1
22.1667
22.9
22.0667
21.7667
21.9
21.7
22
22.2
22.4
22.2
22
22.3667
22.3333
22.5
21.6667
22.1667
22.4
22.4
21.9333
22.1667
22.3333
22.3667
21.7333
21.9333
22.5
21.9333
22.1
21.9333
21.9
21.8667
22.6
22.0667
22.0667
22.0667
21.9667
21.4667
21.8667
21.9
21.9667
21.7
21.7
21.6667
21.5
21.7333
22
21.6667
21.9
22.5333
22.1333
21.9667
21.9667
21.9
22.1667
22.2
22.4333
22.0333
22.3333
22.0667
22.1667
22.1
22.2
22.0333
22.2667
22.2
21.9667
22.3
21.9667
21.8667
22.2667
21.6333
21.8667
22.3667
21.6333
22.1667
22.2667
21.9
22.3667
22.6
22.9667
22.4667
22.6333
22.2667
21.9333
22.5333
22.2667
22.4
22
22.6
21.7333
22.0667
22.1
21.9333
21.7667
21.9333
22.6
21.5333
21.5333
22
22.0667
22.3
22.3667
21.6
22.5
22.5
22.2333
22.4
22.4
21.8667
21.6667
22.1
22.2
22.4667
22.0667
21.9667
21.9333
21.9
22.4333
22.2
22.6
21.9667
22.0667
21.7
21.8333
21.9333
21.8333
22.5667
21.2333
22.4333
22.3
22.3333
22.3667
22.6667
22.5333
22.4333
22.1
22.1333
22.4667
21.7333
22.2
21.7667
21.2667
21.7
22.4
22.0667
21.5667
22.1333
21.8667
21.9
21.9
22.1333
22.4333
22.0667
22.4
21.8
22.3333
22.4
22.4667
22.2
22.3
21.8
22.5667
22.1
21.7
22.2333
22.5
22.2667
22.2333
22.1
22.3333
21.8667
21.9333
21.9
22.0667
21.9
22.4
21.9667
22.3667
21.6667
22.9667
21.8333
22.3
22.2667
22.3333
21.9333
22.0333
22.0667
22.1667
22.2333
22.3667
22.4
22.2
22.4333
21.7
22.3667
22.1333
22.5333
22.1667
22
21.9667
22.1667
21.9667
22
21.7667
21.9
22.3
21.8667
21.4667
22.2
21.5667
22.1667
22.1667
22.5333
21.9
22.6333
21.9
22.2
22.4667
21.7333
22.4
22.1667
21.8
22.0333
22.3333
21.6667
22.4
22.0333
22.3
21.7333
21.5333
21.9333
22.4667
21.8
22.4333
21.5
21.8333
22.3333
22.1
22.1667
21.7667
21.7667
21.2667
21.8667
21.9333
21.9
21.9
21.9333
21.7333
22
21.8
22.1667
22.3667
22.0667
21.6
21.8667
22.2667
22.2667
21.8333
21.9333
21.4667
21.9
21.9667
21.8
22
22.0667
22.0333
22.1
22
22.0333
21.7333
22.0333
22.4333
22.3667
21.5667
22.0333
22.1333
21.9667
22.2
22.1
22.0667
21.8667
22.8333
22.0333
22.2667
22.6
21.7667
21.9333
21.8
21.8667
21.8333
22
22.1333
22.2333
21.8667
22.3
21.9667
21.8667
22.3333
22.1
21.7
22.1333
22.3333
21.9
22.3667
22.6
21.6667
21.7333
22.5333
21.6667
21.9333
21.8
21.5667
21.8
22.1
21.7
22.2333
21.7333
21.8667
21.7
21.7667
21.7667
21.9333
21.5333
22.3667
22.0333
21.7667
21.7667
21.6667
21.7
22
22.5333
21.6667
22.1
22.1
21.9667
22.8
21.9667
22.3667
22.1
22.1667
21.9
22.5
21.6333
21.8
22.2333
22.4667
22.6
22.0667
22.1667
22.2333
21.7
22.1667
21.8333
21.8333
22.1333
21.6667
22.1
22.7333
22.2
22.1
22
21.8667
21.9
21.9667
22.6333
22.1333
21.8333
21.9333
22.1
21.9667
21.6333
21.6333
21.5
21.9
21.7333
22.2333
22.0667
21.5333
22.1
22.4
22.2333
22.4333
22.5
22.1333
22.3
22.0667
22.0333
21.5
21.8
22.2
22.2667
22.4333
22.0333
22.0333
22.1667
22.1
21.9333
22.3
22.1
22.1333
21.7333
22.3
21.8
22.5
21.9
22.2333
21.9
22.0333
21.6333
21.4
22.1667
22.0333
21.4667
21.2333
21.7333
22.2333
21.8667
22.2
22.5333
21.8667
22.3667
21.5333
21.9333
21.8667
21.9
22.1667
22.1667
21.9
21.7
21.7667
22.0667
22
22.1
22.0333
21.5333
21.6333
22.4
21.9333
22.3
22.4333
21.8
22.3667
22.8
21.9667
22.1667
22.1
21.7667
22.2333
22.2
22.5667
22.4333
22.0333
21.9667
22.7
22.8667
22.0667
22.5
22.1
22.2667
21.9333
21.9
22.3
22.2333
22.5
22.2333
21.9
21.6
22.0333
21.7667
21.8333
21.3333
21.8
21.8333
21.9333
21.9
21.7
21.7333
21.8667
21.9333
21.6333
21.6667
21.7
22.0333
22.3
21.9
22
22.0667
22.0333
21.7667
22.0667
21.8
21.8667
21.6667
21.9333
21.6333
22.0667
21.8333
21.9
22
21.7
22.2667
21.7
22
21.6
22
21.8667
22.1333
22.5
21.7
21.7333
21.5
22.1667
21.5667
21.6333
21.9333
21.4
21.4333
21.7333
21.4667
21.9
21.6333
21.7
21.7
21.8
22.2
22.3667
21.6667
21.8667
21.8
21.9667
22.2667
21.6333
22.0333
21.4333
21.6333
21.9
21.8333
21.8333
21.9
21.8333
22.0333
21.9333
22.0667
21.7667
22.6333
21.8667
22.1
22
21.8333
21.5333
21.7667
21.4
21.7667
21.6
21.5667
21.6333
21.7
21.3333
21.6667
21.5
21.5667
22.2333
21.6667
21.9667
21.7667
21.7
21.6333
21.9
21.9333
21.8333
22
22.1
22.0667
21.9667
22.1667
22
21.5333
22.0667
21.6
21.6
21.8333
21.5667
22.0333
21.3667
21.7
21.9
22.5
22.3667
21.9667
21.7667
21.7333
21.7
21.9333
21.5
21.9
21.8333
21.9333
21.9667
22.5333
21.9333
22.4667
21.9667
21.7667
21.6333
21.9667
21.9333
21.8667
21.7
21.5667
21.4667
22.0667
21.8333
21.7667
22
21.8333
21.7667
21.6333
21.7333
21.2667
21.4667
21.7
21.5333
21.9
21.6333
21.7
21.7667
21.5
21.7
22.1667
22.3333
21.9667
22.1333
21.7667
22.0667
21.9
21.9667
22.1
22.2333
22.1667
21.9333
22.0667
22.4
22.2667
22.0667
21.9333
21.9
22.1333
22.7
22.6
22.3
22.1
22.2
21.8333
21.5667
22.2667
21.5667
21.7667
22.1667
22
21.6
21.5667
21.9
22.1
22.8
22.5
22.1667
21.6667
22.1
21.7667
21.8667
21.8333
21.9
22.1
21.8
21.9333
22.1333
21.6667
21.9
21.7
21.4667
21.6
22.0333
22.0333
21.5
22.1333
22.0667
21.9333
21.9
22.2
21.8333
22.2
22.4667
22.5333
21.9667
22.3
22.1667
22.1333
22.5667
22.1333
22.5333
22.3
22.3667
22.1667
22.1667
22.7667
22.9
22.5
22.5333
22.3667
22.7667
22.1667
22.3667
22.0667
22.1667
21.9333
21.9333
22.2
21.9667
21.8667
21.5
22.1
22.3667
22.0667
21.7667
21.9667
22.0667
22.0667
22.0333
21.7333
22.1
21.8333
21.8333
21.9
21.9667
21.8667
21.8333
21.7667
21.7667
21.8667
22.1
22.4333
22.4333
22.2333
22.1667
21.8667
21.8667
22.1333
22.2
22.2667
22.3
22.4333
22.3
22.1667
21.8667
22.1
22.2
21.9333
22.1
22.0333
22
22.1333
22.1667
22.3
21.8667
21.7333
21.8667
21.8333
22.2
21.9
21.8667
21.5333
22.1
22
21.8
21.5
21.6
21.7667
22.0333
21.9333
21.8
21.6333
22.1
22.3667
22.3667
22.2667
22.2
22.3
22.2
22.0667
21.9667
21.9333
21.8333
21.9667
21.8667
21.8667
21.8667
21.7667
21.9
21.8
21.9667
22.0667
22.0333
22
21.8333
21.8
21.9667
21.9333
21.9333
22.2333
22.1667
21.9
21.6667
21.9
21.9
21.9
21.8333
21.9667
21.9333
21.9333
22.2
21.9333
22.2667
22.1333
21.8333
21.8667
21.9333
21.8333
21.9
21.8333
21.8
21.6333
21.8333
22.1333
22.2
22.1333
22.2333
22.3
22
22.0333
21.9667
22.1333
22.0333
21.7333
21.8
21.8
21.8667
21.9333
22.1333
21.9333
22.0667
22.0333
21.9667
22.0333
21.8667
21.8667
21.5667
21.7667
21.8
21.8
21.7333
21.9
22.1
21.8667
22
21.9333
22.1
21.6333
21.9667
21.8667
22.3
22.2333
21.9667
22.1333
22
22.1
22.1667
21.9667
22.0667
22.0667
21.9333
21.6
21.9333
21.9
21.8
22.0333
22.2
21.9667
21.9333
22.1667
21.9333
22.2667
21.9333
21.8667
21.6333
21.6333
21.6333
21.6333
21.7333
21.8667
21.8333
21.7667
21.9
22.0667
21.9333
21.9333
21.8667
22
21.8333
21.9667
22.0667
21.9
21.8667
21.8
21.8667
22.1
21.8
21.7333
21.8667
22
22.0667
21.7
21.6667
21.7333
21.8667
21.7667
21.6667
21.8
21.8667
21.9667
21.8
21.3333
21.3
21.5667
21.5333
21.6667
21.6
21.7333
21.8333
21.5333
21.6
21.7
21.6333
21.7333
21.5333
21.7333
21.6333
21.7667
21.7
21.8333
21.9
22.0333
21.7
21.9333
21.7
21.6333
21.7333
21.7667
21.6333
21.5333
21.6333
21.6667
21.5667
21.5667
21.4333
21.4667
21.7
21.7
21.5
21.8
21.8667
21.5667
21.7
21.6667
21.6
21.7
21.8
21.6
21.7667
21.4667
21.8
21.8333
21.8333
21.6333
21.7667
21.6333
21.5667
21.5
21.6
21.5667
21.6667
21.7
21.6333
21.6333
21.5
21.4667
21.4
21.4667
21.5333
21.4667
21.4
21.3667
21.4
21.4667
21.4667
21.6333
21.7333
21.6333
21.8667
21.5667
21.5667
21.7333
21.7
21.6333
21.6667
21.6333
21.6667
21.4333
21.3333
21.5333
21.6
21.6667
21.5333
21.5667
21.5
21.6
21.4667
21.4
21.6
21.6667
21.6333
21.7333
21.6667
21.7
21.5333
21.5
21.4333
21.4333
21.4333
21.4
21.6
21.5
21.7667
21.6
21.4667
21.6
21.5667
21.5333
21.5
21.5667
21.3667
21.3
21.3
21.4333
21.4333
21.4
21.3667
21.3667
21.4
21.5
21.4667
21.6333
21.5667
21.5
21.5667
21.7333
21.6
21.6667
21.5
21.5667
21.5333
21.5667
21.5667
21.4
21.4667
21.6
21.4667
21.4667
21.5
21.4667
21.4667
21.6
21.5
21.7333
21.6
21.6
21.6333
21.6333
21.5667
21.6667
21.7333
21.6333
21.4333
21.6333
21.5667
21.7333
21.6
21.5
21.4333
21.4667
21.4667
21.5667
21.5333
21.7
21.4667
21.4
21.4667
21.6
21.5
21.5
21.5
21.3667
21.3667
21.4
21.3667
21.3
21.3
21.4
21.3667
21.4333
21.4
21.4667
21.5
21.4
21.5667
21.6
21.7667
21.6667
21.6667
21.7333
21.6667
21.7
21.6
21.6
21.4333
21.4
21.5
21.4
21.4333
21.5667
21.3333
21.4333
21.3667
21.4
21.5
21.5333
21.4333
21.4333
21.4333
21.4667
21.5333
21.5
21.4667
21.6
21.5667
21.3667
21.5
21.4333
21.3667
21.3
21.6
21.6333
21.5667
21.5
21.6667
21.7
21.6
21.4
21.3667
21.4333
21.4667
21.5667
21.5667
21.4667
21.5
21.5333
21.4
21.5
21.5333
21.5
21.4
21.4333
21.3667
21.3667
21.3667
21.3
21.3
21.4333
21.4
21.3333
21.3667
21.4667
21.3667
21.4333
21.4333
21.3333
21.3
21.3
21.3333
21.3667
21.3333
21.4
21.3333
21.4333
21.3667
21.3667
21.4667
21.5667
21.3
21.3333
21.3667
21.3
21.3667
21.4333
21.2667
21.5333
21.4333
21.4667
21.5
21.5
21.4667
21.4667
21.4
21.5
21.6
21.4667
21.5333
21.5667
21.5333
21.5333
21.5667
21.5667
21.5
21.6
21.4
21.4333
21.3333
21.4333
21.4333
21.3333
21.4
21.4
21.4
21.3333
21.4333
21.4
21.4
21.4667
21.6
21.5
21.4333
21.5333
21.6
21.5667
21.6667
21.5333
21.5333
21.4667
21.6333
21.4667
21.4667
21.5333
21.4667
21.4333
21.4
21.3667
21.3667
21.3333
21.3333
21.3333
21.4667
21.4667
21.4667
21.4667
21.5
21.4667
21.5333
21.4667
21.4
21.4333
21.4667
21.4333
21.4667
21.5333
21.5667
21.5667
21.5
21.5
21.5
21.5
21.4667
21.4
21.4333
21.4667
21.5333
21.5
21.5
21.5333
21.5
21.6333
21.6333
21.6333
21.4667
21.5333
21.4667
21.6667
21.6333
21.6
21.5667
21.6
21.4333
21.4333
21.6
21.6
21.4
21.4333
21.4333
21.4333
21.4
21.4
21.4
21.4333
21.4
21.4333
21.3667
21.3333
21.3667
21.3667
21.4
21.4
21.4333
21.4333
21.3667
21.3333
21.3667
21.3667
21.3667
21.5
21.4667
21.5667
21.6
21.5667
21.5667
21.6
21.6333
21.5667
21.5
21.5667
21.4333
21.4
21.5
21.4667
21.5
21.5667
21.4667
21.4
21.4
21.3667
21.5
21.4667
21.4
21.4
21.5333
21.5
21.5333
21.5
21.4333
21.4667
21.3667
21.4333
21.4333
21.4333
21.4667
21.4333
21.4667
21.4667
21.4333
21.4667
21.4667
21.5333
21.5333
21.5
21.5667
21.5333
21.5
21.5
21.5
21.5
21.5
21.5
21.4333
21.5
21.4333
21.5
21.5
21.4333
21.4667
21.4333
21.4333
21.4667
21.5
21.5
21.5
21.5
21.5333
21.5333
21.5333
21.5
21.4333
21.4333
21.5
21.5
21.5
21.5
21.5333
21.5
21.5333
21.4333
21.4333
21.4333
21.5
21.5
21.5
21.5
21.5
21.4333
21.5333
21.5333
21.5333
21.6333
21.6333
21.6333
21.6
21.5
21.5333
21.5
21.5333
21.5
21.4667
21.5333
21.5
21.4667
21.4333
21.4667
21.5333
21.5
21.4333
21.5
21.4
21.5
21.4333
21.3333
21.4
21.4
21.4333
21.4667
21.4667
21.4667
21.3
21.3
21.3
21.3333
21.3
21.4333
21.3
21.4
21.4667
21.3667
21.4667
21.4667
21.3667
21.3
21.2
21.3
21.3
21.3
21.3
21.3667
21.2333
21.3333
21.3333
21.3333
21.4667
21.4667
21.4333
21.4333
21.2667
21.3667
21.3333
21.3333
21.4333
21.3333
21.3333
21.3333
21.3333
21.3333
21.3333
21.3333
21.3333
21.3667
21.3333
21.3667
21.3333
21.3667
21.3333
21.3333
21.3333
21.3333
21.3333
21.3333
21.4333
21.4333
21.3333
21.3333
21.3
21.3
21.3
21.3
21.3
21.3
21.3
21.3
21.3
21.3
21.3667
21.3333
21.3333
21.3333
21.3333
21.3667
21.3667
21.3667
21.3667
21.3667
21.4333
21.4667
21.4333
21.4667
21.4667
21.4333
21.5
21.5333
21.5
21.5
21.5
21.5333
21.5333
21.5667
21.5667
21.5667
21.4667
21.5333
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.6
21.6
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.6
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.5667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.6667
21.7
21.6667
21.6667
21.6667
21.6667
21.6667