COSC-4P80-Assignment-3/results_old/bins-1000/5x5-2000/Edge-Wrapped-Grid/Random-Unit-1/quantization_avg.csv

2003 lines
13 KiB
Plaintext
Raw Permalink Normal View History

2024-11-22 10:41:54 -05:00
error
34
18.1667
18.7667
19.9
18.4667
18.8333
17.9333
18.9667
18.7667
16.3667
18.3
20.1333
17.1667
18.4
20.3667
16.2
17.7
19.1667
21.5667
16.5
18.6
19
18.8333
17.8333
19.9667
18.0333
17.6333
16.1333
17.3333
18.9667
19.1667
16.8667
20.8
20.7667
18.2667
19.6667
20.7667
18
17.3667
16.6333
17.4
19.5
19.6
18.5
18.6667
20.0667
16.8
17.7333
17.1
18.0333
17.4
17.0333
21.2333
18.4667
20.3667
15.5
17.3
18.6
17.7
17.7333
20.8333
15.5
16.1
18.7
19.9667
18.6
15.5667
17.8
19.7333
17.4333
16.9333
16.9667
15.3667
19.8
18.1333
16.9333
15.8667
15.7333
15
14.9
17.7333
19.1667
14.4667
15.5
11.7667
16.5333
15.0333
15.9667
16.2667
15.1
14.7333
15.8333
14.4333
17.2667
15.1
15.2667
15.5
13.9
13.6333
15.5333
12.8
13.6667
15.2
12.3667
15.2
11.2
16.5333
15.6333
14.1667
11.8
15.9667
12.7
16.0333
13.8
14.5
13.1
15.8333
15.1333
13.9667
12.9333
14.9333
12.4667
14.0667
13.8667
11.4333
14.0667
12.7667
13.5667
15.8333
14.2
12.9
16.6333
14.5
12.8
13.8
14.4333
12.2
13.9
14
13.5333
13.1
13.9667
12.9667
14.1333
14.4333
12.6333
13.2
11.9333
13.1
13.6
12.2667
12.1667
13.2333
13.1667
12.8
12.7333
12.6
13.8
10.9667
12.4333
11.7
12.9
12.1
10.3
12.6667
13.0333
11.2333
12.1
12.2667
13.5333
12.7333
12.3
12.9
11.5
10.1333
12.7
13.4667
15.3333
12.3667
12.6333
11.5667
13.1333
11.6667
13.2667
11.5333
13.3333
12.1667
10.2667
11.5
10.4
13.3
13.5667
10.3667
12.6333
11.6
10.9333
11.6667
12.1
11.5667
11.1667
8.63333
10.4667
9.96667
10
9.96667
11.5333
11.4333
12.1
9.43333
11.0667
10.7333
10
12.4333
11.0333
10.8667
12.1
12.3333
10.5
11.5667
11.2667
12.6
11.6667
12.3667
10.7
9.43333
10.6
9.73333
11
11.3667
11.1
11.2
10.2
10.7667
11.2333
11.2667
11.5667
11.3667
9.93333
9.7
11.2333
10.8333
9.86667
11.0667
12.1333
9.4
11.5
10.7333
11.0333
10.9333
9.73333
10.5667
11.8333
10.7667
11.5667
11.4
10.1
10.4
10.0667
9.2
9.13333
9.93333
8.6
10.3667
9.56667
10.5333
12.2333
12
10.7333
9.06667
9.73333
8.83333
10.5
10.4333
9.8
10.8
10.9333
11
9.23333
11.0333
11.0667
10.2667
10.8333
11.2333
10.1333
9.93333
9.56667
9.93333
10.9
10
10.2
9.23333
10.3
9.56667
10.5333
9.7
8.76667
11.7667
9.9
8.53333
10.9
10
8.93333
8.6
9.73333
8.5
9.7
10.2667
8.46667
9.7
8.56667
9.56667
9.56667
8.6
10.1
8.8
9.66667
10.9333
8.8
9.1
11.7333
8.66667
9.6
9.7
9.13333
9.56667
8.76667
8.36667
9.66667
8.83333
10.3667
9.2
9.03333
8.86667
8.4
9.26667
9.1
9.9
8.46667
8
8.43333
9.66667
9.1
9.8
9.93333
8.73333
9.63333
10.4
8.8
9.16667
8.9
9.26667
9.26667
9.43333
8.66667
9.96667
9
9.4
8.86667
9.43333
9.6
9.36667
10.0333
7.9
9.7
8.96667
8.33333
8.16667
7.93333
8.76667
8.66667
8.16667
9.23333
8.86667
8.96667
8.66667
9.93333
9.13333
8.23333
8.26667
9.06667
8.93333
7.93333
9.63333
8.2
9.8
8.83333
9.33333
8.73333
9.56667
9.96667
8.83333
8.8
8.7
8.6
9
8.26667
8.56667
8.83333
8.16667
9.56667
8.4
9.03333
8.63333
8.63333
7.86667
8.93333
8.96667
8.66667
9.06667
8.86667
8.73333
8.56667
8.4
8.9
9.53333
9.33333
9.5
8.8
8.2
9.1
8.76667
8.06667
8.96667
8.83333
9.03333
8.73333
8.36667
8.93333
8.73333
8.66667
8.66667
9
9
9.43333
9.4
8.83333
8.43333
8.6
9.2
7.9
8.16667
8.36667
8.36667
8.7
9.1
7.86667
8.53333
8.46667
9.06667
9.13333
8.76667
8.06667
8.26667
8.3
9.16667
8.06667
8.66667
8.7
8.4
8.46667
8.03333
9.13333
8.4
8.23333
9.26667
9.23333
8.5
8.6
8.5
8.53333
8.43333
9.9
8.5
8.2
8.63333
8.9
8.23333
9.13333
8.56667
8.63333
8.53333
8.06667
9.36667
8.1
8.73333
8.3
8.6
8.93333
8.56667
8.16667
8.83333
8.3
8.03333
8.93333
9.13333
9.6
8.7
7.83333
9.03333
8.36667
8.63333
8.66667
8.66667
8.76667
8.16667
8.1
8.8
8.73333
8.93333
8.83333
8.86667
8.33333
9.66667
8.56667
8.66667
8.66667
8.83333
8.73333
8.76667
8.93333
8.76667
8.16667
8.2
8.7
8.8
8.3
9.26667
8
8.6
8.4
8.06667
8
8.66667
8.13333
8.86667
8.03333
8.56667
8.63333
8
9.16667
8.63333
8.4
8.4
8.4
8.33333
8.56667
8.06667
8.5
8
8.36667
8.13333
8.53333
8.9
8.63333
8.56667
8.5
8.83333
8.76667
8.36667
9.03333
8.63333
8.73333
8.5
8.46667
8.23333
8.66667
8.56667
8.23333
9.03333
8.56667
8.6
8.66667
8.6
8.46667
8.3
8.96667
9.06667
9.03333
8.7
9.03333
8.33333
8.83333
9.2
8.2
7.9
8.33333
8.4
7.93333
9.03333
8.93333
8.76667
8.7
8.03333
8.3
8.5
8.43333
8.66667
8.4
7.86667
7.9
8.56667
8.13333
7.8
8.2
8.43333
9
9.36667
7.73333
8.33333
8.3
8.16667
8.36667
8.56667
8.26667
8.73333
8.46667
8
9.23333
9.26667
8.73333
8.4
8.53333
8.3
8.3
8.33333
8.36667
8.73333
9.03333
8.86667
8.66667
7.93333
9.03333
7.93333
7.9
8.2
8.56667
8.53333
8.13333
8.43333
8.53333
8.43333
8.36667
8.76667
8.53333
8.6
8.33333
8.46667
8.06667
8.5
8.4
8.4
8.73333
8.56667
8.6
8.56667
8.73333
8.06667
8.76667
8.66667
8.16667
8.53333
8.76667
8.63333
8.3
8.56667
8.56667
8.33333
8.63333
8.6
8.06667
8.96667
8.4
8.03333
8.33333
8.9
8.33333
8.53333
8.7
9.06667
8.43333
8.5
8.26667
8.5
8.5
8.7
8.36667
8.56667
8.63333
8.66667
8.13333
8.43333
8.63333
8.56667
8.86667
8.8
8.53333
8.96667
8.46667
8.66667
8.36667
8.7
9.1
8.66667
8.4
8.9
8.46667
8.4
8.63333
8.03333
8.33333
8.23333
8.4
9.06667
8.7
8.03333
9.2
8.3
8.73333
8.46667
8.33333
8.83333
8.4
7.96667
8.16667
8.03333
8.7
8.66667
8.6
8.46667
8.36667
9.3
8.66667
8.53333
8.4
8.2
8.8
8.56667
8.73333
8.2
8.5
8.4
8.36667
8.33333
8.63333
8.83333
8.9
9.06667
7.93333
8.16667
8.2
8.7
7.96667
8.6
8.4
8.26667
8.53333
8.46667
8.56667
8.16667
8.8
8.36667
8.16667
8.3
8.8
8.06667
8.83333
8.76667
8.36667
8.33333
8.43333
8.36667
8.56667
8.4
8.33333
8.4
8.4
8
7.73333
8.3
8.4
8.8
8.66667
8.03333
7.93333
8.73333
8.23333
8.13333
8.3
8.4
8.6
8.36667
8.46667
8.4
8.7
8.2
8.4
8.4
8.2
8.36667
8.5
8
8.16667
7.96667
8.16667
8.2
8.63333
8.2
8.26667
8.3
8.4
8.43333
8.73333
8.7
8.66667
8.83333
8.66667
8.33333
8.8
8.1
7.9
8.43333
8.36667
9.16667
8.76667
8.66667
8.6
8.36667
8.06667
8.26667
8.46667
8.53333
7.5
8.66667
8.86667
8.7
8.26667
8.53333
8.6
8.53333
8.63333
8.53333
8.16667
8.63333
8.6
8.36667
8.06667
8.43333
8.26667
8.2
8.4
8.5
8.26667
8.66667
8.16667
7.93333
8.86667
8.26667
8.3
8.4
8.26667
8.86667
8.23333
8.46667
8.3
8.03333
8.8
8.93333
9.46667
8.8
8.83333
8.43333
9.46667
9.16667
8.83333
8.56667
8.56667
8.26667
8.13333
8.53333
8.56667
8.43333
8.36667
8.56667
8.2
8.26667
8.53333
9.03333
8.53333
8.63333
8.43333
8.6
8.8
8.33333
8.36667
8.66667
8.56667
8.3
8.43333
8.56667
9
8.33333
8.6
8.5
8.43333
8.13333
7.93333
8.36667
8.6
8.76667
8.6
8.2
8.13333
8.5
8.63333
8.13333
8.33333
8.43333
8.36667
8.53333
8.4
8.43333
9.06667
8.73333
8.66667
8.9
8.76667
8.53333
8.5
8.93333
9
8.63333
9.13333
9.1
9.06667
9.06667
9.03333
8.7
8.93333
8.6
8.9
8.56667
9.16667
8.73333
8.9
8.6
8.46667
8.66667
8.83333
8.63333
8.7
8.2
8.7
8.6
8.2
8.23333
8.33333
8.16667
8.5
8.23333
8.56667
8.33333
8.8
8.1
8.73333
8.36667
8.63333
9
8.96667
9.03333
9
8.73333
8.53333
8.5
8.16667
8.36667
8.26667
8.7
8.63333
8.26667
8.6
8.33333
8.43333
8.56667
8.56667
8.56667
8.53333
8.46667
8.13333
8.33333
8.3
8.5
8.4
8.4
8.23333
8.8
8.63333
8.63333
8.36667
8.73333
8.8
8.7
8.4
8.56667
8.5
8.5
8.33333
8.66667
8.23333
8.53333
8.46667
8.5
8.53333
8.66667
8.5
8.9
8.76667
8.66667
8.6
8.53333
8.73333
8.66667
8.66667
8.86667
8.73333
8.76667
8.76667
8.9
8.56667
8.83333
8.7
9.13333
9
8.93333
8.8
8.53333
8.6
8.53333
8.7
8.56667
8.8
8.96667
8.8
8.96667
8.73333
8.93333
8.86667
8.96667
8.63333
8.8
8.56667
8.76667
8.83333
8.83333
9.03333
8.86667
8.66667
9
8.86667
8.63333
8.66667
8.7
8.56667
8.56667
8.6
8.63333
8.63333
8.9
8.86667
8.86667
8.93333
8.63333
8.7
8.83333
9
8.53333
8.66667
8.76667
8.83333
8.83333
8.8
8.9
8.96667
9.03333
8.76667
8.86667
9.03333
8.8
8.83333
8.9
8.96667
8.76667
8.83333
8.76667
8.8
8.8
8.86667
8.93333
8.86667
8.7
8.8
8.86667
8.66667
8.76667
8.83333
8.86667
8.8
8.93333
8.96667
8.83333
9.03333
8.8
8.96667
8.9
9
8.83333
8.86667
8.9
8.83333
9.03333
8.93333
9
9.2
8.96667
8.86667
8.76667
9.06667
9.03333
8.8
9.06667
8.9
8.86667
8.93333
9
8.83333
8.96667
8.86667
8.8
8.8
8.8
8.73333
8.66667
8.8
8.9
8.9
8.93333
8.83333
8.83333
8.96667
8.7
8.86667
8.73333
8.86667
8.73333
8.83333
8.83333
8.8
9.06667
8.73333
8.73333
8.86667
8.63333
8.7
8.83333
8.8
8.96667
8.76667
8.73333
8.83333
8.76667
8.8
8.86667
8.86667
8.93333
8.9
8.83333
8.8
8.8
8.86667
8.7
8.7
8.76667
8.66667
8.7
8.96667
8.83333
8.93333
8.9
8.83333
8.73333
8.83333
8.66667
8.7
8.83333
8.7
8.8
8.8
8.86667
8.8
8.96667
8.86667
8.93333
8.96667
8.86667
8.8
8.83333
8.9
8.83333
8.8
8.83333
8.96667
8.86667
8.93333
8.93333
8.9
8.9
8.8
8.93333
8.96667
8.96667
8.93333
8.9
8.93333
8.9
9.03333
8.83333
8.9
9.03333
8.86667
8.76667
8.76667
8.96667
9
8.83333
9
8.93333
8.86667
8.93333
8.86667
8.86667
8.76667
8.73333
8.66667
8.7
8.9
8.76667
8.86667
8.86667
8.9
9
8.86667
8.8
8.9
8.93333
8.9
8.83333
8.9
9
9.06667
8.76667
8.96667
8.76667
8.93333
8.93333
8.86667
8.86667
8.73333
8.8
8.86667
8.96667
8.86667
8.9
8.96667
8.93333
8.86667
8.73333
8.66667
8.8
8.8
8.83333
8.73333
8.7
8.76667
8.8
8.9
8.83333
8.86667
8.96667
8.93333
8.8
8.86667
8.96667
8.66667
8.63333
8.56667
8.6
8.66667
8.7
8.73333
8.9
8.83333
8.83333
8.93333
8.8
9
8.86667
8.93333
8.96667
8.7
8.7
8.73333
8.83333
9
8.8
8.66667
8.7
8.7
8.7
8.5
8.63333
8.56667
8.73333
8.73333
8.56667
8.66667
8.86667
8.9
8.76667
9
8.76667
8.73333
8.8
8.76667
8.8
8.83333
9
8.9
9.03333
9.03333
8.86667
8.93333
8.76667
8.73333
8.66667
8.7
8.73333
8.73333
8.8
8.76667
8.63333
8.8
8.83333
8.9
8.8
8.8
8.76667
8.8
9.03333
8.76667
8.86667
8.76667
8.73333
8.7
8.9
8.8
8.8
8.9
8.6
8.6
8.76667
8.63333
8.7
8.73333
8.96667
8.76667
8.56667
8.56667
8.7
8.8
9
8.73333
8.8
8.83333
8.6
8.8
8.76667
8.9
8.73333
8.76667
8.63333
8.76667
8.83333
8.66667
8.8
8.73333
8.7
8.63333
8.5
8.56667
8.66667
8.7
8.73333
8.7
8.63333
8.66667
8.73333
8.76667
8.83333
8.8
9.03333
8.9
8.93333
8.7
8.83333
8.7
8.66667
8.8
8.76667
8.73333
8.76667
8.56667
8.8
8.73333
8.8
8.86667
8.96667
8.66667
8.63333
8.66667
8.53333
8.66667
8.63333
8.6
8.63333
8.7
8.7
8.83333
8.7
8.66667
8.66667
8.7
8.7
8.86667
8.73333
8.93333
8.8
8.73333
8.8
8.8
8.83333
9
9.06667
8.86667
8.93333
8.86667
9
8.93333
9
8.8
8.86667
9
8.93333
8.8
8.93333
8.93333
8.9
8.93333
8.93333
8.93333
8.86667
8.86667
8.93333
8.86667
8.93333
8.86667
8.86667
8.93333
8.93333
8.93333
8.86667
8.86667
8.86667
8.96667
8.96667
8.9
8.9
8.96667
8.96667
8.96667
8.93333
8.93333
9.06667
9.03333
8.93333
8.96667
8.93333
8.96667
9
9.1
8.96667
8.96667
8.96667
8.96667
9.03333
9.1
9.1
9.03333
9.03333
8.96667
9
9.06667
9.1
8.96667
8.96667
9.03333
9
9.13333
9.06667
9.23333
9.06667
9.06667
9.2
9.26667
9.26667
9.13333
9.06667
9
9.13333
9.06667
9.13333
9.06667
9.33333
9.2
9.2
9.2
9.26667
9.26667
9.3
9.33333
9.33333
9.26667
9.4
9.33333
9.2
9.2
9.13333
9.33333
9.13333
9.2
9.2
9.1
9.33333
9.36667
9.2
9.36667
9.36667
9.53333
9.4
9.36667
9.23333
9.36667
9.36667
9.33333
9.4
9.33333
9.23333
9.3
9.36667
9.43333
9.36667
9.43333
9.4
9.46667
9.4
9.33333
9.2
9.26667
9.26667
9.26667
9.4
9.33333
9.33333
9.33333
9.4
9.33333
9.33333
9.4
9.3
9.36667
9.3
9.36667
9.36667
9.3
9.36667
9.36667
9.43333
9.43333
9.5
9.46667
9.53333
9.6
9.66667
9.66667
9.66667
9.66667
9.66667
9.6
9.66667
9.63333
9.7
9.63333
9.56667
9.56667
9.56667
9.63333
9.7
9.7
9.63333
9.7
9.7
9.63333
9.63333
9.7
9.56667
9.56667
9.63333
9.63333
9.63333
9.7
9.7
9.7
9.7
9.7
9.7
9.7
9.7
9.7
9.7
9.7
9.7
9.63333
9.63333
9.7
9.7
9.6
9.7
9.63333
9.7
9.6
9.6
9.7
9.7
9.7
9.7
9.63333
9.66667
9.66667
9.66667
9.56667
9.66667
9.6
9.7
9.73333
9.63333
9.63333
9.63333
9.7
9.63333
9.63333
9.63333
9.63333
9.66667
9.46667
9.56667
9.53333
9.66667
9.66667
9.5
9.5
9.5
9.43333
9.76667
9.7
9.53333
9.4
9.43333
9.56667
9.63333
9.46667
9.43333
9.36667
9.36667
9.4
9.4
9.16667
9.23333
9.23333
9.3
9.3
9.3
9.43333
9.43333
9.23333
9.3
9.3
9.3
9.3
9.2
9.26667
9.16667
9.1
9.16667
9.16667
9.13333
9.26667
9.2
9.2
9.2
9.13333
9.2
9.1
9.1
9.1
9.1
9.1
9.13333
9.13333
9.16667
9.2
9.16667
9.23333
9.23333
9.23333
9.16667
9.16667
9.16667
9.16667
9.16667
9.16667
9.16667
9.16667
9.16667
9.16667
9.16667
9.2
9.2
9.16667
9.16667
9.16667
9.16667
9.16667
9.2
9.2
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.23333
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.26667
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.3
9.36667
9.36667
9.36667
9.36667
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333