COSC-4P80-Assignment-3/results_old_2/bins-1000/5x5-2000/Edge-Wrapped-Grid/Random-Unit-1/quantization_avg.csv

2003 lines
13 KiB
Plaintext
Raw Normal View History

2024-11-22 10:41:54 -05:00
error
34
19.4667
18.9
19.2
17.7667
14.0333
18.6333
17.6667
15.5333
18.1333
18.2667
18.3
16.9667
14.1667
17.9
19.4
19.1333
16.6667
18.0333
15.9
17.7333
15.8333
17.5667
18
19.8
19.4333
18.3667
18.6
17.7667
18.6333
17.4333
22.2667
17.9
18.8667
18.5667
19.5667
18.1333
19.4333
19.1333
20.7667
17.1
15.9333
17.4
17.4
21.0667
15.0333
17.4333
16.6333
19.5
17.6667
19.2
18.7
16.7
20.1
19.7333
18.8667
18.6
18.8333
16.8333
18.8
17.6333
16.8333
21.6333
17.3667
17.1333
16.3667
17.1
14.9667
15.1
15.7333
16.3667
15.9333
16.5
15.1333
15.7667
14.4667
14.6333
17.0333
17.7333
15.6333
16.4333
15.3
14.1333
17.2667
18.2667
14.6667
15.7333
13.1333
18.2333
14.4
13.2667
12
14.1667
16.4
14.8333
16.0333
13.4667
15.1333
15.1
14.5
16.2
15.4667
15.6333
11.8333
15.6333
14.3
16.4667
16.9
14.1
12.3333
15.3333
15.9
12.7667
15.0667
13.8667
13.7
15.3333
17.8333
15.4667
12.9333
14.8667
13.1
15.2
14.0333
13.9667
12.4
14.4
14.1667
12.7
14.2
14.7
13.5
14.0333
14.6
14.5333
13.5
13.6667
11.9667
13.7
11.3
11.7
13.7667
13.6
15.3
11.9333
15
14.4333
13.6667
14.2667
12.2667
13.1333
11.1667
13.3333
12.0667
13.7667
11.4667
13.1667
11.9
14.9
14.4667
13.3667
14.0667
9.7
11.5
11.2333
11.1333
12.1333
10.6
11.8667
11.5333
10.3
13.4333
13.3333
12.0333
11.6
10.6667
13.3333
11.6333
10.5667
12.1
12.2667
15.5
12.8667
11.6333
12.5
11.8667
13.7
13.2667
12.4333
12.2
12.3333
11.8
12.9
12.2
12.4
11.9
12.4667
11.2
11.8333
10.3667
11.7667
12.8
11.0333
10.9667
11.6667
11.6
11.1667
10.1
11.1
10.8333
11.3667
9.63333
12.2
9.9
11.8
12.2667
10.5667
11.6333
9.43333
11.9
12.1
9.7
9.73333
10.1667
11.4667
12
9.4
11.3667
8.43333
9.83333
10.7667
10.0333
10.8667
12.6333
10.5
11
9.36667
9.9
9.8
9.16667
11.8667
11.6
10.3667
10.0667
9.96667
11.0667
9.36667
10.2
10.5333
10.4
9.93333
11.0667
10.2333
10.3
10.9667
10.7
10.6
11.3
9.56667
11.0333
10.2
8.73333
10.2333
8.83333
11.4
9.4
10.5333
9.4
10.5333
11.0667
11.7333
10.4667
11.0333
10.1
9.7
7.86667
10.7
9.96667
9.76667
10.4333
9.4
9.16667
9.4
9.16667
10.2667
9.6
9.06667
9.9
10.6333
10.1333
10.9333
10
8.96667
9.1
11.5
8.86667
9.43333
10.5
9.43333
9.73333
9.66667
9.83333
10.3
11.7333
9.53333
9.53333
9.26667
9.53333
9.96667
9.36667
10.1667
9.93333
9.46667
8.46667
10.1333
11.1
8.66667
9.93333
9.3
10.0667
9.13333
9.36667
9.33333
9.3
9.8
9.56667
8.93333
9.23333
9.43333
9.46667
8.5
9.7
9.26667
9.23333
8.66667
9.3
8.76667
8.86667
8.83333
9.43333
8.66667
9.1
9.9
8.96667
9.26667
8.73333
9.66667
9.7
8.6
8.46667
9.43333
9.8
10.1667
8.8
8.13333
8.33333
9.4
9.3
9.36667
9.33333
9.06667
9.73333
9.03333
9.56667
9.83333
9.6
8.23333
9.2
9.1
8.46667
8.43333
10.7667
8.1
8.46667
8.96667
8.16667
9.53333
8.96667
8.7
10.6
9.3
9.56667
8.16667
9.5
8.5
9.13333
8.83333
8.63333
8.93333
8.73333
8.73333
9.3
9.23333
9.2
8.46667
9.3
9.1
8.96667
8.16667
8.66667
8.86667
7.9
8.76667
8.96667
8.1
8.86667
8.9
8.56667
8.83333
8.83333
8.93333
8.2
9.2
8.36667
9.26667
8.36667
7.93333
8.1
8.4
9.5
9.2
8.5
7.86667
8.73333
8.63333
8
8.16667
8.33333
8.73333
8.7
7.96667
8.23333
8.66667
8.76667
9.3
8.23333
9.1
9.03333
9.06667
8.36667
8.76667
8.26667
8.2
8
8.63333
8.66667
7.96667
8.36667
9.1
9.26667
8.33333
8.26667
8.73333
8.26667
8.23333
8.63333
8.86667
8.6
8.06667
9.2
9.13333
8.8
9.06667
8.83333
8.16667
8.13333
8.33333
8.63333
8.4
8.4
7.8
8.23333
8.96667
8.86667
8.43333
8.23333
9.5
8.66667
8.7
8.9
8.06667
8.93333
8.2
8.83333
8.66667
8.23333
9.1
8.76667
7.86667
9
8.3
8.16667
8.2
8.8
8.4
9.36667
8.96667
7.9
8.63333
8.43333
7.8
8
8.7
8.76667
8.86667
8.93333
8.7
8.43333
8.43333
8.83333
8.56667
8.26667
8.83333
8.4
8.86667
8.7
8.13333
8.9
8.7
8.86667
8.63333
8.56667
8.23333
8.06667
8.33333
8.56667
8.06667
7.9
8.23333
8.66667
8.1
9.16667
8.96667
8.26667
8.03333
8.63333
8.53333
8.76667
9.33333
8.63333
8.63333
8.16667
8.56667
8.53333
8.66667
7.76667
7.86667
8.16667
8.56667
8.96667
8.23333
8.43333
8.73333
8.46667
8.7
8.26667
8.46667
8.5
8.5
8.93333
8.8
8
8.5
8.9
7.8
8.5
8.83333
8.6
8.26667
8.73333
8.6
9.06667
8.46667
8.46667
8.7
8.43333
8.73333
8.73333
8.13333
8.63333
8.23333
8.5
9.03333
8.16667
8.73333
8.5
8.33333
8.53333
8.66667
8.83333
8.5
8.16667
7.56667
8.13333
8.33333
9.06667
8.5
8.2
7.83333
8.06667
8.86667
8.9
8.3
8.1
7.9
8.43333
8.3
8.83333
8.33333
8.16667
8.26667
8.6
9
8.13333
8.53333
8.9
8.8
8.66667
8.56667
8.56667
8.5
8.16667
8.6
8.2
9
9.03333
8.63333
8.76667
8.83333
8.76667
8.36667
7.96667
8.7
7.93333
8.6
8.53333
8.16667
8.6
8.26667
8.4
8.5
8.96667
7.76667
8.3
7.8
9.03333
8.53333
8.16667
8.33333
8.4
8.86667
8.06667
8.6
8.53333
8.3
8.66667
8.3
9.23333
8.5
8.83333
9.43333
8.96667
9
8.2
7.86667
8.46667
8.33333
8.33333
8.5
8.6
7.76667
7.9
8.36667
8.13333
9.26667
8.76667
8.7
8.3
8.33333
8.36667
8.6
8.33333
8.33333
8.4
8.63333
8.76667
8.3
8.9
8.8
8.3
8.2
8.7
9.23333
8.23333
8.73333
8.26667
8.7
9.03333
8.63333
8.7
8.16667
8.73333
8.93333
8.23333
8.63333
8.86667
8.23333
8.63333
8.23333
8.66667
8.2
8.53333
8.16667
8.83333
8.73333
8.6
8.03333
8.36667
8.03333
8.16667
8.56667
8.46667
8
9.23333
8.63333
8.7
8.26667
7.7
9.06667
8.86667
8.4
8.5
8.06667
8.1
8
8.4
8.8
8.43333
8.76667
8.36667
8.46667
9.06667
8.1
8.9
8.56667
8.1
8.5
8.03333
8.86667
8.43333
8.03333
8.56667
8.03333
8.3
8.4
8.46667
8.76667
8.36667
8.5
8.56667
8.66667
8.3
8.66667
8.73333
7.73333
8.7
8.26667
8.53333
8.5
8.86667
9.1
8.23333
7.9
8.83333
8.6
8.43333
7.96667
8.4
8.3
8.36667
8.66667
8.23333
8.06667
8.56667
8.13333
8.56667
8.7
8.56667
8.86667
8.33333
8.23333
8.2
8.4
8.36667
8.53333
8.86667
8.33333
8.53333
8.06667
8.13333
8.4
8.4
8
8.73333
8.66667
8.4
8.7
8.46667
7.83333
8.03333
8.13333
8.36667
8.36667
8.56667
8.33333
8.56667
8.2
7.43333
7.96667
8.8
8.46667
8.56667
8.6
8.16667
8.36667
8.23333
8.4
8.03333
8.73333
8.16667
8.5
8.16667
8.2
8.26667
7.76667
8.33333
8.36667
8.76667
8.5
8.16667
8.9
8.5
9.43333
8.8
8.43333
8.03333
8.13333
8.36667
8.76667
8
8
9.06667
8.3
8.26667
8.4
8.43333
8.8
8.36667
8.46667
8.93333
8.86667
8.93333
8.4
8.36667
8.56667
8.8
8.9
8.46667
9.23333
8.83333
8.56667
8.53333
8.5
8.53333
8.5
8.53333
8.43333
8.36667
8.7
8.66667
8.96667
8.36667
8.1
8.53333
8.73333
8.9
8.6
8.5
8.83333
8.06667
8.9
8.63333
8.46667
8.6
8.26667
8.26667
8.36667
9
8.33333
8.13333
8.33333
8.6
8.6
8.53333
8.2
8.33333
8.66667
8.03333
8.7
8.8
8.46667
8.76667
8.16667
8.53333
8.7
8.6
8.76667
8.76667
8.76667
8.96667
8.7
8.6
8.66667
8.83333
9.13333
9.16667
9.03333
9.26667
8.73333
8.6
8.53333
8.63333
8.76667
9.06667
8.93333
8.96667
8.76667
8.83333
9.06667
8.9
8.9
8.86667
8.8
9.1
9.13333
9.56667
9.23333
9.4
8.76667
9.03333
9.16667
9.2
8.86667
9.13333
9.1
8.83333
8.76667
8.76667
8.8
9
9.2
8.63333
8.7
8.86667
8.83333
8.46667
8.6
8.53333
8.93333
8.93333
8.96667
8.96667
8.8
8.6
8.53333
8.93333
8.93333
8.7
8.7
8.96667
8.5
9.03333
9.06667
8.7
9.1
8.83333
8.16667
8.33333
8.53333
8.5
8.9
8.73333
8.8
8.9
8.53333
8.73333
8.6
8.63333
8.6
8.76667
8.46667
8.23333
8.53333
8.46667
8.53333
8.33333
8.16667
8.3
8.53333
8.56667
8.16667
8.33333
8.46667
8.6
8.46667
8.6
8.6
8.53333
8.4
8.36667
8.23333
8.4
8.26667
8.56667
8.83333
8.83333
8.3
8.63333
8.6
8.43333
8.53333
8.7
8.66667
8.76667
8.66667
8.6
8.33333
8.43333
8.5
8.6
8.6
8.43333
8.86667
8.6
8.46667
8.53333
8.4
8.5
8.56667
8.43333
8.33333
8.16667
8.16667
8.06667
8.2
8.53333
8.46667
8.33333
8.33333
8.23333
8.2
8.26667
8.43333
8.33333
8.26667
8.26667
8.2
8.33333
8.16667
8.3
8.4
8.43333
8.16667
8.23333
8.2
8.1
8.4
8.43333
8.33333
8.46667
8.46667
8.36667
8.4
8.46667
8.63333
8.53333
8.43333
8.63333
8.6
8.56667
8.6
8.6
8.66667
8.9
8.8
8.83333
8.86667
8.63333
8.76667
8.76667
8.7
8.7
8.7
8.76667
9
8.73333
8.7
8.7
8.9
8.8
8.66667
8.7
8.76667
8.9
8.66667
8.5
8.56667
8.46667
8.56667
8.6
8.7
8.4
8.5
8.53333
8.56667
8.53333
8.43333
8.66667
8.43333
8.53333
8.63333
8.56667
8.63333
8.66667
8.6
8.76667
8.7
8.76667
8.76667
8.7
8.86667
8.96667
8.8
8.7
8.63333
8.93333
8.8
8.73333
8.73333
8.56667
8.63333
8.6
8.56667
8.5
8.66667
8.56667
8.6
8.53333
8.56667
8.8
8.7
8.73333
8.73333
8.5
8.43333
8.56667
8.56667
8.7
8.6
8.7
8.6
8.8
8.63333
8.76667
8.86667
8.9
8.8
8.63333
8.73333
8.6
8.63333
8.7
8.6
8.76667
8.73333
8.6
8.7
8.76667
8.66667
8.73333
8.76667
8.83333
8.83333
8.86667
8.93333
8.76667
8.8
8.63333
8.63333
8.73333
8.76667
8.66667
8.73333
8.7
8.66667
8.7
8.7
8.63333
8.7
8.83333
8.73333
8.76667
8.66667
8.7
8.8
8.83333
8.83333
8.63333
8.83333
8.76667
8.63333
8.83333
8.76667
8.7
8.86667
8.7
8.6
8.66667
8.63333
8.6
8.63333
8.63333
8.73333
8.8
8.7
8.73333
8.76667
8.73333
8.73333
8.66667
8.66667
8.6
8.7
8.56667
8.73333
8.66667
8.76667
8.73333
8.76667
8.63333
8.63333
8.56667
8.66667
8.8
8.56667
8.7
8.8
8.63333
8.63333
8.66667
8.8
8.66667
8.6
8.5
8.73333
8.66667
8.7
8.56667
8.6
8.66667
8.7
8.7
8.7
8.7
8.7
8.66667
8.66667
8.7
8.76667
8.83333
8.83333
8.86667
8.83333
8.76667
8.66667
8.8
8.5
8.46667
8.7
8.66667
8.73333
8.83333
8.63333
8.7
8.86667
8.66667
8.53333
8.5
8.66667
8.73333
8.76667
8.76667
8.8
8.8
8.86667
8.7
8.66667
8.63333
8.63333
8.73333
8.83333
8.66667
8.7
8.63333
8.6
8.66667
8.66667
8.66667
8.83333
8.7
8.66667
8.56667
8.5
8.63333
8.56667
8.8
8.73333
8.63333
8.6
8.66667
8.7
8.66667
8.83333
8.76667
8.86667
8.83333
8.8
8.8
8.86667
8.76667
8.73333
8.73333
8.63333
8.83333
8.8
8.8
8.7
8.66667
8.63333
8.63333
8.66667
8.5
8.53333
8.66667
8.53333
8.53333
8.6
8.4
8.4
8.56667
8.6
8.66667
8.73333
8.73333
8.7
8.7
8.96667
8.86667
8.8
8.73333
8.6
8.53333
8.6
8.63333
8.6
8.53333
8.56667
8.7
8.66667
8.7
8.76667
8.8
8.66667
8.7
8.53333
8.66667
8.66667
8.63333
8.63333
8.8
8.7
8.66667
8.76667
8.73333
8.56667
8.7
8.6
8.66667
8.43333
8.53333
8.7
8.46667
8.63333
8.63333
8.7
8.76667
8.6
8.66667
8.76667
8.76667
8.73333
8.9
8.73333
8.73333
8.56667
8.7
8.73333
8.86667
8.8
8.86667
8.7
8.83333
8.9
8.9
8.8
8.8
8.76667
8.63333
8.63333
8.6
8.73333
8.6
8.6
8.86667
8.63333
8.73333
8.73333
8.73333
8.66667
8.63333
8.73333
8.76667
8.73333
8.93333
9
8.86667
8.86667
8.93333
8.93333
8.9
8.9
8.86667
8.93333
8.83333
9
9.03333
8.8
8.86667
8.76667
8.73333
8.76667
8.73333
8.76667
8.76667
8.8
8.8
8.7
8.76667
8.9
9
8.86667
8.76667
8.8
8.73333
8.76667
8.93333
8.9
8.9
9
9.03333
8.96667
9.03333
8.96667
8.8
8.73333
8.83333
8.9
8.73333
8.76667
8.83333
8.86667
9.03333
8.86667
8.76667
8.76667
8.93333
8.86667
8.9
8.76667
8.93333
8.86667
9.03333
9
8.8
8.93333
8.8
8.86667
8.83333
9.03333
8.86667
8.93333
8.96667
8.93333
9
9.13333
9.1
9
8.73333
8.86667
8.96667
9
9.03333
8.96667
8.93333
9.03333
9.06667
9.16667
9.03333
9.26667
9.3
9.33333
9.26667
9.23333
9.06667
9.1
9
8.9
9.13333
9.2
9.23333
9.26667
9.26667
9.2
9.3
9.23333
9.3
9.26667
9.33333
9.4
9.36667
9.33333
9.4
9.26667
9.26667
9.2
9.2
9.3
9.43333
9.33333
9.3
9.36667
9.36667
9.5
9.6
9.53333
9.36667
9.4
9.46667
9.4
9.53333
9.63333
9.43333
9.56667
9.36667
9.46667
9.33333
9.46667
9.46667
9.56667
9.53333
9.53333
9.53333
9.43333
9.73333
9.6
9.66667
9.56667
9.7
9.63333
9.6
9.6
9.5
9.5
9.43333
9.73333
9.56667
9.46667
9.73333
9.6
9.66667
9.73333
9.73333
9.7
9.7
9.7
9.63333
9.56667
9.63333
9.6
9.53333
9.5
9.63333
9.63333
9.7
9.73333
9.6
9.6
9.76667
9.76667
9.76667
9.7
9.76667
9.8
9.8
9.8
9.8
9.8
9.8
9.73333
9.73333
9.66667
9.73333
9.66667
9.73333
9.73333
9.73333
9.73333
9.73333
9.73333
9.73333
9.8
9.8
9.8
9.8
9.8
9.8
9.8
9.8
9.8
9.8
9.73333
9.73333
9.73333
9.73333
9.73333
9.73333
9.63333
9.66667
9.76667
9.76667
9.83333
9.86667
9.86667
9.9
9.93333
9.93333
9.83333
9.86667
9.8
9.8
9.9
9.86667
9.9
9.9
9.93333
9.86667
9.76667
9.76667
9.76667
9.7
9.73333
9.76667
9.7
9.7
9.7
9.5
9.53333
9.53333
9.53333
9.5
9.3
9.36667
9.3
9.3
9.3
9.3
9.3
9.33333
9.3
9.3
9.36667
9.43333
9.43333
9.53333
9.53333
9.56667
9.6
9.6
9.53333
9.46667
9.53333
9.53333
9.46667
9.43333
9.4
9.43333
9.5
9.33333
9.33333
9.33333
9.43333
9.33333
9.33333
9.33333
9.36667
9.4
9.43333
9.43333
9.43333
9.43333
9.43333
9.4
9.4
9.4
9.4
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.53333
9.53333
9.53333
9.43333
9.43333
9.43333
9.43333
9.43333
9.43333
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.43333
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.4
9.43333
9.43333
9.46667
9.46667
9.46667
9.46667
9.46667
9.46667
9.46667
9.46667
9.5
9.53333
9.5
9.5
9.5
9.5
9.5
9.5
9.5
9.53333
9.53333
9.53333
9.53333
9.53333
9.53333
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.56667
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.6
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.63333
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667
9.66667