The results below are organized as follows:

  • each table displays the solver’s performance for individual problem instances for the given task under different time limits
  • table values are normalized scores for each evaluated problem as outlined in Evaluation Criteria

MMAP

overall

Problem 20sec 1200sec 3600sec
75-17-5.Q0.5.I4 0.0 (-inf) 41.9 (-14.1) 41.9 (-14.1)
75-19-5.Q0.5.I2 0.0 (-inf) 54.5 (-15.9) 54.5 (-15.9)
75-22-5.Q0.5.I2 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
75-23-5.Q0.5.I3 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
75-26-5.Q0.5.I4 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-22-5.Q0.5.I4 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-24-5.Q0.5.I2 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-25-5.Q0.5.I2 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-26-5.Q0.5.I1 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-30-5.Q0.5.I1 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-34-5.Q0.5.I2 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-38-5.Q0.5.I4 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-42-5.Q0.5.I4 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-46-5.Q0.5.I4 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
90-50-5.Q0.5.I3 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
Grids_20 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_21 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_22 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_23 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_24 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_25 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_26 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_27 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_28 0.0 (nan) 0.0 (nan) 0.0 (nan)
Grids_29 0.0 (nan) 0.0 (nan) 0.0 (nan)
ImageAlignment_11 0.0 (nan) 0.0 (nan) 0.0 (nan)
ImageAlignment_12 0.0 (nan) 0.0 (nan) 0.0 (nan)
ImageAlignment_13 0.0 (nan) 0.0 (nan) 0.0 (nan)
ImageAlignment_14 0.0 (nan) 0.0 (nan) 0.0 (nan)
ImageAlignment_15 0.0 (nan) 0.0 (nan) 0.0 (nan)
ObjectDetection_13 0.0 (nan) 0.0 (nan) 0.0 (nan)
ObjectDetection_14 0.0 (nan) 0.0 (nan) 0.0 (nan)
ObjectDetection_15 0.0 (nan) 0.0 (nan) 0.0 (nan)
ObjectDetection_16 0.0 (nan) 0.0 (nan) 0.0 (nan)
ObjectDetection_17 0.0 (nan) 0.0 (nan) 0.0 (nan)
ProteinFolding_11 0.0 (nan) 0.0 (nan) 0.0 (nan)
ProteinFolding_12 0.0 (nan) 0.0 (nan) 0.0 (nan)
ProteinFolding_13 0.0 (nan) 0.0 (nan) 0.0 (nan)
ProteinFolding_14 0.0 (nan) 0.0 (nan) 0.0 (nan)
ProteinFolding_15 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_11 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_12 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_13 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_14 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_15 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_16 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_17 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_18 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_19 0.0 (nan) 0.0 (nan) 0.0 (nan)
Segmentation_20 0.0 (nan) 0.0 (nan) 0.0 (nan)
bw_p24_16 0.0 (nan) 0.0 (nan) 0.0 (nan)
bw_p24_20 0.0 (nan) 0.0 (nan) 0.0 (nan)
bw_p34_15 0.0 (nan) 0.0 (nan) 0.0 (nan)
bw_p34_20 0.0 (nan) 0.0 (nan) 0.0 (nan)
bw_p44_15 0.0 (nan) 0.0 (nan) 0.0 (nan)
bw_p44_19 0.0 (nan) 0.0 (nan) 0.0 (nan)
bw_p54_10 0.0 (nan) 0.0 (nan) 0.0 (nan)
bw_p54_16 0.0 (nan) 0.0 (nan) 0.0 (nan)
comm_p01_16 0.0 (nan) 0.0 (nan) 0.0 (nan)
comm_p01_20 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_11.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_16.fg.Q0.5.I3 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
or_chain_22.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_24.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_25.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_32.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_36.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_39.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_40.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_41.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_43.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_6.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_60.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_63.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
or_chain_8.fg.Q0.5.I3 0.0 (nan) 0.0 (nan) 0.0 (nan)
pedigree1.Q0.5.I3 53.4 (-38.7) 68.1 (-37.8) 68.1 (-37.8)
pedigree13.Q0.5.I1 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
pedigree18.Q0.5.I1 0.0 (-inf) 91.5 (-116.4) 91.5 (-116.4)
pedigree19.Q0.5.I4 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
pedigree20.Q0.5.I2 0.0 (-inf) 38.8 (-72.8) 38.8 (-72.8)
pedigree25.Q0.5.I2 0.0 (-inf) 50.8 (-170.0) 38.5 (-175.7)
pedigree30.Q0.5.I2 0.0 (-inf) 72.6 (-140.8) 72.6 (-140.8)
pedigree31.Q0.5.I2 0.0 (-inf) 0.0 (-inf) 48.5 (-156.8)
pedigree33.Q0.5.I2 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
pedigree38.Q0.5.I2 0.0 (-inf) 72.2 (-90.5) 72.2 (-90.5)
pedigree41.Q0.5.I2 0.0 (-inf) 21.0 (-160.7) 21.0 (-160.7)
pedigree44.Q0.5.I4 0.0 (-inf) 0.0 (-inf) 0.0 (-inf)
pedigree50.Q0.5.I1 66.7 (-62.2) 43.3 (-69.6) 43.3 (-69.6)
pedigree7.Q0.5.I2 0.0 (-inf) 0.0 (-inf) 1.1 (-136.4)
pedigree9.Q0.5.I3 0.0 (-inf) 29.3 (-159.0) 29.3 (-159.0)
pomdp10-12_7_3_8_4.mmap 0.0 (nan) 100.0 (1.2) 100.0 (1.2)
pomdp6-12_6_2_6_3.mmap 100.0 (1.0) 95.2 (1.0) 95.2 (1.0)
pomdp7-20_10_2_10_3.mmap 0.0 (nan) 0.0 (nan) 0.0 (nan)
pomdp8-14_9_3_12_4.mmap 0.0 (nan) 0.0 (nan) 100.0 (1.4)
pomdp9-14_8_3_10_4.mmap 0.0 (nan) 0.0 (nan) 0.0 (nan)
wcsp_14 0.0 (nan) 0.0 (nan) 0.0 (nan)
wcsp_15 0.0 (nan) 0.0 (nan) 0.0 (nan)
wcsp_16 0.0 (nan) 0.0 (nan) 0.0 (nan)
wcsp_17 0.0 (nan) 0.0 (nan) 0.0 (nan)
wcsp_18 0.0 (nan) 0.0 (nan) 0.0 (nan)

Updated: