src/edu/berkeley/sbp/misc/RegressionTests.java

   1 package edu.berkeley.sbp.misc;
   2 import java.io.*;
   3 import java.util.*;
   4 import java.lang.reflect.*;
   5 import edu.berkeley.sbp.*;
   6 import edu.berkeley.sbp.misc.*;
   7 import edu.berkeley.sbp.meta.*;
   8 import edu.berkeley.sbp.bind.*;
   9 import edu.berkeley.sbp.tib.*;
  10 import edu.berkeley.sbp.chr.*;
  11 import edu.berkeley.sbp.util.*;
  12 import static edu.berkeley.sbp.meta.MetaGrammar.*;
  13
  14 public class RegressionTests {
  15
  16     public static boolean yes = false;
  17     public static boolean graph = false;
  18
  19     public static void main(String[] s) throws Exception {
  20         try {
  21             boolean profile = false;
  22             if (s[0].equals("-graph")) {
  23                 graph = true;
  24                 String[] s2 = new String[s.length-1];
  25                 System.arraycopy(s, 1, s2, 0, s2.length);
  26                 s = s2;
  27             }
  28             if (s[0].equals("-profile")) {
  29                 profile = true;
  30                 String[] s2 = new String[s.length-1];
  31                 System.arraycopy(s, 1, s2, 0, s2.length);
  32                 s = s2;
  33             }
  34
  35             System.err.println("parsing " + s[0]);
  36             Tree<String> res = new CharParser(MetaGrammar.make()).parse(new FileInputStream(s[0])).expand1();
  37             Union meta = MetaGrammar.make(res, "s");
  38
  39             System.err.println("parsing " + s[1]);
  40             SequenceInputStream sis = new SequenceInputStream(new FileInputStream(s[0]), new FileInputStream(s[1]));
  41             res = new CharParser(meta).parse(sis).expand1();
  42
  43             Union testcasegrammar = MetaGrammar.make(res, "ts", new TestCaseMaker());
  44             if (testcasegrammar==null) return;
  45             CharParser parser = new CharParser(testcasegrammar);
  46
  47             if (profile) {
  48                 System.out.println("\nready...");
  49                 System.in.read();
  50             }
  51             System.gc();
  52             long now = System.currentTimeMillis();
  53             System.err.println("parsing " + s[2]);
  54             Forest<String> r2 = parser.parse(new FileInputStream(s[2]));
  55             System.out.println();
  56             System.out.println("elapsed = " + (System.currentTimeMillis()-now) + "ms");
  57             if (profile) {
  58                 System.out.println("\ndone");
  59                 System.in.read();
  60                 System.exit(0);
  61             }
  62             System.err.println("expanding...");
  63
  64             Tree t = r2.expand1();
  65             TestCase[] expanded = (TestCase[])((Functor)t.head()).invoke(t.children());
  66             System.err.println("executing...");
  67             for(TestCase tc : expanded) {
  68                 tc.execute();
  69                 /*
  70                 String st = "a";
  71                 for(int i=0; i<12; i++) {
  72                     //System.out.println("length " + st.length());
  73                     tc.input = st;
  74                     long nowy = System.currentTimeMillis();
  75                     GSS.shifts = 0;
  76                     GSS.reductions = 0;
  77                     tc.execute();
  78                     System.out.println("length " + st.length() + " => " + ((System.currentTimeMillis()-nowy)/1000.0) + " " + GSS.shifts + " " + GSS.reductions);
  79                     st = st+st;
  80                 }
  81                 */
  82             }
  83
  84         } catch (Throwable t) {
  85             System.err.println("\n\nexception thrown, class == " + t.getClass().getName());
  86             System.err.println(t);
  87             System.err.println();
  88             t.printStackTrace();
  89             System.err.println();
  90         }
  91     }
  92
  93     public static class TestCaseMaker extends AnnotationGrammarBindingResolver {
  94         public TestCaseMaker() {
  95             super(TestCaseMakerHelper.class);
  96         }
  97         public static class TestCaseMakerHelper extends MetaGrammarBindings {
  98             public static @bind.as("grammaro") @bind.raw Object grammaro(Iterable<Tree> t) {
  99                 System.out.println("working on " + t);
 100                 return MetaGrammar.make(t.iterator().next(), "s", new TaggingGrammarBindingResolver());
 101             }
 102             //public static @bind.as("tca")           Object tca(Object[] o) throws IOException {
 103             //return new TestCase((String)o[0], (String[])o[1], (Union)o[2], false, false); }
 104             public static @bind.as("tca")           Object tca(String input, String[] output, Union u) throws IOException {
 105                 return new TestCase(input, output, u, false, false); }
 106             public static @bind.as("tcb")           Object tca(String input, Union u) throws IOException {
 107                 return new TestCase(input, new String[0], u, false, false); }
 108             public static @bind.as("ts") TestCase[] go(TestCase[] cases) { return cases; }
 109             public static @bind.as("o") Object o(Object[] s) { return s; }
 110         }
 111     }
 112
 113     public static class TestCase {
 114         private final boolean tib;
 115         private final boolean jav;
 116         public /*final*/ String input;
 117         public final String[] output;
 118         public final Union grammar;
 119
 120         public TestCase(String input, String[] output, Union grammar, boolean tib, boolean jav) throws IOException {
 121             this.tib = tib;
 122             this.jav = jav;
 123             this.input = input;
 124             this.output = output==null ? new String[0] : output;
 125             this.grammar = grammar;
 126         }
 127         public String toString() {
 128             String ret = "testcase {\n" + "  input \""+input+"\";\n";
 129             for(String s : output) ret += "  output \""+s+"\";\n";
 130             ret += grammar +"\n}\n";
 131             return ret;
 132         }
 133         public boolean execute() throws Exception {
 134             Forest<String> res = null;
 135             ParseFailed pfe = null;
 136             CharParser parser = new CharParser(grammar);
 137             //parser.helpgc = false;
 138             try {
 139                 res = tib
 140                     ? /*new CharParser(grammar).parse(new Tib(input))*/ null
 141                 : parser.parse(new StringReader(input));
 142             } catch (ParseFailed pf) {
 143                 pfe = pf;
 144             }
 145             //ystem.out.println("res=="+res);
 146
 147             if (graph) {
 148                 FileOutputStream fos = new FileOutputStream("out.dot");
 149                 PrintWriter p = new PrintWriter(new OutputStreamWriter(fos));
 150                 GraphViz gv = new GraphViz();
 151                 res.toGraphViz(gv);
 152                 gv.dump(p);
 153                 p.flush();
 154                 p.close();
 155                 System.out.println(parser);
 156             }
 157             Collection<Tree<String>> results = res==null ? new HashSet<Tree<String>>() : res.expand(false);
 158             System.out.print("\r");
 159             if (results == null || (results.size() == 0 && (output!=null && output.length > 0))) {
 160                 System.out.print("\033[31m");
 161                 System.out.println("PARSE FAILED");
 162                 System.out.print("\033[0m");
 163                 if (pfe != null) pfe.printStackTrace();
 164             } else {
 165                 System.out.print("\r                                                                                                              \r");
 166             }
 167             HashSet<String> outs = new HashSet<String>();
 168             if (output != null) for(String s : output) outs.add(s.trim());
 169             boolean bad = false;
 170             for (Tree<String> r : results) {
 171                 String s = r.toString().trim();
 172                 if (outs.contains(s)) { outs.remove(s); continue; }
 173                 if (!bad) System.out.println(input);
 174                 System.out.print("\033[33m");
 175                 System.out.println("     GOT: " + s);
 176                 bad = true;
 177             }
 178             for(String s : outs) {
 179                 if (!bad) System.out.println(input);
 180                 System.out.print("\033[31m");
 181                 System.out.println("EXPECTED: " + s);
 182                 bad = true;
 183             }
 184             if (bad) {
 185                 System.out.println("\033[0m");
 186                 return true;
 187             }
 188             System.out.println("\r\033[32mPASS\033[0m                                                                              ");
 189
 190             return false;
 191         }
 192     }
 193
 194     public static class TestCaseBuilder extends StringWalker {
 195         public Object walk(Tree<String> tree) {
 196             try {
 197                 if ("grammaro".equals(tree.head())) return MetaGrammar.make(tree, "s");
 198                 else if ("output".equals(tree.head())) return string(tree.children());
 199                 else if ("input".equals(tree.head())) return string(tree.children());
 200                 else if ("testcase".equals(tree.head())) {
 201                     String input = string(tree.child(0));
 202                     String[] output = tree.numChildren()>2 ? ((String[])walk(tree, 1)) : new String[0];
 203                     Union grammar = MetaGrammar.make(tree.child(tree.numChildren()-1), "s");
 204                     TestCase tc = new TestCase(input, output, grammar, false, false);
 205                     return tc;
 206                 } else if ("ts".equals(tree.head())) return walk(tree, 0);
 207                 else if (tree.head() == null) {
 208                     Object[] ret = new Object[tree.numChildren()];
 209                     for(int i=0; i<ret.length; i++)
 210                         ret[i] = walk(tree.child(i));
 211                     return Reflection.lub(ret);
 212                 }
 213                 return super.walk(tree);
 214             } catch (Exception e) {
 215                 throw new Error(e);
 216             }
 217         }
 218     }
 219     private static String pad(int i,String s) { return s.length() >= i ? s : pad(i-1,s)+" "; }
 220     public static String string(Tree<String> tree) {
 221         String ret = "";
 222         if (tree.head()!=null) ret += tree.head();
 223         ret += string(tree.children());
 224         return ret;
 225     }
 226     public static String string(Iterable<Tree<String>> children) {
 227         String ret = "";
 228         for(Tree<String> t : children) ret += string(t);
 229         return ret;
 230     }
 231 }