2003/09/21 10:26:53
[org.ibex.core.git] / src / org / xwt / js / Parser.java
1 // Copyright 2003 Adam Megacz, see the COPYING file for licensing [GPL]
2 package org.xwt.js;
3
4 import org.xwt.util.*;
5 import java.io.*;
6
7 /**
8  *  Parses a stream of lexed tokens into a tree of CompiledFunctionImpl's.
9  *
10  *  There are three kinds of things we parse: blocks, statements, and
11  *  expressions.
12  *
13  *  - Expressions are a special type of statement that evaluates to a
14  *    value (for example, "break" is not an expression, * but "3+2"
15  *    is).  Some tokens sequences start expressions (for * example,
16  *    literal numbers) and others continue an expression which * has
17  *    already been begun (for example, '+').  Finally, some *
18  *    expressions are valid targets for an assignment operation; after
19  *    * each of these expressions, continueExprAfterAssignable() is
20  *    called * to check for an assignment operation.
21  *
22  *  - A statement ends with a semicolon and does not return a value.
23  *
24  *  - A block is a single statement or a sequence of statements
25  *    surrounded by curly braces.
26  *
27  *  Each parsing method saves the parserLine before doing its actual
28  *  work and restores it afterwards.  This ensures that parsing a
29  *  subexpression does not modify the line number until a token
30  *  *after* the subexpression has been consumed by the parent
31  *  expression.
32  *
33  *  Technically it would be a better design for this class to build an
34  *  intermediate parse tree and use that to emit bytecode.  Here's the
35  *  tradeoff:
36  *
37  *  Advantages of building a parse tree:
38  *  - easier to apply optimizations
39  *  - would let us handle more sophisticated languages than JavaScript
40  *
41  *  Advantages of leaving out the parse tree
42  *  - faster compilation
43  *  - less load on the garbage collector
44  *  - much simpler code, easier to understand
45  *  - less error-prone
46  *
47  *  Fortunately JS is such a simple language that we can get away with
48  *  the half-assed approach and still produce a working, complete
49  *  compiler.
50  *
51  *  The bytecode language emitted doesn't really cause any appreciable
52  *  semantic loss, and is itself a parseable language very similar to
53  *  Forth or a postfix variant of LISP.  This means that the bytecode
54  *  can be transformed into a parse tree, which can be manipulated.
55  *  So if we ever want to add an optimizer, it could easily be done by
56  *  producing a parse tree from the bytecode, optimizing that tree,
57  *  and then re-emitting the bytecode.  The parse tree node class
58  *  would also be much simpler since the bytecode language has so few
59  *  operators.
60  *
61  *  Actually, the above paragraph is slightly inaccurate -- there are
62  *  places where we push a value and then perform an arbitrary number
63  *  of operations using it before popping it; this doesn't parse well.
64  *  But these cases are clearly marked and easy to change if we do
65  *  need to move to a parse tree format.
66  */
67 class Parser extends Lexer implements ByteCodes {
68
69
70     // Constructors //////////////////////////////////////////////////////
71
72     public Parser(Reader r, String sourceName, int line) throws IOException { super(r, sourceName, line); }
73
74     /** for debugging */
75     public static void main(String[] s) throws Exception {
76         CompiledFunctionImpl block = new JS.CompiledFunction("stdin", 0, new InputStreamReader(System.in), null);
77         if (block == null) return;
78         System.out.println(block);
79     }
80
81
82     // Statics ////////////////////////////////////////////////////////////
83
84     static byte[] precedence = new byte[MAX_TOKEN + 1];
85     static boolean[] isRightAssociative = new boolean[MAX_TOKEN + 1];
86     // Use this as the precedence when we want anything up to the comma
87     private final static int NO_COMMA = 2;
88     static {
89         isRightAssociative[ASSIGN] =
90             isRightAssociative[ASSIGN_BITOR] =
91             isRightAssociative[ASSIGN_BITXOR] =
92             isRightAssociative[ASSIGN_BITAND] =
93             isRightAssociative[ASSIGN_LSH] =
94             isRightAssociative[ASSIGN_RSH] =
95             isRightAssociative[ASSIGN_URSH] =
96             isRightAssociative[ASSIGN_ADD] =
97             isRightAssociative[ASSIGN_SUB] =
98             isRightAssociative[ASSIGN_MUL] =
99             isRightAssociative[ASSIGN_DIV] =
100             isRightAssociative[ASSIGN_MOD] = true;
101
102         precedence[COMMA] = 1;
103         // 2 is intentionally left unassigned. we use minPrecedence==2 for comma separated lists
104         precedence[ASSIGN] =
105             precedence[ASSIGN_BITOR] =
106             precedence[ASSIGN_BITXOR] =
107             precedence[ASSIGN_BITAND] =
108             precedence[ASSIGN_LSH] =
109             precedence[ASSIGN_RSH] =
110             precedence[ASSIGN_URSH] =
111             precedence[ASSIGN_ADD] =
112             precedence[ASSIGN_SUB] =
113             precedence[ASSIGN_MUL] =
114             precedence[ASSIGN_DIV] =
115             precedence[ASSIGN_MOD] = 3;
116         precedence[HOOK] = 4;
117         precedence[OR] = 5;
118         precedence[AND] = 6;
119         precedence[BITOR] = 7;
120         precedence[BITXOR] = 8;
121         precedence[BITAND] = 9;
122         precedence[EQ] = precedence[NE] = precedence[SHEQ] = precedence[SHNE] = 10;
123         precedence[LT] = precedence[LE] = precedence[GT] = precedence[GE] = 11;
124         precedence[LSH] = precedence[RSH] = precedence[URSH] = 12;
125         precedence[ADD] = precedence[SUB] = 12;
126         precedence[MUL] = precedence[DIV] = precedence[MOD] = 13;
127         precedence[BITNOT] =  precedence[BANG] = precedence[TYPEOF] = 14;
128         precedence[DOT] = precedence[LB] = precedence[LP] =  precedence[INC] = precedence[DEC] = 15;
129     }
130
131
132     // Parsing Logic /////////////////////////////////////////////////////////
133
134     /** gets a token and throws an exception if it is not <tt>code</tt> */
135     private void consume(int code) throws IOException {
136         if (getToken() != code) throw pe("expected " + codeToString[code] + ", got " + (op == -1 ? "EOF" : codeToString[op]));
137     }
138
139     /**
140      *  Parse the largest possible expression containing no operators
141      *  of precedence below <tt>minPrecedence</tt> and append the
142      *  bytecodes for that expression to <tt>appendTo</tt>; the
143      *  appended bytecodes MUST grow the stack by exactly one element.
144      */ 
145     private void startExpr(CompiledFunctionImpl appendTo, int minPrecedence) throws IOException {
146         int saveParserLine = parserLine;
147         _startExpr(appendTo, minPrecedence);
148         parserLine = saveParserLine;
149     }
150     private void _startExpr(CompiledFunctionImpl appendTo, int minPrecedence) throws IOException {
151         int tok = getToken();
152         CompiledFunctionImpl b = appendTo;
153
154         switch (tok) {
155         case -1: throw pe("expected expression");
156
157         // all of these simply push values onto the stack
158         case NUMBER: b.add(parserLine, LITERAL, number); break;
159         case STRING: b.add(parserLine, LITERAL, string); break;
160         case THIS: b.add(parserLine, TOPSCOPE, null); break;
161         case NULL: b.add(parserLine, LITERAL, null); break;
162         case TRUE: case FALSE: b.add(parserLine, LITERAL, new Boolean(tok == TRUE)); break;
163
164         case LB: {
165             b.add(parserLine, ARRAY, new Integer(0));                       // push an array onto the stack
166             int size0 = b.size();
167             int i = 0;
168             if (peekToken() != RB)
169                 while(true) {                                               // iterate over the initialization values
170                     int size = b.size();
171                     b.add(parserLine, LITERAL, new Integer(i++));           // push the index in the array to place it into
172                     if (peekToken() == COMMA || peekToken() == RB)
173                         b.add(parserLine, LITERAL, null);                   // for stuff like [1,,2,]
174                     else
175                         startExpr(b, NO_COMMA);                             // push the value onto the stack
176                     b.add(parserLine, PUT);                                 // put it into the array
177                     b.add(parserLine, POP);                                 // discard the value remaining on the stack
178                     if (peekToken() == RB) break;
179                     consume(COMMA);
180                 }
181             b.set(size0 - 1, new Integer(i));                               // back at the ARRAY instruction, write the size of the array
182             consume(RB);
183             break;
184         }
185         case SUB: {  // negative literal (like "3 * -1")
186             consume(NUMBER);
187             b.add(parserLine, LITERAL, new Double(number.doubleValue() * -1));
188             break;
189         }
190         case LP: {  // grouping (not calling)
191             startExpr(b, -1);
192             consume(RP);
193             break;
194         }
195         case INC: case DEC: {  // prefix (not postfix)
196             startExpr(b, precedence[tok]);
197             int prev = b.size() - 1;
198             if (b.get(prev) == GET && b.getArg(prev) != null)
199                 b.set(prev, LITERAL, b.getArg(prev));
200             else if(b.get(prev) == GET)
201                 b.pop();
202             else
203                 throw pe("prefixed increment/decrement can only be performed on a valid assignment target");
204             b.add(parserLine, tok, Boolean.TRUE);
205             break;
206         }
207         case BANG: case BITNOT: case TYPEOF: {
208             startExpr(b, precedence[tok]);
209             b.add(parserLine, tok);
210             break;
211         }
212         case LC: { // object constructor
213             b.add(parserLine, OBJECT, null);                                     // put an object on the stack
214             if (peekToken() != RC)
215                 while(true) {
216                     if (peekToken() != NAME && peekToken() != STRING)
217                         throw pe("expected NAME or STRING");
218                     getToken();
219                     b.add(parserLine, LITERAL, string);                          // grab the key
220                     consume(COLON);
221                     startExpr(b, NO_COMMA);                                      // grab the value
222                     b.add(parserLine, PUT);                                      // put the value into the object
223                     b.add(parserLine, POP);                                      // discard the remaining value
224                     if (peekToken() == RC) break;
225                     consume(COMMA);
226                     if (peekToken() == RC) break;                                // we permit {,,} -- I'm not sure if ECMA does
227                 }
228             consume(RC);
229             break;
230         }
231         case NAME: {
232             b.add(parserLine, TOPSCOPE);
233             b.add(parserLine, LITERAL, string);
234             continueExprAfterAssignable(b,minPrecedence);
235             break;
236         }
237         case FUNCTION: {
238             consume(LP);
239             int numArgs = 0;
240             CompiledFunctionImpl b2 = new JS.CompiledFunction(sourceName, parserLine, null, null);
241             b.add(parserLine, NEWFUNCTION, b2);
242
243             // function prelude; arguments array is already on the stack
244             b2.add(parserLine, TOPSCOPE);
245             b2.add(parserLine, SWAP);
246             b2.add(parserLine, DECLARE, "arguments");                     // declare arguments (equivalent to 'var arguments;')
247             b2.add(parserLine, SWAP);                                     // set this.arguments and leave the value on the stack
248             b2.add(parserLine, PUT);
249
250             while(peekToken() != RP) {                                    // run through the list of argument names
251                 if (peekToken() == NAME) {
252                     consume(NAME);                                        // a named argument
253                     String varName = string;
254                     
255                     b2.add(parserLine, DUP);                              // dup the args array 
256                     b2.add(parserLine, GET, new Integer(numArgs));   // retrieve it from the arguments array
257                     b2.add(parserLine, TOPSCOPE);
258                     b2.add(parserLine, SWAP);
259                     b2.add(parserLine, DECLARE, varName);                  // declare the name
260                     b2.add(parserLine, SWAP);
261                     b2.add(parserLine, PUT); 
262                     b2.add(parserLine, POP);                               // pop the value
263                     b2.add(parserLine, POP);                               // pop the scope                  
264                 }
265                 if (peekToken() == RP) break;
266                 consume(COMMA);
267                 numArgs++;
268             }
269             consume(RP);
270
271             b2.numFormalArgs = numArgs + 1;
272             b2.add(parserLine, POP);                                      // pop off the arguments array
273             b2.add(parserLine, POP);                                      // pop off TOPSCOPE
274             
275            if(peekToken() != LC)
276                 throw pe("Functions must have a block surrounded by curly brackets");
277                 
278             parseBlock(b2, null);                                   // the function body
279
280             b2.add(parserLine, LITERAL, null);                        // in case we "fall out the bottom", return NULL
281             b2.add(parserLine, RETURN);
282
283             break;
284         }
285         default: throw pe("expected expression, found " + codeToString[tok] + ", which cannot start an expression");
286         }
287
288         // attempt to continue the expression
289         continueExpr(b, minPrecedence);
290     }
291
292
293     /**
294      *  Assuming that a complete assignable (lvalue) has just been
295      *  parsed and the object and key are on the stack,
296      *  <tt>continueExprAfterAssignable</tt> will attempt to parse an
297      *  expression that modifies the assignable.  This method always
298      *  decreases the stack depth by exactly one element.
299      */
300     private void continueExprAfterAssignable(CompiledFunctionImpl b,int minPrecedence) throws IOException {
301         int saveParserLine = parserLine;
302         _continueExprAfterAssignable(b,minPrecedence);
303         parserLine = saveParserLine;
304     }
305     private void _continueExprAfterAssignable(CompiledFunctionImpl b,int minPrecedence) throws IOException {
306         if (b == null) throw new Error("got null b; this should never happen");
307         int tok = getToken();
308         if (minPrecedence != -1 && (precedence[tok] < minPrecedence || (precedence[tok] == minPrecedence && !isRightAssociative[tok])))
309             // force the default case
310             tok = -1;
311         switch(tok) {
312         case ASSIGN_BITOR: case ASSIGN_BITXOR: case ASSIGN_BITAND: case ASSIGN_LSH: case ASSIGN_RSH: case ASSIGN_URSH:
313         case ASSIGN_MUL: case ASSIGN_DIV: case ASSIGN_MOD: case ASSIGN_ADD: case ASSIGN_SUB: {
314             b.add(parserLine, GET_PRESERVE);
315             startExpr(b,  precedence[tok]);
316             int size = b.size();
317             if (tok == ASSIGN_ADD || tok == ASSIGN_SUB) {
318                 b.add(parserLine, tok);
319             }
320             // tok-1 is always s/^ASSIGN_// (0 is BITOR, 1 is ASSIGN_BITOR, etc) 
321             b.add(parserLine, tok - 1, tok-1==ADD ? new Integer(2) : null);
322             b.add(parserLine, PUT);
323             b.add(parserLine, SWAP);
324             b.add(parserLine, POP);
325             if (tok == ASSIGN_ADD || tok == ASSIGN_SUB) b.set(size, tok, new Integer(b.size() - size));
326             break;
327         }
328         case INC: case DEC: { // postfix
329             b.add(parserLine, tok, Boolean.FALSE);
330             break;
331         }
332         case ASSIGN: {
333             startExpr(b, precedence[tok]);
334             b.add(parserLine, PUT);
335             b.add(parserLine, SWAP);
336             b.add(parserLine, POP);
337             break;
338         }
339         case LP: {
340             int n = parseArgs(b);
341             b.add(parserLine,CALLMETHOD,new Integer(n));
342             break;
343         }
344         default: {
345             pushBackToken();
346             if(b.get(b.size()-1) == LITERAL && b.getArg(b.size()-1) != null)
347                 b.set(b.size()-1,GET,b.getArg(b.size()-1));
348             else
349                 b.add(parserLine, GET);
350             return;
351         }
352         }
353     }
354
355
356     /**
357      *  Assuming that a complete expression has just been parsed,
358      *  <tt>continueExpr</tt> will attempt to extend this expression by
359      *  parsing additional tokens and appending additional bytecodes.
360      *
361      *  No operators with precedence less than <tt>minPrecedence</tt>
362      *  will be parsed.
363      *
364      *  If any bytecodes are appended, they will not alter the stack
365      *  depth.
366      */
367     private void continueExpr(CompiledFunctionImpl b, int minPrecedence) throws IOException {
368         int saveParserLine = parserLine;
369         _continueExpr(b, minPrecedence);
370         parserLine = saveParserLine;
371     }
372     private void _continueExpr(CompiledFunctionImpl b, int minPrecedence) throws IOException {
373         if (b == null) throw new Error("got null b; this should never happen");
374         int tok = getToken();
375         if (tok == -1) return;
376         if (minPrecedence != -1 && (precedence[tok] < minPrecedence || (precedence[tok] == minPrecedence && !isRightAssociative[tok]))) {
377             pushBackToken();
378             return;
379         }
380
381         switch (tok) {
382         case LP: {  // invocation (not grouping)
383             int n = parseArgs(b);
384             b.add(parserLine, CALL, new Integer(n));
385             break;
386         }
387         case BITOR: case BITXOR: case BITAND: case SHEQ: case SHNE: case LSH:
388         case RSH: case URSH: case MUL: case DIV: case MOD:
389         case GT: case GE: case EQ: case NE: case LT: case LE: case SUB: {
390             startExpr(b, precedence[tok]);
391             b.add(parserLine, tok);
392             break;
393         }
394         case ADD: {
395             int count=1;
396             int nextTok;
397             do {
398                 startExpr(b,precedence[tok]);
399                 count++;
400                 nextTok = getToken();
401             } while(nextTok == tok);
402             pushBackToken();
403             b.add(parserLine, tok, new Integer(count));
404             break;
405         }
406         case OR: case AND: {
407             b.add(parserLine, tok == AND ? b.JF : b.JT, new Integer(0));       // test to see if we can short-circuit
408             int size = b.size();
409             startExpr(b, precedence[tok]);                                     // otherwise check the second value
410             b.add(parserLine, JMP, new Integer(2));                            // leave the second value on the stack and jump to the end
411             b.add(parserLine, LITERAL, tok == AND ?
412                   new Boolean(false) : new Boolean(true));                     // target of the short-circuit jump is here
413             b.set(size - 1, new Integer(b.size() - size));                     // write the target of the short-circuit jump
414             break;
415         }
416         case DOT: {
417             // support foo..bar syntax for foo[""].bar
418             if (peekToken() == DOT) {
419                 string = "";
420             } else {
421                 consume(NAME);
422             }
423             b.add(parserLine, LITERAL, string);
424             continueExprAfterAssignable(b,minPrecedence);
425             break;
426         }
427         case LB: { // subscripting (not array constructor)
428             startExpr(b, -1);
429             consume(RB);
430             continueExprAfterAssignable(b,minPrecedence);
431             break;
432         }
433         case HOOK: {
434             b.add(parserLine, JF, new Integer(0));                // jump to the if-false expression
435             int size = b.size();
436             startExpr(b, minPrecedence);                          // write the if-true expression
437             b.add(parserLine, JMP, new Integer(0));               // if true, jump *over* the if-false expression     
438             b.set(size - 1, new Integer(b.size() - size + 1));    // now we know where the target of the jump is
439             consume(COLON);
440             size = b.size();
441             startExpr(b, minPrecedence);                          // write the if-false expression
442             b.set(size - 1, new Integer(b.size() - size + 1));    // this is the end; jump to here
443             break;
444         }
445         case COMMA: {
446             // pop the result of the previous expression, it is ignored
447             b.add(parserLine,POP);
448             startExpr(b,-1);
449             break;
450         }
451         default: {
452             pushBackToken();
453             return;
454         }
455         }
456
457         continueExpr(b, minPrecedence);                           // try to continue the expression
458     }
459     
460     // parse a set of comma separated function arguments, assume LP has already been consumed
461     private int parseArgs(CompiledFunctionImpl b) throws IOException {
462         int i = 0;
463         while(peekToken() != RP) {
464             i++;
465             if (peekToken() != COMMA) {
466                 startExpr(b, NO_COMMA);
467                 if (peekToken() == RP) break;
468             }
469             consume(COMMA);
470         }
471         consume(RP);
472         return i;
473     }
474     
475     /** Parse a block of statements which must be surrounded by LC..RC. */
476     void parseBlock(CompiledFunctionImpl b) throws IOException { parseBlock(b, null); }
477     void parseBlock(CompiledFunctionImpl b, String label) throws IOException {
478         int saveParserLine = parserLine;
479         _parseBlock(b, label);
480         parserLine = saveParserLine;
481     }
482     void _parseBlock(CompiledFunctionImpl b, String label) throws IOException {
483         if (peekToken() == -1) return;
484         else if (peekToken() != LC) parseStatement(b, null);
485         else {
486             consume(LC);
487             while(peekToken() != RC && peekToken() != -1) parseStatement(b, null);
488             consume(RC);
489         }
490     }
491
492     /** Parse a single statement, consuming the RC or SEMI which terminates it. */
493     void parseStatement(CompiledFunctionImpl b, String label) throws IOException {
494         int saveParserLine = parserLine;
495         _parseStatement(b, label);
496         parserLine = saveParserLine;
497     }
498     void _parseStatement(CompiledFunctionImpl b, String label) throws IOException {
499         int tok = peekToken();
500         if (tok == -1) return;
501         switch(tok = getToken()) {
502             
503         case THROW: case ASSERT: case RETURN: {
504             if (tok == RETURN && peekToken() == SEMI)
505                 b.add(parserLine, LITERAL, null);
506             else
507                 startExpr(b, -1);
508             b.add(parserLine, tok);
509             consume(SEMI);
510             break;
511         }
512         case BREAK: case CONTINUE: {
513             if (peekToken() == NAME) consume(NAME);
514             b.add(parserLine, tok, string);
515             consume(SEMI);
516             break;
517         }
518         case VAR: {
519             b.add(parserLine, TOPSCOPE);                         // push the current scope
520             while(true) {
521                 consume(NAME);
522                 b.add(parserLine, DECLARE, string);               // declare it
523                 if (peekToken() == ASSIGN) {                     // if there is an '=' after the variable name
524                     consume(ASSIGN);
525                     startExpr(b, NO_COMMA);
526                     b.add(parserLine, PUT);                      // assign it
527                     b.add(parserLine, POP);                      // clean the stack
528                 } else {
529                     b.add(parserLine, POP);                      // pop the string pushed by declare
530                 }   
531                 if (peekToken() != COMMA) break;
532                 consume(COMMA);
533             }
534             b.add(parserLine, POP);                              // pop off the topscope
535             if ((mostRecentlyReadToken != RC || peekToken() == SEMI) && peekToken() != -1 && mostRecentlyReadToken != SEMI) consume(SEMI);
536             break;
537         }
538         case IF: {
539             consume(LP);
540             startExpr(b, -1);
541             consume(RP);
542             
543             b.add(parserLine, JF, new Integer(0));                    // if false, jump to the else-block
544             int size = b.size();
545             parseStatement(b, null);
546             
547             if (peekToken() == ELSE) {
548                 consume(ELSE);
549                 b.add(parserLine, JMP, new Integer(0));               // if we took the true-block, jump over the else-block
550                 b.set(size - 1, new Integer(b.size() - size + 1));
551                 size = b.size();
552                 parseStatement(b, null);
553             }
554             b.set(size - 1, new Integer(b.size() - size + 1));        // regardless of which branch we took, b[size] needs to point here
555             break;
556         }
557         case WHILE: {
558             consume(LP);
559             if (label != null) b.add(parserLine, LABEL, label);
560             b.add(parserLine, LOOP);
561             int size = b.size();
562             b.add(parserLine, POP);                                   // discard the first-iteration indicator
563             startExpr(b, -1);
564             b.add(parserLine, JT, new Integer(2));                    // if the while() clause is true, jump over the BREAK
565             b.add(parserLine, BREAK);
566             consume(RP);
567             parseStatement(b, null);
568             b.add(parserLine, CONTINUE);                              // if we fall out of the end, definately continue
569             b.set(size - 1, new Integer(b.size() - size + 1));        // end of the loop
570             break;
571         }
572         case SWITCH: {
573             consume(LP);
574             if (label != null) b.add(parserLine, LABEL, label);
575             b.add(parserLine, LOOP);
576             int size0 = b.size();
577             startExpr(b, -1);
578             consume(RP);
579             consume(LC);
580             while(true)
581                 if (peekToken() == CASE) {                         // we compile CASE statements like a bunch of if..else's
582                     consume(CASE);
583                     b.add(parserLine, DUP);                        // duplicate the switch() value; we'll consume one copy
584                     startExpr(b, -1);
585                     consume(COLON);
586                     b.add(parserLine, EQ);                         // check if we should do this case-block
587                     b.add(parserLine, JF, new Integer(0));         // if not, jump to the next one
588                     int size = b.size();
589                     while(peekToken() != CASE && peekToken() != DEFAULT && peekToken() != RC) parseStatement(b, null);
590                     b.set(size - 1, new Integer(1 + b.size() - size));
591                 } else if (peekToken() == DEFAULT) {
592                     consume(DEFAULT);
593                     consume(COLON);
594                     while(peekToken() != CASE && peekToken() != DEFAULT && peekToken() != RC) parseStatement(b, null);
595                 } else if (peekToken() == RC) {
596                     consume(RC);
597                     b.add(parserLine, BREAK);                      // break out of the loop if we 'fall through'
598                     break;
599                 } else {
600                     throw pe("expected CASE, DEFAULT, or RC; got " + codeToString[peekToken()]);
601                 }
602             b.set(size0 - 1, new Integer(b.size() - size0 + 1));      // end of the loop
603             break;
604         }
605             
606         case DO: {
607             if (label != null) b.add(parserLine, LABEL, label);
608             b.add(parserLine, LOOP);
609             int size = b.size();
610             parseStatement(b, null);
611             consume(WHILE);
612             consume(LP);
613             startExpr(b, -1);
614             b.add(parserLine, JT, new Integer(2));                  // check the while() clause; jump over the BREAK if true
615             b.add(parserLine, BREAK);
616             b.add(parserLine, CONTINUE);
617             consume(RP);
618             consume(SEMI);
619             b.set(size - 1, new Integer(b.size() - size + 1));      // end of the loop; write this location to the LOOP instruction
620             break;
621         }
622             
623         case TRY: {
624             b.add(parserLine, TRY); // try bytecode causes a TryMarker to be pushed
625             int tryInsn = b.size() - 1;
626             // parse the expression to be TRYed
627             parseStatement(b, null); 
628             // pop the try  marker. this is pushed when the TRY bytecode is executed                              
629             b.add(parserLine, POP);
630             // jump forward to the end of the catch block, start of the finally block                             
631             b.add(parserLine, JMP);                                  
632             int successJMPInsn = b.size() - 1;
633             
634             if (peekToken() != CATCH && peekToken() != FINALLY)
635                 throw pe("try without catch or finally");
636             
637             int catchJMPDistance = -1;
638             if (peekToken() == CATCH) {
639                 catchJMPDistance = b.size() - tryInsn;
640                 String exceptionVar;
641                 getToken();
642                 consume(LP);
643                 consume(NAME);
644                 exceptionVar = string;
645                 consume(RP);
646                 b.add(parserLine, TOPSCOPE);                        // the exception is on top of the stack; put it to the chosen name
647                 b.add(parserLine, SWAP);
648                 b.add(parserLine, LITERAL,exceptionVar);
649                 b.add(parserLine, SWAP);
650                 b.add(parserLine, PUT);
651                 b.add(parserLine, POP);
652                 b.add(parserLine, POP);
653                 parseStatement(b, null);
654                 // pop the try and catch markers
655                 b.add(parserLine,POP);
656                 b.add(parserLine,POP);
657             }
658             
659             // jump here if no exception was thrown
660             b.set(successJMPInsn, new Integer(b.size() - successJMPInsn)); 
661                         
662             int finallyJMPDistance = -1;
663             if (peekToken() == FINALLY) {
664                 b.add(parserLine, LITERAL, null); // null FinallyData
665                 finallyJMPDistance = b.size() - tryInsn;
666                 consume(FINALLY);
667                 parseStatement(b, null);
668                 b.add(parserLine,FINALLY_DONE); 
669             }
670             
671             // setup the TRY arguments
672             b.set(tryInsn, new int[] { catchJMPDistance, finallyJMPDistance });
673             
674             break;
675         }
676             
677         case FOR: {
678             consume(LP);
679             
680             tok = getToken();
681             boolean hadVar = false;                                      // if it's a for..in, we ignore the VAR
682             if (tok == VAR) { hadVar = true; tok = getToken(); }
683             String varName = string;
684             boolean forIn = peekToken() == IN;                           // determine if this is a for..in loop or not
685             pushBackToken(tok, varName);
686             
687             if (forIn) {
688                 b.add(parserLine, NEWSCOPE);                             // for-loops always create new scopes
689                 b.add(parserLine, LITERAL, varName);                     // declare the new variable
690                 b.add(parserLine, DECLARE);
691                     
692                 b.add(parserLine, LOOP);                                 // we actually only add this to ensure that BREAK works
693                 b.add(parserLine, POP);                                  // discard the first-iteration indicator
694                 int size = b.size();
695                 consume(NAME);
696                 consume(IN);
697                 startExpr(b, -1);
698                 b.add(parserLine, PUSHKEYS);                             // push the keys as an array; check the length
699                 b.add(parserLine, LITERAL, "length");
700                 b.add(parserLine, GET);
701                 consume(RP);
702                     
703                 b.add(parserLine, LITERAL, new Integer(1));              // decrement the length
704                 b.add(parserLine, SUB);
705                 b.add(parserLine, DUP);
706                 b.add(parserLine, LITERAL, new Integer(0));              // see if we've exhausted all the elements
707                 b.add(parserLine, LT);
708                 b.add(parserLine, JF, new Integer(2));
709                 b.add(parserLine, BREAK);                                // if we have, then BREAK
710                 b.add(parserLine, GET_PRESERVE);                         // get the key out of the keys array
711                 b.add(parserLine, LITERAL, varName);
712                 b.add(parserLine, PUT);                                  // write it to this[varName]                          
713                 parseStatement(b, null);                                 // do some stuff
714                 b.add(parserLine, CONTINUE);                             // continue if we fall out the bottom
715
716                 b.set(size - 1, new Integer(b.size() - size + 1));       // BREAK to here
717                 b.add(parserLine, OLDSCOPE);                             // restore the scope
718                     
719             } else {
720                 if (hadVar) pushBackToken(VAR, null);                    // yeah, this actually matters
721                 b.add(parserLine, NEWSCOPE);                             // grab a fresh scope
722                     
723                 parseStatement(b, null);                                 // initializer
724                 CompiledFunctionImpl e2 =                                    // we need to put the incrementor before the test
725                     new JS.CompiledFunction(sourceName, parserLine, null, null);  // so we save the test here
726                 if (peekToken() != SEMI)
727                     startExpr(e2, -1);
728                 else
729                     e2.add(parserLine, b.LITERAL, Boolean.TRUE);         // handle the for(foo;;foo) case
730                 consume(SEMI);
731                 if (label != null) b.add(parserLine, LABEL, label);
732                 b.add(parserLine, LOOP);
733                 int size2 = b.size();
734                     
735                 b.add(parserLine, JT, new Integer(0));                   // if we're on the first iteration, jump over the incrementor
736                 int size = b.size();
737                 if (peekToken() != RP) {                                 // do the increment thing
738                     startExpr(b, -1);
739                     b.add(parserLine, POP);
740                 }
741                 b.set(size - 1, new Integer(b.size() - size + 1));
742                 consume(RP);
743                     
744                 b.paste(e2);                                             // ok, *now* test if we're done yet
745                 b.add(parserLine, JT, new Integer(2));                   // break out if we don't meet the test
746                 b.add(parserLine, BREAK);
747                 parseStatement(b, null);
748                 b.add(parserLine, CONTINUE);                             // if we fall out the bottom, CONTINUE
749                 b.set(size2 - 1, new Integer(b.size() - size2 + 1));     // end of the loop
750                     
751                 b.add(parserLine, OLDSCOPE);                             // get our scope back
752             }
753             break;
754         }
755                 
756         case NAME: {  // either a label or an identifier; this is the one place we're not LL(1)
757             String possiblyTheLabel = string;
758             if (peekToken() == COLON) {      // label
759                 consume(COLON);
760                 parseStatement(b, possiblyTheLabel);
761                 break;
762             } else {                         // expression
763                 pushBackToken(NAME, possiblyTheLabel);  
764                 startExpr(b, -1);
765                 b.add(parserLine, POP);
766                 if ((mostRecentlyReadToken != RC || peekToken() == SEMI) && peekToken() != -1 && mostRecentlyReadToken != SEMI) consume(SEMI);
767                 break;
768             }
769         }
770
771         case SEMI: return;                                               // yep, the null statement is valid
772
773         case LC: {  // blocks are statements too
774             pushBackToken();
775             b.add(parserLine, NEWSCOPE);
776             parseBlock(b, label);
777             b.add(parserLine, OLDSCOPE);
778             break;
779         }
780
781         default: {  // hope that it's an expression
782             pushBackToken();
783             startExpr(b, -1);
784             b.add(parserLine, POP);
785             if ((mostRecentlyReadToken != RC || peekToken() == SEMI) && peekToken() != -1 && mostRecentlyReadToken != SEMI) consume(SEMI);
786             break;
787         }
788         }
789     }
790
791
792     // ParserException //////////////////////////////////////////////////////////////////////
793     private IOException pe(String s) { return new IOException(sourceName + ":" + parserLine + " " + s); }
794     
795 }
796