848feb2cd2145874c194426b7e23943e082c84a6
[org.ibex.mail.git] / src / org / ibex / mail / protocol / IMAP.java
1 // Copyright 2000-2005 the Contributors, as shown in the revision logs.
2 // Licensed under the Apache Public Source License 2.0 ("the License").
3 // You may not use this file except in compliance with the License.
4
5 package org.ibex.mail.protocol;
6 import org.ibex.io.*;
7 import org.ibex.crypto.*;
8 import org.ibex.jinetd.Listener;
9 import org.ibex.mail.*;
10 import org.ibex.util.*;
11 import org.ibex.mail.target.*;
12 import java.util.*;
13 import java.net.*;
14 import java.text.*;
15 import java.io.*;
16  
17 // FIXME: this is valid    LSUB "" asdfdas%*%*%*%*SFEFGWEF
18 // FIXME: be very careful about where/when we quotify stuff
19 // FIXME: 'UID FOO 100:*' must match at least one message even if all UIDs less than 100
20 // FIXME: LIST should return INBOX if applicable
21
22 // Relevant RFC's:
23 //   RFC 2060: IMAPv4
24 //   RFC 3501: IMAPv4 with clarifications
25 //   RFC 3691: UNSELECT
26 //   RFC 2971: ID
27
28 // FEATURE: make sure we're being case-insensitive enough; probably want to upcase atom()
29 // FEATURE: MIME-queries and BODYSTRUCTURE
30 // FEATURE: READ-WRITE / READ-ONLY status on SELECT
31 // FEATURE: pipelining
32 // FEATURE: support [charset]
33 // FEATURE: \Noselect
34 // FEATURE: subscriptions
35 // FEATURE: tune for efficiency
36 // FEATURE: STARTTLS
37 // FEATURE: asynchronous client notifications (need to re-read RFC)
38
39 public class IMAP {
40
41     public IMAP() { }
42     public static final float version = (float)0.2;
43
44     // FIXME this is evil
45     public static String getBodyString(Message m) {
46         StringBuffer sb = new StringBuffer();
47         m.getBody().getStream().transcribe(sb);
48         return sb.toString();
49     }
50
51     // API Class //////////////////////////////////////////////////////////////////////////////
52
53     public static interface Client {
54         public void expunge(int uid);
55         public void list(char separator, String mailbox, boolean lsub, boolean phantom);
56         public void fetch(int num, int flags, int size, Message m, int muid);  // m may be null or incomplete
57     }
58
59     public static interface Server {
60         public void      setClient(IMAP.Client client);
61         public String[]  capability();
62         public Hashtable id(Hashtable clientId);
63         public void      copy(Query q, String to);
64         public void      logout();
65         public void      unselect();
66         public void      delete(String m);
67         public void      create(String m);
68         public void      append(String m, int flags, Date arrival, String body);
69         public void      check();
70         public void      noop();
71         public void      close();
72         public void      subscribe(String mailbox);
73         public void      unsubscribe(String mailbox);
74         public int       unseen(String mailbox);
75         public int       recent(String mailbox);
76         public int       count(String mailbox);
77         public int       count();
78         public int       maxuid();
79         public int       uidNext(String mailbox);
80         public int       uidValidity(String mailbox);
81         public int[]     search(Query q, boolean uid);
82         public void      rename(String from, String to);
83         public void      select(String mailbox, boolean examineOnly);
84         public void      setFlags(Query q, int flags, boolean uid, boolean silent);
85         public void      removeFlags(Query q, int flags, boolean uid, boolean silent);
86         public void      addFlags(Query q, int flags, boolean uid, boolean silent);
87         public void      expunge();
88         public void      fetch(Query q, int spec, String[] headers, int start, int end, boolean uid);
89         public void      lsub(String start, String ref);
90         public void      list(String start, String ref);
91         public static class Exn extends MailException { public Exn(String s) { super(s); } }
92         public static class Bad extends Exn { public Bad(String s) { super(s); } }
93         public static class No extends Exn { public No(String s) { super(s); } }
94     }
95
96
97     // MailboxWrapper //////////////////////////////////////////////////////////////////////////////
98
99     /** wraps an IMAP.Server interface around a Mailbox */
100     public static class MailboxWrapper implements Server {
101
102         public static final char sep = '.';
103
104         Mailbox inbox = null;
105         Mailbox selected = null;
106         Mailbox root = null;
107         Mailbox selected() { if (selected == null) throw new Bad("no mailbox selected"); return selected; }
108         final Login auth;
109         final Client client;
110
111         public MailboxWrapper(Login auth, Client c) { this.auth=auth; this.client=c;}
112         public void setClient(IMAP.Client client) { }
113
114         private Mailbox mailbox(String name, boolean create) { return mailbox(name, create, true); }
115         private Mailbox mailbox(String name, boolean create, boolean throwexn) {
116             if (name.equalsIgnoreCase("inbox")) return inbox;
117             Mailbox m = root;
118             for(StringTokenizer st = new StringTokenizer(name, sep + ""); st.hasMoreTokens();)
119                 if ((m = m.slash(st.nextToken(), create)) == null) {
120                     if (throwexn) throw new Server.No("no such mailbox " + name);
121                     return null;
122                 }
123             return m;
124         }
125
126         // FEATURE: not accurate when a wildcard and subsequent non-wildcards both match a single component
127         public void lsub(String start, String ref) { list(start, ref, true); }
128         public void list(String start, String ref) { list(start, ref, false); }
129         public void list(String start, String ref, boolean lsub) {
130
131             // FIXME this might be wrong
132             if (ref.equalsIgnoreCase("inbox")) { client.list(sep,"inbox",lsub,false); return; }
133
134             if (ref.length() == 0) { client.list(sep, start, lsub, false); return; }
135             while (start.endsWith(""+sep)) start = start.substring(0, start.length() - 1);
136             if (ref.endsWith("%")) ref = ref + sep;
137             String[] children = (start.length() == 0 ? root : mailbox(start, false)).children();
138             for(int i=0; i<children.length; i++) {
139                 String s = children[i], pre = ref, kid = start + (start.length() > 0 ? sep+"" : "") + s;                
140                 if (mailbox(kid, false) == null) continue;
141                 Mailbox phant = mailbox(kid, false, false);
142                 if (phant != null) {
143                     boolean phantom = phant.phantom();
144                     while(true) {
145                         if (pre.length() == 0) {
146                             if (s.length() == 0)       client.list(sep, kid, lsub, phantom);
147                         } else switch(pre.charAt(0)) {
148                             case sep:        if (s.length() == 0) list(kid, pre.substring(1), lsub);                    break;
149                             case '%':        client.list(sep,kid,lsub,phantom);pre=pre.substring(1); s = "";            continue;
150                             case '*':        client.list(sep,kid,lsub,phantom);list(kid,pre,lsub);pre=pre.substring(1); break;
151                             default:         if (s.length()==0)                                                         break;
152                                 if (s.charAt(0) != pre.charAt(0))                                          break;
153                                 s = s.substring(1); pre = pre.substring(1);                                continue;
154                         }
155                         break;
156                     }
157                 }
158             }
159         }
160
161         public String[] capability() { return new String[] { "IMAP4rev1" , "UNSELECT", "ID" }; }
162         public Hashtable id(Hashtable clientId) {
163             Hashtable response = new Hashtable();
164             response.put("name", IMAP.class.getName());
165             response.put("version", version + "");
166             response.put("os", System.getProperty("os.name", null));
167             response.put("os-version", System.getProperty("os.version", null));
168             response.put("vendor", "none");
169             response.put("support-url", "http://mail.ibex.org/");
170             return response;
171         }   
172
173         public void copy(Query q, String to) { copy(q, mailbox(to, false)); }
174         /*  */ void copy(Query q, Mailbox to) {
175             for(Mailbox.Iterator it=selected().iterator(q);it.next();) to.insert(it.cur(), it.getFlags() | Mailbox.Flag.RECENT); }
176
177         public void unselect() { selected = null; }
178         public void delete(String m0) { delete(mailbox(m0,false)); }
179         public void delete(Mailbox m) { if (!m.equals(inbox)) m.destroy(false); else throw new Bad("can't delete inbox"); }
180         public void create(String m) { mailbox(m, true, false); }
181         public void append(String m,int f,Date a,String b) { try {
182             mailbox(m,false).insert(Message.newMessage(new Fountain.StringFountain(b)), f | Mailbox.Flag.RECENT);
183         } catch (Message.Malformed e) { throw new No(e.getMessage()); } }
184         public void check() { }
185         public void noop() { }
186         public void logout() { }
187         public void close() { for(Mailbox.Iterator it=selected().iterator(Query.deleted()); it.next();) it.delete(); }
188         public void expunge() { for(Mailbox.Iterator it = selected().iterator(Query.deleted());it.next();) expunge(it); }
189         public void expunge(Mailbox.Iterator it) { client.expunge(it.uid()); it.delete(); }
190         public void subscribe(String mailbox) { }
191         public void unsubscribe(String mailbox) { }
192         public int maxuid() {
193             int ret = 0;
194             Mailbox mb = selected();
195             if (mb == null) return 0;
196             for(Mailbox.Iterator it = mb.iterator(); it.next(); ) ret = it.uid();
197             return ret;
198         }
199         public int unseen(String mailbox)      { return mailbox(mailbox, false).count(Query.not(Query.seen())); }
200         public int recent(String mailbox)      { return mailbox(mailbox, false).count(Query.recent()); }
201         public int count(String mailbox)       { return mailbox(mailbox, false).count(Query.all()); }
202         public int count()                     { return selected().count(Query.all()); }
203         public int uidNext(String mailbox)     { return mailbox(mailbox, false).uidNext(); }
204         public int uidValidity(String mailbox) { return Math.abs(mailbox(mailbox, false).uidValidity()); }
205         public void select(String mailbox, boolean examineOnly) { selected = mailbox(mailbox, false); }
206
207         public int[] search(Query q, boolean uid) {
208             Vec.Int vec = new Vec.Int();
209             for(Mailbox.Iterator it = selected().iterator(q); it.next();) {
210                 vec.addElement(uid ? it.uid() : it.imapNumber());
211                 it.setFlag(Mailbox.Flag.RECENT, false);
212             }
213             return vec.dump();
214         }
215
216         public void setFlags(Query q, int f, boolean uid, boolean silent)    { doFlags(q, f, uid, 0, silent); }
217         public void addFlags(Query q, int f, boolean uid, boolean silent)    { doFlags(q, f, uid, 1, silent); }
218         public void removeFlags(Query q, int f, boolean uid, boolean silent) { doFlags(q, f, uid, -1, silent); }
219         private void doFlags(Query q, int flags, boolean uid, int style, boolean silent) {
220             for(Mailbox.Iterator it = selected().iterator(q);it.next();) {
221                 boolean recent = it.getFlag(Mailbox.Flag.RECENT);
222                 try { throw new Exception("flags " + flags); } catch (Exception e) { Log.error(this, e); }
223                 for(int flag : Mailbox.Flag.all)
224                     if (style == -1)     { if ((flags & flag)!=0) it.setFlag(flag, false); }
225                     else if (style == 0) { it.setFlag(flag, ((flags & flag)!=0)); }
226                     else if (style == 1) { if ((flags & flag)!=0) it.setFlag(flag, true); }
227                 it.setFlag(Mailbox.Flag.RECENT, recent);
228                 if (!silent) client.fetch(it.imapNumber(), flags(it), -1, null, it.uid());
229             }
230         }
231
232         public void rename(String from0, String to) {
233             Mailbox from = mailbox(from0, false);
234             if (from.equals(inbox))                { from.copy(Query.all(), mailbox(to, true)); }
235             else if (to.equalsIgnoreCase("inbox")) { from.copy(Query.all(), mailbox(to, true)); from.destroy(false); }
236             else from.rename(to);
237         }
238         public void fetch(Query q, int spec, String[] headers, int start, int end, boolean uid) {
239             for(Mailbox.Iterator it = selected().iterator(q); it.next(); ) {
240                 Message message = ((spec & (BODYSTRUCTURE | ENVELOPE | INTERNALDATE | FIELDS | FIELDSNOT | RFC822 |
241                                             RFC822TEXT | RFC822SIZE | HEADERNOT | HEADER)) != 0) ? it.cur() : null;
242                 int size = message == null ? 0 : message.getLength();
243                 client.fetch(it.imapNumber(), flags(it), size, message, it.uid());
244                 it.setFlag(Mailbox.Flag.RECENT, false);
245             }
246         }
247     }
248
249     private static int flags(Mailbox.Iterator it) {
250         int ret = 0;
251         for(int flag : Mailbox.Flag.all)
252             if (it.getFlag(flag))
253                 ret |= flag;
254         return ret;
255     }
256
257     // Single Session Handler //////////////////////////////////////////////////////////////////////////////
258
259     /** takes an IMAP.Server and exposes it to the world as an IMAP server on a TCP socket */
260     public static class Listener implements Client {
261         String selectedName = null;
262         Mailbox inbox = null, root = null;
263         Server api;
264         Parser parser = null;
265         Connection conn = null;
266         Login auth;
267         public Listener(Login auth) { api = new IMAP.MailboxWrapper(this.auth = auth, this); }
268         Parser.Token token() { return parser.token(); }
269         void println(String s) { conn.println(s); }
270         void newline() { parser.newline(); }
271         Query query(int max) { return parser.query(max, maxn(true)); }
272
273         public void login(String u, String p) {
274             Object ret;
275             if ((ret = auth.login(u,p,IMAP.class)) == null) throw new Server.No("Login failed.");
276             if (ret instanceof IMAP.Server) {
277                 api = (IMAP.Server)ret;
278                 api.setClient(this);
279             } else {
280                 Account account = (Account)ret;
281                 ((MailboxWrapper)api).root = root = account.getMailbox(IMAP.class);
282                 Log.warn(this, "logged in, root="+root);
283                 ((MailboxWrapper)api).inbox = inbox = root.slash("INBOX", false);
284                 if (inbox == null) ((MailboxWrapper)api).inbox = inbox = root;
285             }
286         }
287
288         private int maxn(boolean uid) { return uid ? api.maxuid() : api.count(); }
289
290         public void handleRequest(Connection conn) {
291             this.conn = conn;
292             parser = new Parser(conn);
293             conn.setTimeout(30 * 60 * 1000);
294             println("* OK " + conn.vhost + " " + IMAP.class.getName() + " IMAP4rev1 [RFC3501] v" + version + " server ready");
295             for(String tag = null;;) try {
296                 conn.flush();
297                 boolean uid = false;
298                 tag = null; Parser.Token tok = token(); if (tok == null) return; tag = tok.astring();
299                 String command = token().atom();
300                 if (command.equalsIgnoreCase("UID")) { uid = true; command = token().atom(); }
301                 int commandKey = ((Integer)commands.get(command.toUpperCase())).intValue();
302                 switch(commandKey) {
303                     case LOGIN:        login(token().astring(), token().astring()); break;
304                     case CAPABILITY:   println("* CAPABILITY " + Printer.join(" ", api.capability())); break;
305                     case AUTHENTICATE: throw new Server.No("AUTHENTICATE not supported");
306                     case LOGOUT:       api.logout(); println("* BYE"); conn.close(); return;
307                     case LIST:         api.list(token().q(), token().astring()); break; /*astring is a hack for EUDORA*/
308                     case LSUB:         api.lsub(token().q(), token().q()); break;
309                     case SUBSCRIBE:    api.subscribe(token().astring()); break;
310                     case UNSUBSCRIBE:  api.unsubscribe(token().astring()); break;
311                     case RENAME:       api.rename(token().astring(), token().astring()); break;
312                     case DELETE:       api.delete(token().atom()); break;
313                     case CHECK:        selected(); api.check(); break;
314                     case NOOP:         api.noop(); break;
315                     case CLOSE:        selected(); api.close(); break;
316                     case EXPUNGE:      selected(); api.expunge(); break;
317                     case UNSELECT:     selected(); api.unselect(); selected = false; break;
318                     case CREATE:       api.create(token().astring()); break;
319                     case FETCH:        selected(); fetch(((lastuid=uid)
320                                                           ? Query.uid(token().set(maxn(uid)))
321                                                           : Query.imapNumber(token().set(maxn(uid)))),
322                                                          lastfetch=token().lx(), 0, 0, 0, uid, 0); break;
323                     case COPY:         selected(); api.copy(uid
324                                                             ? Query.uid(token().set(maxn(uid)))
325                                                             : Query.imapNumber(token().set(maxn(uid))), token().astring()); break;
326                     case SEARCH: {
327                         selected();
328                         int[] result = api.search(query(maxn(uid)), uid);
329                         /*if (result.length > 0)*/ println("* SEARCH " + Printer.join(result));
330                         break;
331                     }
332                     case EXAMINE:
333                     case SELECT: {
334                         String mailbox = token().astring();
335                         api.select(mailbox, commandKey==EXAMINE);
336                         println("* FLAGS (\\Answered \\Flagged \\Deleted \\Seen \\Draft)");
337                         println("* " + api.count(mailbox)  + " EXISTS");
338                         println("* " + api.recent(mailbox) + " RECENT");
339                         println("* OK [UNSEEN " + api.unseen(mailbox) + "]");
340                         println("* OK [UIDVALIDITY " + api.uidValidity(mailbox) + "] UIDs valid");
341                         println("* OK [UIDNEXT " + api.uidNext(mailbox) + "]");
342                         println("* OK [PERMANENTFLAGS (\\Seen)]");
343                         selected = true;
344                         break; }
345                     case STATUS: {
346                         String mailbox = token().astring();  // hack for GNUS buggy client
347                         Parser.Token[] list = token().l();
348                         String response = "";
349                         for(int i=0; i<list.length; i++) {
350                             String s = list[i].atom().toUpperCase();
351                             if (i>0) response += " ";
352                             if (s.equals("MESSAGES"))    response += "MESSAGES "    + api.count(mailbox);
353                             if (s.equals("RECENT"))      response += "RECENT "      + api.recent(mailbox);
354                             if (s.equals("UIDNEXT"))     response += "UIDNEXT "     + api.uidNext(mailbox);
355                             if (s.equals("UIDVALIDITY")) response += "UIDVALIDITY " + api.uidValidity(mailbox);
356                             if (s.equals("UNSEEN"))      response += "UNSEEN "      + api.unseen(mailbox);
357                         }
358                         println("* STATUS " + mailbox + " (" + response + ")");
359                         break;
360                     }
361                     case APPEND: { 
362                         String m = token().astring();
363                         int flags = 0;
364                         Date arrival = new Date();
365                         Parser.Token t = token();
366                         if (t.type == t.LIST)   { flags = t.flags();      t = token(); }
367                         if (t.type != t.QUOTED) { arrival = t.datetime(); t = token(); }
368                         api.append(m, flags, arrival, t.q());
369                         break; }
370                     case STORE: {
371                         selected();
372                         Query q = uid ? Query.uid(token().set(maxn(uid))) : Query.imapNumber(token().set(maxn(uid)));
373                         String s = token().atom().toUpperCase();
374                         int flags = token().flags();
375                         if (s.equals("FLAGS"))              api.setFlags(q,    flags, uid, false);
376                         else if (s.equals("+FLAGS"))        api.addFlags(q,    flags, uid, false);
377                         else if (s.equals("-FLAGS"))        api.removeFlags(q, flags, uid, false);
378                         else if (s.equals("FLAGS.SILENT"))  api.setFlags(q,    flags, uid, true);
379                         else if (s.equals("+FLAGS.SILENT")) api.addFlags(q,    flags, uid, true);
380                         else if (s.equals("-FLAGS.SILENT")) api.removeFlags(q, flags, uid, true);
381                         else throw new Server.Bad("unknown STORE specifier " + s);
382                         break; }
383                     default: throw new Server.Bad("unrecognized command \"" + command + "\"");
384                 }
385                 println(tag+" OK "+command+" Completed. " +
386                         (commandKey == LOGIN ? ("[CAPABILITY "+Printer.join(" ", api.capability())+"]") : ""));
387                 try {
388                     newline();
389                 } catch (Stream.EOF e) {
390                     Log.info(this, "connection closed");
391                     return;
392                 }
393             } catch (Server.Bad b) { println(tag==null ? "* BAD Invalid tag":(tag + " Bad " + b.toString())); Log.warn(this,b);
394             } catch (Server.No n)  { println(tag==null?"* BAD Invalid tag":(tag+" No "  + n.toString())); Log.warn(this,n); }
395         }
396
397         private Parser.Token[] lastfetch = null; // hack
398         private boolean lastuid = false;  // hack
399         private boolean selected = false;
400         private void selected() { if (!selected) throw new Server.Bad("no mailbox selected"); }
401
402         // Callbacks //////////////////////////////////////////////////////////////////////////////
403
404         public void expunge(int uid) { println("* " + uid + " EXPUNGE"); }
405         public void fetch(int n, int f, int size, Message m, int muid) { fetch(m, lastfetch, n, f, size, lastuid, muid); }
406         public void list(char sep, String mb, boolean sub, boolean p) {
407             println("* " + (sub?"LSUB":"LIST")+" ("+(p?"\\Noselect":"")+") \""+sep+"\" \""+mb+"\"");}
408
409         /**
410          *   Parse a fetch request <i>or</i> emit a fetch reply.
411          *
412          *   To avoid duplicating tedious parsing logic, this function
413          *   performs both of the following tasks:
414          *      - parse the fetch request in Token[] t and return a fetch spec
415          *      - emit a fetch reply for the parsed spec with respect to message m
416          */
417         private void fetch(Object o, Parser.Token[] t, int num, int flags, int size, boolean uid, int muid) {
418             Query q   = o == null ? null : o instanceof Query ? (Query)o : null;
419             Message m = o == null ? null : o instanceof Message ? (Message)o : null;
420             boolean e = q == null;
421
422             // asynchronous flags update
423             if (size == -1) {
424                 println("* " + num + " FETCH (FLAGS " + Printer.flags(flags) + (uid?(" UID "+muid):"") + ")");
425                 return;
426             }
427
428             lastfetch = t;
429             int spec = 0;                              // spec; see constants for flags
430             String[] headers = null;
431             int start = -1, end = -1;
432             StringBuffer r = new StringBuffer();
433             if (e) { r.append(num); r.append(" FETCH ("); }
434             int initlen = r.length();
435             if (uid) {
436                 boolean good = false;
437                 for(int i=0; i<t.length; i++)
438                     if ((t[i].type == Parser.Token.QUOTED || t[i].type == Parser.Token.ATOM) &&
439                         t[i].astring().equalsIgnoreCase("UID")) good = true;
440                 if (!good) {
441                     Parser.Token[] t2 = new Parser.Token[t.length + 1];
442                     System.arraycopy(t, 0, t2, 0, t.length);
443                     t2[t2.length - 1] = parser.token("UID");
444                     lastfetch = (t = t2);
445                 }
446             }
447             if (t.length == 0 && (t[0].type == Parser.Token.QUOTED || t[0].type == Parser.Token.ATOM)) {
448                 if (t[0].astring().equalsIgnoreCase("ALL"))
449                     t = new Parser.Token[] { parser.token("FLAGS"), parser.token("INTERNALDATE"),
450                                       parser.token("ENVELOPE"), parser.token("RFC822.SIZE") };
451                 else if (t[0].astring().equalsIgnoreCase("FULL"))
452                     t = new Parser.Token[] { parser.token("FLAGS"), parser.token("INTERNALDATE"), parser.token("BODY"), 
453                                       parser.token("ENVELOPE"), parser.token("RFC822.SIZE") };
454                 else if (t[0].astring().equalsIgnoreCase("FAST"))
455                     t = new Parser.Token[] { parser.token("FLAGS"), parser.token("INTERNALDATE"),
456                                       parser.token("RFC822.SIZE") };
457             }
458             for(int i=0; i<t.length; i++) {
459                 if (r.length() > initlen) r.append(" ");
460                 if (t[i] == null || t[i].s == null) continue;
461                 String s = t[i].s.toUpperCase();
462                 r.append(s.equalsIgnoreCase("BODY.PEEK")?"BODY":s);
463                 if (s.equals("BODYSTRUCTURE")) {       spec|=BODYSTRUCTURE;if(e){r.append(" ");r.append(Printer.bodystructure(m));}
464                 } else if (s.equals("ENVELOPE")) {     spec|=ENVELOPE;     if(e){r.append(" ");r.append(Printer.envelope(m));}
465                 } else if (s.equals("FLAGS")) {        spec|=FLAGS;        if(e){r.append(" ");r.append(Printer.flags(flags));}
466                 } else if (s.equals("INTERNALDATE")) { spec|=INTERNALDATE; if(e){r.append(" ");r.append(Printer.date(m.arrival));}
467                 } else if (s.equals("RFC822")) {       spec|=RFC822;       if(e){r.append(" ");r.append(Printer.message(m));}
468                 } else if (s.equals("RFC822.TEXT")) {  spec|=RFC822TEXT;   if(e){r.append(" ");r.append(Printer.qq(getBodyString(m)));}
469                 } else if (s.equals("RFC822.HEADER")){ spec|=HEADER;if(e){r.append(" ");r.append(Printer.qq(m.headers.getString()+"\r\n"));}
470                 } else if (s.equals("RFC822.SIZE")) {  spec|=RFC822SIZE;   if(e){r.append(" ");r.append(m.getLength());}
471                 } else if (s.equals("UID")) {          spec|=UID;          if(e){r.append(" ");r.append(muid); }
472                 } else if (!(s.equals("BODY.PEEK") || s.equals("BODY"))) { throw new Server.No("unknown fetch argument: " + s);
473                 } else {
474                     if (s.equalsIgnoreCase("BODY.PEEK"))   spec |= PEEK;
475                     //else if (e) api.addFlags(Query.imapNumber(new int[] { num, num }), Mailbox.Flag.SEEN, false, false);
476                     if (i >= t.length - 1 || t[i+1].type != Parser.Token.LIST) {
477                         spec |= BODYSTRUCTURE;
478                         if (e) { r.append(" "); r.append(Printer.bodystructure(m)); } continue;
479                         //{ if (e) { r.append(" "); r.append(Printer.qq(m.body)); } continue; }
480                     }
481                     String payload = "";
482                     r.append("[");
483                     Parser.Token[] list = t[++i].l();
484                     s = list.length == 0 ? "" : list[0].s.toUpperCase();
485                     r.append(s);
486                     if (list.length == 0)                   { spec |= RFC822TEXT;   if(e) payload = m.headers.getString()+"\r\n"+getBodyString(m); }
487                     else if (s.equals("") || s.equals("1")) { spec |= RFC822TEXT;   if(e) payload = m.headers.getString()+"\r\n"+getBodyString(m); }
488                     else if (s.equals("TEXT"))              { spec |= RFC822TEXT;   if(e) payload = getBodyString(m); }
489                     else if (s.equals("HEADER"))            { spec |= HEADER;       if(e) payload = m.headers.getString()+"\r\n"; }
490                     else if (s.equals("HEADER.FIELDS"))     { spec |= FIELDS;     payload=headers(r,t[i].l()[1].sl(),false,m,e); }
491                     else if (s.equals("HEADER.FIELDS.NOT")) { spec |= FIELDSNOT;  payload=headers(r,t[i].l()[1].sl(),true,m,e); }
492                     else if (s.equals("MIME")) {              throw new Server.Bad("MIME not supported"); }
493                     else                                      throw new Server.Bad("unknown section type " + s);
494                     if (i<t.length - 1 && (t[i+1].s != null && t[i+1].s.startsWith("<"))) {
495                         i++;
496                         s = t[i].s.substring(1, t[i].s.indexOf('>'));
497                         int dot = s.indexOf('.');
498                         start = dot == -1 ? Integer.parseInt(s) : Integer.parseInt(s.substring(0, s.indexOf('.')));
499                         end = dot == -1 ? -1 : Integer.parseInt(s.substring(s.indexOf('.') + 1));
500                         if (e) { payload = payload.substring(start, Math.min(end+1,payload.length())); r.append("<"+start+">"); }
501                     }
502                     if (e) { r.append("] "); r.append(Printer.qq(payload)); }
503                 }
504             }
505             if (e) {
506                 r.append(")");
507                 println("* " + r.toString());
508             } else {
509                 api.fetch(q, spec, headers, start, end, uid);
510             }
511         }
512
513         private String headers(StringBuffer r, String[] headers, boolean negate, Message m, boolean e) {
514             String payload = "";
515             if (e) r.append(" (");
516             if (!negate) {
517                 if(e) for(int j=0; j<headers.length; j++) {
518                     r.append(headers[j] + (j<headers.length-1?" ":""));
519                     if (m.headers.get(headers[j]) != null) payload += headers[j]+": "+m.headers.get(headers[j])+"\r\n";
520                 }
521             } else {
522                 throw new Server.No("HEADERS.NOT temporarily disaled");
523                 /*
524                 if (e) for(int j=0; j<headers.length; j++) r.append(headers[j] + (j<headers.length-1?" ":""));
525                 if(e) { OUTER: for(Enumeration x=m.headers.keys(); x.hasMoreElements();) {
526                     String key = (String)x.nextElement();
527                     for(int j=0; j<headers.length; j++) if (key.equalsIgnoreCase(headers[j])) continue OUTER;
528                     payload += key + ": " + m.headers.get(key)+"\r\n";
529                 } }
530                 */
531             }
532             if (e) r.append(")");
533             return payload + "\r\n";
534         }
535
536         private static final Hashtable commands = new Hashtable();
537         private static final int UID = 0;          static { commands.put("UID", new Integer(UID)); }
538         private static final int AUTHENTICATE = 1; static { commands.put("AUTHENTICATE", new Integer(AUTHENTICATE)); }
539         private static final int LIST = 2;         static { commands.put("LIST", new Integer(LIST)); }
540         private static final int LSUB = 3;         static { commands.put("LSUB", new Integer(LSUB)); }
541         private static final int SUBSCRIBE = 4;    static { commands.put("SUBSCRIBE", new Integer(SUBSCRIBE)); }
542         private static final int UNSUBSCRIBE = 5;  static { commands.put("UNSUBSCRIBE", new Integer(UNSUBSCRIBE)); }
543         private static final int CAPABILITY = 6;   static { commands.put("CAPABILITY", new Integer(CAPABILITY)); }
544         private static final int ID = 7;           static { commands.put("ID", new Integer(ID)); }
545         private static final int LOGIN = 8;        static { commands.put("LOGIN", new Integer(LOGIN)); }
546         private static final int LOGOUT = 9;       static { commands.put("LOGOUT", new Integer(LOGOUT)); }
547         private static final int RENAME = 10;      static { commands.put("RENAME", new Integer(RENAME)); }
548         private static final int EXAMINE = 11;     static { commands.put("EXAMINE", new Integer(EXAMINE)); }
549         private static final int SELECT = 12;      static { commands.put("SELECT", new Integer(SELECT)); }
550         private static final int COPY = 13;        static { commands.put("COPY", new Integer(COPY)); }
551         private static final int DELETE = 14;      static { commands.put("DELETE", new Integer(DELETE)); }
552         private static final int CHECK = 15;       static { commands.put("CHECK", new Integer(CHECK)); }
553         private static final int NOOP = 16;        static { commands.put("NOOP", new Integer(NOOP)); }
554         private static final int CLOSE = 17;       static { commands.put("CLOSE", new Integer(CLOSE)); }
555         private static final int EXPUNGE = 18;     static { commands.put("EXPUNGE", new Integer(EXPUNGE)); }
556         private static final int UNSELECT = 19;    static { commands.put("UNSELECT", new Integer(UNSELECT)); }
557         private static final int CREATE = 20;      static { commands.put("CREATE", new Integer(CREATE)); }
558         private static final int STATUS = 21;      static { commands.put("STATUS", new Integer(STATUS)); }
559         private static final int FETCH = 22;       static { commands.put("FETCH", new Integer(FETCH)); }
560         private static final int APPEND = 23;      static { commands.put("APPEND", new Integer(APPEND)); }
561         private static final int STORE = 24;       static { commands.put("STORE", new Integer(STORE)); }
562         private static final int SEARCH = 25;      static { commands.put("SEARCH", new Integer(SEARCH)); }
563     }
564
565     public static class Parser {
566         private Stream stream;
567         public Parser(Stream from) { this.stream = from; }
568         public Token token(String s) { return new Token(s); }
569         protected Query query(int max, int maxuid) {
570             String s = null;
571             boolean not = false;
572             Query q = null;
573             Query ret = null;
574             while(true) {
575                 Parser.Token t = token(false);
576                 if (t == null) break;
577                 if (t.type == t.LIST) throw new Server.No("nested queries not yet supported FIXME");
578                 else if (t.type == t.SET) return Query.imapNumber(t.set(max));
579                 s = t.atom().toUpperCase();
580                 if (s.equals("NOT"))   return Query.not(query(max, maxuid));
581                 if (s.equals("OR"))    return Query.or(query(max, maxuid), query(max, maxuid));    // FIXME parse rest of list
582                 if (s.equals("AND"))   return Query.and(query(max, maxuid), query(max, maxuid));
583
584                 if (s.startsWith("UN"))        { not = true; s = s.substring(2); }
585                 if (s.equals("ANSWERED"))        q = Query.answered();
586                 else if (s.equals("DELETED"))    q = Query.deleted();
587                 else if (s.equals("ALL"))        q = Query.all();
588                 else if (s.equals("DRAFT"))      q = Query.draft();
589                 else if (s.equals("FLAGGED"))    q = Query.flagged();
590                 else if (s.equals("RECENT"))     q = Query.recent();
591                 else if (s.equals("SEEN"))       q = Query.seen();
592                 else if (s.equals("OLD"))      { not = true; q = Query.recent(); }
593                 else if (s.equals("NEW"))        q = Query.and(Query.recent(), Query.not(Query.seen()));
594                 else if (s.equals("KEYWORD"))    q = Query.header("keyword", token().flag());
595                 else if (s.equals("HEADER"))     q = Query.header(token().astring(), token().astring());
596                 else if (s.equals("BCC"))        q = Query.header("bcc", token().astring());
597                 else if (s.equals("CC"))         q = Query.header("cc", token().astring());
598                 else if (s.equals("FROM"))       q = Query.header("from", token().astring());
599                 else if (s.equals("TO"))         q = Query.header("to", token().astring());
600                 else if (s.equals("SUBJECT"))    q = Query.header("subject", token().astring());
601                 else if (s.equals("LARGER"))     q = Query.size(token().n(), Integer.MAX_VALUE);
602                 else if (s.equals("SMALLER"))    q = Query.size(Integer.MIN_VALUE, token().n());
603                 else if (s.equals("BODY"))       q = Query.body(token().astring());
604                 else if (s.equals("TEXT"))       q = Query.full(token().astring());
605                 else if (s.equals("BEFORE"))     q = Query.arrival(new Date(0), token().date());
606                 else if (s.equals("SINCE"))      q = Query.arrival(token().date(), new Date(Long.MAX_VALUE));
607                 else if (s.equals("ON"))       { Date d = token().date(); q = Query.arrival(d, new Date(d.getTime() + 24 * 60 * 60)); }
608                 else if (s.equals("SENTBEFORE")) q = Query.sent(new Date(0), token().date());
609                 else if (s.equals("SENTSINCE"))  q = Query.sent(token().date(), new Date(Long.MAX_VALUE));
610                 else if (s.equals("SENTON"))   { Date d = token().date(); q = Query.sent(d, new Date(d.getTime() + 24 * 60 * 60)); }
611                 else if (s.equals("UID"))        q = Query.uid(token().set(max));
612                 q = not ? Query.not(q) : q;
613                 ret = ret == null ? q : Query.and(ret, q);
614             }
615             return ret;
616         }
617
618         private static void bad(String s) { throw new Server.Bad(s); }
619         class Token {
620             public final byte type;
621             private final String s;
622             private final Parser.Token[] l;
623             private final int n;
624             private static final byte NIL = 0, LIST = 1, QUOTED = 2, NUMBER = 3, ATOM = 4, BAREWORD = 5, SET = 6;
625             public Token()                         { this.s = null; n = 0;      l = null; type = NIL; }
626             public Token(String s)                 { this(s, false); }
627             public Token(String s, boolean quoted) { this.s = s;    n = 0;      l = null; type = quoted ? QUOTED : ATOM;  }
628             public Token(Parser.Token[] list)      { this.s = null; n = 0;      l = list; type = LIST; }
629             public Token(int number)               { this.s = null; n = number; l = null; type = NUMBER; }
630
631             public String   flag()    { if (type != ATOM) bad("expected a flag"); return s; }
632             public int      n()       { if (type != NUMBER) bad("expected number"); return n; }
633             public int      nz()      { int n = n(); if (n == 0) bad("expected nonzero number"); return n; }
634             public String   q()       { if (type == NIL) return null; if (type != QUOTED) bad("expected qstring"); return s; }
635             public Parser.Token[]  l()       { if (type == NIL) return null; if (type != LIST) bad("expected list"); return l; }
636             public Parser.Token[]  lx()      {
637                 if (type == LIST) return l;
638                 Vec v = new Vec();
639                 v.addElement(this);
640                 while(true) {
641                     Parser.Token t = token(false);
642                     if (t == null) break;
643                     v.addElement(t);
644                 }
645                 Parser.Token[] ret = new Parser.Token[v.size()];
646                 v.copyInto(ret);
647                 return ret;
648             }
649             public String   nstring() { if (type==NIL) return null; if (type!=QUOTED) bad("expected nstring"); return s; }
650             public String   astring() {
651                 if (type != ATOM && type != QUOTED) bad("expected atom or string");
652                 if (s == null) bad("astring cannot be null");
653                 return s; }
654             public String[] sl() {
655                 if (type == NIL) return null;
656                 if (type != LIST) bad("expected list");
657                 String[] ret = new String[l.length];
658                 for(int i=0; i<ret.length; i++) ret[i] = l[i].s;
659                 return ret;
660             }
661             public int flags() {
662                 if (type != LIST) bad("expected flag list");
663                 int ret = 0;
664                 for(int i=0; i<l.length; i++) {
665                     String flag = l[i].s;
666                     if (flag.equals("\\Deleted"))       ret |= Mailbox.Flag.DELETED;
667                     else if (flag.equals("\\Seen"))     ret |= Mailbox.Flag.SEEN;
668                     else if (flag.equals("\\Flagged"))  ret |= Mailbox.Flag.FLAGGED;
669                     else if (flag.equals("\\Draft"))    ret |= Mailbox.Flag.DRAFT;
670                     else if (flag.equals("\\Answered")) ret |= Mailbox.Flag.ANSWERED;
671                     else if (flag.equals("\\Recent"))   ret |= Mailbox.Flag.RECENT;
672                 }
673                 return ret;
674             }
675             public int[] set(int largest) {
676                 if (type != ATOM) bad("expected a messageid set");
677                 Vec.Int ids = new Vec.Int();
678                 StringTokenizer st = new StringTokenizer(s, ",");
679                 while(st.hasMoreTokens()) {
680                     String s = st.nextToken();
681                     if (s.indexOf(':') == -1) {
682                         if (s.equals("*")) {
683                             ids.addElement(largest);
684                             ids.addElement(largest);
685                         } else {
686                             ids.addElement(Integer.parseInt(s));
687                             ids.addElement(Integer.parseInt(s));
688                         }
689                         continue; }
690                     int start = Integer.parseInt(s.substring(0, s.indexOf(':')));
691                     String end_s = s.substring(s.indexOf(':')+1);
692                     int end = end_s.equals("*") ? largest : Integer.parseInt(end_s);
693                     for(int j=Math.min(start,end); j<=Math.max(start,end); j++) {
694                         ids.addElement(j);
695                         ids.addElement(j);
696                     }
697                 }
698                 return ids.dump();
699             }
700             public Date date() {
701                 if (type != QUOTED && type != ATOM) bad("Expected quoted or unquoted date");
702                 try { return new SimpleDateFormat("dd-MMM-yyyy").parse(s);
703                 } catch (ParseException p) { throw new Server.Bad("invalid date format; " + p); }
704             }
705             public Date datetime() {
706                 if (type != QUOTED) bad("Expected quoted datetime");
707                 try { return new SimpleDateFormat("dd-MM-yyyy hh:mm:ss zzzz").parse(s.trim());
708                 } catch (ParseException p) { throw new Server.Bad("invalid datetime format " + s + " : " + p); }
709             }
710             public String atom() {
711                 if (type != ATOM) bad("expected atom");
712                 for(int i=0; i<s.length(); i++) {
713                     char c = s.charAt(i);
714                     if (c == '(' || c == ')' || c == '{' || c == ' ' || c == '%' || c == '*' || c == '\"' | c == '\\')
715                         bad("invalid char in atom: " + c);
716                 }
717                 return s;
718             }
719         }
720
721         public void newline() { stream.readln(); }
722
723         public Token token() { return token(true); }
724         public Token token(boolean freak) {
725             Vec toks = new Vec();
726             StringBuffer sb = new StringBuffer();
727             char c = stream.getc(); while (c == ' ') c = stream.getc();
728             if (c == '\r' || c == '\n') { if (freak) bad("unexpected end of line"); return null; }
729             else if (c == '{') {
730                 while(stream.peekc() != '}') sb.append(stream.getc());
731                 stream.getc();
732                 stream.println("+ Ready when you are...");
733                 int octets = Integer.parseInt(sb.toString());
734                 while(stream.peekc() == ' ') stream.getc();   // whitespace
735                 while(stream.peekc() == '\n' || stream.peekc() == '\r') stream.getc();
736                 byte[] bytes = new byte[octets];
737                 int numread = 0;
738                 while(numread < bytes.length) {
739                     int n = stream.read(bytes, numread, bytes.length - numread);
740                     if (n == -1) bad("end of stream while reading IMAP qstring");
741                     numread += n;
742                 }
743                 return new Token(new String(bytes), true);
744             } else if (c == '\"') {
745                 while(true) {
746                     c = stream.getc();
747                     if (c == '\\') sb.append(stream.getc());
748                     else if (c == '\"') break;
749                     else sb.append(c);
750                 }
751                 return new Token(sb.toString(), true);
752                 
753                 // NOTE: this is technically a violation of the IMAP grammar, since atoms like FOO[BAR should be legal
754             } else if (c == ']' || c == ')') { return null;
755             } else if (c == '[' || c == '(') {
756                 Token t;
757                 do { t = token(); if (t != null) toks.addElement(t); } while (t != null);
758                 Token[] ret = new Token[toks.size()];
759                 toks.copyInto(ret);
760                 return new Token(ret);
761                 
762             } else while(true) {
763                 sb.append(c);
764                 c = stream.peekc();
765                 if (c == ' ' || c == '\"' || c == '(' || c == ')' || c == '[' || c == ']' ||
766                     c == '{' || c == '\n' || c == '\r')
767                     return new Token(sb.toString(), false);
768                 stream.getc();
769             }
770         }
771     }
772     
773     public static class Printer {
774             static String quotify(String s){
775                 return s==null?"NIL":"\""+s.replaceAll("\\\\","\\\\").replaceAll("\"","\\\\\"")+"\"";}
776             static String quotify(Date d) {
777                 return new SimpleDateFormat("dd-MMM-yyyy HH:mm:ss +zzzz").format(d); }
778             static String address(Address a) {
779                 return"("+quotify(a.description)+" NIL "+quotify(a.user)+" "+quotify(a.host)+")"; }
780             public static String addressList(Object a) {
781                 if (a == null) return "NIL";
782                 if (a instanceof Address) return "("+address((Address)a)+")";
783                 if (a instanceof String) return "("+address(Address.parse((String)a))+")";
784                 Address[] aa = (Address[])a;
785                 StringBuffer ret = new StringBuffer();
786                 ret.append("(");
787                 for(int i=0; i<aa.length; i++) { ret.append(aa[i]); if (i < aa.length - 1) ret.append(" "); }
788                 ret.append(")");
789                 return ret.toString();
790             }
791             static String flags(Mailbox.Iterator it) {
792                 return
793                     (it.getFlag(Mailbox.Flag.DELETED)  ? "\\Deleted "  : "") +
794                     (it.getFlag(Mailbox.Flag.SEEN)     ? "\\Seen "     : "") +
795                     (it.getFlag(Mailbox.Flag.FLAGGED)  ? "\\Flagged "  : "") +
796                     (it.getFlag(Mailbox.Flag.DRAFT)    ? "\\Draft "    : "") +
797                     (it.getFlag(Mailbox.Flag.ANSWERED) ? "\\Answered " : "") +
798                     (it.getFlag(Mailbox.Flag.RECENT)   ? "\\Recent "   : "");
799         }
800         static String flags(int flags) {
801             String ret = "(" +
802                 (((flags & Mailbox.Flag.DELETED) == Mailbox.Flag.DELETED) ? "\\Deleted "  : "") +
803                 (((flags & Mailbox.Flag.SEEN) == Mailbox.Flag.SEEN)    ? "\\Seen "     : "") +
804                 (((flags & Mailbox.Flag.FLAGGED) == Mailbox.Flag.FLAGGED) ? "\\Flagged "  : "") +
805                 (((flags & Mailbox.Flag.DRAFT) == Mailbox.Flag.DRAFT)   ? "\\Draft "    : "") +
806                 (((flags & Mailbox.Flag.ANSWERED) == Mailbox.Flag.ANSWERED)? "\\Answered " : "") +
807                 (((flags & Mailbox.Flag.RECENT) == Mailbox.Flag.RECENT)  ? "\\Recent "   : "");
808             if (ret.endsWith(" ")) ret = ret.substring(0, ret.length() - 1);
809             return ret + ")";
810         }
811         static String bodystructure(Message m) {
812             // FIXME
813             return "(\"TEXT\" \"PLAIN\" (\"CHARSET\" \"ISO-8859-1\") NIL NIL \"7BIT\" "+m.getLength()+" "+m.getNumLines()+")";
814         }
815         static String message(Message m) { return m.toString(); }
816         static String date(Date d) { return "\""+d.toString()+"\""; }
817         static String envelope(Message m) {
818             return
819                 "(" + quotify(m.arrival.toString()) +
820                 " " + quotify(m.subject) +          
821                 " " + addressList(m.from) +      
822                 " " + addressList(m.headers.get("sender")) +
823                 " " + addressList(m.replyto) + 
824                 " " + addressList(m.to) + 
825                 " " + addressList(m.cc) + 
826                 " " + addressList(m.bcc) + 
827                 " " + quotify((String)m.headers.get("in-reply-to")) +
828                 " " + quotify(m.messageid) +
829                 ")";
830         }
831         
832         public static String qq(String s) {
833             StringBuffer ret = new StringBuffer();
834             ret.append('{');
835             ret.append(s.getBytes().length);
836             ret.append('}');
837             ret.append('\r');
838             ret.append('\n');
839             ret.append(s);
840             return ret.toString();
841         }
842         
843         private static String join(int[] nums) {
844             StringBuffer ret = new StringBuffer();
845             for(int i=0; i<nums.length; i++) {
846                 ret.append(nums[i]);
847                 if (i<nums.length-1) ret.append(' ');
848             }
849             return ret.toString();
850         }
851         private static String join(String delimit, String[] stuff) {
852             StringBuffer ret = new StringBuffer();
853             for(int i=0; i<stuff.length; i++) {
854                 ret.append(stuff[i]);
855                 if (i<stuff.length - 1) ret.append(delimit);
856             }
857             return ret.toString();
858         }
859         }
860
861
862     // Main //////////////////////////////////////////////////////////////////////////////
863
864     public static final int
865         PEEK=0x1, BODYSTRUCTURE=0x2, ENVELOPE=0x4, FLAGS=0x8, INTERNALDATE=0x10, FIELDS=0x800, FIELDSNOT=0x1000,
866         RFC822=0x20, RFC822TEXT=0x40, RFC822SIZE=0x80, HEADERNOT=0x100, UID=0x200, HEADER=0x400;
867
868 }