src/org/xwt/HTTP.java

   1 // Copyright 2003 Adam Megacz, see the COPYING file for licensing [GPL]
   2 package org.xwt;
   3
   4 import java.net.*;
   5 import java.io.*;
   6 import java.util.*;
   7 import org.xwt.js.*;
   8 import org.xwt.util.*;
   9 import org.bouncycastle.util.encoders.Base64;
  10 import org.bouncycastle.crypto.digests.*;
  11
  12 /**
  13  *  This object encapsulates a *single* HTTP connection. Multiple requests may be pipelined over a connection (thread-safe),
  14  *  although any IOException encountered in a request will invalidate all later requests.
  15  */
  16 public class HTTP {
  17
  18     /** the URL as passed to the original constructor; this is never changed */
  19     final String originalUrl;
  20
  21     /** the URL to connect to; this is munged when the url is parsed */
  22     URL url = null;
  23
  24     /** the host to connect to */
  25     String host = null;
  26
  27     /** the port to connect on */
  28     int port = -1;
  29
  30     /** true if SSL (HTTPS) should be used */
  31     boolean ssl = false;
  32
  33     /** the path (URI) to retrieve on the server */
  34     String path = null;
  35
  36     /** the socket */
  37     Socket sock = null;
  38
  39     /** the socket's inputstream */
  40     InputStream in = null;
  41
  42     /** the username and password portions of the URL */
  43     String userInfo = null;
  44
  45     /** cache of userInfo strings, keyed on originalUrl */
  46     private static Hashtable authCache = new Hashtable();
  47
  48     /** this is null if the current request is the first request on
  49      *  this HTTP connection; otherwise it is a Semaphore which will be
  50      *  released once the request ahead of us has recieved its response
  51      */
  52     Semaphore okToRecieve = null;
  53
  54     /** true iff this is the first request to be made on this socket */
  55     boolean firstRequest = true;
  56
  57     /** cache for resolveAndCheckIfFirewalled() */
  58     static Hashtable resolvedHosts = new Hashtable();
  59
  60     /** true iff we are allowed to skip the resolve check (only allowed when we're downloading the PAC script) */
  61     boolean skipResolveCheck = false;
  62
  63     /** true iff we're using a proxy */
  64     boolean proxied = false;
  65
  66
  67     // Public Methods ////////////////////////////////////////////////////////////////////////////////////////
  68
  69     public HTTP(String url) { this(url, false); }
  70     public HTTP(String url, boolean skipResolveCheck) {
  71         originalUrl = url;
  72         this.skipResolveCheck = skipResolveCheck;
  73     }
  74
  75     /** Performs an HTTP GET request */
  76     public InputStream GET() throws IOException { return makeRequest(null, null); }
  77
  78     /** Performs an HTTP POST request; content is appended to the headers (so it should include a blank line to delimit the beginning of the body) */
  79     public InputStream POST(String contentType, String content) throws IOException { return makeRequest(contentType, content); }
  80
  81     /**
  82      *  This method isn't synchronized; however, only one thread can be in the inner synchronized block at a time, and the rest of
  83      *  the method is protected by in-order one-at-a-time semaphore lock-steps
  84      */
  85     private InputStream makeRequest(String contentType, String content) throws IOException {
  86
  87         // Step 1: send the request and establish a semaphore to stop any requests that pipeline after us
  88         Semaphore blockOn = null;
  89         Semaphore releaseMe = null;
  90         synchronized(this) {
  91             try {
  92                 connect();
  93                 sendRequest(contentType, content);
  94             } catch (IOException e) {
  95                 reset();
  96                 throw e;
  97             }
  98             blockOn = okToRecieve;
  99             releaseMe = okToRecieve = new Semaphore();
 100         }
 101
 102         // Step 2: wait for requests ahead of us to complete, then read the reply off the stream
 103         boolean doRelease = true;
 104         try {
 105             if (blockOn != null) blockOn.block();
 106
 107             // previous call wrecked the socket connection, but we already sent our request, so we can't just retry --
 108             // this could cause the server to receive the request twice, which could be bad (think of the case where the
 109             // server call causes Amazon.com to ship you an item with one-click purchasing).
 110             if (sock == null)
 111                 throw new HTTPException("a previous pipelined call messed up the socket");
 112
 113             Hashtable h = in == null ? null : parseHeaders(in);
 114             if (h == null) {
 115                 if (firstRequest) throw new HTTPException("server closed the socket with no response");
 116                 // sometimes the server chooses to close the stream between requests
 117                 reset();
 118                 releaseMe.release();
 119                 return makeRequest(contentType, content);
 120             }
 121
 122             String reply = h.get("STATUSLINE").toString();
 123
 124             if (reply.startsWith("407") || reply.startsWith("401")) {
 125
 126                 if (reply.startsWith("407")) doProxyAuth(h, content == null ? "GET" : "POST");
 127                 else doWebAuth(h, content == null ? "GET" : "POST");
 128
 129                 if (h.get("HTTP").equals("1.0") && h.get("content-length") == null) {
 130                     if (Log.on) Log.log(this, "proxy returned an HTTP/1.0 reply with no content-length...");
 131                     reset();
 132                 } else {
 133                     int cl = h.get("content-length") == null ? -1 : Integer.parseInt(h.get("content-length").toString());
 134                     new HTTPInputStream(in, cl, releaseMe).close();
 135                 }
 136                 releaseMe.release();
 137                 return makeRequest(contentType, content);
 138
 139             } else if (reply.startsWith("2")) {
 140                 if (h.get("HTTP").equals("1.0") && h.get("content-length") == null)
 141                     throw new HTTPException("XWT does not support HTTP/1.0 servers which fail to return the Content-Length header");
 142                 int cl = h.get("content-length") == null ? -1 : Integer.parseInt(h.get("content-length").toString());
 143                 InputStream ret = new HTTPInputStream(in, cl, releaseMe);
 144                 if ("gzip".equals(h.get("content-encoding"))) ret = new java.util.zip.GZIPInputStream(ret);
 145                 doRelease = false;
 146                 return ret;
 147
 148             } else {
 149                 throw new HTTPException("HTTP Error: " + reply);
 150
 151             }
 152
 153         } catch (IOException e) { reset(); throw e;
 154         } finally { if (doRelease) releaseMe.release();
 155         }
 156     }
 157
 158
 159     // Safeguarded DNS Resolver ///////////////////////////////////////////////////////////////////////////
 160
 161     /**
 162      *  resolves the hostname and returns it as a string in the form "x.y.z.w"
 163      *  @throws HTTPException if the host falls within a firewalled netblock
 164      */
 165     private void resolveAndCheckIfFirewalled(String host) throws HTTPException {
 166
 167         // cached
 168         if (resolvedHosts.get(host) != null) return;
 169
 170         // if all scripts are trustworthy (local FS), continue
 171         if (Main.originAddr == null) return;
 172
 173         // resolve using DNS
 174         try {
 175             InetAddress addr = InetAddress.getByName(host);
 176             byte[] quadbyte = addr.getAddress();
 177             if ((quadbyte[0] == 10 ||
 178                  (quadbyte[0] == 192 && quadbyte[1] == 168) ||
 179                  (quadbyte[0] == 172 && (quadbyte[1] & 0xF0) == 16)) && !addr.equals(Main.originAddr))
 180                 throw new HTTPException("security violation: " + host + " [" + addr.getHostAddress() + "] is in a firewalled netblock");
 181             return;
 182         } catch (UnknownHostException uhe) { }
 183
 184         if (Platform.detectProxy() == null) throw new HTTPException("could not resolve hostname \"" + host + "\" and no proxy configured");
 185         if (Log.on) Log.log(this, "  could not resolve host " + host + "; using xmlrpc.xwt.org to ensure security");
 186         try {
 187             JS.Array args = new JS.Array();
 188             args.addElement(host);
 189             Object ret = new XMLRPC("http://xmlrpc.xwt.org/RPC2/", "dns.resolve").call(args);
 190             if (ret == null || !(ret instanceof String)) throw new Exception("    xmlrpc.xwt.org returned non-String: " + ret);
 191             resolvedHosts.put(host, ret);
 192             return;
 193         } catch (Throwable e) {
 194             throw new HTTPException("exception while attempting to use xmlrpc.xwt.org to resolve " + host + ": " + e);
 195         }
 196     }
 197
 198
 199     // Methods to attempt socket creation /////////////////////////////////////////////////////////////////
 200
 201     /** Attempts a direct connection */
 202     public Socket attemptDirect() {
 203         try {
 204             if (Log.verbose) Log.log(this, "attempting to create unproxied socket to " + host + ":" + port + (ssl ? " [ssl]" : ""));
 205             return Platform.getSocket(host, port, ssl, true);
 206         } catch (IOException e) {
 207             if (Log.on) Log.log(this, "exception in attemptDirect(): " + e);
 208             return null;
 209         }
 210     }
 211
 212     /** Attempts to use an HTTP proxy, employing the CONNECT method if HTTPS is requested */
 213     public Socket attemptHttpProxy(String proxyHost, int proxyPort) {
 214         try {
 215             if (Log.verbose) Log.log(this, "attempting to create HTTP proxied socket using proxy " + proxyHost + ":" + proxyPort);
 216
 217             Socket sock = Platform.getSocket(proxyHost, proxyPort, ssl, false);
 218             if (!ssl) {
 219                 if (!path.startsWith("http://")) path = "http://" + host + ":" + port + path;
 220             } else {
 221                 PrintWriter pw = new PrintWriter(new OutputStreamWriter(sock.getOutputStream()));
 222                 BufferedReader br = new BufferedReader(new InputStreamReader(sock.getInputStream()));
 223                 pw.print("CONNECT " + host + ":" + port + " HTTP/1.1\r\n\r\n");
 224                 pw.flush();
 225                 String s = br.readLine();
 226                 if (s.charAt(9) != '2') throw new HTTPException("proxy refused CONNECT method: \"" + s + "\"");
 227                 while (br.readLine().length() > 0) { };
 228                 ((TinySSL)sock).negotiate();
 229             }
 230             return sock;
 231
 232         } catch (IOException e) {
 233             if (Log.on) Log.log(this, "exception in attemptHttpProxy(): " + e);
 234             return null;
 235         }
 236     }
 237
 238     /**
 239      *  Implements SOCKSv4 with v4a DNS extension
 240      *  @see http://www.socks.nec.com/protocol/socks4.protocol
 241      *  @see http://www.socks.nec.com/protocol/socks4a.protocol
 242      */
 243     public Socket attemptSocksProxy(String proxyHost, int proxyPort) {
 244
 245         // even if host is already a "x.y.z.w" string, we use this to parse it into bytes
 246         InetAddress addr = null;
 247         try { addr = InetAddress.getByName(host); } catch (Exception e) { }
 248
 249         if (Log.verbose) Log.log(this, "attempting to create SOCKSv4" + (addr == null ? "" : "a") +
 250                                  " proxied socket using proxy " + proxyHost + ":" + proxyPort);
 251
 252         try {
 253             Socket sock = Platform.getSocket(proxyHost, proxyPort, ssl, false);
 254
 255             DataOutputStream dos = new DataOutputStream(sock.getOutputStream());
 256             dos.writeByte(0x04);                         // SOCKSv4(a)
 257             dos.writeByte(0x01);                         // CONNECT
 258             dos.writeShort(port & 0xffff);               // port
 259             if (addr == null) dos.writeInt(0x00000001);  // bogus IP
 260             else dos.write(addr.getAddress());           // actual IP
 261             dos.writeByte(0x00);                         // no userid
 262             if (addr == null) {
 263                 PrintWriter pw = new PrintWriter(new OutputStreamWriter(dos));
 264                 pw.print(host);
 265                 pw.flush();
 266                 dos.writeByte(0x00);                     // hostname null terminator
 267             }
 268             dos.flush();
 269
 270             DataInputStream dis = new DataInputStream(sock.getInputStream());
 271             dis.readByte();                              // reply version
 272             byte success = dis.readByte();               // success/fail
 273             dis.skip(6);                                 // ip/port
 274
 275             if ((int)(success & 0xff) == 90) {
 276                 if (ssl) ((TinySSL)sock).negotiate();
 277                 return sock;
 278             }
 279             if (Log.on) Log.log(this, "SOCKS server denied access, code " + (success & 0xff));
 280             return null;
 281
 282         } catch (IOException e) {
 283             if (Log.on) Log.log(this, "exception in attemptSocksProxy(): " + e);
 284             return null;
 285         }
 286     }
 287
 288     /** executes the PAC script and dispatches a call to one of the other attempt methods based on the result */
 289     public Socket attemptPAC(org.xwt.js.JS.Callable pacFunc) {
 290         if (Log.verbose) Log.log(this, "evaluating PAC script");
 291         String pac = null;
 292         try {
 293             org.xwt.js.JS.Array args = new org.xwt.js.JS.Array();
 294             args.addElement(url.toString());
 295             args.addElement(url.getHost());
 296             Object obj = pacFunc.call(args);
 297             if (Log.verbose) Log.log(this, "  PAC script returned \"" + obj + "\"");
 298             pac = obj.toString();
 299         } catch (Throwable e) {
 300             if (Log.on) Log.log(this, "PAC script threw exception " + e);
 301             return null;
 302         }
 303
 304         StringTokenizer st = new StringTokenizer(pac, ";", false);
 305         while (st.hasMoreTokens()) {
 306             String token = st.nextToken().trim();
 307             if (Log.verbose) Log.log(this, "  trying \"" + token + "\"...");
 308             try {
 309                 Socket ret = null;
 310                 if (token.startsWith("DIRECT"))
 311                     ret = attemptDirect();
 312                 else if (token.startsWith("PROXY"))
 313                     ret = attemptHttpProxy(token.substring(token.indexOf(' ') + 1, token.indexOf(':')),
 314                                            Integer.parseInt(token.substring(token.indexOf(':') + 1)));
 315                 else if (token.startsWith("SOCKS"))
 316                     ret = attemptSocksProxy(token.substring(token.indexOf(' ') + 1, token.indexOf(':')),
 317                                             Integer.parseInt(token.substring(token.indexOf(':') + 1)));
 318                 if (ret != null) return ret;
 319             } catch (Throwable e) {
 320                 if (Log.on) Log.log(this, "attempt at \"" + token + "\" failed due to " + e + "; trying next token");
 321             }
 322         }
 323         if (Log.on) Log.log(this, "all PAC results exhausted");
 324         return null;
 325     }
 326
 327
 328     // Everything Else ////////////////////////////////////////////////////////////////////////////
 329
 330     private synchronized void connect() throws IOException {
 331         if (originalUrl.equals("stdio:")) {
 332             in = new BufferedInputStream(System.in);
 333             return;
 334         }
 335         if (sock != null) {
 336             if (in == null) in = new BufferedInputStream(sock.getInputStream());
 337             return;
 338         }
 339         // grab the userinfo; gcj doesn't have java.net.URL.getUserInfo()
 340         String url = originalUrl;
 341         userInfo = url.substring(url.indexOf("://") + 3);
 342         userInfo = userInfo.indexOf('/') == -1 ? userInfo : userInfo.substring(0, userInfo.indexOf('/'));
 343         if (userInfo.indexOf('@') != -1) {
 344             userInfo = userInfo.substring(0, userInfo.indexOf('@'));
 345             url = url.substring(0, url.indexOf("://") + 3) + url.substring(url.indexOf('@') + 1);
 346         } else {
 347             userInfo = null;
 348         }
 349
 350         if (url.startsWith("https:")) {
 351             this.url = new URL("http" + url.substring(5));
 352             ssl = true;
 353         } else if (!url.startsWith("http:")) {
 354             throw new MalformedURLException("HTTP only supports http/https urls");
 355         } else {
 356             this.url = new URL(url);
 357         }
 358         if (!skipResolveCheck) resolveAndCheckIfFirewalled(this.url.getHost());
 359         port = this.url.getPort();
 360         path = this.url.getFile();
 361         if (port == -1) port = ssl ? 443 : 80;
 362         host = this.url.getHost();
 363         if (Log.verbose) Log.log(this, "creating HTTP object for connection to " + host + ":" + port);
 364
 365         Proxy pi = Platform.detectProxy();
 366         OUTER: do {
 367             if (pi != null) {
 368                 for(int i=0; i<pi.excluded.length; i++) if (host.equals(pi.excluded[i])) break OUTER;
 369                 if (sock == null && pi.proxyAutoConfigFunction != null) sock = attemptPAC(pi.proxyAutoConfigFunction);
 370                 if (sock == null && ssl && pi.httpsProxyHost != null) sock = attemptHttpProxy(pi.httpsProxyHost, pi.httpsProxyPort);
 371                 if (sock == null && pi.httpProxyHost != null) sock = attemptHttpProxy(pi.httpProxyHost, pi.httpProxyPort);
 372                 if (sock == null && pi.socksProxyHost != null) sock = attemptSocksProxy(pi.socksProxyHost, pi.socksProxyPort);
 373             }
 374         } while (false);
 375         proxied = sock != null;
 376         if (sock == null) sock = attemptDirect();
 377         if (sock == null) throw new HTTPException("unable to contact host " + host);
 378         if (in == null) in = new BufferedInputStream(sock.getInputStream());
 379     }
 380
 381     public void sendRequest(String contentType, String content) throws IOException {
 382
 383         PrintWriter pw = new PrintWriter(new OutputStreamWriter(originalUrl.equals("stdio:") ? System.out : sock.getOutputStream()));
 384         if (content != null) {
 385             pw.print("POST " + path + " HTTP/1.1\r\n");
 386             int contentLength = content.substring(0, 2).equals("\r\n") ?
 387                 content.length() - 2 :
 388                 (content.length() - content.indexOf("\r\n\r\n") - 4);
 389             pw.print("Content-Length: " + contentLength + "\r\n");
 390             if (contentType != null) pw.print("Content-Type: " + contentType + "\r\n");
 391         } else {
 392             pw.print("GET " + path + " HTTP/1.1\r\n");
 393         }
 394
 395         pw.print("User-Agent: XWT\r\n");
 396         pw.print("Accept-encoding: gzip\r\n");
 397         pw.print("Host: " + (host + (port == 80 ? "" : (":" + port))) + "\r\n");
 398         if (proxied) pw.print("X-RequestOrigin: " + Main.originHost + "\r\n");
 399
 400         if (Proxy.Authorization.authorization != null) pw.print("Proxy-Authorization: " + Proxy.Authorization.authorization2 + "\r\n");
 401         if (authCache.get(originalUrl) != null) pw.print("Authorization: " + authCache.get(originalUrl) + "\r\n");
 402
 403         pw.print(content == null ? "\r\n" : content);
 404         pw.print("\r\n");
 405         pw.flush();
 406     }
 407
 408     private void doWebAuth(Hashtable h0, String method) throws IOException {
 409         if (userInfo == null) throw new HTTPException("web server demanded username/password, but none were supplied");
 410         Hashtable h = parseAuthenticationChallenge(h0.get("www-authenticate").toString());
 411
 412         if (h.get("AUTHTYPE").equals("Basic")) {
 413             if (authCache.get(originalUrl) != null) throw new HTTPException("username/password rejected");
 414             authCache.put(originalUrl, "Basic " + new String(Base64.encode(userInfo.getBytes("US-ASCII"))));
 415
 416         } else if (h.get("AUTHTYPE").equals("Digest")) {
 417             if (authCache.get(originalUrl) != null && !"true".equals(h.get("stale"))) throw new HTTPException("username/password rejected");
 418             String path2 = path;
 419             if (path2.startsWith("http://") || path2.startsWith("https://")) {
 420                 path2 = path2.substring(path2.indexOf("://") + 3);
 421                 path2 = path2.substring(path2.indexOf('/'));
 422             }
 423             String A1 = userInfo.substring(0, userInfo.indexOf(':')) + ":" + h.get("realm") + ":" + userInfo.substring(userInfo.indexOf(':') + 1);
 424             String A2 = method + ":" + path2;
 425             authCache.put(originalUrl,
 426                           "Digest " +
 427                           "username=\"" + userInfo.substring(0, userInfo.indexOf(':')) + "\", " +
 428                           "realm=\"" + h.get("realm") + "\", " +
 429                           "nonce=\"" + h.get("nonce") + "\", " +
 430                           "uri=\"" + path2 + "\", " +
 431                           (h.get("opaque") == null ? "" : ("opaque=\"" + h.get("opaque") + "\", ")) +
 432                           "response=\"" + H(H(A1) + ":" + h.get("nonce") + ":" + H(A2)) + "\", " +
 433                           "algorithm=MD5"
 434                           );
 435
 436         } else {
 437             throw new HTTPException("unknown authentication type: " + h.get("AUTHTYPE"));
 438         }
 439     }
 440
 441     private void doProxyAuth(Hashtable h0, String method) throws IOException {
 442         if (Log.on) Log.log(this, "Proxy AuthChallenge: " + h0.get("proxy-authenticate"));
 443         Hashtable h = parseAuthenticationChallenge(h0.get("proxy-authenticate").toString());
 444         String style = h.get("AUTHTYPE").toString();
 445         String realm = h.get("realm").toString();
 446
 447         if (!realm.equals("Digest") || Proxy.Authorization.authorization2 == null || !"true".equals(h.get("stale")))
 448             Proxy.Authorization.getPassword(realm, style, sock.getInetAddress().getHostAddress(), Proxy.Authorization.authorization);
 449
 450         if (style.equals("Basic")) {
 451             Proxy.Authorization.authorization2 =
 452                 "Basic " + new String(Base64.encode(Proxy.Authorization.authorization.getBytes("US-ASCII")));
 453
 454         } else if (style.equals("Digest")) {
 455             String A1 = Proxy.Authorization.authorization.substring(0, userInfo.indexOf(':')) + ":" + h.get("realm") + ":" +
 456                 Proxy.Authorization.authorization.substring(Proxy.Authorization.authorization.indexOf(':') + 1);
 457             String A2 = method + ":" + path;
 458             Proxy.Authorization.authorization2 =
 459                 "Digest " +
 460                 "username=\"" + Proxy.Authorization.authorization.substring(0, Proxy.Authorization.authorization.indexOf(':')) + "\", " +
 461                 "realm=\"" + h.get("realm") + "\", " +
 462                 "nonce=\"" + h.get("nonce") + "\", " +
 463                 "uri=\"" + path + "\", " +
 464                 (h.get("opaque") == null ? "" : ("opaque=\"" + h.get("opaque") + "\", ")) +
 465                 "response=\"" + H(H(A1) + ":" + h.get("nonce") + ":" + H(A2)) + "\", " +
 466                 "algorithm=MD5";
 467         }
 468     }
 469
 470
 471     // HTTPException ///////////////////////////////////////////////////////////////////////////////////
 472
 473     static class HTTPException extends IOException { public HTTPException(String s) { super(s); } }
 474
 475
 476     // HTTPInputStream ///////////////////////////////////////////////////////////////////////////////////
 477
 478     /** An input stream that represents a subset of a longer input stream. Supports HTTP chunking as well */
 479     public class HTTPInputStream extends FilterInputStream {
 480
 481         /** if chunking, the number of bytes remaining in this subset; otherwise the remainder of the chunk */
 482         private int length = 0;
 483
 484         /** this semaphore will be released when the stream is closed */
 485         private Semaphore releaseMe = null;
 486
 487         /** indicates that we have encountered the zero-length terminator chunk */
 488         boolean chunkedDone = false;
 489
 490         /** if we're on the first chunk, we don't pre-read a CRLF */
 491         boolean firstChunk = true;
 492
 493         /** the length of the entire content body; -1 if chunked */
 494         private int contentLength = 0;
 495         public int getContentLength() { return contentLength; }
 496
 497         HTTPInputStream(InputStream in, int length, Semaphore releaseMe) throws IOException {
 498             super(in);
 499             this.releaseMe = releaseMe;
 500             this.contentLength = length;
 501             this.length = length == -1 ? 0 : length;
 502         }
 503
 504         public boolean markSupported() { return false; }
 505         public int read(byte[] b) throws IOException { return read(b, 0, b.length); }
 506         public long skip(long n) throws IOException { return read(null, -1, (int)n); }
 507         public int available() throws IOException {
 508             if (contentLength == -1) return java.lang.Math.min(super.available(), length);
 509             return super.available();
 510         }
 511
 512         public int read() throws IOException {
 513             byte[] b = new byte[1];
 514             int ret = read(b, 0, 1);
 515             return ret == -1 ? -1 : b[0] & 0xff;
 516         }
 517
 518         private void readChunk() throws IOException {
 519             if (chunkedDone) return;
 520             if (!firstChunk) super.skip(2); // CRLF
 521             firstChunk = false;
 522             String chunkLen = "";
 523             while(true) {
 524                 int i = super.read();
 525                 if (i == -1) throw new HTTPException("encountered end of stream while reading chunk length");
 526
 527                 // FEATURE: handle chunking extensions
 528                 if (i == '\r') {
 529                     super.read();    // LF
 530                     break;
 531                 } else {
 532                     chunkLen += (char)i;
 533                 }
 534             }
 535             length = Integer.parseInt(chunkLen.trim(), 16);
 536             if (length == 0) chunkedDone = true;
 537         }
 538
 539         public int read(byte[] b, int off, int len) throws IOException {
 540             boolean good = false;
 541             try {
 542                 if (length == 0 && contentLength == -1) {
 543                     readChunk();
 544                     if (chunkedDone) { good = true; return -1; }
 545                 } else {
 546                     if (length == 0) { good = true; return -1; }
 547                 }
 548                 if (len > length) len = length;
 549                 int ret = b == null ? (int)super.skip(len) : super.read(b, off, len);
 550                 if (ret >= 0) {
 551                     length -= ret;
 552                     good = true;
 553                 }
 554                 return ret;
 555             } finally {
 556                 if (!good) reset();
 557             }
 558         }
 559
 560         public void close() throws IOException {
 561             if (contentLength == -1) {
 562                 while(!chunkedDone) {
 563                     if (length != 0) skip(length);
 564                     readChunk();
 565                 }
 566                 skip(2);
 567             } else {
 568                 if (length != 0) skip(length);
 569             }
 570             if (releaseMe != null) releaseMe.release();
 571         }
 572     }
 573
 574     void reset() {
 575         firstRequest = true;
 576         in = null;
 577         sock = null;
 578     }
 579
 580
 581     // Misc Helpers ///////////////////////////////////////////////////////////////////////////////////
 582
 583     /** reads a set of HTTP headers off of the input stream, returning null if the stream is already at its end */
 584     private Hashtable parseHeaders(InputStream in) throws IOException {
 585         Hashtable ret = new Hashtable();
 586
 587         // we can't use a BufferedReader directly on the input stream, since it will buffer past the end of the headers
 588         byte[] buf = new byte[4096];
 589         int buflen = 0;
 590         while(true) {
 591             int read = in.read();
 592             if (read == -1 && buflen == 0) return null;
 593             if (read == -1) throw new HTTPException("stream closed while reading headers");
 594             buf[buflen++] = (byte)read;
 595             if (buflen >= 4 && buf[buflen - 4] == '\r' && buf[buflen - 3] == '\n' && buf[buflen - 2] == '\r' && buf[buflen - 1] == '\n') break;
 596             if (buflen == buf.length) {
 597                 byte[] newbuf = new byte[buf.length * 2];
 598                 System.arraycopy(buf, 0, newbuf, 0, buflen);
 599                 buf = newbuf;
 600             }
 601         }
 602
 603         BufferedReader br = new BufferedReader(new InputStreamReader(new ByteArrayInputStream(buf, 0, buflen)));
 604         String s = br.readLine();
 605         if (!s.startsWith("HTTP/")) throw new HTTPException("Expected reply to start with \"HTTP/\", got: " + s);
 606         ret.put("STATUSLINE", s.substring(s.indexOf(' ') + 1));
 607         ret.put("HTTP", s.substring(5, s.indexOf(' ')));
 608
 609         while((s = br.readLine()) != null && s.length() > 0) {
 610             String front = s.substring(0, s.indexOf(':')).toLowerCase();
 611             String back = s.substring(s.indexOf(':') + 1).trim();
 612             // ugly hack: we never replace a Digest-auth with a Basic-auth (proxy + www)
 613             if (front.endsWith("-authenticate") && ret.get(front) != null && !back.equals("Digest")) continue;
 614             ret.put(front, back);
 615         }
 616         return ret;
 617     }
 618
 619     private Hashtable parseAuthenticationChallenge(String s) {
 620         Hashtable ret = new Hashtable();
 621
 622         s = s.trim();
 623         ret.put("AUTHTYPE", s.substring(0, s.indexOf(' ')));
 624         s = s.substring(s.indexOf(' ')).trim();
 625
 626         while (s.length() > 0) {
 627             String val = null;
 628             String key = s.substring(0, s.indexOf('='));
 629             s = s.substring(s.indexOf('=') + 1);
 630             if (s.charAt(0) == '\"') {
 631                 s = s.substring(1);
 632                 val = s.substring(0, s.indexOf('\"'));
 633                 s = s.substring(s.indexOf('\"') + 1);
 634             } else {
 635                 val = s.indexOf(',') == -1 ? s : s.substring(0, s.indexOf(','));
 636                 s = s.indexOf(',') == -1 ? "" : s.substring(s.indexOf(',') + 1);
 637             }
 638             if (s.length() > 0 && s.charAt(0) == ',') s = s.substring(1);
 639             s = s.trim();
 640             ret.put(key, val);
 641         }
 642         return ret;
 643     }
 644
 645     private String H(String s) throws IOException {
 646         byte[] b = s.getBytes("US-ASCII");
 647         MD5Digest md5 = new MD5Digest();
 648         md5.update(b, 0, b.length);
 649         byte[] out = new byte[md5.getDigestSize()];
 650         md5.doFinal(out, 0);
 651         String ret = "";
 652         for(int i=0; i<out.length; i++) {
 653             ret += "0123456789abcdef".charAt((out[i] & 0xf0) >> 4);
 654             ret += "0123456789abcdef".charAt(out[i] & 0x0f);
 655         }
 656         return ret;
 657     }
 658
 659
 660     // Proxy ///////////////////////////////////////////////////////////
 661
 662     /** encapsulates most of the proxy logic; some is shared in HTTP.java */
 663     public static class Proxy {
 664
 665         public Proxy() { }
 666
 667         /** the HTTP Proxy host to use */
 668         public String httpProxyHost = null;
 669
 670         /** the HTTP Proxy port to use */
 671         public int httpProxyPort = -1;
 672
 673         /** if a seperate proxy should be used for HTTPS, this is the hostname; otherwise, httpProxyHost is used */
 674         public String httpsProxyHost = null;
 675
 676         /** if a seperate proxy should be used for HTTPS, this is the port */
 677         public int httpsProxyPort = -1;
 678
 679         /** the SOCKS Proxy Host to use */
 680         public String socksProxyHost = null;
 681
 682         /** the SOCKS Proxy Port to use */
 683         public int socksProxyPort = -1;
 684
 685         /** hosts to be excluded from proxy use; wildcards permitted */
 686         public String[] excluded = null;
 687
 688         /** the PAC script */
 689         public JS.Callable proxyAutoConfigFunction = null;
 690
 691         public static Proxy detectProxyViaManual() {
 692             Proxy ret = new Proxy();
 693
 694             ret.httpProxyHost = Platform.getEnv("http_proxy");
 695             if (ret.httpProxyHost != null) {
 696                 if (ret.httpProxyHost.startsWith("http://")) ret.httpProxyHost = ret.httpProxyHost.substring(7);
 697                 if (ret.httpProxyHost.endsWith("/")) ret.httpProxyHost = ret.httpProxyHost.substring(0, ret.httpProxyHost.length() - 1);
 698                 if (ret.httpProxyHost.indexOf(':') != -1) {
 699                     ret.httpProxyPort = Integer.parseInt(ret.httpProxyHost.substring(ret.httpProxyHost.indexOf(':') + 1));
 700                     ret.httpProxyHost = ret.httpProxyHost.substring(0, ret.httpProxyHost.indexOf(':'));
 701                 } else {
 702                     ret.httpProxyPort = 80;
 703                 }
 704             }
 705
 706             ret.httpsProxyHost = Platform.getEnv("https_proxy");
 707             if (ret.httpsProxyHost != null) {
 708                 if (ret.httpsProxyHost.startsWith("https://")) ret.httpsProxyHost = ret.httpsProxyHost.substring(7);
 709                 if (ret.httpsProxyHost.endsWith("/")) ret.httpsProxyHost = ret.httpsProxyHost.substring(0, ret.httpsProxyHost.length() - 1);
 710                 if (ret.httpsProxyHost.indexOf(':') != -1) {
 711                     ret.httpsProxyPort = Integer.parseInt(ret.httpsProxyHost.substring(ret.httpsProxyHost.indexOf(':') + 1));
 712                     ret.httpsProxyHost = ret.httpsProxyHost.substring(0, ret.httpsProxyHost.indexOf(':'));
 713                 } else {
 714                     ret.httpsProxyPort = 80;
 715                 }
 716             }
 717
 718             ret.socksProxyHost = Platform.getEnv("socks_proxy");
 719             if (ret.socksProxyHost != null) {
 720                 if (ret.socksProxyHost.startsWith("socks://")) ret.socksProxyHost = ret.socksProxyHost.substring(7);
 721                 if (ret.socksProxyHost.endsWith("/")) ret.socksProxyHost = ret.socksProxyHost.substring(0, ret.socksProxyHost.length() - 1);
 722                 if (ret.socksProxyHost.indexOf(':') != -1) {
 723                     ret.socksProxyPort = Integer.parseInt(ret.socksProxyHost.substring(ret.socksProxyHost.indexOf(':') + 1));
 724                     ret.socksProxyHost = ret.socksProxyHost.substring(0, ret.socksProxyHost.indexOf(':'));
 725                 } else {
 726                     ret.socksProxyPort = 80;
 727                 }
 728             }
 729
 730             String noproxy = Platform.getEnv("no_proxy");
 731             if (noproxy != null) {
 732                 StringTokenizer st = new StringTokenizer(noproxy, ",");
 733                 ret.excluded = new String[st.countTokens()];
 734                 for(int i=0; st.hasMoreTokens(); i++) ret.excluded[i] = st.nextToken();
 735             }
 736
 737             if (ret.httpProxyHost == null && ret.socksProxyHost == null) return null;
 738             return ret;
 739         }
 740
 741         public static JS.Scope proxyAutoConfigRootScope = new ProxyAutoConfigRootScope();
 742         public static JS.Callable getProxyAutoConfigFunction(String url) {
 743             try {
 744                 BufferedReader br = new BufferedReader(new InputStreamReader(new HTTP(url, true).GET()));
 745                 String s = null;
 746                 String script = "";
 747                 while((s = br.readLine()) != null) script += s + "\n";
 748                 if (Log.on) Log.log(Proxy.class, "successfully retrieved WPAD PAC:");
 749                 if (Log.on) Log.log(Proxy.class, script);
 750
 751                 // MS CARP hack
 752                 Vector carpHosts = new Vector();
 753                 for(int i=0; i<script.length(); i++)
 754                     if (script.regionMatches(i, "new Node(", 0, 9)) {
 755                         String host = script.substring(i + 10, script.indexOf('\"', i + 11));
 756                         if (Log.on) Log.log(Proxy.class, "Detected MS Proxy Server CARP Script, Host=" + host);
 757                         carpHosts.addElement(host);
 758                     }
 759                 if (carpHosts.size() > 0) {
 760                     script = "function FindProxyForURL(url, host) {\nreturn \"";
 761                     for(int i=0; i<carpHosts.size(); i++)
 762                         script += "PROXY " + carpHosts.elementAt(i) + "; ";
 763                     script += "\";\n}";
 764                     if (Log.on) Log.log(Proxy.class, "DeCARPed PAC script:");
 765                     if (Log.on) Log.log(Proxy.class, script);
 766                 }
 767
 768                 JS.CompiledFunction scr = JS.parse("PAC script at " + url, 0, new StringReader(script));
 769                 scr.call(new JS.Array(), proxyAutoConfigRootScope);
 770                 return (JS.Callable)proxyAutoConfigRootScope.get("FindProxyForURL");
 771             } catch (Exception e) {
 772                 if (Log.on) {
 773                     Log.log(Platform.class, "WPAD detection failed due to:");
 774                     if (e instanceof JS.Exn) {
 775                         try {
 776                             org.xwt.js.JS.Array arr = new org.xwt.js.JS.Array();
 777                             arr.addElement(((JS.Exn)e).getObject());
 778                         } catch (Exception e2) {
 779                             Log.log(Platform.class, e);
 780                         }
 781                     }
 782                     else Log.log(Platform.class, e);
 783                 }
 784                 return null;
 785             }
 786         }
 787
 788
 789         // Authorization ///////////////////////////////////////////////////////////////////////////////////
 790
 791         public static class Authorization {
 792
 793             static public String authorization = null;
 794             static public String authorization2 = null;
 795             static public Semaphore waitingForUser = new Semaphore();
 796
 797             public static synchronized void getPassword(final String realm, final String style, final String proxyIP, String oldAuth) {
 798
 799                 // this handles cases where multiple threads hit the proxy auth at the same time -- all but one will block on the
 800                 // synchronized keyword. If 'authorization' changed while the thread was blocked, it means that the user entered
 801                 // a password, so we should reattempt authorization.
 802
 803                 if (authorization != oldAuth) return;
 804                 if (Log.on) Log.log(Authorization.class, "displaying proxy authorization dialog");
 805                 Message.Q.add(new Message() {
 806                         public void perform() {
 807                             Box b = new Box();
 808                             Template t = Template.getTemplate((Res)Main.builtin.get("org/xwt/builtin/proxy_authorization.xwt"));
 809                             t.apply(b, null, null);
 810                             b.put("realm", realm);
 811                             b.put("proxyIP", proxyIP);
 812                         }
 813                     });
 814
 815                 waitingForUser.block();
 816                 if (Log.on) Log.log(Authorization.class, "got proxy authorization info; re-attempting connection");
 817
 818             }
 819         }
 820
 821
 822         // ProxyAutoConfigRootScope ////////////////////////////////////////////////////////////////////
 823
 824         public static class ProxyAutoConfigRootScope extends JS.GlobalScope {
 825
 826             public ProxyAutoConfigRootScope() { super(null); }
 827
 828             public Object get(Object name) {
 829                 if (name.equals("isPlainHostName")) return isPlainHostName;
 830                 else if (name.equals("dnsDomainIs")) return dnsDomainIs;
 831                 else if (name.equals("localHostOrDomainIs")) return localHostOrDomainIs;
 832                 else if (name.equals("isResolvable")) return isResolvable;
 833                 else if (name.equals("isInNet")) return isInNet;
 834                 else if (name.equals("dnsResolve")) return dnsResolve;
 835                 else if (name.equals("myIpAddress")) return myIpAddress;
 836                 else if (name.equals("dnsDomainLevels")) return dnsDomainLevels;
 837                 else if (name.equals("shExpMatch")) return shExpMatch;
 838                 else if (name.equals("weekdayRange")) return weekdayRange;
 839                 else if (name.equals("dateRange")) return dateRange;
 840                 else if (name.equals("timeRange")) return timeRange;
 841                 else if (name.equals("ProxyConfig")) return ProxyConfig;
 842                 else return super.get(name);
 843             }
 844
 845             private static final JS.Obj proxyConfigBindings = new JS.Obj();
 846             private static final JS.Obj ProxyConfig = new JS.Obj() {
 847                     public Object get(Object name) {
 848                         if (name.equals("bindings")) return proxyConfigBindings;
 849                         return null;
 850                     }
 851                 };
 852
 853             private static final JS.Callable isPlainHostName = new JS.Callable() {
 854                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 855                         return (args.elementAt(0).toString().indexOf('.') == -1) ? Boolean.TRUE : Boolean.FALSE;
 856                     }
 857                 };
 858
 859             private static final JS.Callable dnsDomainIs = new JS.Callable() {
 860                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 861                         return (args.elementAt(0).toString().endsWith(args.elementAt(1).toString())) ? Boolean.TRUE : Boolean.FALSE;
 862                     }
 863                 };
 864
 865             private static final JS.Callable localHostOrDomainIs = new JS.Callable() {
 866                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 867                         return (args.elementAt(0).toString().equals(args.elementAt(1).toString()) ||
 868                                 (args.elementAt(0).toString().indexOf('.') == -1 && args.elementAt(1).toString().startsWith(args.elementAt(0).toString()))) ?
 869                             Boolean.TRUE : Boolean.FALSE;
 870                     }
 871                 };
 872
 873             private static final JS.Callable isResolvable = new JS.Callable() {
 874                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 875                         try {
 876                             return (InetAddress.getByName(args.elementAt(0).toString()) != null) ? Boolean.TRUE : Boolean.FALSE;
 877                         } catch (UnknownHostException e) {
 878                             return Boolean.FALSE;
 879                         }
 880                     }
 881                 };
 882
 883             private static final JS.Callable isInNet = new JS.Callable() {
 884                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 885                         if (args.length() != 3) return Boolean.FALSE;
 886                         try {
 887                             byte[] host = InetAddress.getByName(args.elementAt(0).toString()).getAddress();
 888                             byte[] net = InetAddress.getByName(args.elementAt(1).toString()).getAddress();
 889                             byte[] mask = InetAddress.getByName(args.elementAt(2).toString()).getAddress();
 890                             return ((host[0] & mask[0]) == net[0] &&
 891                                     (host[1] & mask[1]) == net[1] &&
 892                                     (host[2] & mask[2]) == net[2] &&
 893                                     (host[3] & mask[3]) == net[3]) ?
 894                                 Boolean.TRUE : Boolean.FALSE;
 895                         } catch (Exception e) {
 896                             throw new JS.Exn("exception in isInNet(): " + e);
 897                         }
 898                     }
 899                 };
 900
 901             private static final JS.Callable dnsResolve = new JS.Callable() {
 902                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 903                         try {
 904                             return InetAddress.getByName(args.elementAt(0).toString()).getHostAddress();
 905                         } catch (UnknownHostException e) {
 906                             return null;
 907                         }
 908                     }
 909                 };
 910
 911             private static final JS.Callable myIpAddress = new JS.Callable() {
 912                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 913                         try {
 914                             return InetAddress.getLocalHost().getHostAddress();
 915                         } catch (UnknownHostException e) {
 916                             if (Log.on) Log.log(this, "strange... host does not know its own address");
 917                             return null;
 918                         }
 919                     }
 920                 };
 921
 922             private static final JS.Callable dnsDomainLevels = new JS.Callable() {
 923                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 924                         String s = args.elementAt(0).toString();
 925                         int i = 0;
 926                         while((i = s.indexOf('.', i)) != -1) i++;
 927                         return new Integer(i);
 928                     }
 929                 };
 930
 931             private static boolean match(String[] arr, String s, int index) {
 932                 if (index >= arr.length) return true;
 933                 for(int i=0; i<s.length(); i++) {
 934                     String s2 = s.substring(i);
 935                     if (s2.startsWith(arr[index]) && match(arr, s2.substring(arr[index].length()), index + 1)) return true;
 936                 }
 937                 return false;
 938             }
 939
 940             private static final JS.Callable shExpMatch = new JS.Callable() {
 941                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 942                         StringTokenizer st = new StringTokenizer(args.elementAt(1).toString(), "*", false);
 943                         String[] arr = new String[st.countTokens()];
 944                         String s = args.elementAt(0).toString();
 945                         for (int i=0; st.hasMoreTokens(); i++) arr[i] = st.nextToken();
 946                         return match(arr, s, 0) ? Boolean.TRUE : Boolean.FALSE;
 947                     }
 948                 };
 949
 950             public static String[] days = { "SUN", "MON", "TUE", "WED", "THU", "FRI", "SAT" };
 951
 952             private static final JS.Callable weekdayRange = new JS.Callable() {
 953                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 954                         TimeZone tz = (args.length() < 3 || args.elementAt(2) == null || !args.elementAt(2).equals("GMT")) ? TimeZone.getTimeZone("UTC") : TimeZone.getDefault();
 955                         Calendar c = new GregorianCalendar();
 956                         c.setTimeZone(tz);
 957                         c.setTime(new java.util.Date());
 958                         java.util.Date d = c.getTime();
 959                         int day = d.getDay();
 960
 961                         String d1s = args.elementAt(0).toString().toUpperCase();
 962                         int d1 = 0, d2 = 0;
 963                         for(int i=0; i<days.length; i++) if (days[i].equals(d1s)) d1 = i;
 964
 965                         if (args.length() == 1)
 966                             return d1 == day ? Boolean.TRUE : Boolean.FALSE;
 967
 968                         String d2s = args.elementAt(1).toString().toUpperCase();
 969                         for(int i=0; i<days.length; i++) if (days[i].equals(d2s)) d2 = i;
 970
 971                         return
 972                             ((d1 <= d2 && day >= d1 && day <= d2) ||
 973                              (d1 > d2 && (day >= d1 || day <= d2))) ?
 974                             Boolean.TRUE : Boolean.FALSE;
 975                     }
 976                 };
 977
 978             private static final JS.Callable dateRange = new JS.Callable() {
 979                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 980                         throw new JS.Exn("XWT does not support dateRange() in PAC scripts");
 981                     }
 982                 };
 983
 984             private static final JS.Callable timeRange = new JS.Callable() {
 985                     public Object call(org.xwt.js.JS.Array args) throws JS.Exn {
 986                         throw new JS.Exn("XWT does not support timeRange() in PAC scripts");
 987                     }
 988                 };
 989
 990         }
 991
 992     }
 993
 994 }