compiler/vectorise/Vectorise.hs

   1 module Vectorise( vectorise )
   2 where
   3
   4 #include "HsVersions.h"
   5
   6 import VectMonad
   7 import VectUtils
   8 import VectType
   9 import VectCore
  10
  11 import DynFlags
  12 import HscTypes
  13
  14 import CoreLint             ( showPass, endPass )
  15 import CoreSyn
  16 import CoreUtils
  17 import CoreFVs
  18 import SimplMonad           ( SimplCount, zeroSimplCount )
  19 import Rules                ( RuleBase )
  20 import DataCon
  21 import TyCon
  22 import Type
  23 import FamInstEnv           ( extendFamInstEnvList )
  24 import InstEnv              ( extendInstEnvList )
  25 import Var
  26 import VarEnv
  27 import VarSet
  28 import Name                 ( mkSysTvName, getName )
  29 import NameEnv
  30 import Id
  31 import MkId                 ( unwrapFamInstScrut )
  32 import OccName
  33
  34 import DsMonad hiding (mapAndUnzipM)
  35 import DsUtils              ( mkCoreTup, mkCoreTupTy )
  36
  37 import PrelNames
  38 import TysWiredIn
  39 import TysPrim              ( intPrimTy )
  40 import BasicTypes           ( Boxity(..) )
  41
  42 import Outputable
  43 import FastString
  44 import Control.Monad        ( liftM, liftM2, mapAndUnzipM )
  45
  46 vectorise :: HscEnv -> UniqSupply -> RuleBase -> ModGuts
  47           -> IO (SimplCount, ModGuts)
  48 vectorise hsc_env _ _ guts
  49   = do
  50       showPass dflags "Vectorisation"
  51       eps <- hscEPS hsc_env
  52       let info = hptVectInfo hsc_env `plusVectInfo` eps_vect_info eps
  53       Just (info', guts') <- initV hsc_env guts info (vectModule guts)
  54       endPass dflags "Vectorisation" Opt_D_dump_vect (mg_binds guts')
  55       return (zeroSimplCount dflags, guts' { mg_vect_info = info' })
  56   where
  57     dflags = hsc_dflags hsc_env
  58
  59 vectModule :: ModGuts -> VM ModGuts
  60 vectModule guts
  61   = do
  62       (types', fam_insts, pa_insts) <- vectTypeEnv (mg_types guts)
  63
  64       let insts         = map painstInstance pa_insts
  65           fam_inst_env' = extendFamInstEnvList (mg_fam_inst_env guts) fam_insts
  66           inst_env'     = extendInstEnvList (mg_inst_env guts) insts
  67       updGEnv (setInstEnvs inst_env' fam_inst_env')
  68
  69       dicts  <- mapM buildPADict pa_insts
  70       binds' <- mapM vectTopBind (mg_binds guts)
  71       return $ guts { mg_types        = types'
  72                     , mg_binds        = Rec (concat dicts) : binds'
  73                     , mg_inst_env     = inst_env'
  74                     , mg_fam_inst_env = fam_inst_env'
  75                     , mg_insts        = mg_insts guts ++ insts
  76                     , mg_fam_insts    = mg_fam_insts guts ++ fam_insts
  77                     }
  78
  79 vectTopBind :: CoreBind -> VM CoreBind
  80 vectTopBind b@(NonRec var expr)
  81   = do
  82       var'  <- vectTopBinder var
  83       expr' <- vectTopRhs expr
  84       hs    <- takeHoisted
  85       return . Rec $ (var, expr) : (var', expr') : hs
  86   `orElseV`
  87     return b
  88
  89 vectTopBind b@(Rec bs)
  90   = do
  91       vars'  <- mapM vectTopBinder vars
  92       exprs' <- mapM vectTopRhs exprs
  93       hs     <- takeHoisted
  94       return . Rec $ bs ++ zip vars' exprs' ++ hs
  95   `orElseV`
  96     return b
  97   where
  98     (vars, exprs) = unzip bs
  99
 100 vectTopBinder :: Var -> VM Var
 101 vectTopBinder var
 102   = do
 103       vty <- vectType (idType var)
 104       name <- cloneName mkVectOcc (getName var)
 105       let var' | isExportedId var = Id.mkExportedLocalId name vty
 106                | otherwise        = Id.mkLocalId         name vty
 107       defGlobalVar var var'
 108       return var'
 109
 110 vectTopRhs :: CoreExpr -> VM CoreExpr
 111 vectTopRhs = liftM fst . closedV . vectPolyExpr (panic "Empty lifting context") . freeVars
 112
 113 -- ----------------------------------------------------------------------------
 114 -- Bindings
 115
 116 vectBndr :: Var -> VM VVar
 117 vectBndr v
 118   = do
 119       vty <- vectType (idType v)
 120       lty <- mkPArrayType vty
 121       let vv = v `Id.setIdType` vty
 122           lv = v `Id.setIdType` lty
 123       updLEnv (mapTo vv lv)
 124       return (vv, lv)
 125   where
 126     mapTo vv lv env = env { local_vars = extendVarEnv (local_vars env) v (vv, lv) }
 127
 128 vectBndrIn :: Var -> VM a -> VM (VVar, a)
 129 vectBndrIn v p
 130   = localV
 131   $ do
 132       vv <- vectBndr v
 133       x <- p
 134       return (vv, x)
 135
 136 vectBndrsIn :: [Var] -> VM a -> VM ([VVar], a)
 137 vectBndrsIn vs p
 138   = localV
 139   $ do
 140       vvs <- mapM vectBndr vs
 141       x <- p
 142       return (vvs, x)
 143
 144 -- ----------------------------------------------------------------------------
 145 -- Expressions
 146
 147 capply :: VExpr -> VExpr -> VM VExpr
 148 capply (vfn, lfn) (varg, larg)
 149   = do
 150       apply  <- builtin applyClosureVar
 151       applyP <- builtin applyClosurePVar
 152       return (mkApps (Var apply)  [Type arg_ty, Type res_ty, vfn, varg],
 153               mkApps (Var applyP) [Type arg_ty, Type res_ty, lfn, larg])
 154   where
 155     fn_ty            = exprType vfn
 156     (arg_ty, res_ty) = splitClosureTy fn_ty
 157
 158 vectVar :: Var -> Var -> VM VExpr
 159 vectVar lc v
 160   = do
 161       r <- lookupVar v
 162       case r of
 163         Local (vv,lv) -> return (Var vv, Var lv)
 164         Global vv     -> do
 165                            let vexpr = Var vv
 166                            lexpr <- replicatePA vexpr (Var lc)
 167                            return (vexpr, lexpr)
 168
 169 vectPolyVar :: Var -> Var -> [Type] -> VM VExpr
 170 vectPolyVar lc v tys
 171   = do
 172       vtys <- mapM vectType tys
 173       r <- lookupVar v
 174       case r of
 175         Local (vv, lv) -> liftM2 (,) (polyApply (Var vv) vtys)
 176                                      (polyApply (Var lv) vtys)
 177         Global poly    -> do
 178                             vexpr <- polyApply (Var poly) vtys
 179                             lexpr <- replicatePA vexpr (Var lc)
 180                             return (vexpr, lexpr)
 181
 182 vectPolyExpr :: Var -> CoreExprWithFVs -> VM VExpr
 183 vectPolyExpr lc expr
 184   = polyAbstract tvs $ \abstract ->
 185     -- FIXME: shadowing (tvs in lc)
 186     do
 187       mono' <- vectExpr lc mono
 188       return $ mapVect abstract mono'
 189   where
 190     (tvs, mono) = collectAnnTypeBinders expr
 191
 192 vectExpr :: Var -> CoreExprWithFVs -> VM VExpr
 193 vectExpr lc (_, AnnType ty)
 194   = do
 195       vty <- vectType ty
 196       return (Type vty, Type vty)
 197
 198 vectExpr lc (_, AnnVar v) = vectVar lc v
 199
 200 vectExpr lc (_, AnnLit lit)
 201   = do
 202       let vexpr = Lit lit
 203       lexpr <- replicatePA vexpr (Var lc)
 204       return (vexpr, lexpr)
 205
 206 vectExpr lc (_, AnnNote note expr)
 207   = do
 208       (vexpr, lexpr) <- vectExpr lc expr
 209       return (Note note vexpr, Note note lexpr)
 210
 211 vectExpr lc e@(_, AnnApp _ arg)
 212   | isAnnTypeArg arg
 213   = vectTyAppExpr lc fn tys
 214   where
 215     (fn, tys) = collectAnnTypeArgs e
 216
 217 vectExpr lc (_, AnnApp fn arg)
 218   = do
 219       fn'  <- vectExpr lc fn
 220       arg' <- vectExpr lc arg
 221       capply fn' arg'
 222
 223 vectExpr lc (_, AnnCase expr bndr ty alts)
 224   = panic "vectExpr: case"
 225
 226 vectExpr lc (_, AnnLet (AnnNonRec bndr rhs) body)
 227   = do
 228       (vrhs, lrhs) <- vectPolyExpr lc rhs
 229       ((vbndr, lbndr), (vbody, lbody)) <- vectBndrIn bndr (vectExpr lc body)
 230       return (Let (NonRec vbndr vrhs) vbody,
 231               Let (NonRec lbndr lrhs) lbody)
 232
 233 vectExpr lc (_, AnnLet (AnnRec prs) body)
 234   = do
 235       (bndrs, (vrhss, vbody, lrhss, lbody)) <- vectBndrsIn bndrs vect
 236       let (vbndrs, lbndrs) = unzip bndrs
 237       return (Let (Rec (zip vbndrs vrhss)) vbody,
 238               Let (Rec (zip lbndrs lrhss)) lbody)
 239   where
 240     (bndrs, rhss) = unzip prs
 241
 242     vect = do
 243              (vrhss, lrhss) <- mapAndUnzipM (vectExpr lc) rhss
 244              (vbody, lbody) <- vectPolyExpr lc body
 245              return (vrhss, vbody, lrhss, lbody)
 246
 247 vectExpr lc e@(_, AnnLam bndr body)
 248   | isTyVar bndr = pprPanic "vectExpr" (ppr $ deAnnotate e)
 249
 250 vectExpr lc (fvs, AnnLam bndr body)
 251   = do
 252       tyvars <- localTyVars
 253       info <- mkCEnvInfo fvs bndr body
 254       (poly_vfn, poly_lfn) <- mkClosureFns info tyvars bndr body
 255
 256       vfn_var <- hoistExpr FSLIT("vfn") poly_vfn
 257       lfn_var <- hoistExpr FSLIT("lfn") poly_lfn
 258
 259       let (venv, lenv) = mkClosureEnvs info (Var lc)
 260
 261       let env_ty = cenv_vty info
 262
 263       pa_dict <- paDictOfType env_ty
 264
 265       arg_ty <- vectType (varType bndr)
 266       res_ty <- vectType (exprType $ deAnnotate body)
 267
 268       -- FIXME: move the functions to the top level
 269       mono_vfn <- polyApply (Var vfn_var) (mkTyVarTys tyvars)
 270       mono_lfn <- polyApply (Var lfn_var) (mkTyVarTys tyvars)
 271
 272       mk_clo <- builtin mkClosureVar
 273       mk_cloP <- builtin mkClosurePVar
 274
 275       let vclo = Var mk_clo  `mkTyApps` [arg_ty, res_ty, env_ty]
 276                              `mkApps`   [pa_dict, mono_vfn, mono_lfn, venv]
 277
 278           lclo = Var mk_cloP `mkTyApps` [arg_ty, res_ty, env_ty]
 279                              `mkApps`   [pa_dict, mono_vfn, mono_lfn, lenv]
 280
 281       return (vclo, lclo)
 282
 283 data CEnvInfo = CEnvInfo {
 284                cenv_vars         :: [Var]
 285              , cenv_values       :: [(CoreExpr, CoreExpr)]
 286              , cenv_vty          :: Type
 287              , cenv_lty          :: Type
 288              , cenv_repr_tycon   :: TyCon
 289              , cenv_repr_tyargs  :: [Type]
 290              , cenv_repr_datacon :: DataCon
 291              }
 292
 293 mkCEnvInfo :: VarSet -> Var -> CoreExprWithFVs -> VM CEnvInfo
 294 mkCEnvInfo fvs arg body
 295   = do
 296       locals <- readLEnv local_vars
 297       let
 298           (vars, vals) = unzip
 299                  [(var, (Var v, Var v')) | var      <- varSetElems fvs
 300                                          , Just (v,v') <- [lookupVarEnv locals var]]
 301       vtys <- mapM (vectType . varType) vars
 302
 303       (vty, repr_tycon, repr_tyargs, repr_datacon) <- mk_env_ty vtys
 304       lty <- mkPArrayType vty
 305
 306       return $ CEnvInfo {
 307                  cenv_vars         = vars
 308                , cenv_values       = vals
 309                , cenv_vty          = vty
 310                , cenv_lty          = lty
 311                , cenv_repr_tycon   = repr_tycon
 312                , cenv_repr_tyargs  = repr_tyargs
 313                , cenv_repr_datacon = repr_datacon
 314                }
 315   where
 316     mk_env_ty [vty]
 317       = return (vty, error "absent cinfo_repr_tycon"
 318                    , error "absent cinfo_repr_tyargs"
 319                    , error "absent cinfo_repr_datacon")
 320
 321     mk_env_ty vtys
 322       = do
 323           let ty = mkCoreTupTy vtys
 324           (repr_tc, repr_tyargs) <- lookupPArrayFamInst ty
 325           let [repr_con] = tyConDataCons repr_tc
 326           return (ty, repr_tc, repr_tyargs, repr_con)
 327
 328
 329
 330 mkClosureEnvs :: CEnvInfo -> CoreExpr -> (CoreExpr, CoreExpr)
 331 mkClosureEnvs info lc
 332   | [] <- vals
 333   = (Var unitDataConId, mkApps (Var $ dataConWrapId (cenv_repr_datacon info))
 334                                [lc, Var unitDataConId])
 335
 336   | [(vval, lval)] <- vals
 337   = (vval, lval)
 338
 339   | otherwise
 340   = (mkCoreTup vvals, Var (dataConWrapId $ cenv_repr_datacon info)
 341                       `mkTyApps` cenv_repr_tyargs info
 342                       `mkApps`   (lc : lvals))
 343
 344   where
 345     vals = cenv_values info
 346     (vvals, lvals) = unzip vals
 347
 348 mkClosureFns :: CEnvInfo -> [TyVar] -> Var -> CoreExprWithFVs
 349              -> VM (CoreExpr, CoreExpr)
 350 mkClosureFns info tyvars arg body
 351   = closedV
 352   . polyAbstract tyvars
 353   $ \mk_tlams ->
 354   do
 355     (vfn, lfn) <- mkClosureMonoFns info arg body
 356     return (mk_tlams vfn, mk_tlams lfn)
 357
 358 mkClosureMonoFns :: CEnvInfo -> Var -> CoreExprWithFVs -> VM (CoreExpr, CoreExpr)
 359 mkClosureMonoFns info arg body
 360   = do
 361       lc_bndr <- newLocalVar FSLIT("lc") intPrimTy
 362       (bndrs, (vbody, lbody))
 363         <- vectBndrsIn (arg : cenv_vars info)
 364                        (vectExpr lc_bndr body)
 365       let (varg : vbndrs, larg : lbndrs) = unzip bndrs
 366
 367       venv_bndr <- newLocalVar FSLIT("env") vty
 368       lenv_bndr <- newLocalVar FSLIT("env") lty
 369
 370       let vcase = bind_venv (Var venv_bndr) vbody vbndrs
 371       lcase <- bind_lenv (Var lenv_bndr) lbody lc_bndr lbndrs
 372       return (mkLams [venv_bndr, varg] vcase, mkLams [lenv_bndr, larg] lcase)
 373   where
 374     vty = cenv_vty info
 375     lty = cenv_lty info
 376
 377     arity = length (cenv_vars info)
 378
 379     bind_venv venv vbody []      = vbody
 380     bind_venv venv vbody [vbndr] = Let (NonRec vbndr venv) vbody
 381     bind_venv venv vbody vbndrs
 382       = Case venv (mkWildId vty) (exprType vbody)
 383              [(DataAlt (tupleCon Boxed arity), vbndrs, vbody)]
 384
 385     bind_lenv lenv lbody lc_bndr [lbndr]
 386       = do
 387           len <- lengthPA (Var lbndr)
 388           return . Let (NonRec lbndr lenv)
 389                  $ Case len
 390                         lc_bndr
 391                         (exprType lbody)
 392                         [(DEFAULT, [], lbody)]
 393
 394     bind_lenv lenv lbody lc_bndr lbndrs
 395       = let scrut = unwrapFamInstScrut (cenv_repr_tycon info)
 396                                        (cenv_repr_tyargs info)
 397                                        lenv
 398             lbndrs' | null lbndrs = [mkWildId unitTy]
 399                     | otherwise   = lbndrs
 400         in
 401         return
 402       $ Case scrut
 403              (mkWildId (exprType scrut))
 404              (exprType lbody)
 405              [(DataAlt (cenv_repr_datacon info), lc_bndr : lbndrs', lbody)]
 406
 407 vectTyAppExpr :: Var -> CoreExprWithFVs -> [Type] -> VM (CoreExpr, CoreExpr)
 408 vectTyAppExpr lc (_, AnnVar v) tys = vectPolyVar lc v tys
 409 vectTyAppExpr lc e tys = pprPanic "vectTyAppExpr" (ppr $ deAnnotate e)
 410