source: src/ResolvExpr/Unify.cc @ 73f1b1c

ADTarm-ehast-experimentalenumforall-pointer-decayjacob/cs343-translationnew-ast-unique-exprpthread-emulationqualifiedEnum
Last change on this file since 73f1b1c was 73f1b1c, checked in by Andrew Beach <ajbeach@…>, 4 years ago

Cleaned up comments from the PureVisitor? addition.

  • Property mode set to 100644
File size: 48.3 KB
RevLine 
[a32b204]1//
2// Cforall Version 1.0.0 Copyright (C) 2015 University of Waterloo
3//
4// The contents of this file are covered under the licence agreement in the
5// file "LICENCE" distributed with Cforall.
6//
[41a2620]7// Unify.cc --
[a32b204]8//
9// Author           : Richard C. Bilson
10// Created On       : Sun May 17 12:27:10 2015
[07de76b]11// Last Modified By : Peter A. Buhr
12// Last Modified On : Fri Dec 13 23:43:05 2019
13// Update Count     : 46
[a32b204]14//
[51b7345]15
[f474e91]16#include "Unify.h"
17
[d76c588]18#include <cassert>                  // for assertf, assert
19#include <iterator>                 // for back_insert_iterator, back_inserter
20#include <map>                      // for _Rb_tree_const_iterator, _Rb_tree_i...
21#include <memory>                   // for unique_ptr
22#include <set>                      // for set
23#include <string>                   // for string, operator==, operator!=, bas...
24#include <utility>                  // for pair, move
[54e41b3]25#include <vector>
[51b7345]26
[2890212]27#include "AST/Copy.hpp"
[f474e91]28#include "AST/Decl.hpp"
[54e41b3]29#include "AST/Node.hpp"
[f474e91]30#include "AST/Pass.hpp"
[2890212]31#include "AST/Print.hpp"
[54e41b3]32#include "AST/Type.hpp"
[d76c588]33#include "AST/TypeEnvironment.hpp"
34#include "Common/PassVisitor.h"     // for PassVisitor
35#include "FindOpenVars.h"           // for findOpenVars
[07de76b]36#include "SynTree/LinkageSpec.h"    // for C
[d76c588]37#include "SynTree/Constant.h"       // for Constant
38#include "SynTree/Declaration.h"    // for TypeDecl, TypeDecl::Data, Declarati...
39#include "SynTree/Expression.h"     // for TypeExpr, Expression, ConstantExpr
40#include "SynTree/Mutator.h"        // for Mutator
41#include "SynTree/Type.h"           // for Type, TypeInstType, FunctionType
42#include "SynTree/Visitor.h"        // for Visitor
43#include "Tuples/Tuples.h"          // for isTtype
44#include "TypeEnvironment.h"        // for EqvClass, AssertionSet, OpenVarSet
45#include "typeops.h"                // for flatten, occurs, commonType
[ea6332d]46
[f474e91]47namespace ast {
48        class SymbolTable;
49}
50
[ea6332d]51namespace SymTab {
52class Indexer;
53}  // namespace SymTab
[51b7345]54
[1cbca6e]55// #define DEBUG
[51b7345]56
57namespace ResolvExpr {
58
[f474e91]59        struct Unify_old : public WithShortCircuiting {
60                Unify_old( Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, const OpenVarSet &openVars, WidenMode widen, const SymTab::Indexer &indexer );
[41a2620]61
[a32b204]62                bool get_result() const { return result; }
63
[36a2367]64                void previsit( BaseSyntaxNode * ) { visit_children = false; }
65
66                void postvisit( VoidType * voidType );
67                void postvisit( BasicType * basicType );
68                void postvisit( PointerType * pointerType );
69                void postvisit( ArrayType * arrayType );
70                void postvisit( ReferenceType * refType );
71                void postvisit( FunctionType * functionType );
72                void postvisit( StructInstType * aggregateUseType );
73                void postvisit( UnionInstType * aggregateUseType );
74                void postvisit( EnumInstType * aggregateUseType );
75                void postvisit( TraitInstType * aggregateUseType );
76                void postvisit( TypeInstType * aggregateUseType );
77                void postvisit( TupleType * tupleType );
78                void postvisit( VarArgsType * varArgsType );
79                void postvisit( ZeroType * zeroType );
80                void postvisit( OneType * oneType );
81
82          private:
[a32b204]83                template< typename RefType > void handleRefType( RefType *inst, Type *other );
[02ec390]84                template< typename RefType > void handleGenericRefType( RefType *inst, Type *other );
[a32b204]85
86                bool result;
87                Type *type2;                            // inherited
88                TypeEnvironment &env;
89                AssertionSet &needAssertions;
90                AssertionSet &haveAssertions;
91                const OpenVarSet &openVars;
[f474e91]92                WidenMode widen;
[a32b204]93                const SymTab::Indexer &indexer;
94        };
95
[eb50842]96        /// Attempts an inexact unification of type1 and type2.
97        /// Returns false if no such unification; if the types can be unified, sets common (unless they unify exactly and have identical type qualifiers)
[f474e91]98        bool unifyInexact( Type *type1, Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, const OpenVarSet &openVars, WidenMode widen, const SymTab::Indexer &indexer, Type *&common );
99        bool unifyExact( Type *type1, Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, const OpenVarSet &openVars, WidenMode widen, const SymTab::Indexer &indexer );
100
[7870799]101        bool unifyExact(
102                const ast::Type * type1, const ast::Type * type2, ast::TypeEnvironment & env,
103                ast::AssertionSet & need, ast::AssertionSet & have, const ast::OpenVarSet & open,
[f474e91]104                WidenMode widen, const ast::SymbolTable & symtab );
[41a2620]105
[6f096d2]106        bool typesCompatible( const Type * first, const Type * second, const SymTab::Indexer & indexer, const TypeEnvironment & env ) {
[a32b204]107                TypeEnvironment newEnv;
[1cbca6e]108                OpenVarSet openVars, closedVars; // added closedVars
[a32b204]109                AssertionSet needAssertions, haveAssertions;
[6f096d2]110                Type * newFirst = first->clone(), * newSecond = second->clone();
[a32b204]111                env.apply( newFirst );
112                env.apply( newSecond );
[1cbca6e]113
114                // do we need to do this? Seems like we do, types should be able to be compatible if they
115                // have free variables that can unify
116                findOpenVars( newFirst, openVars, closedVars, needAssertions, haveAssertions, false );
117                findOpenVars( newSecond, openVars, closedVars, needAssertions, haveAssertions, true );
118
[a32b204]119                bool result = unifyExact( newFirst, newSecond, newEnv, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
120                delete newFirst;
121                delete newSecond;
122                return result;
123        }
124
[7870799]125        bool typesCompatible(
126                        const ast::Type * first, const ast::Type * second, const ast::SymbolTable & symtab,
[d76c588]127                        const ast::TypeEnvironment & env ) {
[f474e91]128                ast::TypeEnvironment newEnv;
129                ast::OpenVarSet open, closed;
130                ast::AssertionSet need, have;
131
132                ast::ptr<ast::Type> newFirst{ first }, newSecond{ second };
133                env.apply( newFirst );
134                env.apply( newSecond );
135
136                findOpenVars( newFirst, open, closed, need, have, FirstClosed );
137                findOpenVars( newSecond, open, closed, need, have, FirstOpen );
138
[2890212]139                return unifyExact(newFirst, newSecond, newEnv, need, have, open, noWiden(), symtab );
[d76c588]140        }
141
[7870799]142        bool typesCompatibleIgnoreQualifiers( const Type * first, const Type * second, const SymTab::Indexer &indexer, const TypeEnvironment &env ) {
[a32b204]143                TypeEnvironment newEnv;
144                OpenVarSet openVars;
145                AssertionSet needAssertions, haveAssertions;
146                Type *newFirst = first->clone(), *newSecond = second->clone();
147                env.apply( newFirst );
148                env.apply( newSecond );
149                newFirst->get_qualifiers() = Type::Qualifiers();
150                newSecond->get_qualifiers() = Type::Qualifiers();
[2890212]151
[a32b204]152                bool result = unifyExact( newFirst, newSecond, newEnv, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
153                delete newFirst;
154                delete newSecond;
155                return result;
156        }
157
[7870799]158        bool typesCompatibleIgnoreQualifiers(
159                        const ast::Type * first, const ast::Type * second, const ast::SymbolTable & symtab,
[d76c588]160                        const ast::TypeEnvironment & env ) {
[f474e91]161                ast::TypeEnvironment newEnv;
162                ast::OpenVarSet open;
163                ast::AssertionSet need, have;
[7870799]164
[2890212]165                ast::Type * newFirst  = shallowCopy( first  );
166                ast::Type * newSecond = shallowCopy( second );
167                newFirst ->qualifiers = {};
168                newSecond->qualifiers = {};
[f49b3fc]169                ast::ptr< ast::Type > t1_(newFirst );
170                ast::ptr< ast::Type > t2_(newSecond);
[f474e91]171
[c7f834e]172                ast::ptr< ast::Type > subFirst = env.apply(newFirst).node;
173                ast::ptr< ast::Type > subSecond = env.apply(newSecond).node;
174
[7870799]175                return unifyExact(
[c7f834e]176                        subFirst,
177                        subSecond,
[2890212]178                        newEnv, need, have, open, noWiden(), symtab );
[d76c588]179        }
180
[a32b204]181        bool unify( Type *type1, Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, OpenVarSet &openVars, const SymTab::Indexer &indexer ) {
182                OpenVarSet closedVars;
183                findOpenVars( type1, openVars, closedVars, needAssertions, haveAssertions, false );
184                findOpenVars( type2, openVars, closedVars, needAssertions, haveAssertions, true );
185                Type *commonType = 0;
186                if ( unifyInexact( type1, type2, env, needAssertions, haveAssertions, openVars, WidenMode( true, true ), indexer, commonType ) ) {
187                        if ( commonType ) {
188                                delete commonType;
189                        } // if
190                        return true;
191                } else {
192                        return false;
193                } // if
194        }
195
196        bool unify( Type *type1, Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, OpenVarSet &openVars, const SymTab::Indexer &indexer, Type *&commonType ) {
197                OpenVarSet closedVars;
198                findOpenVars( type1, openVars, closedVars, needAssertions, haveAssertions, false );
199                findOpenVars( type2, openVars, closedVars, needAssertions, haveAssertions, true );
200                return unifyInexact( type1, type2, env, needAssertions, haveAssertions, openVars, WidenMode( true, true ), indexer, commonType );
201        }
202
[f474e91]203        bool unifyExact( Type *type1, Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, const OpenVarSet &openVars, WidenMode widen, const SymTab::Indexer &indexer ) {
[51b7345]204#ifdef DEBUG
[a32b204]205                TypeEnvironment debugEnv( env );
[51b7345]206#endif
[eb50842]207                if ( type1->get_qualifiers() != type2->get_qualifiers() ) {
208                        return false;
209                }
210
[a32b204]211                bool result;
212                TypeInstType *var1 = dynamic_cast< TypeInstType* >( type1 );
213                TypeInstType *var2 = dynamic_cast< TypeInstType* >( type2 );
214                OpenVarSet::const_iterator entry1, entry2;
215                if ( var1 ) {
216                        entry1 = openVars.find( var1->get_name() );
217                } // if
218                if ( var2 ) {
219                        entry2 = openVars.find( var2->get_name() );
220                } // if
221                bool isopen1 = var1 && ( entry1 != openVars.end() );
222                bool isopen2 = var2 && ( entry2 != openVars.end() );
[eb50842]223
[7a63486]224                if ( isopen1 && isopen2 ) {
225                        if ( entry1->second.kind != entry2->second.kind ) {
226                                result = false;
227                        } else {
[4139e3d]228                                result = env.bindVarToVar(
229                                        var1, var2, TypeDecl::Data{ entry1->second, entry2->second }, needAssertions,
[f474e91]230                                        haveAssertions, openVars, widen, indexer );
[7a63486]231                        }
[a32b204]232                } else if ( isopen1 ) {
[f474e91]233                        result = env.bindVar( var1, type2, entry1->second, needAssertions, haveAssertions, openVars, widen, indexer );
234                } else if ( isopen2 ) { // TODO: swap widen values in call, since type positions are flipped?
235                        result = env.bindVar( var2, type1, entry2->second, needAssertions, haveAssertions, openVars, widen, indexer );
[a32b204]236                } else {
[f474e91]237                        PassVisitor<Unify_old> comparator( type2, env, needAssertions, haveAssertions, openVars, widen, indexer );
[a32b204]238                        type1->accept( comparator );
[36a2367]239                        result = comparator.pass.get_result();
[a32b204]240                } // if
[51b7345]241#ifdef DEBUG
[2c57025]242                std::cerr << "============ unifyExact" << std::endl;
243                std::cerr << "type1 is ";
244                type1->print( std::cerr );
245                std::cerr << std::endl << "type2 is ";
246                type2->print( std::cerr );
247                std::cerr << std::endl << "openVars are ";
248                printOpenVarSet( openVars, std::cerr, 8 );
249                std::cerr << std::endl << "input env is " << std::endl;
250                debugEnv.print( std::cerr, 8 );
251                std::cerr << std::endl << "result env is " << std::endl;
252                env.print( std::cerr, 8 );
253                std::cerr << "result is " << result << std::endl;
[51b7345]254#endif
[a32b204]255                return result;
256        }
257
258        bool unifyExact( Type *type1, Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, OpenVarSet &openVars, const SymTab::Indexer &indexer ) {
259                return unifyExact( type1, type2, env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
260        }
261
[f474e91]262        bool unifyInexact( Type *type1, Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, const OpenVarSet &openVars, WidenMode widen, const SymTab::Indexer &indexer, Type *&common ) {
[a32b204]263                Type::Qualifiers tq1 = type1->get_qualifiers(), tq2 = type2->get_qualifiers();
264                type1->get_qualifiers() = Type::Qualifiers();
265                type2->get_qualifiers() = Type::Qualifiers();
266                bool result;
[51b7345]267#ifdef DEBUG
[2c57025]268                std::cerr << "unifyInexact type 1 is ";
269                type1->print( std::cerr );
[0b150ec]270                std::cerr << " type 2 is ";
[2c57025]271                type2->print( std::cerr );
272                std::cerr << std::endl;
[51b7345]273#endif
[f474e91]274                if ( ! unifyExact( type1, type2, env, needAssertions, haveAssertions, openVars, widen, indexer ) ) {
[51b7345]275#ifdef DEBUG
[2c57025]276                        std::cerr << "unifyInexact: no exact unification found" << std::endl;
[51b7345]277#endif
[f474e91]278                        if ( ( common = commonType( type1, type2, widen.first, widen.second, indexer, env, openVars ) ) ) {
[3315e3d]279                                common->tq = tq1.unify( tq2 );
[51b7345]280#ifdef DEBUG
[2c57025]281                                std::cerr << "unifyInexact: common type is ";
282                                common->print( std::cerr );
283                                std::cerr << std::endl;
[51b7345]284#endif
[a32b204]285                                result = true;
286                        } else {
[51b7345]287#ifdef DEBUG
[2c57025]288                                std::cerr << "unifyInexact: no common type found" << std::endl;
[51b7345]289#endif
[a32b204]290                                result = false;
291                        } // if
292                } else {
293                        if ( tq1 != tq2 ) {
[f474e91]294                                if ( ( tq1 > tq2 || widen.first ) && ( tq2 > tq1 || widen.second ) ) {
[a32b204]295                                        common = type1->clone();
[3315e3d]296                                        common->tq = tq1.unify( tq2 );
[a32b204]297                                        result = true;
298                                } else {
299                                        result = false;
300                                } // if
301                        } else {
[e6cee92]302                                common = type1->clone();
[3315e3d]303                                common->tq = tq1.unify( tq2 );
[a32b204]304                                result = true;
305                        } // if
306                } // if
307                type1->get_qualifiers() = tq1;
308                type2->get_qualifiers() = tq2;
309                return result;
310        }
311
[f474e91]312        Unify_old::Unify_old( Type *type2, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, const OpenVarSet &openVars, WidenMode widen, const SymTab::Indexer &indexer )
313                : result( false ), type2( type2 ), env( env ), needAssertions( needAssertions ), haveAssertions( haveAssertions ), openVars( openVars ), widen( widen ), indexer( indexer ) {
[d76c588]314        }
315
[f474e91]316        void Unify_old::postvisit( __attribute__((unused)) VoidType *voidType) {
[a32b204]317                result = dynamic_cast< VoidType* >( type2 );
318        }
319
[f474e91]320        void Unify_old::postvisit(BasicType *basicType) {
[a32b204]321                if ( BasicType *otherBasic = dynamic_cast< BasicType* >( type2 ) ) {
322                        result = basicType->get_kind() == otherBasic->get_kind();
323                } // if
324        }
325
326        void markAssertionSet( AssertionSet &assertions, DeclarationWithType *assert ) {
327                AssertionSet::iterator i = assertions.find( assert );
328                if ( i != assertions.end() ) {
[6c3a988f]329                        i->second.isUsed = true;
[a32b204]330                } // if
331        }
332
333        void markAssertions( AssertionSet &assertion1, AssertionSet &assertion2, Type *type ) {
[aefcc3b]334                for ( std::list< TypeDecl* >::const_iterator tyvar = type->get_forall().begin(); tyvar != type->get_forall().end(); ++tyvar ) {
[a32b204]335                        for ( std::list< DeclarationWithType* >::const_iterator assert = (*tyvar)->get_assertions().begin(); assert != (*tyvar)->get_assertions().end(); ++assert ) {
336                                markAssertionSet( assertion1, *assert );
337                                markAssertionSet( assertion2, *assert );
338                        } // for
339                } // for
340        }
341
[f474e91]342        void Unify_old::postvisit(PointerType *pointerType) {
[a32b204]343                if ( PointerType *otherPointer = dynamic_cast< PointerType* >( type2 ) ) {
344                        result = unifyExact( pointerType->get_base(), otherPointer->get_base(), env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
345                        markAssertions( haveAssertions, needAssertions, pointerType );
346                        markAssertions( haveAssertions, needAssertions, otherPointer );
347                } // if
348        }
349
[f474e91]350        void Unify_old::postvisit(ReferenceType *refType) {
[ce8c12f]351                if ( ReferenceType *otherRef = dynamic_cast< ReferenceType* >( type2 ) ) {
352                        result = unifyExact( refType->get_base(), otherRef->get_base(), env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
353                        markAssertions( haveAssertions, needAssertions, refType );
354                        markAssertions( haveAssertions, needAssertions, otherRef );
355                } // if
356        }
357
[f474e91]358        void Unify_old::postvisit(ArrayType *arrayType) {
[a32b204]359                ArrayType *otherArray = dynamic_cast< ArrayType* >( type2 );
[1cbca6e]360                // to unify, array types must both be VLA or both not VLA
361                // and must both have a dimension expression or not have a dimension
[41a2620]362                if ( otherArray && arrayType->get_isVarLen() == otherArray->get_isVarLen() ) {
[1cbca6e]363
364                        if ( ! arrayType->get_isVarLen() && ! otherArray->get_isVarLen() &&
365                                arrayType->get_dimension() != 0 && otherArray->get_dimension() != 0 ) {
366                                ConstantExpr * ce1 = dynamic_cast< ConstantExpr * >( arrayType->get_dimension() );
367                                ConstantExpr * ce2 = dynamic_cast< ConstantExpr * >( otherArray->get_dimension() );
[41a2620]368                                // see C11 Reference Manual 6.7.6.2.6
369                                // two array types with size specifiers that are integer constant expressions are
370                                // compatible if both size specifiers have the same constant value
371                                if ( ce1 && ce2 ) {
372                                        Constant * c1 = ce1->get_constant();
373                                        Constant * c2 = ce2->get_constant();
374
375                                        if ( c1->get_value() != c2->get_value() ) {
376                                                // does not unify if the dimension is different
377                                                return;
378                                        }
[1cbca6e]379                                }
380                        }
381
[a32b204]382                        result = unifyExact( arrayType->get_base(), otherArray->get_base(), env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
383                } // if
384        }
385
[f3b0a07]386        template< typename Iterator, typename Func >
387        std::unique_ptr<Type> combineTypes( Iterator begin, Iterator end, Func & toType ) {
[53e3b4a]388                std::list< Type * > types;
389                for ( ; begin != end; ++begin ) {
[64eae56]390                        // it's guaranteed that a ttype variable will be bound to a flat tuple, so ensure that this results in a flat tuple
[f3b0a07]391                        flatten( toType( *begin ), back_inserter( types ) );
[53e3b4a]392                }
[6c3a988f]393                return std::unique_ptr<Type>( new TupleType( Type::Qualifiers(), types ) );
[53e3b4a]394        }
395
[a32b204]396        template< typename Iterator1, typename Iterator2 >
397        bool unifyDeclList( Iterator1 list1Begin, Iterator1 list1End, Iterator2 list2Begin, Iterator2 list2End, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, const OpenVarSet &openVars, const SymTab::Indexer &indexer ) {
[f3b0a07]398                auto get_type = [](DeclarationWithType * dwt){ return dwt->get_type(); };
[a32b204]399                for ( ; list1Begin != list1End && list2Begin != list2End; ++list1Begin, ++list2Begin ) {
[53e3b4a]400                        Type * t1 = (*list1Begin)->get_type();
401                        Type * t2 = (*list2Begin)->get_type();
402                        bool isTtype1 = Tuples::isTtype( t1 );
403                        bool isTtype2 = Tuples::isTtype( t2 );
[6c3a988f]404                        // xxx - assumes ttype must be last parameter
405                        // xxx - there may be a nice way to refactor this, but be careful because the argument positioning might matter in some cases.
[53e3b4a]406                        if ( isTtype1 && ! isTtype2 ) {
407                                // combine all of the things in list2, then unify
[f3b0a07]408                                return unifyExact( t1, combineTypes( list2Begin, list2End, get_type ).get(), env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
[53e3b4a]409                        } else if ( isTtype2 && ! isTtype1 ) {
410                                // combine all of the things in list1, then unify
[f3b0a07]411                                return unifyExact( combineTypes( list1Begin, list1End, get_type ).get(), t2, env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
[53e3b4a]412                        } else if ( ! unifyExact( t1, t2, env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer ) ) {
[a32b204]413                                return false;
414                        } // if
415                } // for
[6c3a988f]416                // may get to the end of one argument list before the end of the other. This is only okay when the other is a ttype
[4c8621ac]417                if ( list1Begin != list1End ) {
418                        // try unifying empty tuple type with ttype
419                        Type * t1 = (*list1Begin)->get_type();
420                        if ( Tuples::isTtype( t1 ) ) {
[f3b0a07]421                                return unifyExact( t1, combineTypes( list2Begin, list2End, get_type ).get(), env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
[4c8621ac]422                        } else return false;
423                } else if ( list2Begin != list2End ) {
424                        // try unifying empty tuple type with ttype
425                        Type * t2 = (*list2Begin)->get_type();
426                        if ( Tuples::isTtype( t2 ) ) {
[f3b0a07]427                                return unifyExact( combineTypes( list1Begin, list1End, get_type ).get(), t2, env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
[4c8621ac]428                        } else return false;
[a32b204]429                } else {
430                        return true;
431                } // if
432        }
433
[6c3a988f]434        /// Finds ttypes and replaces them with their expansion, if known.
435        /// This needs to be done so that satisfying ttype assertions is easier.
436        /// If this isn't done then argument lists can have wildly different
437        /// size and structure, when they should be compatible.
[f474e91]438        struct TtypeExpander_old : public WithShortCircuiting {
[3096ec1]439                TypeEnvironment & tenv;
[f474e91]440                TtypeExpander_old( TypeEnvironment & tenv ) : tenv( tenv ) {}
[3096ec1]441                void premutate( TypeInstType * ) { visit_children = false; }
442                Type * postmutate( TypeInstType * typeInst ) {
[00ac42e]443                        if ( const EqvClass *eqvClass = tenv.lookup( typeInst->get_name() ) ) {
444                                // expand ttype parameter into its actual type
445                                if ( eqvClass->data.kind == TypeDecl::Ttype && eqvClass->type ) {
446                                        delete typeInst;
447                                        return eqvClass->type->clone();
[6c3a988f]448                                }
449                        }
450                        return typeInst;
451                }
452        };
453
454        /// flattens a list of declarations, so that each tuple type has a single declaration.
455        /// makes use of TtypeExpander to ensure ttypes are flat as well.
456        void flattenList( std::list< DeclarationWithType * > src, std::list< DeclarationWithType * > & dst, TypeEnvironment & env ) {
457                dst.clear();
458                for ( DeclarationWithType * dcl : src ) {
[f474e91]459                        PassVisitor<TtypeExpander_old> expander( env );
[6c3a988f]460                        dcl->acceptMutator( expander );
461                        std::list< Type * > types;
462                        flatten( dcl->get_type(), back_inserter( types ) );
463                        for ( Type * t : types ) {
[1dcd52a3]464                                // outermost const, volatile, _Atomic qualifiers in parameters should not play a role in the unification of function types, since they do not determine whether a function is callable.
465                                // Note: MUST consider at least mutex qualifier, since functions can be overloaded on outermost mutex and a mutex function has different requirements than a non-mutex function.
466                                t->get_qualifiers() -= Type::Qualifiers(Type::Const | Type::Volatile | Type::Atomic);
467
[68fe077a]468                                dst.push_back( new ObjectDecl( "", Type::StorageClasses(), LinkageSpec::C, nullptr, t, nullptr ) );
[6c3a988f]469                        }
470                        delete dcl;
471                }
472        }
473
[f474e91]474        void Unify_old::postvisit(FunctionType *functionType) {
[a32b204]475                FunctionType *otherFunction = dynamic_cast< FunctionType* >( type2 );
476                if ( otherFunction && functionType->get_isVarArgs() == otherFunction->get_isVarArgs() ) {
[6c3a988f]477                        // flatten the parameter lists for both functions so that tuple structure
478                        // doesn't affect unification. Must be a clone so that the types don't change.
479                        std::unique_ptr<FunctionType> flatFunc( functionType->clone() );
480                        std::unique_ptr<FunctionType> flatOther( otherFunction->clone() );
481                        flattenList( flatFunc->get_parameters(), flatFunc->get_parameters(), env );
482                        flattenList( flatOther->get_parameters(), flatOther->get_parameters(), env );
483
[53e3b4a]484                        // sizes don't have to match if ttypes are involved; need to be more precise wrt where the ttype is to prevent errors
[7870799]485                        if (
486                                        (flatFunc->parameters.size() == flatOther->parameters.size() &&
487                                                flatFunc->returnVals.size() == flatOther->returnVals.size())
488                                        || flatFunc->isTtype()
489                                        || flatOther->isTtype()
[f474e91]490                        ) {
[538334a]491                                if ( unifyDeclList( flatFunc->parameters.begin(), flatFunc->parameters.end(), flatOther->parameters.begin(), flatOther->parameters.end(), env, needAssertions, haveAssertions, openVars, indexer ) ) {
492                                        if ( unifyDeclList( flatFunc->returnVals.begin(), flatFunc->returnVals.end(), flatOther->returnVals.begin(), flatOther->returnVals.end(), env, needAssertions, haveAssertions, openVars, indexer ) ) {
[1cbca6e]493
[6c3a988f]494                                                // the original types must be used in mark assertions, since pointer comparisons are used
[03da511]495                                                markAssertions( haveAssertions, needAssertions, functionType );
496                                                markAssertions( haveAssertions, needAssertions, otherFunction );
[41a2620]497
[03da511]498                                                result = true;
499                                        } // if
[a32b204]500                                } // if
501                        } // if
502                } // if
503        }
504
505        template< typename RefType >
[f474e91]506        void Unify_old::handleRefType( RefType *inst, Type *other ) {
[02ec390]507                // check that other type is compatible and named the same
[a32b204]508                RefType *otherStruct = dynamic_cast< RefType* >( other );
[538334a]509                result = otherStruct && inst->name == otherStruct->name;
[02ec390]510        }
511
512        template< typename RefType >
[f474e91]513        void Unify_old::handleGenericRefType( RefType *inst, Type *other ) {
[02ec390]514                // Check that other type is compatible and named the same
515                handleRefType( inst, other );
516                if ( ! result ) return;
[f5234f3]517                // Check that parameters of types unify, if any
[538334a]518                std::list< Expression* > params = inst->parameters;
519                std::list< Expression* > otherParams = ((RefType*)other)->parameters;
[f5234f3]520
521                std::list< Expression* >::const_iterator it = params.begin(), jt = otherParams.begin();
522                for ( ; it != params.end() && jt != otherParams.end(); ++it, ++jt ) {
523                        TypeExpr *param = dynamic_cast< TypeExpr* >(*it);
[b2daebd4]524                        assertf(param, "Aggregate parameters should be type expressions");
[f5234f3]525                        TypeExpr *otherParam = dynamic_cast< TypeExpr* >(*jt);
[b2daebd4]526                        assertf(otherParam, "Aggregate parameters should be type expressions");
[ce8c12f]527
[b2daebd4]528                        Type* paramTy = param->get_type();
529                        Type* otherParamTy = otherParam->get_type();
[f5234f3]530
[b2daebd4]531                        bool tupleParam = Tuples::isTtype( paramTy );
532                        bool otherTupleParam = Tuples::isTtype( otherParamTy );
533
534                        if ( tupleParam && otherTupleParam ) {
535                                ++it; ++jt;  // skip ttype parameters for break
536                        } else if ( tupleParam ) {
537                                // bundle other parameters into tuple to match
[62423350]538                                std::list< Type * > binderTypes;
[b2daebd4]539
540                                do {
[62423350]541                                        binderTypes.push_back( otherParam->get_type()->clone() );
[b2daebd4]542                                        ++jt;
543
544                                        if ( jt == otherParams.end() ) break;
545
546                                        otherParam = dynamic_cast< TypeExpr* >(*jt);
547                                        assertf(otherParam, "Aggregate parameters should be type expressions");
548                                } while (true);
549
[62423350]550                                otherParamTy = new TupleType{ paramTy->get_qualifiers(), binderTypes };
[b2daebd4]551                                ++it;  // skip ttype parameter for break
552                        } else if ( otherTupleParam ) {
553                                // bundle parameters into tuple to match other
[62423350]554                                std::list< Type * > binderTypes;
[b2daebd4]555
556                                do {
[62423350]557                                        binderTypes.push_back( param->get_type()->clone() );
[b2daebd4]558                                        ++it;
559
560                                        if ( it == params.end() ) break;
561
562                                        param = dynamic_cast< TypeExpr* >(*it);
563                                        assertf(param, "Aggregate parameters should be type expressions");
564                                } while (true);
565
[62423350]566                                paramTy = new TupleType{ otherParamTy->get_qualifiers(), binderTypes };
[b2daebd4]567                                ++jt;  // skip ttype parameter for break
568                        }
569
570                        if ( ! unifyExact( paramTy, otherParamTy, env, needAssertions, haveAssertions, openVars, WidenMode(false, false), indexer ) ) {
[02ec390]571                                result = false;
572                                return;
573                        }
[b2daebd4]574
575                        // ttype parameter should be last
576                        if ( tupleParam || otherTupleParam ) break;
[02ec390]577                }
[f5234f3]578                result = ( it == params.end() && jt == otherParams.end() );
[02ec390]579        }
[a32b204]580
[f474e91]581        void Unify_old::postvisit(StructInstType *structInst) {
[02ec390]582                handleGenericRefType( structInst, type2 );
[a32b204]583        }
584
[f474e91]585        void Unify_old::postvisit(UnionInstType *unionInst) {
[02ec390]586                handleGenericRefType( unionInst, type2 );
[a32b204]587        }
588
[f474e91]589        void Unify_old::postvisit(EnumInstType *enumInst) {
[a32b204]590                handleRefType( enumInst, type2 );
591        }
592
[f474e91]593        void Unify_old::postvisit(TraitInstType *contextInst) {
[a32b204]594                handleRefType( contextInst, type2 );
595        }
596
[f474e91]597        void Unify_old::postvisit(TypeInstType *typeInst) {
[a32b204]598                assert( openVars.find( typeInst->get_name() ) == openVars.end() );
599                TypeInstType *otherInst = dynamic_cast< TypeInstType* >( type2 );
600                if ( otherInst && typeInst->get_name() == otherInst->get_name() ) {
601                        result = true;
[51b7345]602///   } else {
603///     NamedTypeDecl *nt = indexer.lookupType( typeInst->get_name() );
[a32b204]604///     if ( nt ) {
[51b7345]605///       TypeDecl *type = dynamic_cast< TypeDecl* >( nt );
606///       assert( type );
[a32b204]607///       if ( type->get_base() ) {
[51b7345]608///         result = unifyExact( type->get_base(), typeInst, env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
609///       }
610///     }
[a32b204]611                } // if
612        }
613
614        template< typename Iterator1, typename Iterator2 >
[c77fd8b]615        bool unifyList( Iterator1 list1Begin, Iterator1 list1End, Iterator2 list2Begin, Iterator2 list2End, TypeEnvironment &env, AssertionSet &needAssertions, AssertionSet &haveAssertions, const OpenVarSet &openVars, const SymTab::Indexer &indexer ) {
[f3b0a07]616                auto get_type = [](Type * t) { return t; };
[a32b204]617                for ( ; list1Begin != list1End && list2Begin != list2End; ++list1Begin, ++list2Begin ) {
[f3b0a07]618                        Type * t1 = *list1Begin;
619                        Type * t2 = *list2Begin;
620                        bool isTtype1 = Tuples::isTtype( t1 );
621                        bool isTtype2 = Tuples::isTtype( t2 );
622                        // xxx - assumes ttype must be last parameter
623                        // xxx - there may be a nice way to refactor this, but be careful because the argument positioning might matter in some cases.
624                        if ( isTtype1 && ! isTtype2 ) {
625                                // combine all of the things in list2, then unify
626                                return unifyExact( t1, combineTypes( list2Begin, list2End, get_type ).get(), env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
627                        } else if ( isTtype2 && ! isTtype1 ) {
628                                // combine all of the things in list1, then unify
629                                return unifyExact( combineTypes( list1Begin, list1End, get_type ).get(), t2, env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
630                        } else if ( ! unifyExact( t1, t2, env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer ) ) {
[a32b204]631                                return false;
[f3b0a07]632                        } // if
633
[a32b204]634                } // for
[f3b0a07]635                if ( list1Begin != list1End ) {
636                        // try unifying empty tuple type with ttype
637                        Type * t1 = *list1Begin;
638                        if ( Tuples::isTtype( t1 ) ) {
639                                return unifyExact( t1, combineTypes( list2Begin, list2End, get_type ).get(), env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
640                        } else return false;
641                } else if ( list2Begin != list2End ) {
642                        // try unifying empty tuple type with ttype
643                        Type * t2 = *list2Begin;
644                        if ( Tuples::isTtype( t2 ) ) {
645                                return unifyExact( combineTypes( list1Begin, list1End, get_type ).get(), t2, env, needAssertions, haveAssertions, openVars, WidenMode( false, false ), indexer );
646                        } else return false;
[a32b204]647                } else {
648                        return true;
[f3b0a07]649                } // if
[a32b204]650        }
651
[f474e91]652        void Unify_old::postvisit(TupleType *tupleType) {
[a32b204]653                if ( TupleType *otherTuple = dynamic_cast< TupleType* >( type2 ) ) {
[f3b0a07]654                        std::unique_ptr<TupleType> flat1( tupleType->clone() );
655                        std::unique_ptr<TupleType> flat2( otherTuple->clone() );
656                        std::list<Type *> types1, types2;
657
[f474e91]658                        PassVisitor<TtypeExpander_old> expander( env );
[f3b0a07]659                        flat1->acceptMutator( expander );
660                        flat2->acceptMutator( expander );
661
662                        flatten( flat1.get(), back_inserter( types1 ) );
663                        flatten( flat2.get(), back_inserter( types2 ) );
664
[c77fd8b]665                        result = unifyList( types1.begin(), types1.end(), types2.begin(), types2.end(), env, needAssertions, haveAssertions, openVars, indexer );
[a32b204]666                } // if
667        }
[51b7345]668
[f474e91]669        void Unify_old::postvisit( __attribute__((unused)) VarArgsType *varArgsType ) {
[44b7088]670                result = dynamic_cast< VarArgsType* >( type2 );
671        }
672
[f474e91]673        void Unify_old::postvisit( __attribute__((unused)) ZeroType *zeroType ) {
[89e6ffc]674                result = dynamic_cast< ZeroType* >( type2 );
675        }
676
[f474e91]677        void Unify_old::postvisit( __attribute__((unused)) OneType *oneType ) {
[89e6ffc]678                result = dynamic_cast< OneType* >( type2 );
679        }
680
[906e24d]681        Type * extractResultType( FunctionType * function ) {
682                if ( function->get_returnVals().size() == 0 ) {
683                        return new VoidType( Type::Qualifiers() );
684                } else if ( function->get_returnVals().size() == 1 ) {
685                        return function->get_returnVals().front()->get_type()->clone();
686                } else {
[62423350]687                        std::list< Type * > types;
[906e24d]688                        for ( DeclarationWithType * decl : function->get_returnVals() ) {
[62423350]689                                types.push_back( decl->get_type()->clone() );
[906e24d]690                        } // for
[62423350]691                        return new TupleType( Type::Qualifiers(), types );
[906e24d]692                }
693        }
[54e41b3]694
[ee574a2]695        class Unify_new final : public ast::WithShortCircuiting {
[f474e91]696                const ast::Type * type2;
697                ast::TypeEnvironment & tenv;
698                ast::AssertionSet & need;
699                ast::AssertionSet & have;
700                const ast::OpenVarSet & open;
701                WidenMode widen;
702                const ast::SymbolTable & symtab;
703        public:
[c15085d]704                static size_t traceId;
[f474e91]705                bool result;
706
[7870799]707                Unify_new(
708                        const ast::Type * type2, ast::TypeEnvironment & env, ast::AssertionSet & need,
709                        ast::AssertionSet & have, const ast::OpenVarSet & open, WidenMode widen,
[f474e91]710                        const ast::SymbolTable & symtab )
[7870799]711                : type2(type2), tenv(env), need(need), have(have), open(open), widen(widen),
[f474e91]712                  symtab(symtab), result(false) {}
713
714                void previsit( const ast::Node * ) { visit_children = false; }
[7870799]715
[ee574a2]716                void postvisit( const ast::VoidType * ) {
[f474e91]717                        result = dynamic_cast< const ast::VoidType * >( type2 );
718                }
719
[ee574a2]720                void postvisit( const ast::BasicType * basic ) {
[f474e91]721                        if ( auto basic2 = dynamic_cast< const ast::BasicType * >( type2 ) ) {
722                                result = basic->kind == basic2->kind;
723                        }
724                }
725
[ee574a2]726                void postvisit( const ast::PointerType * pointer ) {
[f474e91]727                        if ( auto pointer2 = dynamic_cast< const ast::PointerType * >( type2 ) ) {
[7870799]728                                result = unifyExact(
729                                        pointer->base, pointer2->base, tenv, need, have, open,
[ee574a2]730                                        noWiden(), symtab );
[f474e91]731                        }
732                }
733
[ee574a2]734                void postvisit( const ast::ArrayType * array ) {
[f474e91]735                        auto array2 = dynamic_cast< const ast::ArrayType * >( type2 );
736                        if ( ! array2 ) return;
737
[7870799]738                        // to unify, array types must both be VLA or both not VLA and both must have a
[f474e91]739                        // dimension expression or not have a dimension
740                        if ( array->isVarLen != array2->isVarLen ) return;
[7870799]741                        if ( ! array->isVarLen && ! array2->isVarLen
[f474e91]742                                        && array->dimension && array2->dimension ) {
743                                auto ce1 = array->dimension.as< ast::ConstantExpr >();
744                                auto ce2 = array2->dimension.as< ast::ConstantExpr >();
745
746                                // see C11 Reference Manual 6.7.6.2.6
[7870799]747                                // two array types with size specifiers that are integer constant expressions are
[f474e91]748                                // compatible if both size specifiers have the same constant value
749                                if ( ce1 && ce2 && ce1->intValue() != ce2->intValue() ) return;
750                        }
751
[7870799]752                        result = unifyExact(
753                                array->base, array2->base, tenv, need, have, open, noWiden(),
[f474e91]754                                symtab );
755                }
756
[ee574a2]757                void postvisit( const ast::ReferenceType * ref ) {
[f474e91]758                        if ( auto ref2 = dynamic_cast< const ast::ReferenceType * >( type2 ) ) {
[7870799]759                                result = unifyExact(
760                                        ref->base, ref2->base, tenv, need, have, open, noWiden(),
[f474e91]761                                        symtab );
762                        }
763                }
764
765        private:
766                /// Replaces ttype variables with their bound types.
[7870799]767                /// If this isn't done when satifying ttype assertions, then argument lists can have
[f474e91]768                /// different size and structure when they should be compatible.
[d3aa64f]769                struct TtypeExpander_new : public ast::WithShortCircuiting, public ast::PureVisitor {
[f474e91]770                        ast::TypeEnvironment & tenv;
771
772                        TtypeExpander_new( ast::TypeEnvironment & env ) : tenv( env ) {}
773
[ee574a2]774                        const ast::Type * postvisit( const ast::TypeInstType * typeInst ) {
[f474e91]775                                if ( const ast::EqvClass * clz = tenv.lookup( typeInst->name ) ) {
776                                        // expand ttype parameter into its actual type
[07de76b]777                                        if ( clz->data.kind == ast::TypeDecl::Ttype && clz->bound ) {
[f474e91]778                                                return clz->bound;
779                                        }
780                                }
781                                return typeInst;
782                        }
783                };
784
785                /// returns flattened version of `src`
786                static std::vector< ast::ptr< ast::DeclWithType > > flattenList(
787                        const std::vector< ast::ptr< ast::DeclWithType > > & src, ast::TypeEnvironment & env
788                ) {
789                        std::vector< ast::ptr< ast::DeclWithType > > dst;
790                        dst.reserve( src.size() );
791                        for ( const ast::DeclWithType * d : src ) {
792                                ast::Pass<TtypeExpander_new> expander{ env };
[ef9988b]793                                // TtypeExpander pass is impure (may mutate nodes in place)
794                                // need to make nodes shared to prevent accidental mutation
[d3aa64f]795                                ast::ptr<ast::DeclWithType> dc = d->accept(expander);
[ef9988b]796                                auto types = flatten( dc->get_type() );
[f474e91]797                                for ( ast::ptr< ast::Type > & t : types ) {
[7870799]798                                        // outermost const, volatile, _Atomic qualifiers in parameters should not play
799                                        // a role in the unification of function types, since they do not determine
[f474e91]800                                        // whether a function is callable.
[7870799]801                                        // NOTE: **must** consider at least mutex qualifier, since functions can be
802                                        // overloaded on outermost mutex and a mutex function has different
[f474e91]803                                        // requirements than a non-mutex function
[ee574a2]804                                        remove_qualifiers( t, ast::CV::Const | ast::CV::Volatile | ast::CV::Atomic );
[ef9988b]805                                        dst.emplace_back( new ast::ObjectDecl{ dc->location, "", t } );
[f474e91]806                                }
807                        }
808                        return dst;
809                }
810
811                /// Creates a tuple type based on a list of DeclWithType
812                template< typename Iter >
813                static ast::ptr< ast::Type > tupleFromDecls( Iter crnt, Iter end ) {
814                        std::vector< ast::ptr< ast::Type > > types;
815                        while ( crnt != end ) {
[7870799]816                                // it is guaranteed that a ttype variable will be bound to a flat tuple, so ensure
[f474e91]817                                // that this results in a flat tuple
818                                flatten( (*crnt)->get_type(), types );
819
820                                ++crnt;
821                        }
822
823                        return { new ast::TupleType{ std::move(types) } };
824                }
825
826                template< typename Iter >
[7870799]827                static bool unifyDeclList(
828                        Iter crnt1, Iter end1, Iter crnt2, Iter end2, ast::TypeEnvironment & env,
829                        ast::AssertionSet & need, ast::AssertionSet & have, const ast::OpenVarSet & open,
[f474e91]830                        const ast::SymbolTable & symtab
831                ) {
832                        while ( crnt1 != end1 && crnt2 != end2 ) {
833                                const ast::Type * t1 = (*crnt1)->get_type();
834                                const ast::Type * t2 = (*crnt2)->get_type();
835                                bool isTuple1 = Tuples::isTtype( t1 );
836                                bool isTuple2 = Tuples::isTtype( t2 );
837
838                                // assumes here that ttype *must* be last parameter
839                                if ( isTuple1 && ! isTuple2 ) {
840                                        // combine remainder of list2, then unify
[7870799]841                                        return unifyExact(
842                                                t1, tupleFromDecls( crnt2, end2 ), env, need, have, open,
[ee574a2]843                                                noWiden(), symtab );
[f474e91]844                                } else if ( ! isTuple1 && isTuple2 ) {
845                                        // combine remainder of list1, then unify
[7870799]846                                        return unifyExact(
847                                                tupleFromDecls( crnt1, end1 ), t2, env, need, have, open,
[ee574a2]848                                                noWiden(), symtab );
[f474e91]849                                }
850
[7870799]851                                if ( ! unifyExact(
852                                        t1, t2, env, need, have, open, noWiden(), symtab )
[f474e91]853                                ) return false;
854
855                                ++crnt1; ++crnt2;
856                        }
857
[7870799]858                        // May get to the end of one argument list before the other. This is only okay if the
[f474e91]859                        // other is a ttype
860                        if ( crnt1 != end1 ) {
861                                // try unifying empty tuple with ttype
862                                const ast::Type * t1 = (*crnt1)->get_type();
863                                if ( ! Tuples::isTtype( t1 ) ) return false;
[7870799]864                                return unifyExact(
865                                        t1, tupleFromDecls( crnt2, end2 ), env, need, have, open,
[ee574a2]866                                        noWiden(), symtab );
[f474e91]867                        } else if ( crnt2 != end2 ) {
868                                // try unifying empty tuple with ttype
869                                const ast::Type * t2 = (*crnt2)->get_type();
870                                if ( ! Tuples::isTtype( t2 ) ) return false;
[7870799]871                                return unifyExact(
872                                        tupleFromDecls( crnt1, end1 ), t2, env, need, have, open,
[ee574a2]873                                        noWiden(), symtab );
[f474e91]874                        }
875
876                        return true;
877                }
878
[7870799]879                static bool unifyDeclList(
880                        const std::vector< ast::ptr< ast::DeclWithType > > & list1,
881                        const std::vector< ast::ptr< ast::DeclWithType > > & list2,
882                        ast::TypeEnvironment & env, ast::AssertionSet & need, ast::AssertionSet & have,
[f474e91]883                        const ast::OpenVarSet & open, const ast::SymbolTable & symtab
884                ) {
[7870799]885                        return unifyDeclList(
886                                list1.begin(), list1.end(), list2.begin(), list2.end(), env, need, have, open,
[f474e91]887                                symtab );
888                }
889
890                static void markAssertionSet( ast::AssertionSet & assns, const ast::DeclWithType * assn ) {
891                        auto i = assns.find( assn );
892                        if ( i != assns.end() ) {
893                                i->second.isUsed = true;
894                        }
895                }
896
897                /// mark all assertions in `type` used in both `assn1` and `assn2`
[7870799]898                static void markAssertions(
899                        ast::AssertionSet & assn1, ast::AssertionSet & assn2,
900                        const ast::ParameterizedType * type
[f474e91]901                ) {
902                        for ( const auto & tyvar : type->forall ) {
903                                for ( const ast::DeclWithType * assert : tyvar->assertions ) {
904                                        markAssertionSet( assn1, assert );
905                                        markAssertionSet( assn2, assert );
906                                }
907                        }
908                }
909
910        public:
[ee574a2]911                void postvisit( const ast::FunctionType * func ) {
[f474e91]912                        auto func2 = dynamic_cast< const ast::FunctionType * >( type2 );
913                        if ( ! func2 ) return;
914
915                        if ( func->isVarArgs != func2->isVarArgs ) return;
[7870799]916
917                        // Flatten the parameter lists for both functions so that tuple structure does not
[f474e91]918                        // affect unification. Does not actually mutate function parameters.
919                        auto params = flattenList( func->params, tenv );
920                        auto params2 = flattenList( func2->params, tenv );
921
[7870799]922                        // sizes don't have to match if ttypes are involved; need to be more precise w.r.t.
[f474e91]923                        // where the ttype is to prevent errors
[7870799]924                        if (
[f474e91]925                                ( params.size() != params2.size() || func->returns.size() != func2->returns.size() )
926                                && ! func->isTtype()
927                                && ! func2->isTtype()
928                        ) return;
929
930                        if ( ! unifyDeclList( params, params2, tenv, need, have, open, symtab ) ) return;
[7870799]931                        if ( ! unifyDeclList(
[f474e91]932                                func->returns, func2->returns, tenv, need, have, open, symtab ) ) return;
[7870799]933
[f474e91]934                        markAssertions( have, need, func );
935                        markAssertions( have, need, func2 );
936
937                        result = true;
938                }
[7870799]939
[f474e91]940        private:
[90ce35aa]941                // Returns: other, cast as XInstType
942                // Assigns this->result: whether types are compatible (up to generic parameters)
943                template< typename XInstType >
944                const XInstType * handleRefType( const XInstType * inst, const ast::Type * other ) {
[f474e91]945                        // check that the other type is compatible and named the same
[90ce35aa]946                        auto otherInst = dynamic_cast< const XInstType * >( other );
947                        this->result = otherInst && inst->name == otherInst->name;
[f474e91]948                        return otherInst;
949                }
950
951                /// Creates a tuple type based on a list of TypeExpr
952                template< typename Iter >
[7870799]953                static const ast::Type * tupleFromExprs(
[f474e91]954                        const ast::TypeExpr * param, Iter & crnt, Iter end, ast::CV::Qualifiers qs
955                ) {
956                        std::vector< ast::ptr< ast::Type > > types;
957                        do {
958                                types.emplace_back( param->type );
959
960                                ++crnt;
961                                if ( crnt == end ) break;
962                                param = strict_dynamic_cast< const ast::TypeExpr * >( crnt->get() );
963                        } while(true);
964
965                        return new ast::TupleType{ std::move(types), qs };
966                }
967
[90ce35aa]968                template< typename XInstType >
969                void handleGenericRefType( const XInstType * inst, const ast::Type * other ) {
[f474e91]970                        // check that other type is compatible and named the same
[90ce35aa]971                        const XInstType * otherInst = handleRefType( inst, other );
972                        if ( ! this->result ) return;
[7870799]973
[f474e91]974                        // check that parameters of types unify, if any
975                        const std::vector< ast::ptr< ast::Expr > > & params = inst->params;
[90ce35aa]976                        const std::vector< ast::ptr< ast::Expr > > & params2 = otherInst->params;
[f474e91]977
978                        auto it = params.begin();
979                        auto jt = params2.begin();
980                        for ( ; it != params.end() && jt != params2.end(); ++it, ++jt ) {
981                                auto param = strict_dynamic_cast< const ast::TypeExpr * >( it->get() );
982                                auto param2 = strict_dynamic_cast< const ast::TypeExpr * >( jt->get() );
983
984                                ast::ptr< ast::Type > pty = param->type;
985                                ast::ptr< ast::Type > pty2 = param2->type;
986
987                                bool isTuple = Tuples::isTtype( pty );
988                                bool isTuple2 = Tuples::isTtype( pty2 );
989
990                                if ( isTuple && isTuple2 ) {
991                                        ++it; ++jt;  // skip ttype parameters before break
992                                } else if ( isTuple ) {
993                                        // bundle remaining params into tuple
994                                        pty2 = tupleFromExprs( param2, jt, params2.end(), pty->qualifiers );
995                                        ++it;  // skip ttype parameter for break
996                                } else if ( isTuple2 ) {
997                                        // bundle remaining params into tuple
998                                        pty = tupleFromExprs( param, it, params.end(), pty2->qualifiers );
999                                        ++jt;  // skip ttype parameter for break
1000                                }
1001
[7870799]1002                                if ( ! unifyExact(
[ee574a2]1003                                                pty, pty2, tenv, need, have, open, noWiden(), symtab ) ) {
[f474e91]1004                                        result = false;
1005                                        return;
1006                                }
1007
1008                                // ttype parameter should be last
1009                                if ( isTuple || isTuple2 ) break;
1010                        }
1011                        result = it == params.end() && jt == params2.end();
1012                }
1013
1014        public:
[ee574a2]1015                void postvisit( const ast::StructInstType * aggrType ) {
[f474e91]1016                        handleGenericRefType( aggrType, type2 );
1017                }
1018
[ee574a2]1019                void postvisit( const ast::UnionInstType * aggrType ) {
[f474e91]1020                        handleGenericRefType( aggrType, type2 );
1021                }
1022
[ee574a2]1023                void postvisit( const ast::EnumInstType * aggrType ) {
[f474e91]1024                        handleRefType( aggrType, type2 );
1025                }
1026
[ee574a2]1027                void postvisit( const ast::TraitInstType * aggrType ) {
[f474e91]1028                        handleRefType( aggrType, type2 );
1029                }
1030
[ee574a2]1031                void postvisit( const ast::TypeInstType * typeInst ) {
[f474e91]1032                        assert( open.find( typeInst->name ) == open.end() );
1033                        handleRefType( typeInst, type2 );
1034                }
1035
1036        private:
1037                /// Creates a tuple type based on a list of Type
[7870799]1038                static ast::ptr< ast::Type > tupleFromTypes(
[f474e91]1039                        const std::vector< ast::ptr< ast::Type > > & tys
1040                ) {
1041                        std::vector< ast::ptr< ast::Type > > out;
1042                        for ( const ast::Type * ty : tys ) {
[7870799]1043                                // it is guaranteed that a ttype variable will be bound to a flat tuple, so ensure
[f474e91]1044                                // that this results in a flat tuple
1045                                flatten( ty, out );
1046                        }
1047
1048                        return { new ast::TupleType{ std::move(out) } };
1049                }
1050
[7870799]1051                static bool unifyList(
1052                        const std::vector< ast::ptr< ast::Type > > & list1,
1053                        const std::vector< ast::ptr< ast::Type > > & list2, ast::TypeEnvironment & env,
1054                        ast::AssertionSet & need, ast::AssertionSet & have, const ast::OpenVarSet & open,
[f474e91]1055                        const ast::SymbolTable & symtab
1056                ) {
1057                        auto crnt1 = list1.begin();
1058                        auto crnt2 = list2.begin();
1059                        while ( crnt1 != list1.end() && crnt2 != list2.end() ) {
1060                                const ast::Type * t1 = *crnt1;
1061                                const ast::Type * t2 = *crnt2;
1062                                bool isTuple1 = Tuples::isTtype( t1 );
1063                                bool isTuple2 = Tuples::isTtype( t2 );
1064
1065                                // assumes ttype must be last parameter
1066                                if ( isTuple1 && ! isTuple2 ) {
1067                                        // combine entirety of list2, then unify
[7870799]1068                                        return unifyExact(
1069                                                t1, tupleFromTypes( list2 ), env, need, have, open,
[ee574a2]1070                                                noWiden(), symtab );
[f474e91]1071                                } else if ( ! isTuple1 && isTuple2 ) {
1072                                        // combine entirety of list1, then unify
1073                                        return unifyExact(
[7870799]1074                                                tupleFromTypes( list1 ), t2, env, need, have, open,
[ee574a2]1075                                                noWiden(), symtab );
[f474e91]1076                                }
1077
[7870799]1078                                if ( ! unifyExact(
1079                                        t1, t2, env, need, have, open, noWiden(), symtab )
[f474e91]1080                                ) return false;
1081
1082                                ++crnt1; ++crnt2;
1083                        }
1084
1085                        if ( crnt1 != list1.end() ) {
1086                                // try unifying empty tuple type with ttype
1087                                const ast::Type * t1 = *crnt1;
1088                                if ( ! Tuples::isTtype( t1 ) ) return false;
[7870799]1089                                // xxx - this doesn't generate an empty tuple, contrary to comment; both ported
[f474e91]1090                                // from Rob's code
[7870799]1091                                return unifyExact(
1092                                                t1, tupleFromTypes( list2 ), env, need, have, open,
[ee574a2]1093                                                noWiden(), symtab );
[f474e91]1094                        } else if ( crnt2 != list2.end() ) {
1095                                // try unifying empty tuple with ttype
1096                                const ast::Type * t2 = *crnt2;
1097                                if ( ! Tuples::isTtype( t2 ) ) return false;
[7870799]1098                                // xxx - this doesn't generate an empty tuple, contrary to comment; both ported
[f474e91]1099                                // from Rob's code
1100                                return unifyExact(
[7870799]1101                                                tupleFromTypes( list1 ), t2, env, need, have, open,
[ee574a2]1102                                                noWiden(), symtab );
[f474e91]1103                        }
1104
1105                        return true;
1106                }
1107
1108        public:
[ee574a2]1109                void postvisit( const ast::TupleType * tuple ) {
[f474e91]1110                        auto tuple2 = dynamic_cast< const ast::TupleType * >( type2 );
1111                        if ( ! tuple2 ) return;
1112
1113                        ast::Pass<TtypeExpander_new> expander{ tenv };
[ef9988b]1114
[d3aa64f]1115                        const ast::Type * flat = tuple->accept( expander );
1116                        const ast::Type * flat2 = tuple2->accept( expander );
[f474e91]1117
1118                        auto types = flatten( flat );
1119                        auto types2 = flatten( flat2 );
1120
1121                        result = unifyList( types, types2, tenv, need, have, open, symtab );
1122                }
1123
[ee574a2]1124                void postvisit( const ast::VarArgsType * ) {
[f474e91]1125                        result = dynamic_cast< const ast::VarArgsType * >( type2 );
1126                }
1127
[ee574a2]1128                void postvisit( const ast::ZeroType * ) {
[f474e91]1129                        result = dynamic_cast< const ast::ZeroType * >( type2 );
1130                }
1131
[ee574a2]1132                void postvisit( const ast::OneType * ) {
[f474e91]1133                        result = dynamic_cast< const ast::OneType * >( type2 );
[7870799]1134                }
[f474e91]1135
1136          private:
1137                template< typename RefType > void handleRefType( RefType *inst, Type *other );
1138                template< typename RefType > void handleGenericRefType( RefType *inst, Type *other );
1139        };
1140
[0d070ca]1141        // size_t Unify_new::traceId = Stats::Heap::new_stacktrace_id("Unify_new");
[7870799]1142        bool unify(
1143                        const ast::ptr<ast::Type> & type1, const ast::ptr<ast::Type> & type2,
1144                        ast::TypeEnvironment & env, ast::AssertionSet & need, ast::AssertionSet & have,
[2773ab8]1145                        ast::OpenVarSet & open, const ast::SymbolTable & symtab
1146        ) {
1147                ast::ptr<ast::Type> common;
1148                return unify( type1, type2, env, need, have, open, symtab, common );
1149        }
1150
[7870799]1151        bool unify(
1152                        const ast::ptr<ast::Type> & type1, const ast::ptr<ast::Type> & type2,
1153                        ast::TypeEnvironment & env, ast::AssertionSet & need, ast::AssertionSet & have,
1154                        ast::OpenVarSet & open, const ast::SymbolTable & symtab, ast::ptr<ast::Type> & common
[ee574a2]1155        ) {
1156                ast::OpenVarSet closed;
1157                findOpenVars( type1, open, closed, need, have, FirstClosed );
1158                findOpenVars( type2, open, closed, need, have, FirstOpen );
[7870799]1159                return unifyInexact(
[ee574a2]1160                        type1, type2, env, need, have, open, WidenMode{ true, true }, symtab, common );
1161        }
1162
[7870799]1163        bool unifyExact(
1164                        const ast::Type * type1, const ast::Type * type2, ast::TypeEnvironment & env,
1165                        ast::AssertionSet & need, ast::AssertionSet & have, const ast::OpenVarSet & open,
[f474e91]1166                        WidenMode widen, const ast::SymbolTable & symtab
1167        ) {
1168                if ( type1->qualifiers != type2->qualifiers ) return false;
1169
1170                auto var1 = dynamic_cast< const ast::TypeInstType * >( type1 );
1171                auto var2 = dynamic_cast< const ast::TypeInstType * >( type2 );
[7870799]1172                ast::OpenVarSet::const_iterator
1173                        entry1 = var1 ? open.find( var1->name ) : open.end(),
[f474e91]1174                        entry2 = var2 ? open.find( var2->name ) : open.end();
1175                bool isopen1 = entry1 != open.end();
1176                bool isopen2 = entry2 != open.end();
1177
1178                if ( isopen1 && isopen2 ) {
1179                        if ( entry1->second.kind != entry2->second.kind ) return false;
[7870799]1180                        return env.bindVarToVar(
1181                                var1, var2, ast::TypeDecl::Data{ entry1->second, entry2->second }, need, have,
[f474e91]1182                                open, widen, symtab );
1183                } else if ( isopen1 ) {
1184                        return env.bindVar( var1, type2, entry1->second, need, have, open, widen, symtab );
1185                } else if ( isopen2 ) {
1186                        return env.bindVar( var2, type1, entry2->second, need, have, open, widen, symtab );
1187                } else {
1188                        ast::Pass<Unify_new> comparator{ type2, env, need, have, open, widen, symtab };
1189                        type1->accept( comparator );
[7ff3e522]1190                        return comparator.core.result;
[f474e91]1191                }
1192        }
1193
[7870799]1194        bool unifyInexact(
1195                        const ast::ptr<ast::Type> & type1, const ast::ptr<ast::Type> & type2,
1196                        ast::TypeEnvironment & env, ast::AssertionSet & need, ast::AssertionSet & have,
1197                        const ast::OpenVarSet & open, WidenMode widen, const ast::SymbolTable & symtab,
1198                        ast::ptr<ast::Type> & common
[f474e91]1199        ) {
1200                ast::CV::Qualifiers q1 = type1->qualifiers, q2 = type2->qualifiers;
[7870799]1201
1202                // force t1 and t2 to be cloned if their qualifiers must be stripped, so that type1 and
[f474e91]1203                // type2 are left unchanged; calling convention forces type{1,2}->strong_ref >= 1
[2890212]1204                ast::Type * t1 = shallowCopy(type1.get());
1205                ast::Type * t2 = shallowCopy(type2.get());
1206                t1->qualifiers = {};
1207                t2->qualifiers = {};
[f49b3fc]1208                ast::ptr< ast::Type > t1_(t1);
1209                ast::ptr< ast::Type > t2_(t2);
[7870799]1210
[f474e91]1211                if ( unifyExact( t1, t2, env, need, have, open, widen, symtab ) ) {
1212                        // if exact unification on unqualified types, try to merge qualifiers
1213                        if ( q1 == q2 || ( ( q1 > q2 || widen.first ) && ( q2 > q1 || widen.second ) ) ) {
[2890212]1214                                t1->qualifiers = q1 | q2;
1215                                common = t1;
[f474e91]1216                                return true;
1217                        } else {
1218                                return false;
1219                        }
1220
1221                } else if (( common = commonType( t1, t2, widen, symtab, env, open ) )) {
1222                        // no exact unification, but common type
[2890212]1223                        auto c = shallowCopy(common.get());
1224                        c->qualifiers = q1 | q2;
1225                        common = c;
[f474e91]1226                        return true;
1227                } else {
1228                        return false;
1229                }
1230        }
1231
[54e41b3]1232        ast::ptr<ast::Type> extractResultType( const ast::FunctionType * func ) {
[4139e3d]1233                if ( func->returns.empty() ) return new ast::VoidType{};
1234                if ( func->returns.size() == 1 ) return func->returns[0]->get_type();
1235
1236                std::vector<ast::ptr<ast::Type>> tys;
1237                for ( const ast::DeclWithType * decl : func->returns ) {
1238                        tys.emplace_back( decl->get_type() );
1239                }
1240                return new ast::TupleType{ std::move(tys) };
[54e41b3]1241        }
[51b7345]1242} // namespace ResolvExpr
[a32b204]1243
1244// Local Variables: //
1245// tab-width: 4 //
1246// mode: c++ //
1247// compile-command: "make install" //
1248// End: //
Note: See TracBrowser for help on using the repository browser.