source: libcfa/src/concurrency/snzi.hfa @ a82a8f4

ADTarm-ehast-experimentalenumforall-pointer-decayjacob/cs343-translationnew-astnew-ast-unique-exprpthread-emulationqualifiedEnum
Last change on this file since a82a8f4 was 13c5e19, checked in by Thierry Delisle <tdelisle@…>, 4 years ago
  • Moved snzi and subqueues outside of ready_queue.cfa.
  • Added random.hfa with multiple prng.
  • Minor optimizations to ready-queue
  • Stats now track number of local pops( bias pops )
  • Fixed stats for io
  • Fixed calculaton of nprocessors
  • Fixed IO to work with new ready-queue
  • Property mode set to 100644
File size: 3.8 KB
Line 
1#pragma once
2
3#include <assert.h>
4#include <stdint.h>
5
6union __snzi_val_t {
7        uint64_t _all;
8        struct __attribute__((packed)) {
9                char cnt;
10                uint64_t ver:56;
11        };
12};
13
14bool cas(volatile __snzi_val_t & self, __snzi_val_t & exp, char _cnt, uint64_t _ver) {
15        __snzi_val_t t;
16        t.ver = _ver;
17        t.cnt = _cnt;
18        /* paranoid */ verify(t._all == ((_ver << 8) | ((unsigned char)_cnt)));
19        return __atomic_compare_exchange_n(&self._all, &exp._all, t._all, false, __ATOMIC_SEQ_CST, __ATOMIC_SEQ_CST);
20}
21
22bool cas(volatile __snzi_val_t & self, __snzi_val_t & exp, const __snzi_val_t & tar) {
23        return __atomic_compare_exchange_n(&self._all, &exp._all, tar._all, false, __ATOMIC_SEQ_CST, __ATOMIC_SEQ_CST);
24}
25
26void ?{}( __snzi_val_t & this ) { this._all = 0; }
27void ?{}( __snzi_val_t & this, const volatile __snzi_val_t & o) { this._all = o._all; }
28
29struct __attribute__((aligned(128))) __snzi_node_t {
30        volatile __snzi_val_t value;
31        struct __snzi_node_t * parent;
32        bool is_root;
33};
34
35static inline void arrive( __snzi_node_t & );
36static inline void depart( __snzi_node_t & );
37
38#define __snzi_half -1
39
40//--------------------------------------------------
41// Root node
42static void arrive_r( __snzi_node_t & this ) {
43        /* paranoid */ verify( this.is_root );
44        __atomic_fetch_add(&this.value._all, 1, __ATOMIC_SEQ_CST);
45}
46
47static void depart_r( __snzi_node_t & this ) {
48        /* paranoid */ verify( this.is_root );
49        __atomic_fetch_sub(&this.value._all, 1, __ATOMIC_SEQ_CST);
50}
51
52//--------------------------------------------------
53// Hierarchical node
54static void arrive_h( __snzi_node_t & this ) {
55        int undoArr = 0;
56        bool success = false;
57        while(!success) {
58                __snzi_val_t x = { this.value };
59                /* paranoid */ verify(x.cnt <= 120);
60                if( x.cnt >= 1 ) {
61                        if( cas( this.value, x, x.cnt + 1, x.ver ) ) {
62                                success = true;
63                        }
64                }
65                /* paranoid */ verify(x.cnt <= 120);
66                if( x.cnt == 0 ) {
67                        if( cas( this.value, x, __snzi_half, x.ver + 1) ) {
68                                success = true;
69                                x.cnt = __snzi_half;
70                                x.ver = x.ver + 1;
71                        }
72                }
73                /* paranoid */ verify(x.cnt <= 120);
74                if( x.cnt == __snzi_half ) {
75                        /* paranoid */ verify( this.parent);
76                        arrive( *this.parent );
77                        if( !cas( this.value, x, 1, x.ver) ) {
78                                undoArr = undoArr + 1;
79                        }
80                }
81        }
82
83        for(int i = 0; i < undoArr; i++) {
84                /* paranoid */ verify( this.parent );
85                depart( *this.parent );
86        }
87}
88
89static void depart_h( __snzi_node_t & this ) {
90        while(true) {
91                const __snzi_val_t x = { this.value };
92                /* paranoid */ verifyf(x.cnt >= 1, "%d", x.cnt);
93                if( cas( this.value, x, x.cnt - 1, x.ver ) ) {
94                        if( x.cnt == 1 ) {
95                                /* paranoid */ verify( this.parent );
96                                depart( *this.parent );
97                        }
98                        return;
99                }
100        }
101}
102
103//--------------------------------------------------
104// All nodes
105static inline void arrive( __snzi_node_t & this ) {
106        if(this.is_root) arrive_r( this );
107        else arrive_h( this );
108}
109
110static inline void depart( __snzi_node_t & this ) {
111        if(this.is_root) depart_r( this );
112        else depart_h( this );
113}
114
115static inline bool query( __snzi_node_t & this ) {
116        /* paranoid */ verify( this.is_root );
117        return this.value._all > 0;
118}
119
120//--------------------------------------------------
121// SNZI object
122void  ?{}( __snzi_t & this, unsigned depth ) with( this ) {
123        mask = (1 << depth) - 1;
124        root = (1 << (depth + 1)) - 2;
125        nodes = alloc( root + 1 );
126
127        int width = 1 << depth;
128        for(int i = 0; i < root; i++) {
129                nodes[i].value._all = 0;
130                nodes[i].parent = &nodes[(i / 2) + width ];
131                nodes[i].is_root = false;
132        }
133
134        nodes[ root ].value._all = 0;
135        nodes[ root ].parent = 0p;
136        nodes[ root ].is_root = true;
137}
138
139void ^?{}( __snzi_t & this ) {
140        free( this.nodes );
141}
142
143static inline void arrive( __snzi_t & this, int idx) {
144        idx &= this.mask;
145        arrive( this.nodes[idx] );
146}
147
148static inline void depart( __snzi_t & this, int idx) {
149        idx &= this.mask;
150        depart( this.nodes[idx] );
151}
152
153static inline bool query( const __snzi_t & this ) {
154        return query( this.nodes[ this.root ] );
155}
Note: See TracBrowser for help on using the repository browser.