Diff for /servers/slapd/overlays/syncprov.c between versions 1.147.2.64 and 1.264

version 1.147.2.64, 2009/11/18 01:25:50 version 1.264, 2009/02/24 19:11:22
Line 1 Line 1
 /* $OpenLDAP$ */  /* $OpenLDAP: pkg/ldap/servers/slapd/overlays/syncprov.c,v 1.263 2009/02/24 19:01:08 rein Exp $ */
 /* syncprov.c - syncrepl provider */  /* syncprov.c - syncrepl provider */
 /* This work is part of OpenLDAP Software <http://www.openldap.org/>.  /* This work is part of OpenLDAP Software <http://www.openldap.org/>.
  *   *
Line 71  typedef struct syncops { Line 71  typedef struct syncops {
 #define PS_WROTE_BASE           0x04  #define PS_WROTE_BASE           0x04
 #define PS_FIND_BASE            0x08  #define PS_FIND_BASE            0x08
 #define PS_FIX_FILTER           0x10  #define PS_FIX_FILTER           0x10
 #define PS_TASK_QUEUED          0x20  
   
         int             s_inuse;        /* reference count */          int             s_inuse;        /* reference count */
         struct syncres *s_res;          struct syncres *s_res;
         struct syncres *s_restail;          struct syncres *s_restail;
           struct re_s     *s_qtask;       /* task for playing psearch responses */
   #define RUNQ_INTERVAL   36000   /* a long time */
         ldap_pvt_thread_mutex_t s_mutex;          ldap_pvt_thread_mutex_t s_mutex;
 } syncops;  } syncops;
   
Line 124  typedef struct sessionlog { Line 125  typedef struct sessionlog {
 typedef struct syncprov_info_t {  typedef struct syncprov_info_t {
         syncops         *si_ops;          syncops         *si_ops;
         BerVarray       si_ctxcsn;      /* ldapsync context */          BerVarray       si_ctxcsn;      /* ldapsync context */
         struct berval   si_contextdn;  
         int             *si_sids;          int             *si_sids;
         int             si_numcsns;          int             si_numcsns;
         int             si_chkops;      /* checkpointing info */          int             si_chkops;      /* checkpointing info */
Line 138  typedef struct syncprov_info_t { Line 138  typedef struct syncprov_info_t {
         ldap_pvt_thread_rdwr_t  si_csn_rwlock;          ldap_pvt_thread_rdwr_t  si_csn_rwlock;
         ldap_pvt_thread_mutex_t si_ops_mutex;          ldap_pvt_thread_mutex_t si_ops_mutex;
         ldap_pvt_thread_mutex_t si_mods_mutex;          ldap_pvt_thread_mutex_t si_mods_mutex;
         ldap_pvt_thread_mutex_t si_resp_mutex;  
 } syncprov_info_t;  } syncprov_info_t;
   
 typedef struct opcookie {  typedef struct opcookie {
         slap_overinst *son;          slap_overinst *son;
         syncmatches *smatches;          syncmatches *smatches;
         modtarget *smt;  
         struct berval sdn;      /* DN of entry, for deletes */          struct berval sdn;      /* DN of entry, for deletes */
         struct berval sndn;          struct berval sndn;
         struct berval suuid;    /* UUID of entry */          struct berval suuid;    /* UUID of entry */
         struct berval sctxcsn;          struct berval sctxcsn;
         short osid;     /* sid of op csn */          int sreference; /* Is the entry a reference? */
         short rsid;     /* sid of relay */  
         short sreference;       /* Is the entry a reference? */  
 } opcookie;  } opcookie;
   
 typedef struct fbase_cookie {  typedef struct fbase_cookie {
Line 750  syncprov_free_syncop( syncops *so ) Line 746  syncprov_free_syncop( syncops *so )
                 ldap_pvt_thread_mutex_unlock( &so->s_mutex );                  ldap_pvt_thread_mutex_unlock( &so->s_mutex );
                 return;                  return;
         }          }
           if ( so->s_qtask ) {
                   ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );
                   if ( ldap_pvt_runqueue_isrunning( &slapd_rq, so->s_qtask ) )
                           ldap_pvt_runqueue_stoptask( &slapd_rq, so->s_qtask );
                   ldap_pvt_runqueue_remove( &slapd_rq, so->s_qtask );
                   ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );
           }
         ldap_pvt_thread_mutex_unlock( &so->s_mutex );          ldap_pvt_thread_mutex_unlock( &so->s_mutex );
         if ( so->s_flags & PS_IS_DETACHED ) {          if ( so->s_flags & PS_IS_DETACHED ) {
                 filter_free( so->s_op->ors_filter );                  filter_free( so->s_op->ors_filter );
Line 777  syncprov_sendresp( Operation *op, opcook Line 780  syncprov_sendresp( Operation *op, opcook
   
         SlapReply rs = { REP_SEARCH };          SlapReply rs = { REP_SEARCH };
         LDAPControl *ctrls[2];          LDAPControl *ctrls[2];
         struct berval cookie = BER_BVNULL, csns[2];          struct berval cookie, csns[2];
         Entry e_uuid = {0};          Entry e_uuid = {0};
         Attribute a_uuid = {0};          Attribute a_uuid = {0};
   
Line 785  syncprov_sendresp( Operation *op, opcook Line 788  syncprov_sendresp( Operation *op, opcook
                 return SLAPD_ABANDON;                  return SLAPD_ABANDON;
   
         ctrls[1] = NULL;          ctrls[1] = NULL;
         if ( !BER_BVISNULL( &opc->sctxcsn )) {          csns[0] = opc->sctxcsn;
                 csns[0] = opc->sctxcsn;          BER_BVZERO( &csns[1] );
                 BER_BVZERO( &csns[1] );          slap_compose_sync_cookie( op, &cookie, csns, so->s_rid, so->s_sid );
                 slap_compose_sync_cookie( op, &cookie, csns, so->s_rid, slap_serverID ? slap_serverID : -1 );  
         }  
   
 #ifdef LDAP_DEBUG          Debug( LDAP_DEBUG_SYNC, "syncprov_sendresp: cookie=%s\n", cookie.bv_val, 0, 0 );
         if ( !BER_BVISNULL( &cookie )) {  
                 if ( so->s_sid > 0 ) {  
                         Debug( LDAP_DEBUG_SYNC, "syncprov_sendresp: to=%03x, cookie=%s\n",  
                                 so->s_sid, cookie.bv_val , 0 );  
                 } else {  
                         Debug( LDAP_DEBUG_SYNC, "syncprov_sendresp: cookie=%s\n",  
                                 cookie.bv_val, 0, 0 );  
                 }  
         }                 
 #endif  
   
         e_uuid.e_attrs = &a_uuid;          e_uuid.e_attrs = &a_uuid;
         a_uuid.a_desc = slap_schema.si_ad_entryUUID;          a_uuid.a_desc = slap_schema.si_ad_entryUUID;
         a_uuid.a_nvals = &opc->suuid;          a_uuid.a_nvals = &opc->suuid;
         rs.sr_err = syncprov_state_ctrl( op, &rs, &e_uuid,          rs.sr_err = syncprov_state_ctrl( op, &rs, &e_uuid,
                 mode, ctrls, 0, 1, &cookie );                  mode, ctrls, 0, 1, &cookie );
         if ( !BER_BVISNULL( &cookie )) {          op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );
                 op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );  
         }  
   
         rs.sr_ctrls = ctrls;          rs.sr_ctrls = ctrls;
         op->o_bd->bd_info = (BackendInfo *)on->on_info;          op->o_bd->bd_info = (BackendInfo *)on->on_info;
Line 855  syncprov_sendresp( Operation *op, opcook Line 844  syncprov_sendresp( Operation *op, opcook
         }          }
         /* In case someone else freed it already? */          /* In case someone else freed it already? */
         if ( rs.sr_ctrls ) {          if ( rs.sr_ctrls ) {
                 int i;                  op->o_tmpfree( rs.sr_ctrls[0], op->o_tmpmemctx );
                 for ( i=0; rs.sr_ctrls[i]; i++ ) {  
                         if ( rs.sr_ctrls[i] == ctrls[0] ) {  
                                 op->o_tmpfree( ctrls[0]->ldctl_value.bv_val, op->o_tmpmemctx );  
                                 ctrls[0]->ldctl_value.bv_val = NULL;  
                                 break;  
                         }  
                 }  
                 rs.sr_ctrls = NULL;                  rs.sr_ctrls = NULL;
         }          }
   
         return rs.sr_err;          return rs.sr_err;
 }  }
   
 static void  
 syncprov_qstart( syncops *so );  
   
 /* Play back queued responses */  /* Play back queued responses */
 static int  static int
 syncprov_qplay( Operation *op, syncops *so )  syncprov_qplay( Operation *op, struct re_s *rtask )
 {  {
           syncops *so = rtask->arg;
         slap_overinst *on = LDAP_SLIST_FIRST(&so->s_op->o_extra)->oe_key;          slap_overinst *on = LDAP_SLIST_FIRST(&so->s_op->o_extra)->oe_key;
         syncres *sr;          syncres *sr;
         Entry *e;          Entry *e;
Line 884  syncprov_qplay( Operation *op, syncops * Line 864  syncprov_qplay( Operation *op, syncops *
   
         opc.son = on;          opc.son = on;
   
         do {          for (;;) {
                 ldap_pvt_thread_mutex_lock( &so->s_mutex );                  ldap_pvt_thread_mutex_lock( &so->s_mutex );
                 sr = so->s_res;                  sr = so->s_res;
                 if ( sr )                  if ( sr )
Line 928  syncprov_qplay( Operation *op, syncops * Line 908  syncprov_qplay( Operation *op, syncops *
   
                 ch_free( sr );                  ch_free( sr );
   
                 /* Exit loop with mutex held */                  if ( rc ) {
                 ldap_pvt_thread_mutex_lock( &so->s_mutex );                          /* Exit loop with mutex held */
                           ldap_pvt_thread_mutex_lock( &so->s_mutex );
         } while (0);                          break;
                   }
         /* We now only send one change at a time, to prevent one          }
          * psearch from hogging all the CPU. Resubmit this task if  
          * there are more responses queued and no errors occurred.  
          */  
   
         if ( rc == 0 && so->s_res ) {          /* wait until we get explicitly scheduled again */
                 syncprov_qstart( so );          ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );
           ldap_pvt_runqueue_stoptask( &slapd_rq, rtask );
           if ( rc == 0 ) {
                   ldap_pvt_runqueue_resched( &slapd_rq, rtask, 1 );
         } else {          } else {
                 so->s_flags ^= PS_TASK_QUEUED;                  /* bail out on any error */
         }                  ldap_pvt_runqueue_remove( &slapd_rq, rtask );
   
                   /* Prevent duplicate remove */
                   if ( so->s_qtask == rtask )
                           so->s_qtask = NULL;
           }
           ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );
         ldap_pvt_thread_mutex_unlock( &so->s_mutex );          ldap_pvt_thread_mutex_unlock( &so->s_mutex );
         return rc;          return rc;
 }  }
   
 /* task for playing back queued responses */  /* runqueue task for playing back queued responses */
 static void *  static void *
 syncprov_qtask( void *ctx, void *arg )  syncprov_qtask( void *ctx, void *arg )
 {  {
         syncops *so = arg;          struct re_s *rtask = arg;
           syncops *so = rtask->arg;
         OperationBuffer opbuf;          OperationBuffer opbuf;
         Operation *op;          Operation *op;
         BackendDB be;          BackendDB be;
Line 977  syncprov_qtask( void *ctx, void *arg ) Line 963  syncprov_qtask( void *ctx, void *arg )
         LDAP_SLIST_FIRST(&op->o_extra) = NULL;          LDAP_SLIST_FIRST(&op->o_extra) = NULL;
         op->o_callback = NULL;          op->o_callback = NULL;
   
         rc = syncprov_qplay( op, so );          rc = syncprov_qplay( op, rtask );
   
         /* decrement use count... */          /* decrement use count... */
         syncprov_free_syncop( so );          syncprov_free_syncop( so );
   
   #if 0   /* FIXME: connection_close isn't exported from slapd.
                    * should it be?
                    */
           if ( rc ) {
                   ldap_pvt_thread_mutex_lock( &op->o_conn->c_mutex );
                   if ( connection_state_closing( op->o_conn )) {
                           connection_close( op->o_conn );
                   }
                   ldap_pvt_thread_mutex_unlock( &op->o_conn->c_mutex );
           }
   #endif
         return NULL;          return NULL;
 }  }
   
Line 989  syncprov_qtask( void *ctx, void *arg ) Line 986  syncprov_qtask( void *ctx, void *arg )
 static void  static void
 syncprov_qstart( syncops *so )  syncprov_qstart( syncops *so )
 {  {
         so->s_flags |= PS_TASK_QUEUED;          int wake=0;
         so->s_inuse++;          ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );
         ldap_pvt_thread_pool_submit( &connection_pool,           if ( !so->s_qtask ) {
                 syncprov_qtask, so );                  so->s_qtask = ldap_pvt_runqueue_insert( &slapd_rq, RUNQ_INTERVAL,
                           syncprov_qtask, so, "syncprov_qtask",
                           so->s_op->o_conn->c_peer_name.bv_val );
                   ++so->s_inuse;
                   wake = 1;
           } else {
                   if (!ldap_pvt_runqueue_isrunning( &slapd_rq, so->s_qtask ) &&
                           !so->s_qtask->next_sched.tv_sec ) {
                           so->s_qtask->interval.tv_sec = 0;
                           ldap_pvt_runqueue_resched( &slapd_rq, so->s_qtask, 0 );
                           so->s_qtask->interval.tv_sec = RUNQ_INTERVAL;
                           ++so->s_inuse;
                           wake = 1;
                   }
           }
           ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );
           if ( wake )
                   slap_wake_listener();
 }  }
   
 /* Queue a persistent search response */  /* Queue a persistent search response */
Line 1007  syncprov_qresp( opcookie *opc, syncops * Line 1021  syncprov_qresp( opcookie *opc, syncops *
                 syncprov_info_t *si = opc->son->on_bi.bi_private;                  syncprov_info_t *si = opc->son->on_bi.bi_private;
   
                 slap_compose_sync_cookie( NULL, &cookie, si->si_ctxcsn,                  slap_compose_sync_cookie( NULL, &cookie, si->si_ctxcsn,
                         so->s_rid, slap_serverID ? slap_serverID : -1);                          so->s_rid, so->s_sid);
           } else if ( opc->sctxcsn.bv_len ) {
                   /* Don't send changes back to their originator */
                   int sid = slap_parse_csn_sid( &opc->sctxcsn );
                   if ( sid >= 0 && sid == so->s_sid )
                           return LDAP_SUCCESS;
         }          }
   
         srsize = sizeof(syncres) + opc->suuid.bv_len + 1 +          srsize = sizeof(syncres) + opc->suuid.bv_len + 1 +
Line 1052  syncprov_qresp( opcookie *opc, syncops * Line 1071  syncprov_qresp( opcookie *opc, syncops *
                 so->s_flags ^= PS_WROTE_BASE;                  so->s_flags ^= PS_WROTE_BASE;
                 so->s_flags |= PS_FIND_BASE;                  so->s_flags |= PS_FIND_BASE;
         }          }
         if (( so->s_flags & (PS_IS_DETACHED|PS_TASK_QUEUED)) == PS_IS_DETACHED ) {          if ( so->s_flags & PS_IS_DETACHED ) {
                 syncprov_qstart( so );                  syncprov_qstart( so );
         }          }
         ldap_pvt_thread_mutex_unlock( &so->s_mutex );          ldap_pvt_thread_mutex_unlock( &so->s_mutex );
Line 1198  syncprov_matchops( Operation *op, opcook Line 1217  syncprov_matchops( Operation *op, opcook
                 if ( ss->s_op->o_abandon )                  if ( ss->s_op->o_abandon )
                         continue;                          continue;
   
                 /* First time thru, check for possible skips */  
                 if ( saveit || op->o_tag == LDAP_REQ_ADD ) {  
   
                         /* Don't send ops back to the originator */  
                         if ( opc->osid > 0 && opc->osid == ss->s_sid ) {  
                                 Debug( LDAP_DEBUG_SYNC, "syncprov_matchops: skipping original sid %03x\n",  
                                         opc->osid, 0, 0 );  
                                 continue;  
                         }  
   
                         /* Don't send ops back to the messenger */  
                         if ( opc->rsid > 0 && opc->rsid == ss->s_sid ) {  
                                 Debug( LDAP_DEBUG_SYNC, "syncprov_matchops: skipping relayed sid %03x\n",  
                                         opc->rsid, 0, 0 );  
                                 continue;  
                         }  
                 }  
   
                 /* validate base */                  /* validate base */
                 fc.fss = ss;                  fc.fss = ss;
                 fc.fbase = 0;                  fc.fbase = 0;
Line 1261  syncprov_matchops( Operation *op, opcook Line 1262  syncprov_matchops( Operation *op, opcook
                         oh = *op->o_hdr;                          oh = *op->o_hdr;
                         oh.oh_conn = ss->s_op->o_conn;                          oh.oh_conn = ss->s_op->o_conn;
                         oh.oh_connid = ss->s_op->o_connid;                          oh.oh_connid = ss->s_op->o_connid;
                         op2.o_bd = op->o_bd->bd_self;  
                         op2.o_hdr = &oh;                          op2.o_hdr = &oh;
                         op2.o_extra = op->o_extra;                          op2.o_extra = op->o_extra;
                         op2.o_callback = NULL;  
                         rc = test_filter( &op2, e, ss->s_op->ors_filter );  
                 }                  }
   
                 Debug( LDAP_DEBUG_TRACE, "syncprov_matchops: sid %03x fscope %d rc %d\n",  
                         ss->s_sid, fc.fscope, rc );  
   
                 /* check if current o_req_dn is in scope and matches filter */                  /* check if current o_req_dn is in scope and matches filter */
                 if ( fc.fscope && rc == LDAP_COMPARE_TRUE ) {                  if ( fc.fscope && test_filter( &op2, e, ss->s_op->ors_filter ) ==
                           LDAP_COMPARE_TRUE ) {
                         if ( saveit ) {                          if ( saveit ) {
                                 sm = op->o_tmpalloc( sizeof(syncmatches), op->o_tmpmemctx );                                  sm = op->o_tmpalloc( sizeof(syncmatches), op->o_tmpmemctx );
                                 sm->sm_next = opc->smatches;                                  sm->sm_next = opc->smatches;
Line 1331  syncprov_op_cleanup( Operation *op, Slap Line 1327  syncprov_op_cleanup( Operation *op, Slap
         }          }
   
         /* Remove op from lock table */          /* Remove op from lock table */
         mt = opc->smt;          mtdummy.mt_op = op;
           ldap_pvt_thread_mutex_lock( &si->si_mods_mutex );
           mt = avl_find( si->si_mods, &mtdummy, sp_avl_cmp );
         if ( mt ) {          if ( mt ) {
                 ldap_pvt_thread_mutex_lock( &mt->mt_mutex );                  modinst *mi = mt->mt_mods;
                 mt->mt_mods = mt->mt_mods->mi_next;  
                 /* If there are more, promote the next one */                  /* If there are more, promote the next one */
                 if ( mt->mt_mods ) {                  ldap_pvt_thread_mutex_lock( &mt->mt_mutex );
                   if ( mi->mi_next ) {
                           mt->mt_mods = mi->mi_next;
                         mt->mt_op = mt->mt_mods->mi_op;                          mt->mt_op = mt->mt_mods->mi_op;
                         ldap_pvt_thread_mutex_unlock( &mt->mt_mutex );                          ldap_pvt_thread_mutex_unlock( &mt->mt_mutex );
                 } else {                  } else {
                         ldap_pvt_thread_mutex_unlock( &mt->mt_mutex );  
                         ldap_pvt_thread_mutex_lock( &si->si_mods_mutex );  
                         avl_delete( &si->si_mods, mt, sp_avl_cmp );                          avl_delete( &si->si_mods, mt, sp_avl_cmp );
                         ldap_pvt_thread_mutex_unlock( &si->si_mods_mutex );                          ldap_pvt_thread_mutex_unlock( &mt->mt_mutex );
                         ldap_pvt_thread_mutex_destroy( &mt->mt_mutex );                          ldap_pvt_thread_mutex_destroy( &mt->mt_mutex );
                         ch_free( mt );                          ch_free( mt );
                 }                  }
         }          }
           ldap_pvt_thread_mutex_unlock( &si->si_mods_mutex );
         if ( !BER_BVISNULL( &opc->suuid ))          if ( !BER_BVISNULL( &opc->suuid ))
                 op->o_tmpfree( opc->suuid.bv_val, op->o_tmpmemctx );                  op->o_tmpfree( opc->suuid.bv_val, op->o_tmpmemctx );
         if ( !BER_BVISNULL( &opc->sndn ))          if ( !BER_BVISNULL( &opc->sndn ))
Line 1369  syncprov_checkpoint( Operation *op, Slap Line 1368  syncprov_checkpoint( Operation *op, Slap
         SlapReply rsm = { 0 };          SlapReply rsm = { 0 };
         slap_callback cb = {0};          slap_callback cb = {0};
         BackendDB be;          BackendDB be;
   
 #ifdef CHECK_CSN  #ifdef CHECK_CSN
         Syntax *syn = slap_schema.si_ad_contextCSN->ad_type->sat_syntax;          Syntax *syn = slap_schema.si_ad_contextCSN->ad_type->sat_syntax;
   
Line 1396  syncprov_checkpoint( Operation *op, Slap Line 1394  syncprov_checkpoint( Operation *op, Slap
                 be = *on->on_info->oi_origdb;                  be = *on->on_info->oi_origdb;
                 opm.o_bd = &be;                  opm.o_bd = &be;
         }          }
         opm.o_req_dn = si->si_contextdn;          opm.o_req_dn = opm.o_bd->be_suffix[0];
         opm.o_req_ndn = si->si_contextdn;          opm.o_req_ndn = opm.o_bd->be_nsuffix[0];
         opm.o_bd->bd_info = on->on_info->oi_orig;          opm.o_bd->bd_info = on->on_info->oi_orig;
         opm.o_managedsait = SLAP_CONTROL_NONCRITICAL;          opm.o_managedsait = SLAP_CONTROL_NONCRITICAL;
         opm.o_no_schema_check = 1;          opm.o_no_schema_check = 1;
         opm.o_bd->be_modify( &opm, &rsm );          opm.o_bd->be_modify( &opm, &rsm );
   
         if ( rsm.sr_err == LDAP_NO_SUCH_OBJECT &&  
                 SLAP_SYNC_SUBENTRY( opm.o_bd )) {  
                 const char      *text;  
                 char txtbuf[SLAP_TEXT_BUFLEN];  
                 size_t textlen = sizeof txtbuf;  
                 Entry *e = slap_create_context_csn_entry( opm.o_bd, NULL );  
                 slap_mods2entry( &mod, &e, 0, 1, &text, txtbuf, textlen);  
                 opm.ora_e = e;  
                 opm.o_bd->be_add( &opm, &rsm );  
                 if ( e == opm.ora_e )  
                         be_entry_release_w( &opm, opm.ora_e );  
         }  
   
         if ( mod.sml_next != NULL ) {          if ( mod.sml_next != NULL ) {
                 slap_mods_free( mod.sml_next, 1 );                  slap_mods_free( mod.sml_next, 1 );
         }          }
Line 1640  syncprov_playlog( Operation *op, SlapRep Line 1624  syncprov_playlog( Operation *op, SlapRep
   
                 if ( delcsn[0].bv_len ) {                  if ( delcsn[0].bv_len ) {
                         slap_compose_sync_cookie( op, &cookie, delcsn, srs->sr_state.rid,                          slap_compose_sync_cookie( op, &cookie, delcsn, srs->sr_state.rid,
                                 slap_serverID ? slap_serverID : -1 );                                  srs->sr_state.sid );
   
                         Debug( LDAP_DEBUG_SYNC, "syncprov_playlog: cookie=%s\n", cookie.bv_val, 0, 0 );                          Debug( LDAP_DEBUG_SYNC, "syncprov_playlog: cookie=%s\n", cookie.bv_val, 0, 0 );
                 }                  }
Line 1669  syncprov_op_response( Operation *op, Sla Line 1653  syncprov_op_response( Operation *op, Sla
                 char cbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];                  char cbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];
                 int do_check = 0, have_psearches, foundit, csn_changed = 0;                  int do_check = 0, have_psearches, foundit, csn_changed = 0;
   
                 ldap_pvt_thread_mutex_lock( &si->si_resp_mutex );  
   
                 /* Update our context CSN */                  /* Update our context CSN */
                 cbuf[0] = '\0';                  cbuf[0] = '\0';
                 maxcsn.bv_val = cbuf;                  maxcsn.bv_val = cbuf;
                 maxcsn.bv_len = sizeof(cbuf);                  maxcsn.bv_len = sizeof(cbuf);
                 ldap_pvt_thread_rdwr_wlock( &si->si_csn_rwlock );                  ldap_pvt_thread_rdwr_wlock( &si->si_csn_rwlock );
   
                 if ( op->o_dont_replicate && op->o_tag == LDAP_REQ_MODIFY &&                  if ( op->o_dont_replicate &&
                                 op->orm_modlist->sml_op == LDAP_MOD_REPLACE &&                                  op->orm_modlist->sml_op == LDAP_MOD_REPLACE &&
                                 op->orm_modlist->sml_desc == slap_schema.si_ad_contextCSN ) {                                  op->orm_modlist->sml_desc == slap_schema.si_ad_contextCSN ) {
                         /* Catch contextCSN updates from syncrepl. We have to look at                          /* Catch contextCSN updates from syncrepl. We have to look at
Line 1724  syncprov_op_response( Operation *op, Sla Line 1706  syncprov_op_response( Operation *op, Sla
                                         }                                          }
                                 }                                  }
                         }                          }
                         goto leave;                          return SLAP_CB_CONTINUE;
                 }                  }
   
                 slap_get_commit_csn( op, &maxcsn, &foundit );                  slap_get_commit_csn( op, &maxcsn, &foundit );
Line 1766  syncprov_op_response( Operation *op, Sla Line 1748  syncprov_op_response( Operation *op, Sla
                                         sizeof(int));                                          sizeof(int));
                                 si->si_sids[i] = sid;                                  si->si_sids[i] = sid;
                         }                          }
 #if 0  
                 } else if ( !foundit ) {                  } else if ( !foundit ) {
                         /* internal ops that aren't meant to be replicated */                          /* internal ops that aren't meant to be replicated */
                         ldap_pvt_thread_rdwr_wunlock( &si->si_csn_rwlock );                          ldap_pvt_thread_rdwr_wunlock( &si->si_csn_rwlock );
                         return SLAP_CB_CONTINUE;                          return SLAP_CB_CONTINUE;
 #endif  
                 }                  }
   
                 /* Don't do any processing for consumer contextCSN updates */                  /* Don't do any processing for consumer contextCSN updates */
                 if ( op->o_dont_replicate ) {                  if ( op->o_dont_replicate ) {
                         ldap_pvt_thread_rdwr_wunlock( &si->si_csn_rwlock );                          ldap_pvt_thread_rdwr_wunlock( &si->si_csn_rwlock );
                         goto leave;                          return SLAP_CB_CONTINUE;
                 }                  }
   
                 si->si_numops++;                  si->si_numops++;
                 if ( si->si_chkops || si->si_chktime ) {                  if ( si->si_chkops || si->si_chktime ) {
                         /* Never checkpoint adding the context entry,                          if ( si->si_chkops && si->si_numops >= si->si_chkops ) {
                          * it will deadlock                                  do_check = 1;
                          */                                  si->si_numops = 0;
                         if ( op->o_tag != LDAP_REQ_ADD ||                          }
                                 !dn_match( &op->o_req_ndn, &si->si_contextdn )) {                          if ( si->si_chktime &&
                                 if ( si->si_chkops && si->si_numops >= si->si_chkops ) {                                  (op->o_time - si->si_chklast >= si->si_chktime )) {
                                   if ( si->si_chklast ) {
                                         do_check = 1;                                          do_check = 1;
                                         si->si_numops = 0;                                          si->si_chklast = op->o_time;
                                 }                                  } else {
                                 if ( si->si_chktime &&                                          si->si_chklast = 1;
                                         (op->o_time - si->si_chklast >= si->si_chktime )) {  
                                         if ( si->si_chklast ) {  
                                                 do_check = 1;  
                                                 si->si_chklast = op->o_time;  
                                         } else {  
                                                 si->si_chklast = 1;  
                                         }  
                                 }                                  }
                         }                          }
                 }                  }
Line 1844  syncprov_op_response( Operation *op, Sla Line 1818  syncprov_op_response( Operation *op, Sla
                 if ( si->si_logs && op->o_tag != LDAP_REQ_ADD ) {                  if ( si->si_logs && op->o_tag != LDAP_REQ_ADD ) {
                         syncprov_add_slog( op );                          syncprov_add_slog( op );
                 }                  }
 leave:          ldap_pvt_thread_mutex_unlock( &si->si_resp_mutex );  
         }          }
         return SLAP_CB_CONTINUE;          return SLAP_CB_CONTINUE;
 }  }
Line 1860  syncprov_op_compare( Operation *op, Slap Line 1834  syncprov_op_compare( Operation *op, Slap
         syncprov_info_t         *si = on->on_bi.bi_private;          syncprov_info_t         *si = on->on_bi.bi_private;
         int rc = SLAP_CB_CONTINUE;          int rc = SLAP_CB_CONTINUE;
   
         if ( dn_match( &op->o_req_ndn, &si->si_contextdn ) &&          if ( dn_match( &op->o_req_ndn, op->o_bd->be_nsuffix ) &&
                 op->oq_compare.rs_ava->aa_desc == slap_schema.si_ad_contextCSN )                  op->oq_compare.rs_ava->aa_desc == slap_schema.si_ad_contextCSN )
         {          {
                 Entry e = {0};                  Entry e = {0};
                 Attribute a = {0};                  Attribute a = {0};
   
                 e.e_name = si->si_contextdn;                  e.e_name = op->o_bd->be_suffix[0];
                 e.e_nname = si->si_contextdn;                  e.e_nname = op->o_bd->be_nsuffix[0];
                 e.e_attrs = &a;                  e.e_attrs = &a;
   
                 a.a_desc = slap_schema.si_ad_contextCSN;                  a.a_desc = slap_schema.si_ad_contextCSN;
Line 1943  syncprov_op_mod( Operation *op, SlapRepl Line 1917  syncprov_op_mod( Operation *op, SlapRepl
         cb->sc_next = op->o_callback;          cb->sc_next = op->o_callback;
         op->o_callback = cb;          op->o_callback = cb;
   
         opc->osid = -1;  
         opc->rsid = -1;  
         if ( op->o_csn.bv_val ) {  
                 opc->osid = slap_parse_csn_sid( &op->o_csn );  
         }  
         if ( op->o_controls ) {  
                 struct sync_cookie *scook =  
                 op->o_controls[slap_cids.sc_LDAPsync];  
                 if ( scook )  
                         opc->rsid = scook->sid;  
         }  
   
         /* If there are active persistent searches, lock this operation.          /* If there are active persistent searches, lock this operation.
          * See seqmod.c for the locking logic on its own.           * See seqmod.c for the locking logic on its own.
          */           */
Line 1971  syncprov_op_mod( Operation *op, SlapRepl Line 1933  syncprov_op_mod( Operation *op, SlapRepl
                 mt = avl_find( si->si_mods, &mtdummy, sp_avl_cmp );                  mt = avl_find( si->si_mods, &mtdummy, sp_avl_cmp );
                 if ( mt ) {                  if ( mt ) {
                         ldap_pvt_thread_mutex_lock( &mt->mt_mutex );                          ldap_pvt_thread_mutex_lock( &mt->mt_mutex );
                         if ( mt->mt_mods == NULL ) {  
                                 /* Cannot reuse this mt, as another thread is about  
                                  * to release it in syncprov_op_cleanup.  
                                  */  
                                 ldap_pvt_thread_mutex_unlock( &mt->mt_mutex );  
                                 mt = NULL;  
                         }  
                 }  
                 if ( mt ) {  
                         ldap_pvt_thread_mutex_unlock( &si->si_mods_mutex );                          ldap_pvt_thread_mutex_unlock( &si->si_mods_mutex );
                         mt->mt_tail->mi_next = mi;                          mt->mt_tail->mi_next = mi;
                         mt->mt_tail = mi;                          mt->mt_tail = mi;
Line 1991  syncprov_op_mod( Operation *op, SlapRepl Line 1944  syncprov_op_mod( Operation *op, SlapRepl
                                  * Currently it's not an issue because there are                                   * Currently it's not an issue because there are
                                  * no dynamic config deletes...                                   * no dynamic config deletes...
                                  */                                   */
                                 if ( slapd_shutdown )  
                                         return SLAPD_ABANDON;  
   
                                 if ( !ldap_pvt_thread_pool_pausecheck( &connection_pool ))                                  if ( !ldap_pvt_thread_pool_pausecheck( &connection_pool ))
                                         ldap_pvt_thread_yield();                                          ldap_pvt_thread_yield();
                                 ldap_pvt_thread_mutex_lock( &mt->mt_mutex );                                  ldap_pvt_thread_mutex_lock( &mt->mt_mutex );
Line 2021  syncprov_op_mod( Operation *op, SlapRepl Line 1971  syncprov_op_mod( Operation *op, SlapRepl
                         avl_insert( &si->si_mods, mt, sp_avl_cmp, avl_dup_error );                          avl_insert( &si->si_mods, mt, sp_avl_cmp, avl_dup_error );
                         ldap_pvt_thread_mutex_unlock( &si->si_mods_mutex );                          ldap_pvt_thread_mutex_unlock( &si->si_mods_mutex );
                 }                  }
                 opc->smt = mt;  
         }          }
   
         if (( have_psearches || si->si_logs ) && op->o_tag != LDAP_REQ_ADD )          if (( have_psearches || si->si_logs ) && op->o_tag != LDAP_REQ_ADD )
Line 2237  syncprov_search_response( Operation *op, Line 2186  syncprov_search_response( Operation *op,
                 /* If we're in delta-sync mode, always send a cookie */                  /* If we're in delta-sync mode, always send a cookie */
                 if ( si->si_nopres && si->si_usehint && a ) {                  if ( si->si_nopres && si->si_usehint && a ) {
                         struct berval cookie;                          struct berval cookie;
                         slap_compose_sync_cookie( op, &cookie, a->a_nvals, srs->sr_state.rid, slap_serverID ? slap_serverID : -1 );                          slap_compose_sync_cookie( op, &cookie, a->a_nvals, srs->sr_state.rid, srs->sr_state.sid );
                         rs->sr_err = syncprov_state_ctrl( op, rs, rs->sr_entry,                          rs->sr_err = syncprov_state_ctrl( op, rs, rs->sr_entry,
                                 LDAP_SYNC_ADD, rs->sr_ctrls, 0, 1, &cookie );                                  LDAP_SYNC_ADD, rs->sr_ctrls, 0, 1, &cookie );
                 } else {                  } else {
Line 2245  syncprov_search_response( Operation *op, Line 2194  syncprov_search_response( Operation *op,
                                 LDAP_SYNC_ADD, rs->sr_ctrls, 0, 0, NULL );                                  LDAP_SYNC_ADD, rs->sr_ctrls, 0, 0, NULL );
                 }                  }
         } else if ( rs->sr_type == REP_RESULT && rs->sr_err == LDAP_SUCCESS ) {          } else if ( rs->sr_type == REP_RESULT && rs->sr_err == LDAP_SUCCESS ) {
                 struct berval cookie = BER_BVNULL;                  struct berval cookie;
   
                 if ( ( ss->ss_flags & SS_CHANGED ) &&                  if ( ss->ss_flags & SS_CHANGED ) {
                         ss->ss_ctxcsn && !BER_BVISNULL( &ss->ss_ctxcsn[0] )) {  
                         slap_compose_sync_cookie( op, &cookie, ss->ss_ctxcsn,                          slap_compose_sync_cookie( op, &cookie, ss->ss_ctxcsn,
                                 srs->sr_state.rid, slap_serverID ? slap_serverID : -1 );                                  srs->sr_state.rid, srs->sr_state.sid );
   
                         Debug( LDAP_DEBUG_SYNC, "syncprov_search_response: cookie=%s\n", cookie.bv_val, 0, 0 );                          Debug( LDAP_DEBUG_SYNC, "syncprov_search_response: cookie=%s\n", cookie.bv_val, 0, 0 );
                 }                  }
Line 2272  syncprov_search_response( Operation *op, Line 2220  syncprov_search_response( Operation *op,
                                 LDAP_TAG_SYNC_REFRESH_PRESENT : LDAP_TAG_SYNC_REFRESH_DELETE,                                  LDAP_TAG_SYNC_REFRESH_PRESENT : LDAP_TAG_SYNC_REFRESH_DELETE,
                                 ( ss->ss_flags & SS_CHANGED ) ? &cookie : NULL,                                  ( ss->ss_flags & SS_CHANGED ) ? &cookie : NULL,
                                 1, NULL, 0 );                                  1, NULL, 0 );
                         if ( !BER_BVISNULL( &cookie ))                          if ( ss->ss_flags & SS_CHANGED )
                                 op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );                                  op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );
   
                         /* Detach this Op from frontend control */                          /* Detach this Op from frontend control */
Line 2426  syncprov_op_search( Operation *op, SlapR Line 2374  syncprov_op_search( Operation *op, SlapR
   
                 /* If nothing has changed, shortcut it */                  /* If nothing has changed, shortcut it */
                 if ( srs->sr_state.numcsns == numcsns ) {                  if ( srs->sr_state.numcsns == numcsns ) {
                         int i, j, newer;                          int i, j;
                         for ( i=0; i<srs->sr_state.numcsns; i++ ) {                          for ( i=0; i<srs->sr_state.numcsns; i++ ) {
                                 for ( j=0; j<numcsns; j++ ) {                                  for ( j=0; j<numcsns; j++ ) {
                                         if ( srs->sr_state.sids[i] != sids[j] )                                          if ( srs->sr_state.sids[i] != sids[j] )
                                                 continue;                                                  continue;
                                         newer = ber_bvcmp( &srs->sr_state.ctxcsn[i], &ctxcsn[j] );                                          if ( !bvmatch( &srs->sr_state.ctxcsn[i], &ctxcsn[j] ))
                                         /* If our state is newer, tell consumer about changes */  
                                         if ( newer < 0 )  
                                                 changed = SS_CHANGED;                                                  changed = SS_CHANGED;
                                         else if ( newer > 0 ) {  
                                         /* our state is older, tell consumer nothing */  
                                                 if ( sop ) {  
                                                         syncops **sp = &si->si_ops;  
                                                           
                                                         ldap_pvt_thread_mutex_lock( &si->si_ops_mutex );  
                                                         while ( *sp != sop )  
                                                                 sp = &(*sp)->s_next;  
                                                         *sp = sop->s_next;  
                                                         ldap_pvt_thread_mutex_unlock( &si->si_ops_mutex );  
                                                         ch_free( sop );  
                                                 }  
                                                 rs->sr_err = LDAP_SUCCESS;  
                                                 rs->sr_ctrls = NULL;  
                                                 send_ldap_result( op, rs );  
                                                 return rs->sr_err;  
                                         }  
                                         break;                                          break;
                                 }                                  }
                                 if ( changed )                                  if ( changed )
Line 2606  syncprov_operational( Line 2535  syncprov_operational(
                 return SLAP_CB_CONTINUE;                  return SLAP_CB_CONTINUE;
   
         if ( rs->sr_entry &&          if ( rs->sr_entry &&
                 dn_match( &rs->sr_entry->e_nname, &si->si_contextdn )) {                  dn_match( &rs->sr_entry->e_nname, op->o_bd->be_nsuffix )) {
   
                 if ( SLAP_OPATTRS( rs->sr_attr_flags ) ||                  if ( SLAP_OPATTRS( rs->sr_attr_flags ) ||
                         ad_inlist( slap_schema.si_ad_contextCSN, rs->sr_attrs )) {                          ad_inlist( slap_schema.si_ad_contextCSN, rs->sr_attrs )) {
Line 2713  sp_cf_gen(ConfigArgs *c) Line 2642  sp_cf_gen(ConfigArgs *c)
                 case SP_CHKPT:                  case SP_CHKPT:
                         if ( si->si_chkops || si->si_chktime ) {                          if ( si->si_chkops || si->si_chktime ) {
                                 struct berval bv;                                  struct berval bv;
                                 /* we assume si_chktime is a multiple of 60  
                                  * because the parsed value was originally  
                                  * multiplied by 60 */  
                                 bv.bv_len = snprintf( c->cr_msg, sizeof( c->cr_msg ),                                  bv.bv_len = snprintf( c->cr_msg, sizeof( c->cr_msg ),
                                         "%d %d", si->si_chkops, si->si_chktime/60 );                                          "%d %d", si->si_chkops, si->si_chktime );
                                 if ( bv.bv_len >= sizeof( c->cr_msg ) ) {                                  if ( bv.bv_len >= sizeof( c->cr_msg ) ) {
                                         rc = 1;                                          rc = 1;
                                 } else {                                  } else {
Line 2893  syncprov_db_open( Line 2819  syncprov_db_open(
         }          }
   
         thrctx = ldap_pvt_thread_pool_context();          thrctx = ldap_pvt_thread_pool_context();
         connection_fake_init2( &conn, &opbuf, thrctx, 0 );          connection_fake_init( &conn, &opbuf, thrctx );
         op = &opbuf.ob_op;          op = &opbuf.ob_op;
         op->o_bd = be;          op->o_bd = be;
         op->o_dn = be->be_rootdn;          op->o_dn = be->be_rootdn;
         op->o_ndn = be->be_rootndn;          op->o_ndn = be->be_rootndn;
   
         if ( SLAP_SYNC_SUBENTRY( be )) {          rc = overlay_entry_get_ov( op, be->be_nsuffix, NULL,
                 build_new_dn( &si->si_contextdn, be->be_nsuffix,  
                         (struct berval *)&slap_ldapsync_cn_bv, NULL );  
         } else {  
                 si->si_contextdn = be->be_nsuffix[0];  
         }  
         rc = overlay_entry_get_ov( op, &si->si_contextdn, NULL,  
                 slap_schema.si_ad_contextCSN, 0, &e, on );                  slap_schema.si_ad_contextCSN, 0, &e, on );
   
         if ( e ) {          if ( e ) {
Line 2978  syncprov_db_close( Line 2898  syncprov_db_close(
                 void *thrctx;                  void *thrctx;
   
                 thrctx = ldap_pvt_thread_pool_context();                  thrctx = ldap_pvt_thread_pool_context();
                 connection_fake_init2( &conn, &opbuf, thrctx, 0 );                  connection_fake_init( &conn, &opbuf, thrctx );
                 op = &opbuf.ob_op;                  op = &opbuf.ob_op;
                 op->o_bd = be;                  op->o_bd = be;
                 op->o_dn = be->be_rootdn;                  op->o_dn = be->be_rootdn;
Line 3010  syncprov_db_init( Line 2930  syncprov_db_init(
         ldap_pvt_thread_rdwr_init( &si->si_csn_rwlock );          ldap_pvt_thread_rdwr_init( &si->si_csn_rwlock );
         ldap_pvt_thread_mutex_init( &si->si_ops_mutex );          ldap_pvt_thread_mutex_init( &si->si_ops_mutex );
         ldap_pvt_thread_mutex_init( &si->si_mods_mutex );          ldap_pvt_thread_mutex_init( &si->si_mods_mutex );
         ldap_pvt_thread_mutex_init( &si->si_resp_mutex );  
   
         csn_anlist[0].an_desc = slap_schema.si_ad_entryCSN;          csn_anlist[0].an_desc = slap_schema.si_ad_entryCSN;
         csn_anlist[0].an_name = slap_schema.si_ad_entryCSN->ad_cname;          csn_anlist[0].an_name = slap_schema.si_ad_entryCSN->ad_cname;
Line 3048  syncprov_db_destroy( Line 2967  syncprov_db_destroy(
                         ber_bvarray_free( si->si_ctxcsn );                          ber_bvarray_free( si->si_ctxcsn );
                 if ( si->si_sids )                  if ( si->si_sids )
                         ch_free( si->si_sids );                          ch_free( si->si_sids );
                 ldap_pvt_thread_mutex_destroy( &si->si_resp_mutex );  
                 ldap_pvt_thread_mutex_destroy( &si->si_mods_mutex );                  ldap_pvt_thread_mutex_destroy( &si->si_mods_mutex );
                 ldap_pvt_thread_mutex_destroy( &si->si_ops_mutex );                  ldap_pvt_thread_mutex_destroy( &si->si_ops_mutex );
                 ldap_pvt_thread_rdwr_destroy( &si->si_csn_rwlock );                  ldap_pvt_thread_rdwr_destroy( &si->si_csn_rwlock );

Removed from v.1.147.2.64  
changed lines
  Added in v.1.264


______________
© Copyright 1998-2020, OpenLDAP Foundation, info@OpenLDAP.org