Diff for /servers/slapd/overlays/syncprov.c between versions 1.56.2.29 and 1.56.2.43

version 1.56.2.29, 2006/04/05 18:26:36 version 1.56.2.43, 2007/06/08 07:08:39
Line 1 Line 1
 /* $OpenLDAP: pkg/ldap/servers/slapd/overlays/syncprov.c,v 1.56.2.28 2006/02/13 18:33:45 kurt Exp $ */  /* $OpenLDAP$ */
 /* syncprov.c - syncrepl provider */  /* syncprov.c - syncrepl provider */
 /* This work is part of OpenLDAP Software <http://www.openldap.org/>.  /* This work is part of OpenLDAP Software <http://www.openldap.org/>.
  *   *
  * Copyright 2004-2006 The OpenLDAP Foundation.   * Copyright 2004-2007 The OpenLDAP Foundation.
  * All rights reserved.   * All rights reserved.
  *   *
  * Redistribution and use in source and binary forms, with or without   * Redistribution and use in source and binary forms, with or without
Line 65  typedef struct syncops { Line 65  typedef struct syncops {
 #define PS_IS_DETACHED          0x02  #define PS_IS_DETACHED          0x02
 #define PS_WROTE_BASE           0x04  #define PS_WROTE_BASE           0x04
 #define PS_FIND_BASE            0x08  #define PS_FIND_BASE            0x08
   #define PS_FIX_FILTER           0x10
   
         int             s_inuse;        /* reference count */          int             s_inuse;        /* reference count */
         struct syncres *s_res;          struct syncres *s_res;
Line 126  typedef struct syncprov_info_t { Line 127  typedef struct syncprov_info_t {
         time_t  si_chklast;     /* time of last checkpoint */          time_t  si_chklast;     /* time of last checkpoint */
         Avlnode *si_mods;       /* entries being modified */          Avlnode *si_mods;       /* entries being modified */
         sessionlog      *si_logs;          sessionlog      *si_logs;
         ldap_pvt_thread_mutex_t si_csn_mutex;          ldap_pvt_thread_rdwr_t  si_csn_rwlock;
         ldap_pvt_thread_mutex_t si_ops_mutex;          ldap_pvt_thread_mutex_t si_ops_mutex;
         ldap_pvt_thread_mutex_t si_mods_mutex;          ldap_pvt_thread_mutex_t si_mods_mutex;
         char            si_ctxcsnbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];          char            si_ctxcsnbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];
Line 579  syncprov_findcsn( Operation *op, find_cs Line 580  syncprov_findcsn( Operation *op, find_cs
         char buf[LDAP_LUTIL_CSNSTR_BUFSIZE + STRLENOF("(entryCSN<=)")];          char buf[LDAP_LUTIL_CSNSTR_BUFSIZE + STRLENOF("(entryCSN<=)")];
         char cbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];          char cbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];
         struct berval maxcsn;          struct berval maxcsn;
         Filter cf, af;          Filter cf;
 #ifdef LDAP_COMP_MATCH  #ifdef LDAP_COMP_MATCH
         AttributeAssertion eq = { NULL, BER_BVNULL, NULL };          AttributeAssertion eq = { NULL, BER_BVNULL, NULL };
 #else  #else
Line 651  again: Line 652  again:
                 cb.sc_response = findcsn_cb;                  cb.sc_response = findcsn_cb;
                 break;                  break;
         case FIND_PRESENT:          case FIND_PRESENT:
                 af.f_choice = LDAP_FILTER_AND;                  fop.ors_filter = op->ors_filter;
                 af.f_next = NULL;                  fop.ors_filterstr = op->ors_filterstr;
                 af.f_and = &cf;  
                 cf.f_choice = LDAP_FILTER_LE;  
                 cf.f_av_value = srs->sr_state.ctxcsn;  
                 cf.f_next = op->ors_filter;  
                 fop.ors_filter = &af;  
                 filter2bv_x( &fop, fop.ors_filter, &fop.ors_filterstr );  
                 fop.ors_attrsonly = 0;                  fop.ors_attrsonly = 0;
                 fop.ors_attrs = uuid_anlist;                  fop.ors_attrs = uuid_anlist;
                 fop.ors_slimit = SLAP_NO_LIMIT;                  fop.ors_slimit = SLAP_NO_LIMIT;
Line 702  again: Line 697  again:
                 break;                  break;
         case FIND_PRESENT:          case FIND_PRESENT:
                 op->o_tmpfree( pcookie.uuids, op->o_tmpmemctx );                  op->o_tmpfree( pcookie.uuids, op->o_tmpmemctx );
                 op->o_tmpfree( fop.ors_filterstr.bv_val, op->o_tmpmemctx );  
                 break;                  break;
         }          }
   
Line 773  syncprov_sendresp( Operation *op, opcook Line 767  syncprov_sendresp( Operation *op, opcook
                         rs.sr_flags = REP_ENTRY_MUSTRELEASE;                          rs.sr_flags = REP_ENTRY_MUSTRELEASE;
                 if ( opc->sreference ) {                  if ( opc->sreference ) {
                         rs.sr_ref = get_entry_referrals( op, rs.sr_entry );                          rs.sr_ref = get_entry_referrals( op, rs.sr_entry );
                         send_search_reference( op, &rs );                          rs.sr_err = send_search_reference( op, &rs );
                         ber_bvarray_free( rs.sr_ref );                          ber_bvarray_free( rs.sr_ref );
                         if ( !rs.sr_entry )                          if ( !rs.sr_entry )
                                 *e = NULL;                                  *e = NULL;
Line 785  syncprov_sendresp( Operation *op, opcook Line 779  syncprov_sendresp( Operation *op, opcook
                 if ( rs.sr_entry->e_private )                  if ( rs.sr_entry->e_private )
                         rs.sr_flags = REP_ENTRY_MUSTRELEASE;                          rs.sr_flags = REP_ENTRY_MUSTRELEASE;
                 rs.sr_attrs = op->ors_attrs;                  rs.sr_attrs = op->ors_attrs;
                 send_search_entry( op, &rs );                  rs.sr_err = send_search_entry( op, &rs );
                 if ( !rs.sr_entry )                  if ( !rs.sr_entry )
                         *e = NULL;                          *e = NULL;
                 break;                  break;
Line 797  syncprov_sendresp( Operation *op, opcook Line 791  syncprov_sendresp( Operation *op, opcook
                 if ( opc->sreference ) {                  if ( opc->sreference ) {
                         struct berval bv = BER_BVNULL;                          struct berval bv = BER_BVNULL;
                         rs.sr_ref = &bv;                          rs.sr_ref = &bv;
                         send_search_reference( op, &rs );                          rs.sr_err = send_search_reference( op, &rs );
                 } else {                  } else {
                         send_search_entry( op, &rs );                          rs.sr_err = send_search_entry( op, &rs );
                 }                  }
                 break;                  break;
         default:          default:
Line 848  syncprov_qplay( Operation *op, slap_over Line 842  syncprov_qplay( Operation *op, slap_over
                 if ( sr->s_mode != LDAP_SYNC_DELETE ) {                  if ( sr->s_mode != LDAP_SYNC_DELETE ) {
                         rc = be_entry_get_rw( op, &opc.sndn, NULL, NULL, 0, &e );                          rc = be_entry_get_rw( op, &opc.sndn, NULL, NULL, 0, &e );
                         if ( rc ) {                          if ( rc ) {
                                   Debug( LDAP_DEBUG_SYNC, "syncprov_qplay: failed to get %s, "
                                           "error (%d), ignoring...\n", opc.sndn.bv_val, rc, 0 );
                                 ch_free( sr );                                  ch_free( sr );
                                   rc = 0;
                                 continue;                                  continue;
                         }                          }
                 }                  }
Line 877  syncprov_qtask( void *ctx, void *arg ) Line 874  syncprov_qtask( void *ctx, void *arg )
         OperationBuffer opbuf;          OperationBuffer opbuf;
         Operation *op;          Operation *op;
         BackendDB be;          BackendDB be;
           int rc;
   
         op = (Operation *) &opbuf;          op = (Operation *) &opbuf;
         *op = *so->s_op;          *op = *so->s_op;
Line 897  syncprov_qtask( void *ctx, void *arg ) Line 895  syncprov_qtask( void *ctx, void *arg )
         op->o_private = NULL;          op->o_private = NULL;
         op->o_callback = NULL;          op->o_callback = NULL;
   
         (void)syncprov_qplay( op, on, so );          rc = syncprov_qplay( op, on, so );
   
         /* decrement use count... */          /* decrement use count... */
         syncprov_free_syncop( so );          syncprov_free_syncop( so );
   
         /* wait until we get explicitly scheduled again */          /* wait until we get explicitly scheduled again */
         ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );          ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );
         ldap_pvt_runqueue_stoptask( &slapd_rq, so->s_qtask );          ldap_pvt_runqueue_stoptask( &slapd_rq, rtask );
         ldap_pvt_runqueue_resched( &slapd_rq, so->s_qtask, 1 );          if ( rc == 0 ) {
                   ldap_pvt_runqueue_resched( &slapd_rq, rtask, 1 );
           } else {
                   /* bail out on any error */
                   ldap_pvt_runqueue_remove( &slapd_rq, rtask );
           }
         ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );          ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );
   
         return NULL;          return NULL;
 }  }
   
   /* Start the task to play back queued psearch responses */
   static void
   syncprov_qstart( syncops *so )
   {
           int wake=0;
           ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );
           if ( !so->s_qtask ) {
                   so->s_qtask = ldap_pvt_runqueue_insert( &slapd_rq, RUNQ_INTERVAL,
                           syncprov_qtask, so, "syncprov_qtask",
                           so->s_op->o_conn->c_peer_name.bv_val );
                   ++so->s_inuse;
                   wake = 1;
           } else {
                   if (!ldap_pvt_runqueue_isrunning( &slapd_rq, so->s_qtask ) &&
                           !so->s_qtask->next_sched.tv_sec ) {
                           so->s_qtask->interval.tv_sec = 0;
                           ldap_pvt_runqueue_resched( &slapd_rq, so->s_qtask, 0 );
                           so->s_qtask->interval.tv_sec = RUNQ_INTERVAL;
                           ++so->s_inuse;
                           wake = 1;
                   }
           }
           ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );
           if ( wake )
                   slap_wake_listener();
   }
   
 /* Queue a persistent search response */  /* Queue a persistent search response */
 static int  static int
 syncprov_qresp( opcookie *opc, syncops *so, int mode )  syncprov_qresp( opcookie *opc, syncops *so, int mode )
Line 949  syncprov_qresp( opcookie *opc, syncops * Line 979  syncprov_qresp( opcookie *opc, syncops *
                 so->s_flags |= PS_FIND_BASE;                  so->s_flags |= PS_FIND_BASE;
         }          }
         if ( so->s_flags & PS_IS_DETACHED ) {          if ( so->s_flags & PS_IS_DETACHED ) {
                 int wake=0;                  syncprov_qstart( so );
                 ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );  
                 if ( !so->s_qtask ) {  
                         so->s_qtask = ldap_pvt_runqueue_insert( &slapd_rq, RUNQ_INTERVAL,  
                                 syncprov_qtask, so, "syncprov_qtask",  
                                 so->s_op->o_conn->c_peer_name.bv_val );  
                         ++so->s_inuse;  
                         wake = 1;  
                 } else {  
                         if (!ldap_pvt_runqueue_isrunning( &slapd_rq, so->s_qtask ) &&  
                                 !so->s_qtask->next_sched.tv_sec ) {  
                                 so->s_qtask->interval.tv_sec = 0;  
                                 ldap_pvt_runqueue_resched( &slapd_rq, so->s_qtask, 0 );  
                                 so->s_qtask->interval.tv_sec = RUNQ_INTERVAL;  
                                 ++so->s_inuse;  
                                 wake = 1;  
                         }  
                 }  
                 ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );  
                 if ( wake )  
                         slap_wake_listener();  
         }          }
         ldap_pvt_thread_mutex_unlock( &so->s_mutex );          ldap_pvt_thread_mutex_unlock( &so->s_mutex );
         return LDAP_SUCCESS;          return LDAP_SUCCESS;
Line 1055  syncprov_matchops( Operation *op, opcook Line 1065  syncprov_matchops( Operation *op, opcook
         int rc;          int rc;
         struct berval newdn;          struct berval newdn;
         int freefdn = 0;          int freefdn = 0;
           BackendDB *b0 = op->o_bd, db;
   
         fc.fdn = &op->o_req_ndn;          fc.fdn = &op->o_req_ndn;
         /* compute new DN */          /* compute new DN */
Line 1067  syncprov_matchops( Operation *op, opcook Line 1078  syncprov_matchops( Operation *op, opcook
                 freefdn = 1;                  freefdn = 1;
         }          }
         if ( op->o_tag != LDAP_REQ_ADD ) {          if ( op->o_tag != LDAP_REQ_ADD ) {
                   if ( !SLAP_ISOVERLAY( op->o_bd )) {
                           db = *op->o_bd;
                           op->o_bd = &db;
                   }
                 op->o_bd->bd_info = (BackendInfo *)on->on_info;                  op->o_bd->bd_info = (BackendInfo *)on->on_info;
                 rc = be_entry_get_rw( op, fc.fdn, NULL, NULL, 0, &e );                  rc = be_entry_get_rw( op, fc.fdn, NULL, NULL, 0, &e );
                 /* If we're sending responses now, make a copy and unlock the DB */                  /* If we're sending responses now, make a copy and unlock the DB */
Line 1076  syncprov_matchops( Operation *op, opcook Line 1091  syncprov_matchops( Operation *op, opcook
                         e = e2;                          e = e2;
                 }                  }
                 op->o_bd->bd_info = (BackendInfo *)on;                  op->o_bd->bd_info = (BackendInfo *)on;
                 if ( rc ) return;                  if ( rc ) {
                           op->o_bd = b0;
                           return;
                   }
         } else {          } else {
                 e = op->ora_e;                  e = op->ora_e;
         }          }
Line 1174  syncprov_matchops( Operation *op, opcook Line 1192  syncprov_matchops( Operation *op, opcook
         if ( freefdn ) {          if ( freefdn ) {
                 op->o_tmpfree( fc.fdn->bv_val, op->o_tmpmemctx );                  op->o_tmpfree( fc.fdn->bv_val, op->o_tmpmemctx );
         }          }
           op->o_bd = b0;
 }  }
   
 static int  static int
Line 1235  syncprov_checkpoint( Operation *op, Slap Line 1254  syncprov_checkpoint( Operation *op, Slap
         struct berval bv[2];          struct berval bv[2];
         slap_callback cb = {0};          slap_callback cb = {0};
   
         mod.sml_values = bv;          /* If ctxcsn is empty, delete it */
         bv[1].bv_val = NULL;          if ( BER_BVISEMPTY( &si->si_ctxcsn )) {
         bv[0] = si->si_ctxcsn;                  mod.sml_values = NULL;
           } else {
                   mod.sml_values = bv;
                   bv[1].bv_val = NULL;
                   bv[0] = si->si_ctxcsn;
           }
         mod.sml_nvalues = NULL;          mod.sml_nvalues = NULL;
         mod.sml_desc = slap_schema.si_ad_contextCSN;          mod.sml_desc = slap_schema.si_ad_contextCSN;
         mod.sml_op = LDAP_MOD_REPLACE;          mod.sml_op = LDAP_MOD_REPLACE;
Line 1262  syncprov_checkpoint( Operation *op, Slap Line 1286  syncprov_checkpoint( Operation *op, Slap
 }  }
   
 static void  static void
 syncprov_add_slog( Operation *op, struct berval *csn )  syncprov_add_slog( Operation *op )
 {  {
         opcookie *opc = op->o_callback->sc_private;          opcookie *opc = op->o_callback->sc_private;
         slap_overinst *on = opc->son;          slap_overinst *on = opc->son;
Line 1274  syncprov_add_slog( Operation *op, struct Line 1298  syncprov_add_slog( Operation *op, struct
         {          {
                 /* Allocate a record. UUIDs are not NUL-terminated. */                  /* Allocate a record. UUIDs are not NUL-terminated. */
                 se = ch_malloc( sizeof( slog_entry ) + opc->suuid.bv_len +                   se = ch_malloc( sizeof( slog_entry ) + opc->suuid.bv_len + 
                         csn->bv_len + 1 );                          op->o_csn.bv_len + 1 );
                 se->se_next = NULL;                  se->se_next = NULL;
                 se->se_tag = op->o_tag;                  se->se_tag = op->o_tag;
   
Line 1283  syncprov_add_slog( Operation *op, struct Line 1307  syncprov_add_slog( Operation *op, struct
                 se->se_uuid.bv_len = opc->suuid.bv_len;                  se->se_uuid.bv_len = opc->suuid.bv_len;
   
                 se->se_csn.bv_val = se->se_uuid.bv_val + opc->suuid.bv_len;                  se->se_csn.bv_val = se->se_uuid.bv_val + opc->suuid.bv_len;
                 AC_MEMCPY( se->se_csn.bv_val, csn->bv_val, csn->bv_len );                  AC_MEMCPY( se->se_csn.bv_val, op->o_csn.bv_val, op->o_csn.bv_len );
                 se->se_csn.bv_val[csn->bv_len] = '\0';                  se->se_csn.bv_val[op->o_csn.bv_len] = '\0';
                 se->se_csn.bv_len = csn->bv_len;                  se->se_csn.bv_len = op->o_csn.bv_len;
   
                 ldap_pvt_thread_mutex_lock( &sl->sl_mutex );                  ldap_pvt_thread_mutex_lock( &sl->sl_mutex );
                 if ( sl->sl_head ) {                  if ( sl->sl_head ) {
Line 1320  playlog_cb( Operation *op, SlapReply *rs Line 1344  playlog_cb( Operation *op, SlapReply *rs
 /* enter with sl->sl_mutex locked, release before returning */  /* enter with sl->sl_mutex locked, release before returning */
 static void  static void
 syncprov_playlog( Operation *op, SlapReply *rs, sessionlog *sl,  syncprov_playlog( Operation *op, SlapReply *rs, sessionlog *sl,
         struct berval *oldcsn, struct berval *ctxcsn )          sync_control *srs, struct berval *ctxcsn )
 {  {
         slap_overinst           *on = (slap_overinst *)op->o_bd->bd_info;          slap_overinst           *on = (slap_overinst *)op->o_bd->bd_info;
         slog_entry *se;          slog_entry *se;
         int i, j, ndel, num, nmods, mmods;          int i, j, ndel, num, nmods, mmods;
           char cbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];
         BerVarray uuids;          BerVarray uuids;
           struct berval delcsn;
   
         if ( !sl->sl_num ) {          if ( !sl->sl_num ) {
                 ldap_pvt_thread_mutex_unlock( &sl->sl_mutex );                  ldap_pvt_thread_mutex_unlock( &sl->sl_mutex );
Line 1338  syncprov_playlog( Operation *op, SlapRep Line 1364  syncprov_playlog( Operation *op, SlapRep
   
         uuids = op->o_tmpalloc( (num+1) * sizeof( struct berval ) +          uuids = op->o_tmpalloc( (num+1) * sizeof( struct berval ) +
                 num * UUID_LEN, op->o_tmpmemctx );                  num * UUID_LEN, op->o_tmpmemctx );
   
         uuids[0].bv_val = (char *)(uuids + num + 1);          uuids[0].bv_val = (char *)(uuids + num + 1);
   
           delcsn.bv_len = 0;
           delcsn.bv_val = cbuf;
   
         /* Make a copy of the relevant UUIDs. Put the Deletes up front          /* Make a copy of the relevant UUIDs. Put the Deletes up front
          * and everything else at the end. Do this first so we can           * and everything else at the end. Do this first so we can
          * unlock the list mutex.           * unlock the list mutex.
          */           */
           Debug( LDAP_DEBUG_SYNC, "srs csn %s\n", srs->sr_state.ctxcsn.bv_val, 0, 0 );
         for ( se=sl->sl_head; se; se=se->se_next ) {          for ( se=sl->sl_head; se; se=se->se_next ) {
                 if ( ber_bvcmp( &se->se_csn, oldcsn ) < 0 ) continue;                  Debug( LDAP_DEBUG_SYNC, "log csn %s\n", se->se_csn.bv_val, 0, 0 );
                 if ( ber_bvcmp( &se->se_csn, ctxcsn ) > 0 ) break;                  ndel = ber_bvcmp( &se->se_csn, &srs->sr_state.ctxcsn );
                   if ( ndel <= 0 ) {
                           Debug( LDAP_DEBUG_SYNC, "cmp %d, too old\n", ndel, 0, 0 );
                           continue;
                   }
                   ndel = ber_bvcmp( &se->se_csn, ctxcsn );
                   if ( ndel > 0 ) {
                           Debug( LDAP_DEBUG_SYNC, "cmp %d, too new\n", ndel, 0, 0 );
                           break;
                   }
                 if ( se->se_tag == LDAP_REQ_DELETE ) {                  if ( se->se_tag == LDAP_REQ_DELETE ) {
                         j = i;                          j = i;
                         i++;                          i++;
                           AC_MEMCPY( cbuf, se->se_csn.bv_val, se->se_csn.bv_len );
                           delcsn.bv_len = se->se_csn.bv_len;
                           delcsn.bv_val[delcsn.bv_len] = '\0';
                 } else {                  } else {
                         nmods++;                          nmods++;
                         j = num - nmods;                          j = num - nmods;
Line 1442  syncprov_playlog( Operation *op, SlapRep Line 1483  syncprov_playlog( Operation *op, SlapRep
                 fop.o_bd->bd_info = (BackendInfo *)on;                  fop.o_bd->bd_info = (BackendInfo *)on;
         }          }
         if ( ndel ) {          if ( ndel ) {
                   struct berval cookie;
   
                   slap_compose_sync_cookie( op, &cookie, &delcsn, srs->sr_state.rid );
                 uuids[ndel].bv_val = NULL;                  uuids[ndel].bv_val = NULL;
                 syncprov_sendinfo( op, rs, LDAP_TAG_SYNC_ID_SET, NULL, 0, uuids, 1 );                  syncprov_sendinfo( op, rs, LDAP_TAG_SYNC_ID_SET, &cookie, 0, uuids, 1 );
                   op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );
         }          }
           op->o_tmpfree( uuids, op->o_tmpmemctx );
 }  }
   
 static int  static int
Line 1457  syncprov_op_response( Operation *op, Sla Line 1503  syncprov_op_response( Operation *op, Sla
   
         if ( rs->sr_err == LDAP_SUCCESS )          if ( rs->sr_err == LDAP_SUCCESS )
         {          {
                 struct berval maxcsn = BER_BVNULL, curcsn = BER_BVNULL;                  struct berval maxcsn = BER_BVNULL;
                 char cbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];                  char cbuf[LDAP_LUTIL_CSNSTR_BUFSIZE];
                   int do_check=0;
   
                 /* Update our context CSN */                  /* Update our context CSN */
                 cbuf[0] = '\0';                  cbuf[0] = '\0';
                 ldap_pvt_thread_mutex_lock( &si->si_csn_mutex );                  ldap_pvt_thread_rdwr_wlock( &si->si_csn_rwlock );
                 slap_get_commit_csn( op, &maxcsn, &curcsn );                  slap_get_commit_csn( op, &maxcsn );
                 if ( !BER_BVISNULL( &maxcsn ) ) {                  if ( !BER_BVISNULL( &maxcsn ) ) {
                         strcpy( cbuf, maxcsn.bv_val );                          strcpy( cbuf, maxcsn.bv_val );
                         if ( ber_bvcmp( &maxcsn, &si->si_ctxcsn ) > 0 ) {                          if ( ber_bvcmp( &maxcsn, &si->si_ctxcsn ) > 0 ) {
Line 1475  syncprov_op_response( Operation *op, Sla Line 1522  syncprov_op_response( Operation *op, Sla
                 /* Don't do any processing for consumer contextCSN updates */                  /* Don't do any processing for consumer contextCSN updates */
                 if ( SLAP_SYNC_SHADOW( op->o_bd ) &&                   if ( SLAP_SYNC_SHADOW( op->o_bd ) && 
                         op->o_msgid == SLAP_SYNC_UPDATE_MSGID ) {                          op->o_msgid == SLAP_SYNC_UPDATE_MSGID ) {
                         ldap_pvt_thread_mutex_unlock( &si->si_csn_mutex );                          ldap_pvt_thread_rdwr_wunlock( &si->si_csn_rwlock );
                         return SLAP_CB_CONTINUE;                          return SLAP_CB_CONTINUE;
                 }                  }
   
                 si->si_numops++;                  si->si_numops++;
                 if ( si->si_chkops || si->si_chktime ) {                  if ( si->si_chkops || si->si_chktime ) {
                         int do_check=0;  
                         if ( si->si_chkops && si->si_numops >= si->si_chkops ) {                          if ( si->si_chkops && si->si_numops >= si->si_chkops ) {
                                 do_check = 1;                                  do_check = 1;
                                 si->si_numops = 0;                                  si->si_numops = 0;
Line 1491  syncprov_op_response( Operation *op, Sla Line 1537  syncprov_op_response( Operation *op, Sla
                                 do_check = 1;                                  do_check = 1;
                                 si->si_chklast = op->o_time;                                  si->si_chklast = op->o_time;
                         }                          }
                         if ( do_check ) {  
                                 syncprov_checkpoint( op, rs, on );  
                         }  
                 }                  }
                 ldap_pvt_thread_mutex_unlock( &si->si_csn_mutex );                  ldap_pvt_thread_rdwr_wunlock( &si->si_csn_rwlock );
   
                   if ( do_check ) {
                           ldap_pvt_thread_rdwr_rlock( &si->si_csn_rwlock );
                           syncprov_checkpoint( op, rs, on );
                           ldap_pvt_thread_rdwr_runlock( &si->si_csn_rwlock );
                   }
   
                 opc->sctxcsn.bv_len = maxcsn.bv_len;                  opc->sctxcsn.bv_len = maxcsn.bv_len;
                 opc->sctxcsn.bv_val = cbuf;                  opc->sctxcsn.bv_val = cbuf;
Line 1524  syncprov_op_response( Operation *op, Sla Line 1573  syncprov_op_response( Operation *op, Sla
   
                 /* Add any log records */                  /* Add any log records */
                 if ( si->si_logs && op->o_tag != LDAP_REQ_ADD ) {                  if ( si->si_logs && op->o_tag != LDAP_REQ_ADD ) {
                         syncprov_add_slog( op, &curcsn );                          syncprov_add_slog( op );
                 }                  }
   
         }          }
Line 1559  syncprov_op_compare( Operation *op, Slap Line 1608  syncprov_op_compare( Operation *op, Slap
                 a.a_vals = bv;                  a.a_vals = bv;
                 a.a_nvals = a.a_vals;                  a.a_nvals = a.a_vals;
   
                 ldap_pvt_thread_mutex_lock( &si->si_csn_mutex );                  ldap_pvt_thread_rdwr_rlock( &si->si_csn_rwlock );
   
                 rs->sr_err = access_allowed( op, &e, op->oq_compare.rs_ava->aa_desc,                  rs->sr_err = access_allowed( op, &e, op->oq_compare.rs_ava->aa_desc,
                         &op->oq_compare.rs_ava->aa_value, ACL_COMPARE, NULL );                          &op->oq_compare.rs_ava->aa_value, ACL_COMPARE, NULL );
Line 1588  syncprov_op_compare( Operation *op, Slap Line 1637  syncprov_op_compare( Operation *op, Slap
   
 return_results:;  return_results:;
   
                 ldap_pvt_thread_mutex_unlock( &si->si_csn_mutex );                  ldap_pvt_thread_rdwr_runlock( &si->si_csn_rwlock );
   
                 send_ldap_result( op, rs );                  send_ldap_result( op, rs );
   
Line 1759  syncprov_detach_op( Operation *op, synco Line 1808  syncprov_detach_op( Operation *op, synco
         op2->ors_filterstr.bv_val = ptr;          op2->ors_filterstr.bv_val = ptr;
         strcpy( ptr, so->s_filterstr.bv_val );          strcpy( ptr, so->s_filterstr.bv_val );
         op2->ors_filterstr.bv_len = so->s_filterstr.bv_len;          op2->ors_filterstr.bv_len = so->s_filterstr.bv_len;
         op2->ors_filter = filter_dup( op->ors_filter, NULL );  
           /* Skip the AND/GE clause that we stuck on in front */
           if ( so->s_flags & PS_FIX_FILTER ) {
                   op2->ors_filter = op->ors_filter->f_and->f_next;
                   so->s_flags ^= PS_FIX_FILTER;
           } else {
                   op2->ors_filter = op->ors_filter;
           }
           op2->ors_filter = filter_dup( op2->ors_filter, NULL );
         so->s_op = op2;          so->s_op = op2;
   
         /* Copy any cached group ACLs individually */          /* Copy any cached group ACLs individually */
Line 1811  syncprov_search_response( Operation *op, Line 1868  syncprov_search_response( Operation *op,
                 }                  }
                 if ( a ) {                  if ( a ) {
                         /* Make sure entry is less than the snapshot'd contextCSN */                          /* Make sure entry is less than the snapshot'd contextCSN */
                         if ( ber_bvcmp( &a->a_nvals[0], &ss->ss_ctxcsn ) > 0 )                          if ( ber_bvcmp( &a->a_nvals[0], &ss->ss_ctxcsn ) > 0 ) {
                                   Debug( LDAP_DEBUG_SYNC, "Entry %s CSN %s greater than snapshot %s\n",
                                           rs->sr_entry->e_name.bv_val,
                                           a->a_nvals[0].bv_val,
                                           ss->ss_ctxcsn.bv_val );
                                 return LDAP_SUCCESS;                                  return LDAP_SUCCESS;
                           }
   
                         /* Don't send the ctx entry twice */                          /* Don't send the ctx entry twice */
                         if ( !BER_BVISNULL( &srs->sr_state.ctxcsn ) &&                          if ( !BER_BVISNULL( &srs->sr_state.ctxcsn ) &&
                                 bvmatch( &a->a_nvals[0], &srs->sr_state.ctxcsn ) )                                  bvmatch( &a->a_nvals[0], &srs->sr_state.ctxcsn ) ) {
                                   Debug( LDAP_DEBUG_SYNC, "Entry %s CSN %s matches ctx %s\n",
                                           rs->sr_entry->e_name.bv_val,
                                           a->a_nvals[0].bv_val,
                                           srs->sr_state.ctxcsn.bv_val );
                                 return LDAP_SUCCESS;                                  return LDAP_SUCCESS;
                           }
                 }                  }
                 rs->sr_ctrls = op->o_tmpalloc( sizeof(LDAPControl *)*2,                  rs->sr_ctrls = op->o_tmpalloc( sizeof(LDAPControl *)*2,
                         op->o_tmpmemctx );                          op->o_tmpmemctx );
Line 1841  syncprov_search_response( Operation *op, Line 1908  syncprov_search_response( Operation *op,
                         op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );                          op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );
                 } else {                  } else {
                 /* It's RefreshAndPersist, transition to Persist phase */                  /* It's RefreshAndPersist, transition to Persist phase */
                         syncprov_sendinfo( op, rs, ( ss->ss_present && rs->sr_nentries ) ?                          syncprov_sendinfo( op, rs, ss->ss_present ?
                                 LDAP_TAG_SYNC_REFRESH_PRESENT : LDAP_TAG_SYNC_REFRESH_DELETE,                                  LDAP_TAG_SYNC_REFRESH_PRESENT : LDAP_TAG_SYNC_REFRESH_DELETE,
                                 &cookie, 1, NULL, 0 );                                  &cookie, 1, NULL, 0 );
                         op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );                          op->o_tmpfree( cookie.bv_val, op->o_tmpmemctx );
Line 1853  syncprov_search_response( Operation *op, Line 1920  syncprov_search_response( Operation *op,
                         ss->ss_so->s_flags ^= PS_IS_REFRESHING;                          ss->ss_so->s_flags ^= PS_IS_REFRESHING;
   
                         syncprov_detach_op( op, ss->ss_so, on );                          syncprov_detach_op( op, ss->ss_so, on );
   
                           /* If there are queued responses, fire them off */
                           if ( ss->ss_so->s_res )
                                   syncprov_qstart( ss->ss_so );
                         ldap_pvt_thread_mutex_unlock( &ss->ss_so->s_mutex );                          ldap_pvt_thread_mutex_unlock( &ss->ss_so->s_mutex );
   
                         return LDAP_SUCCESS;                          return LDAP_SUCCESS;
Line 1926  syncprov_op_search( Operation *op, SlapR Line 1997  syncprov_op_search( Operation *op, SlapR
         }          }
   
         /* snapshot the ctxcsn */          /* snapshot the ctxcsn */
         ldap_pvt_thread_mutex_lock( &si->si_csn_mutex );          ldap_pvt_thread_rdwr_rlock( &si->si_csn_rwlock );
         strcpy( csnbuf, si->si_ctxcsnbuf );          strcpy( csnbuf, si->si_ctxcsnbuf );
         ctxcsn.bv_len = si->si_ctxcsn.bv_len;          ctxcsn.bv_len = si->si_ctxcsn.bv_len;
         ldap_pvt_thread_mutex_unlock( &si->si_csn_mutex );          ldap_pvt_thread_rdwr_runlock( &si->si_csn_rwlock );
         ctxcsn.bv_val = csnbuf;          ctxcsn.bv_val = csnbuf;
                   
         /* If we have a cookie, handle the PRESENT lookups */          /* If we have a cookie, handle the PRESENT lookups */
Line 1960  syncprov_op_search( Operation *op, SlapR Line 2031  syncprov_op_search( Operation *op, SlapR
                 sl=si->si_logs;                  sl=si->si_logs;
                 if ( sl ) {                  if ( sl ) {
                         ldap_pvt_thread_mutex_lock( &sl->sl_mutex );                          ldap_pvt_thread_mutex_lock( &sl->sl_mutex );
                         if ( ber_bvcmp( &srs->sr_state.ctxcsn, &sl->sl_mincsn ) >= 0 ) {                          /* Are there any log entries, and is the consumer state
                            * present in the session log?
                            */
                           if ( sl->sl_num > 0 && ber_bvcmp( &srs->sr_state.ctxcsn, &sl->sl_mincsn ) >= 0 ) {
                                 do_present = 0;                                  do_present = 0;
                                 /* mutex is unlocked in playlog */                                  /* mutex is unlocked in playlog */
                                 syncprov_playlog( op, rs, sl, &srs->sr_state.ctxcsn, &ctxcsn );                                  syncprov_playlog( op, rs, sl, srs, &ctxcsn );
                         } else {                          } else {
                                 ldap_pvt_thread_mutex_unlock( &sl->sl_mutex );                                  ldap_pvt_thread_mutex_unlock( &sl->sl_mutex );
                         }                          }
Line 2014  shortcut: Line 2088  shortcut:
                 fava->f_next = op->ors_filter;                  fava->f_next = op->ors_filter;
                 op->ors_filter = fand;                  op->ors_filter = fand;
                 filter2bv_x( op, op->ors_filter, &op->ors_filterstr );                  filter2bv_x( op, op->ors_filter, &op->ors_filterstr );
                   if ( sop )
                           sop->s_flags |= PS_FIX_FILTER;
         }          }
   
         /* Let our callback add needed info to returned entries */          /* Let our callback add needed info to returned entries */
Line 2081  syncprov_operational( Line 2157  syncprov_operational(
                                 *ap = a;                                  *ap = a;
                         }                          }
   
                         ldap_pvt_thread_mutex_lock( &si->si_csn_mutex );                          ldap_pvt_thread_rdwr_rlock( &si->si_csn_rwlock );
                         if ( !ap ) {                          if ( !ap ) {
                                 strcpy( a->a_vals[0].bv_val, si->si_ctxcsnbuf );                                  strcpy( a->a_vals[0].bv_val, si->si_ctxcsnbuf );
                         } else {                          } else {
                                 ber_dupbv( &a->a_vals[0], &si->si_ctxcsn );                                  ber_dupbv( &a->a_vals[0], &si->si_ctxcsn );
                         }                          }
                         ldap_pvt_thread_mutex_unlock( &si->si_csn_mutex );                          ldap_pvt_thread_rdwr_runlock( &si->si_csn_rwlock );
                 }                  }
         }          }
         return SLAP_CB_CONTINUE;          return SLAP_CB_CONTINUE;
Line 2205  sp_cf_gen(ConfigArgs *c) Line 2281  sp_cf_gen(ConfigArgs *c)
         switch ( c->type ) {          switch ( c->type ) {
         case SP_CHKPT:          case SP_CHKPT:
                 if ( lutil_atoi( &si->si_chkops, c->argv[1] ) != 0 ) {                  if ( lutil_atoi( &si->si_chkops, c->argv[1] ) != 0 ) {
                         sprintf( c->msg, "%s unable to parse checkpoint ops # \"%s\"",                          snprintf( c->msg, sizeof( c->msg ), "%s unable to parse checkpoint ops # \"%s\"",
                                 c->argv[0], c->argv[1] );                                  c->argv[0], c->argv[1] );
                         Debug( LDAP_DEBUG_CONFIG, "%s: %s\n", c->log, c->msg, 0 );                          Debug( LDAP_DEBUG_CONFIG|LDAP_DEBUG_NONE,
                                   "%s: %s\n", c->log, c->msg, 0 );
                         return ARG_BAD_CONF;                          return ARG_BAD_CONF;
                 }                  }
                 if ( si->si_chkops <= 0 ) {                  if ( si->si_chkops <= 0 ) {
                         sprintf( c->msg, "%s invalid checkpoint ops # \"%d\"",                          snprintf( c->msg, sizeof( c->msg ), "%s invalid checkpoint ops # \"%d\"",
                                 c->argv[0], si->si_chkops );                                  c->argv[0], si->si_chkops );
                         Debug( LDAP_DEBUG_CONFIG, "%s: %s\n", c->log, c->msg, 0 );                          Debug( LDAP_DEBUG_CONFIG|LDAP_DEBUG_NONE,
                                   "%s: %s\n", c->log, c->msg, 0 );
                         return ARG_BAD_CONF;                          return ARG_BAD_CONF;
                 }                  }
                 if ( lutil_atoi( &si->si_chktime, c->argv[2] ) != 0 ) {                  if ( lutil_atoi( &si->si_chktime, c->argv[2] ) != 0 ) {
                         sprintf( c->msg, "%s unable to parse checkpoint time \"%s\"",                          snprintf( c->msg, sizeof( c->msg ), "%s unable to parse checkpoint time \"%s\"",
                                 c->argv[0], c->argv[1] );                                  c->argv[0], c->argv[1] );
                         Debug( LDAP_DEBUG_CONFIG, "%s: %s\n", c->log, c->msg, 0 );                          Debug( LDAP_DEBUG_CONFIG|LDAP_DEBUG_NONE,
                                   "%s: %s\n", c->log, c->msg, 0 );
                         return ARG_BAD_CONF;                          return ARG_BAD_CONF;
                 }                  }
                 if ( si->si_chktime <= 0 ) {                  if ( si->si_chktime <= 0 ) {
                         sprintf( c->msg, "%s invalid checkpoint time \"%d\"",                          snprintf( c->msg, sizeof( c->msg ), "%s invalid checkpoint time \"%d\"",
                                 c->argv[0], si->si_chkops );                                  c->argv[0], si->si_chkops );
                         Debug( LDAP_DEBUG_CONFIG, "%s: %s\n", c->log, c->msg, 0 );                          Debug( LDAP_DEBUG_CONFIG|LDAP_DEBUG_NONE,
                                   "%s: %s\n", c->log, c->msg, 0 );
                         return ARG_BAD_CONF;                          return ARG_BAD_CONF;
                 }                  }
                 si->si_chktime *= 60;                  si->si_chktime *= 60;
Line 2235  sp_cf_gen(ConfigArgs *c) Line 2315  sp_cf_gen(ConfigArgs *c)
                 int size = c->value_int;                  int size = c->value_int;
   
                 if ( size < 0 ) {                  if ( size < 0 ) {
                         sprintf( c->msg, "%s size %d is negative",                          snprintf( c->msg, sizeof( c->msg ), "%s size %d is negative",
                                 c->argv[0], size );                                  c->argv[0], size );
                         Debug( LDAP_DEBUG_CONFIG, "%s: %s\n", c->log, c->msg, 0 );                          Debug( LDAP_DEBUG_CONFIG|LDAP_DEBUG_NONE,
                                   "%s: %s\n", c->log, c->msg, 0 );
                         return ARG_BAD_CONF;                          return ARG_BAD_CONF;
                 }                  }
                 sl = si->si_logs;                  sl = si->si_logs;
Line 2296  syncprov_db_open( Line 2377  syncprov_db_open(
         int rc;          int rc;
         void *thrctx = NULL;          void *thrctx = NULL;
   
           if ( !SLAP_LASTMOD( be )) {
                   Debug( LDAP_DEBUG_ANY,
                           "syncprov_db_open: invalid config, lastmod must be enabled\n", 0, 0, 0 );
                   return -1;
           }
   
         if ( slapMode & SLAP_TOOL_MODE ) {          if ( slapMode & SLAP_TOOL_MODE ) {
                 return 0;                  return 0;
         }          }
Line 2339  syncprov_db_open( Line 2426  syncprov_db_open(
                         ldap_pvt_thread_create( &tid, 0, syncprov_db_otask, op );                          ldap_pvt_thread_create( &tid, 0, syncprov_db_otask, op );
                         ldap_pvt_thread_join( tid, NULL );                          ldap_pvt_thread_join( tid, NULL );
                 }                  }
         } else if ( SLAP_SYNC_SHADOW( op->o_bd )) {  
                 /* If we're also a consumer, and we didn't find the context entry,  
                  * then don't generate anything, wait for our provider to send it  
                  * to us.  
                  */  
                 goto out;  
         }          }
   
         if ( BER_BVISEMPTY( &si->si_ctxcsn ) ) {          if ( BER_BVISEMPTY( &si->si_ctxcsn ) ) {
                   if ( SLAP_SYNC_SHADOW( op->o_bd )) {
                   /* If we're also a consumer, and we didn't get a contextCSN,
                    * then don't generate anything, wait for our provider to send it
                    * to us.
                    */
                           goto out;
                   }
                 si->si_ctxcsn.bv_len = sizeof( si->si_ctxcsnbuf );                  si->si_ctxcsn.bv_len = sizeof( si->si_ctxcsnbuf );
                 slap_get_csn( op, &si->si_ctxcsn, 0 );                  slap_get_csn( op, &si->si_ctxcsn, 0 );
         }          }
Line 2361  syncprov_db_open( Line 2449  syncprov_db_open(
   
 out:  out:
         op->o_bd->bd_info = (BackendInfo *)on;          op->o_bd->bd_info = (BackendInfo *)on;
         ldap_pvt_thread_pool_context_reset( thrctx );  
         return 0;          return 0;
 }  }
   
Line 2391  syncprov_db_close( Line 2478  syncprov_db_close(
                 op->o_dn = be->be_rootdn;                  op->o_dn = be->be_rootdn;
                 op->o_ndn = be->be_rootndn;                  op->o_ndn = be->be_rootndn;
                 syncprov_checkpoint( op, &rs, on );                  syncprov_checkpoint( op, &rs, on );
                 ldap_pvt_thread_pool_context_reset( thrctx );  
         }          }
   
     return 0;      return 0;
Line 2405  syncprov_db_init( Line 2491  syncprov_db_init(
         slap_overinst   *on = (slap_overinst *)be->bd_info;          slap_overinst   *on = (slap_overinst *)be->bd_info;
         syncprov_info_t *si;          syncprov_info_t *si;
   
           if ( SLAP_ISGLOBALOVERLAY( be ) ) {
                   Debug( LDAP_DEBUG_ANY,
                           "syncprov must be instantiated within a database.\n",
                           0, 0, 0 );
                   return 1;
           }
   
         si = ch_calloc(1, sizeof(syncprov_info_t));          si = ch_calloc(1, sizeof(syncprov_info_t));
         on->on_bi.bi_private = si;          on->on_bi.bi_private = si;
         ldap_pvt_thread_mutex_init( &si->si_csn_mutex );          ldap_pvt_thread_rdwr_init( &si->si_csn_rwlock );
         ldap_pvt_thread_mutex_init( &si->si_ops_mutex );          ldap_pvt_thread_mutex_init( &si->si_ops_mutex );
         ldap_pvt_thread_mutex_init( &si->si_mods_mutex );          ldap_pvt_thread_mutex_init( &si->si_mods_mutex );
         si->si_ctxcsn.bv_val = si->si_ctxcsnbuf;          si->si_ctxcsn.bv_val = si->si_ctxcsnbuf;
Line 2445  syncprov_db_destroy( Line 2538  syncprov_db_destroy(
                 }                  }
                 ldap_pvt_thread_mutex_destroy( &si->si_mods_mutex );                  ldap_pvt_thread_mutex_destroy( &si->si_mods_mutex );
                 ldap_pvt_thread_mutex_destroy( &si->si_ops_mutex );                  ldap_pvt_thread_mutex_destroy( &si->si_ops_mutex );
                 ldap_pvt_thread_mutex_destroy( &si->si_csn_mutex );                  ldap_pvt_thread_rdwr_destroy( &si->si_csn_rwlock );
                 ch_free( si );                  ch_free( si );
         }          }
   
Line 2535  static int syncprov_parseCtrl ( Line 2628  static int syncprov_parseCtrl (
         sr->sr_rhint = rhint;          sr->sr_rhint = rhint;
         if (!BER_BVISNULL(&cookie)) {          if (!BER_BVISNULL(&cookie)) {
                 ber_dupbv_x( &sr->sr_state.octet_str, &cookie, op->o_tmpmemctx );                  ber_dupbv_x( &sr->sr_state.octet_str, &cookie, op->o_tmpmemctx );
                 slap_parse_sync_cookie( &sr->sr_state, op->o_tmpmemctx );                  if ( slap_parse_sync_cookie( &sr->sr_state, op->o_tmpmemctx ) ||
                 if ( sr->sr_state.rid == -1 ) {                          sr->sr_state.rid == -1 ) {
                         rs->sr_text = "Sync control : cookie parsing error";                          rs->sr_text = "Sync control : cookie parsing error";
                         return LDAP_PROTOCOL_ERROR;                          return LDAP_PROTOCOL_ERROR;
                 }                  }

Removed from v.1.56.2.29  
changed lines
  Added in v.1.56.2.43


______________
© Copyright 1998-2020, OpenLDAP Foundation, info@OpenLDAP.org