Diff for /servers/slapd/overlays/syncprov.c between versions 1.147.2.50 and 1.268

version 1.147.2.50, 2009/03/13 19:47:32 version 1.268, 2009/03/12 23:15:28
Line 1 Line 1
 /* $OpenLDAP: pkg/ldap/servers/slapd/overlays/syncprov.c,v 1.147.2.49 2009/03/12 23:28:52 quanah Exp $ */  /* $OpenLDAP: pkg/ldap/servers/slapd/overlays/syncprov.c,v 1.267 2009/03/12 23:14:19 hyc Exp $ */
 /* syncprov.c - syncrepl provider */  /* syncprov.c - syncrepl provider */
 /* This work is part of OpenLDAP Software <http://www.openldap.org/>.  /* This work is part of OpenLDAP Software <http://www.openldap.org/>.
  *   *
Line 71  typedef struct syncops { Line 71  typedef struct syncops {
 #define PS_WROTE_BASE           0x04  #define PS_WROTE_BASE           0x04
 #define PS_FIND_BASE            0x08  #define PS_FIND_BASE            0x08
 #define PS_FIX_FILTER           0x10  #define PS_FIX_FILTER           0x10
   #define PS_TASK_QUEUED          0x20
   
         int             s_inuse;        /* reference count */          int             s_inuse;        /* reference count */
         struct syncres *s_res;          struct syncres *s_res;
         struct syncres *s_restail;          struct syncres *s_restail;
         struct re_s     *s_qtask;       /* task for playing psearch responses */  
 #define RUNQ_INTERVAL   36000   /* a long time */  
         ldap_pvt_thread_mutex_t s_mutex;          ldap_pvt_thread_mutex_t s_mutex;
 } syncops;  } syncops;
   
Line 147  typedef struct opcookie { Line 146  typedef struct opcookie {
         struct berval sndn;          struct berval sndn;
         struct berval suuid;    /* UUID of entry */          struct berval suuid;    /* UUID of entry */
         struct berval sctxcsn;          struct berval sctxcsn;
         short osid;     /* sid of op csn */          short ssid;     /* sid of op csn */
         short rsid;     /* sid of relay */  
         short sreference;       /* Is the entry a reference? */          short sreference;       /* Is the entry a reference? */
 } opcookie;  } opcookie;
   
Line 748  syncprov_free_syncop( syncops *so ) Line 746  syncprov_free_syncop( syncops *so )
                 ldap_pvt_thread_mutex_unlock( &so->s_mutex );                  ldap_pvt_thread_mutex_unlock( &so->s_mutex );
                 return;                  return;
         }          }
         if ( so->s_qtask ) {  
                 ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );  
                 if ( ldap_pvt_runqueue_isrunning( &slapd_rq, so->s_qtask ) )  
                         ldap_pvt_runqueue_stoptask( &slapd_rq, so->s_qtask );  
                 ldap_pvt_runqueue_remove( &slapd_rq, so->s_qtask );  
                 ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );  
         }  
         ldap_pvt_thread_mutex_unlock( &so->s_mutex );          ldap_pvt_thread_mutex_unlock( &so->s_mutex );
         if ( so->s_flags & PS_IS_DETACHED ) {          if ( so->s_flags & PS_IS_DETACHED ) {
                 filter_free( so->s_op->ors_filter );                  filter_free( so->s_op->ors_filter );
Line 792  syncprov_sendresp( Operation *op, opcook Line 783  syncprov_sendresp( Operation *op, opcook
         ctrls[1] = NULL;          ctrls[1] = NULL;
         csns[0] = opc->sctxcsn;          csns[0] = opc->sctxcsn;
         BER_BVZERO( &csns[1] );          BER_BVZERO( &csns[1] );
         slap_compose_sync_cookie( op, &cookie, csns, so->s_rid, slap_serverID ? slap_serverID : -1 );          slap_compose_sync_cookie( op, &cookie, csns, so->s_rid, slap_serverID );
   
 #ifdef LDAP_DEBUG          Debug( LDAP_DEBUG_SYNC, "syncprov_sendresp: cookie=%s\n", cookie.bv_val, 0, 0 );
         if ( so->s_sid > 0 ) {  
                 Debug( LDAP_DEBUG_SYNC, "syncprov_sendresp: to=%03x, cookie=%s\n",  
                         so->s_sid, cookie.bv_val, 0 );  
         } else {  
                 Debug( LDAP_DEBUG_SYNC, "syncprov_sendresp: cookie=%s\n",  
                         cookie.bv_val, 0, 0 );  
         }  
 #endif  
   
         e_uuid.e_attrs = &a_uuid;          e_uuid.e_attrs = &a_uuid;
         a_uuid.a_desc = slap_schema.si_ad_entryUUID;          a_uuid.a_desc = slap_schema.si_ad_entryUUID;
Line 861  syncprov_sendresp( Operation *op, opcook Line 844  syncprov_sendresp( Operation *op, opcook
         return rs.sr_err;          return rs.sr_err;
 }  }
   
   static void
   syncprov_qstart( syncops *so );
   
 /* Play back queued responses */  /* Play back queued responses */
 static int  static int
 syncprov_qplay( Operation *op, struct re_s *rtask )  syncprov_qplay( Operation *op, syncops *so )
 {  {
         syncops *so = rtask->arg;  
         slap_overinst *on = LDAP_SLIST_FIRST(&so->s_op->o_extra)->oe_key;          slap_overinst *on = LDAP_SLIST_FIRST(&so->s_op->o_extra)->oe_key;
         syncres *sr;          syncres *sr;
         Entry *e;          Entry *e;
Line 874  syncprov_qplay( Operation *op, struct re Line 859  syncprov_qplay( Operation *op, struct re
   
         opc.son = on;          opc.son = on;
   
         for (;;) {          do {
                 ldap_pvt_thread_mutex_lock( &so->s_mutex );                  ldap_pvt_thread_mutex_lock( &so->s_mutex );
                 sr = so->s_res;                  sr = so->s_res;
                 if ( sr )                  if ( sr )
Line 918  syncprov_qplay( Operation *op, struct re Line 903  syncprov_qplay( Operation *op, struct re
   
                 ch_free( sr );                  ch_free( sr );
   
                 if ( rc ) {                  /* Exit loop with mutex held */
                         /* Exit loop with mutex held */                  ldap_pvt_thread_mutex_lock( &so->s_mutex );
                         ldap_pvt_thread_mutex_lock( &so->s_mutex );  
                         break;  
                 }  
         }  
   
         /* wait until we get explicitly scheduled again */          } while (0);
         ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );  
         ldap_pvt_runqueue_stoptask( &slapd_rq, rtask );  
         if ( rc == 0 ) {  
                 ldap_pvt_runqueue_resched( &slapd_rq, rtask, 1 );  
         } else {  
                 /* bail out on any error */  
                 ldap_pvt_runqueue_remove( &slapd_rq, rtask );  
   
                 /* Prevent duplicate remove */          /* We now only send one change at a time, to prevent one
                 if ( so->s_qtask == rtask )           * psearch from hogging all the CPU. Resubmit this task if
                         so->s_qtask = NULL;           * there are more responses queued and no errors occurred.
            */
   
           if ( rc == 0 && so->s_res ) {
                   syncprov_qstart( so );
           } else {
                   so->s_flags ^= PS_TASK_QUEUED;
         }          }
         ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );  
         ldap_pvt_thread_mutex_unlock( &so->s_mutex );          ldap_pvt_thread_mutex_unlock( &so->s_mutex );
         return rc;          return rc;
 }  }
   
 /* runqueue task for playing back queued responses */  /* task for playing back queued responses */
 static void *  static void *
 syncprov_qtask( void *ctx, void *arg )  syncprov_qtask( void *ctx, void *arg )
 {  {
         struct re_s *rtask = arg;          syncops *so = arg;
         syncops *so = rtask->arg;  
         OperationBuffer opbuf;          OperationBuffer opbuf;
         Operation *op;          Operation *op;
         BackendDB be;          BackendDB be;
Line 973  syncprov_qtask( void *ctx, void *arg ) Line 952  syncprov_qtask( void *ctx, void *arg )
         LDAP_SLIST_FIRST(&op->o_extra) = NULL;          LDAP_SLIST_FIRST(&op->o_extra) = NULL;
         op->o_callback = NULL;          op->o_callback = NULL;
   
         rc = syncprov_qplay( op, rtask );          rc = syncprov_qplay( op, so );
   
         /* decrement use count... */          /* decrement use count... */
         syncprov_free_syncop( so );          syncprov_free_syncop( so );
   
 #if 0   /* FIXME: connection_close isn't exported from slapd.  
                  * should it be?  
                  */  
         if ( rc ) {  
                 ldap_pvt_thread_mutex_lock( &op->o_conn->c_mutex );  
                 if ( connection_state_closing( op->o_conn )) {  
                         connection_close( op->o_conn );  
                 }  
                 ldap_pvt_thread_mutex_unlock( &op->o_conn->c_mutex );  
         }  
 #endif  
         return NULL;          return NULL;
 }  }
   
Line 996  syncprov_qtask( void *ctx, void *arg ) Line 964  syncprov_qtask( void *ctx, void *arg )
 static void  static void
 syncprov_qstart( syncops *so )  syncprov_qstart( syncops *so )
 {  {
         int wake=0;          so->s_flags |= PS_TASK_QUEUED;
         ldap_pvt_thread_mutex_lock( &slapd_rq.rq_mutex );          so->s_inuse++;
         if ( !so->s_qtask ) {          ldap_pvt_thread_pool_submit( &connection_pool, 
                 so->s_qtask = ldap_pvt_runqueue_insert( &slapd_rq, RUNQ_INTERVAL,                  syncprov_qtask, so );
                         syncprov_qtask, so, "syncprov_qtask",  
                         so->s_op->o_conn->c_peer_name.bv_val );  
                 ++so->s_inuse;  
                 wake = 1;  
         } else {  
                 if (!ldap_pvt_runqueue_isrunning( &slapd_rq, so->s_qtask ) &&  
                         !so->s_qtask->next_sched.tv_sec ) {  
                         so->s_qtask->interval.tv_sec = 0;  
                         ldap_pvt_runqueue_resched( &slapd_rq, so->s_qtask, 0 );  
                         so->s_qtask->interval.tv_sec = RUNQ_INTERVAL;  
                         ++so->s_inuse;  
                         wake = 1;  
                 }  
         }  
         ldap_pvt_thread_mutex_unlock( &slapd_rq.rq_mutex );  
         if ( wake )  
                 slap_wake_listener();  
 }  }
   
 /* Queue a persistent search response */  /* Queue a persistent search response */
Line 1031  syncprov_qresp( opcookie *opc, syncops * Line 982  syncprov_qresp( opcookie *opc, syncops *
                 syncprov_info_t *si = opc->son->on_bi.bi_private;                  syncprov_info_t *si = opc->son->on_bi.bi_private;
   
                 slap_compose_sync_cookie( NULL, &cookie, si->si_ctxcsn,                  slap_compose_sync_cookie( NULL, &cookie, si->si_ctxcsn,
                         so->s_rid, slap_serverID ? slap_serverID : -1);                          so->s_rid, slap_serverID);
         }          }
   
         srsize = sizeof(syncres) + opc->suuid.bv_len + 1 +          srsize = sizeof(syncres) + opc->suuid.bv_len + 1 +
Line 1076  syncprov_qresp( opcookie *opc, syncops * Line 1027  syncprov_qresp( opcookie *opc, syncops *
                 so->s_flags ^= PS_WROTE_BASE;                  so->s_flags ^= PS_WROTE_BASE;
                 so->s_flags |= PS_FIND_BASE;                  so->s_flags |= PS_FIND_BASE;
         }          }
         if ( so->s_flags & PS_IS_DETACHED ) {          if (( so->s_flags & (PS_IS_DETACHED|PS_TASK_QUEUED)) == PS_IS_DETACHED ) {
                 syncprov_qstart( so );                  syncprov_qstart( so );
         }          }
         ldap_pvt_thread_mutex_unlock( &so->s_mutex );          ldap_pvt_thread_mutex_unlock( &so->s_mutex );
Line 1158  syncprov_matchops( Operation *op, opcook Line 1109  syncprov_matchops( Operation *op, opcook
   
         fbase_cookie fc;          fbase_cookie fc;
         syncops *ss, *sprev, *snext;          syncops *ss, *sprev, *snext;
           struct sync_cookie *scook;
         Entry *e = NULL;          Entry *e = NULL;
         Attribute *a;          Attribute *a;
         int rc;          int rc;
Line 1209  syncprov_matchops( Operation *op, opcook Line 1161  syncprov_matchops( Operation *op, opcook
                 ber_dupbv_x( &opc->sndn, &e->e_nname, op->o_tmpmemctx );                  ber_dupbv_x( &opc->sndn, &e->e_nname, op->o_tmpmemctx );
         }          }
   
           scook = op->o_controls[slap_cids.sc_LDAPsync];
         ldap_pvt_thread_mutex_lock( &si->si_ops_mutex );          ldap_pvt_thread_mutex_lock( &si->si_ops_mutex );
         for (ss = si->si_ops, sprev = (syncops *)&si->si_ops; ss;          for (ss = si->si_ops, sprev = (syncops *)&si->si_ops; ss;
                 sprev = ss, ss=snext)                  sprev = ss, ss=snext)
Line 1222  syncprov_matchops( Operation *op, opcook Line 1175  syncprov_matchops( Operation *op, opcook
                 if ( ss->s_op->o_abandon )                  if ( ss->s_op->o_abandon )
                         continue;                          continue;
   
                 /* First time thru, check for possible skips */                  /* Don't send ops back to the originator */
                 if ( saveit || op->o_tag == LDAP_REQ_ADD ) {                  if ( opc->ssid && opc->ssid == ss->s_sid ) {
                           Debug( LDAP_DEBUG_SYNC, "syncprov_matchops: skipping original sid %03x\n",
                         /* Don't send ops back to the originator */                                  opc->ssid, 0, 0 );
                         if ( opc->osid > 0 && opc->osid == ss->s_sid ) {                          continue;
                                 Debug( LDAP_DEBUG_SYNC, "syncprov_matchops: skipping original sid %03x\n",                  }
                                         opc->osid, 0, 0 );  
                                 continue;  
                         }  
   
                         /* Don't send ops back to the messenger */                  /* Don't send ops back to the messenger */
                         if ( opc->rsid > 0 && opc->rsid == ss->s_sid ) {                  if ( scook && scook->sid && scook->sid == ss->s_sid ) {
                                 Debug( LDAP_DEBUG_SYNC, "syncprov_matchops: skipping relayed sid %03x\n",                          Debug( LDAP_DEBUG_SYNC, "syncprov_matchops: skipping relayed sid %03x\n",
                                         opc->rsid, 0, 0 );                                  scook->sid, 0, 0 );
                                 continue;                          continue;
                         }  
                 }                  }
   
                 /* validate base */                  /* validate base */
Line 1287  syncprov_matchops( Operation *op, opcook Line 1236  syncprov_matchops( Operation *op, opcook
                         oh.oh_connid = ss->s_op->o_connid;                          oh.oh_connid = ss->s_op->o_connid;
                         op2.o_hdr = &oh;                          op2.o_hdr = &oh;
                         op2.o_extra = op->o_extra;                          op2.o_extra = op->o_extra;
                         rc = test_filter( &op2, e, ss->s_op->ors_filter );  
                 }                  }
   
                 Debug( LDAP_DEBUG_TRACE, "syncprov_matchops: sid %03x fscope %d rc %d\n",  
                         ss->s_sid, fc.fscope, rc );  
   
                 /* check if current o_req_dn is in scope and matches filter */                  /* check if current o_req_dn is in scope and matches filter */
                 if ( fc.fscope && rc == LDAP_COMPARE_TRUE ) {                  if ( fc.fscope && test_filter( &op2, e, ss->s_op->ors_filter ) ==
                           LDAP_COMPARE_TRUE ) {
                         if ( saveit ) {                          if ( saveit ) {
                                 sm = op->o_tmpalloc( sizeof(syncmatches), op->o_tmpmemctx );                                  sm = op->o_tmpalloc( sizeof(syncmatches), op->o_tmpmemctx );
                                 sm->sm_next = opc->smatches;                                  sm->sm_next = opc->smatches;
Line 1650  syncprov_playlog( Operation *op, SlapRep Line 1596  syncprov_playlog( Operation *op, SlapRep
   
                 if ( delcsn[0].bv_len ) {                  if ( delcsn[0].bv_len ) {
                         slap_compose_sync_cookie( op, &cookie, delcsn, srs->sr_state.rid,                          slap_compose_sync_cookie( op, &cookie, delcsn, srs->sr_state.rid,
                                 slap_serverID ? slap_serverID : -1 );                                  slap_serverID );
   
                         Debug( LDAP_DEBUG_SYNC, "syncprov_playlog: cookie=%s\n", cookie.bv_val, 0, 0 );                          Debug( LDAP_DEBUG_SYNC, "syncprov_playlog: cookie=%s\n", cookie.bv_val, 0, 0 );
                 }                  }
Line 1685  syncprov_op_response( Operation *op, Sla Line 1631  syncprov_op_response( Operation *op, Sla
                 maxcsn.bv_len = sizeof(cbuf);                  maxcsn.bv_len = sizeof(cbuf);
                 ldap_pvt_thread_rdwr_wlock( &si->si_csn_rwlock );                  ldap_pvt_thread_rdwr_wlock( &si->si_csn_rwlock );
   
                   if ( op->o_dont_replicate &&
                                   op->orm_modlist->sml_op == LDAP_MOD_REPLACE &&
                                   op->orm_modlist->sml_desc == slap_schema.si_ad_contextCSN ) {
                           /* Catch contextCSN updates from syncrepl. We have to look at
                            * all the attribute values, as there may be more than one csn
                            * that changed, and only one can be passed in the csn queue.
                            */
                           Modifications *mod = op->orm_modlist;
                           int i, j, sid;
   
                           for ( i=0; i<mod->sml_numvals; i++ ) {
                                   sid = slap_parse_csn_sid( &mod->sml_values[i] );
   
                                   for ( j=0; j<si->si_numcsns; j++ ) {
                                           if ( sid == si->si_sids[j] ) {
                                                   if ( ber_bvcmp( &mod->sml_values[i], &si->si_ctxcsn[j] ) > 0 ) {
                                                           ber_bvreplace( &si->si_ctxcsn[j], &mod->sml_values[i] );
                                                           csn_changed = 1;
                                                   }
                                                   break;
                                           }
                                   }
   
                                   if ( j == si->si_numcsns ) {
                                           value_add_one( &si->si_ctxcsn, &mod->sml_values[i] );
                                           si->si_numcsns++;
                                           si->si_sids = ch_realloc( si->si_sids, si->si_numcsns *
                                                   sizeof(int));
                                           si->si_sids[j] = sid;
                                           csn_changed = 1;
                                   }
                           }
                           ldap_pvt_thread_rdwr_wunlock( &si->si_csn_rwlock );
   
                           if ( csn_changed ) {
                                   ldap_pvt_thread_mutex_lock( &si->si_ops_mutex );
                                   have_psearches = ( si->si_ops != NULL );
                                   ldap_pvt_thread_mutex_unlock( &si->si_ops_mutex );
   
                                   if ( have_psearches ) {
                                           for ( sm = opc->smatches; sm; sm=sm->sm_next ) {
                                                   if ( sm->sm_op->s_op->o_abandon )
                                                           continue;
                                                   syncprov_qresp( opc, sm->sm_op, LDAP_SYNC_NEW_COOKIE );
                                           }
                                   }
                           }
                           return SLAP_CB_CONTINUE;
                   }
   
                 slap_get_commit_csn( op, &maxcsn, &foundit );                  slap_get_commit_csn( op, &maxcsn, &foundit );
                 if ( BER_BVISEMPTY( &maxcsn ) && SLAP_GLUE_SUBORDINATE( op->o_bd )) {                  if ( BER_BVISEMPTY( &maxcsn ) && SLAP_GLUE_SUBORDINATE( op->o_bd )) {
                         /* syncrepl queues the CSN values in the db where                          /* syncrepl queues the CSN values in the db where
Line 1893  syncprov_op_mod( Operation *op, SlapRepl Line 1889  syncprov_op_mod( Operation *op, SlapRepl
         cb->sc_next = op->o_callback;          cb->sc_next = op->o_callback;
         op->o_callback = cb;          op->o_callback = cb;
   
         opc->osid = -1;  
         opc->rsid = -1;  
         if ( op->o_csn.bv_val ) {          if ( op->o_csn.bv_val ) {
                 opc->osid = slap_parse_csn_sid( &op->o_csn );                  opc->ssid = slap_parse_csn_sid( &op->o_csn );
         }          } else {
         if ( op->o_controls ) {                  opc->ssid = -1;
                 struct sync_cookie *scook =  
                 op->o_controls[slap_cids.sc_LDAPsync];  
                 if ( scook )  
                         opc->rsid = scook->sid;  
         }          }
   
         /* If there are active persistent searches, lock this operation.          /* If there are active persistent searches, lock this operation.
Line 1932  syncprov_op_mod( Operation *op, SlapRepl Line 1922  syncprov_op_mod( Operation *op, SlapRepl
                                  * Currently it's not an issue because there are                                   * Currently it's not an issue because there are
                                  * no dynamic config deletes...                                   * no dynamic config deletes...
                                  */                                   */
                                 if ( slapd_shutdown )  
                                         return SLAPD_ABANDON;  
   
                                 if ( !ldap_pvt_thread_pool_pausecheck( &connection_pool ))                                  if ( !ldap_pvt_thread_pool_pausecheck( &connection_pool ))
                                         ldap_pvt_thread_yield();                                          ldap_pvt_thread_yield();
                                 ldap_pvt_thread_mutex_lock( &mt->mt_mutex );                                  ldap_pvt_thread_mutex_lock( &mt->mt_mutex );
Line 2177  syncprov_search_response( Operation *op, Line 2164  syncprov_search_response( Operation *op,
                 /* If we're in delta-sync mode, always send a cookie */                  /* If we're in delta-sync mode, always send a cookie */
                 if ( si->si_nopres && si->si_usehint && a ) {                  if ( si->si_nopres && si->si_usehint && a ) {
                         struct berval cookie;                          struct berval cookie;
                         slap_compose_sync_cookie( op, &cookie, a->a_nvals, srs->sr_state.rid, slap_serverID ? slap_serverID : -1 );                          slap_compose_sync_cookie( op, &cookie, a->a_nvals, srs->sr_state.rid, slap_serverID );
                         rs->sr_err = syncprov_state_ctrl( op, rs, rs->sr_entry,                          rs->sr_err = syncprov_state_ctrl( op, rs, rs->sr_entry,
                                 LDAP_SYNC_ADD, rs->sr_ctrls, 0, 1, &cookie );                                  LDAP_SYNC_ADD, rs->sr_ctrls, 0, 1, &cookie );
                 } else {                  } else {
Line 2189  syncprov_search_response( Operation *op, Line 2176  syncprov_search_response( Operation *op,
   
                 if ( ss->ss_flags & SS_CHANGED ) {                  if ( ss->ss_flags & SS_CHANGED ) {
                         slap_compose_sync_cookie( op, &cookie, ss->ss_ctxcsn,                          slap_compose_sync_cookie( op, &cookie, ss->ss_ctxcsn,
                                 srs->sr_state.rid, slap_serverID ? slap_serverID : -1 );                                  srs->sr_state.rid, slap_serverID );
   
                         Debug( LDAP_DEBUG_SYNC, "syncprov_search_response: cookie=%s\n", cookie.bv_val, 0, 0 );                          Debug( LDAP_DEBUG_SYNC, "syncprov_search_response: cookie=%s\n", cookie.bv_val, 0, 0 );
                 }                  }

Removed from v.1.147.2.50  
changed lines
  Added in v.1.268


______________
© Copyright 1998-2020, OpenLDAP Foundation, info@OpenLDAP.org