tr/tr_tid.c

   1 /*
   2  * Copyright (c) 2016, JANET(UK)
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  *
   9  * 1. Redistributions of source code must retain the above copyright
  10  *    notice, this list of conditions and the following disclaimer.
  11  *
  12  * 2. Redistributions in binary form must reproduce the above copyright
  13  *    notice, this list of conditions and the following disclaimer in the
  14  *    documentation and/or other materials provided with the distribution.
  15  *
  16  * 3. Neither the name of JANET(UK) nor the names of its contributors
  17  *    may be used to endorse or promote products derived from this software
  18  *    without specific prior written permission.
  19  *
  20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  21  * "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  22  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS
  23  * FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE
  24  * COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT,
  25  * INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
  26  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR
  27  * SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
  29  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  30  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
  31  * OF THE POSSIBILITY OF SUCH DAMAGE.
  32  *
  33  */
  34
  35 #include <talloc.h>
  36
  37 #include <trust_router/tr_dh.h>
  38 #include <tid_internal.h>
  39 #include <tr_filter.h>
  40 #include <tr_comm.h>
  41 #include <tr_idp.h>
  42 #include <tr_rp.h>
  43 #include <tr_rp_client.h>
  44 #include <tr_event.h>
  45 #include <tr_debug.h>
  46 #include <gsscon.h>
  47 #include <trp_route.h>
  48 #include <trp_internal.h>
  49 #include <tr_config.h>
  50 #include <tr_mq.h>
  51 #include <tr_util.h>
  52 #include <tr_tid.h>
  53 #include <tr_comm.h>
  54
  55 /* Structure to hold data for the tid response callback */
  56 typedef struct tr_resp_cookie {
  57   int thread_id;
  58   TID_RESP *resp;
  59 } TR_RESP_COOKIE;
  60
  61 /* hold a tids instance and a config manager */
  62 struct tr_tids_event_cookie {
  63   TIDS_INSTANCE *tids;
  64   TR_CFG_MGR *cfg_mgr;
  65   TRPS_INSTANCE *trps;
  66 };
  67
  68 static void tr_tidc_resp_handler(TIDC_INSTANCE *tidc,
  69                                  TID_REQ *req,
  70                                  TID_RESP *resp,
  71                                  void *resp_cookie)
  72 {
  73   TR_RESP_COOKIE *cookie=talloc_get_type_abort(resp_cookie, TR_RESP_COOKIE);
  74
  75   tr_debug("tr_tidc_resp_handler: Response received! Realm = %s, Community = %s, result = %s.",
  76            resp->realm->buf,
  77            resp->comm->buf,
  78            (TID_SUCCESS==resp->result)?"success":"error");
  79
  80   if (resp->error_path!=NULL)
  81     tr_debug("tr_tids_resp_handler: error_path is set.");
  82   cookie->resp=tid_resp_dup(cookie, resp);
  83 }
  84
  85 /* data for AAA req forwarding threads */
  86 struct tr_tids_fwd_cookie {
  87   int thread_id;
  88   pthread_mutex_t mutex; /* lock on the mq (separate from the locking within the mq, see below) */
  89   TR_MQ *mq; /* messages from thread to main process; set to NULL to disable response */
  90   TR_NAME *aaa_hostname;
  91   DH *dh_params;
  92   TID_REQ *fwd_req; /* the req to duplicate */
  93 };
  94
  95 static int tr_tids_fwd_cookie_destructor(void *obj)
  96 {
  97   struct tr_tids_fwd_cookie *c=talloc_get_type_abort(obj, struct tr_tids_fwd_cookie);
  98   if (c->aaa_hostname!=NULL)
  99     tr_free_name(c->aaa_hostname);
 100   if (c->dh_params!=NULL)
 101     tr_destroy_dh_params(c->dh_params);
 102   return 0;
 103 }
 104
 105 /* Block until we get the lock, returns 0 on success.
 106  * The mutex is used to protect changes to the mq pointer in
 107  * a thread's cookie. The master thread sets this to null to indicate
 108  * that it has abandoned the thread and the message queue is no longer
 109  * valid. This is unrelated to the locking in the message queue
 110  * implementation itself. */
 111 static int tr_tids_fwd_get_mutex(struct tr_tids_fwd_cookie *cookie)
 112 {
 113   if (cookie==NULL)
 114     return -1;
 115
 116   return (pthread_mutex_lock(&(cookie->mutex)));
 117 }
 118
 119 static int tr_tids_fwd_release_mutex(struct tr_tids_fwd_cookie *cookie)
 120 {
 121   if (cookie==NULL)
 122     return -1;
 123
 124   return (pthread_mutex_unlock(&(cookie->mutex)));
 125 }
 126
 127 /* values for messages */
 128 #define TR_TID_MQMSG_SUCCESS "tid success"
 129 #define TR_TID_MQMSG_FAILURE "tid failure"
 130
 131 /* Thread main for sending and receiving a request to a single AAA server */
 132 static void *tr_tids_req_fwd_thread(void *arg)
 133 {
 134   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
 135   struct tr_tids_fwd_cookie *args=talloc_get_type_abort(arg, struct tr_tids_fwd_cookie);
 136   TIDC_INSTANCE *tidc=tidc_create();
 137   TR_MQ_MSG *msg=NULL;
 138   TR_RESP_COOKIE *cookie=NULL;
 139   int rc=0;
 140   int success=0;
 141
 142   talloc_steal(tmp_ctx, args); /* take responsibility for the cookie */
 143
 144   if (tidc!=NULL)
 145     talloc_steal(tmp_ctx, tidc);
 146
 147   /* create the cookie we will use for our response */
 148   cookie=talloc(tmp_ctx, TR_RESP_COOKIE);
 149   if (cookie==NULL) {
 150     tr_notice("tr_tids_req_fwd_thread: unable to allocate response cookie.");
 151     success=0;
 152     goto cleanup;
 153   }
 154   cookie->thread_id=args->thread_id;
 155   tr_debug("tr_tids_req_fwd_thread: thread %d started.", cookie->thread_id);
 156
 157   /* Create a TID client instance */
 158   if (tidc==NULL) {
 159     tr_crit("tr_tids_req_fwd_thread: Unable to allocate TIDC instance.");
 160     /*tids_send_err_response(tids, orig_req, "Memory allocation failure");*/
 161     /* TODO: encode reason for failure */
 162     success=0;
 163     goto cleanup;
 164   }
 165
 166   /* Set-up TID connection */
 167   if (-1==(args->fwd_req->conn = tidc_open_connection(tidc,
 168                                                       args->aaa_hostname->buf,
 169                                                       TID_PORT, /* TODO: make this configurable */
 170                                                      &(args->fwd_req->gssctx)))) {
 171     tr_notice("tr_tids_req_fwd_thread: Error in tidc_open_connection.");
 172     /* tids_send_err_response(tids, orig_req, "Can't open connection to next hop TIDS"); */
 173     /* TODO: encode reason for failure */
 174     success=0;
 175     goto cleanup;
 176   };
 177   tr_debug("tr_tids_req_fwd_thread: thread %d opened TID connection to %s.",
 178            cookie->thread_id,
 179            args->aaa_hostname->buf);
 180
 181   /* Send a TID request. */
 182   if (0 > (rc = tidc_fwd_request(tidc, args->fwd_req, tr_tidc_resp_handler, (void *)cookie))) {
 183     tr_notice("Error from tidc_fwd_request, rc = %d.", rc);
 184     success=0;
 185     goto cleanup;
 186   }
 187   /* cookie->resp should now contain our copy of the response */
 188   success=1;
 189   tr_debug("tr_tids_req_fwd_thread: thread %d received response.", cookie->thread_id);
 190
 191 cleanup:
 192   /* Notify parent thread of the response, if it's still listening. */
 193   if (0!=tr_tids_fwd_get_mutex(args)) {
 194     tr_notice("tr_tids_req_fwd_thread: thread %d unable to acquire mutex.", cookie->thread_id);
 195   } else if (NULL!=args->mq) {
 196     /* mq is still valid, so we can queue our response */
 197     tr_debug("tr_tids_req_fwd_thread: thread %d using valid msg queue.", cookie->thread_id);
 198     if (success)
 199       msg=tr_mq_msg_new(tmp_ctx, TR_TID_MQMSG_SUCCESS, TR_MQ_PRIO_NORMAL);
 200     else
 201       msg=tr_mq_msg_new(tmp_ctx, TR_TID_MQMSG_FAILURE, TR_MQ_PRIO_NORMAL);
 202
 203     if (msg==NULL)
 204       tr_notice("tr_tids_req_fwd_thread: thread %d unable to allocate response msg.", cookie->thread_id);
 205
 206     tr_mq_msg_set_payload(msg, (void *)cookie, NULL);
 207     if (NULL!=cookie)
 208       talloc_steal(msg, cookie); /* attach this to the msg so we can forget about it */
 209     tr_mq_add(args->mq, msg);
 210     talloc_steal(NULL, args); /* take out of our tmp_ctx; master thread now responsible for freeing */
 211     tr_debug("tr_tids_req_fwd_thread: thread %d queued response message.", cookie->thread_id);
 212     if (0!=tr_tids_fwd_release_mutex(args))
 213       tr_notice("tr_tids_req_fwd_thread: Error releasing mutex.");
 214   }
 215
 216   talloc_free(tmp_ctx);
 217   return NULL;
 218 }
 219
 220 /* Merges r2 into r1 if they are compatible. */
 221 static TID_RC tr_tids_merge_resps(TID_RESP *r1, TID_RESP *r2)
 222 {
 223   /* ensure these are compatible replies */
 224   if ((r1->result!=TID_SUCCESS) || (r2->result!=TID_SUCCESS))
 225     return TID_ERROR;
 226
 227   if ((0 == tr_name_cmp(r1->rp_realm, r2->rp_realm))
 228       && (0 == tr_name_cmp(r1->realm, r2->realm))
 229       && ( (0 == tr_name_cmp(r1->comm, r2->comm))
 230            || (0 == tr_name_cmp(r1->comm, r2->orig_coi))
 231            || (0 == tr_name_cmp(r1->orig_coi, r2->comm)))) {
 232
 233     tid_srvr_blk_add(r1->servers, tid_srvr_blk_dup(r1, r2->servers));
 234     return TID_SUCCESS;
 235   }
 236
 237   return TID_ERROR;
 238 }
 239
 240 enum map_coi_result {
 241   MAP_COI_SUCCESS = 0,
 242   MAP_COI_MAP_NOT_REQUIRED,
 243   MAP_COI_ALREADY_MAPPED,
 244   MAP_COI_NO_APC,
 245   MAP_COI_INVALID_APC,
 246   MAP_COI_UNKNOWN_COMM,
 247   MAP_COI_ERROR
 248 };
 249
 250 static enum map_coi_result map_coi(TR_COMM_TABLE *ctable, TID_REQ *req)
 251 {
 252   TR_COMM *orig_comm;
 253   TR_NAME *apc_name;
 254   TR_COMM *apc;
 255   TR_APC *apcs;
 256
 257   if (tid_req_get_orig_coi(req) != NULL)
 258     return MAP_COI_ALREADY_MAPPED;
 259
 260   /* look up the community */
 261   orig_comm = tr_comm_table_find_comm(ctable, tid_req_get_comm(req));
 262   if (orig_comm == NULL)
 263     return MAP_COI_UNKNOWN_COMM;
 264
 265   if (tr_comm_get_type(orig_comm) == TR_COMM_APC)
 266     return MAP_COI_MAP_NOT_REQUIRED; /* it was already an APC, no mapping to do */
 267
 268   /* use first (only) APC. These are just APC names  */
 269   apcs = tr_comm_get_apcs(orig_comm);
 270   if ((!apcs) || (!tr_apc_get_id(apcs)))
 271     return MAP_COI_NO_APC;
 272
 273   /* get our own copy of the APC name */
 274   apc_name = tr_dup_name(tr_apc_get_id(apcs));
 275   if (apc_name == NULL) {
 276     tr_err("map_coi: Error allocating apc_name");
 277     return MAP_COI_ERROR;
 278   }
 279
 280   /* Check that the APC is configured */
 281   apc = tr_comm_table_find_comm(ctable, apc_name);
 282   if (apc == NULL) {
 283     tr_free_name(apc_name);
 284     return MAP_COI_INVALID_APC;
 285   }
 286
 287   tid_req_set_orig_coi(req, tid_req_get_comm(req)); /* was null, so no need to free anything */
 288   tid_req_set_comm(req, apc_name); /* original contents will be freed via orig_coi */
 289
 290   return MAP_COI_SUCCESS; /* successfully mapped */
 291 }
 292
 293 /**
 294  * Process a TID request
 295  *
 296  * Return value of -1 means to send a TID_ERROR response. Fill in resp->err_msg or it will
 297  * be returned as a generic error.
 298  *
 299  * @param tids
 300  * @param orig_req
 301  * @param resp
 302  * @param cookie_in
 303  * @return
 304  */
 305 static int tr_tids_req_handler(TIDS_INSTANCE *tids,
 306                                TID_REQ *orig_req,
 307                                TID_RESP *resp,
 308                                void *cookie_in)
 309 {
 310   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
 311   TR_AAA_SERVER *aaa_servers=NULL, *this_aaa=NULL;
 312   int n_aaa=0;
 313   int idp_shared=0;
 314   TR_AAA_SERVER_ITER *aaa_iter=NULL;
 315   pthread_t aaa_thread[TR_TID_MAX_AAA_SERVERS];
 316   struct tr_tids_fwd_cookie *aaa_cookie[TR_TID_MAX_AAA_SERVERS]={NULL};
 317   TID_RESP *aaa_resp[TR_TID_MAX_AAA_SERVERS]={NULL};
 318   TR_RP_CLIENT *rp_client=NULL;
 319   TR_RP_CLIENT_ITER *rpc_iter=NULL;
 320   TID_REQ *fwd_req = NULL;
 321   TR_COMM *cfg_comm = NULL;
 322   TR_COMM *cfg_apc = NULL;
 323   TR_FILTER_ACTION oaction = TR_FILTER_ACTION_REJECT;
 324   time_t expiration_interval=0;
 325   struct tr_tids_event_cookie *cookie=talloc_get_type_abort(cookie_in, struct tr_tids_event_cookie);
 326   TR_CFG_MGR *cfg_mgr=cookie->cfg_mgr;
 327   TRPS_INSTANCE *trps=cookie->trps;
 328   TRP_ROUTE *route=NULL;
 329   TR_MQ *mq=NULL;
 330   TR_MQ_MSG *msg=NULL;
 331   unsigned int n_responses=0;
 332   unsigned int n_failed=0;
 333   struct timespec ts_abort={0};
 334   unsigned int resp_frac_numer=cfg_mgr->active->internal->tid_resp_numer;
 335   unsigned int resp_frac_denom=cfg_mgr->active->internal->tid_resp_denom;
 336   TR_RESP_COOKIE *payload=NULL;
 337   TR_FILTER_TARGET *target=NULL;
 338   int ii=0;
 339   int retval=-1;
 340
 341   if ((!tids) || (!orig_req) || (!resp)) {
 342     tr_debug("tr_tids_req_handler: Bad parameters");
 343     retval=-1;
 344     goto cleanup;
 345   }
 346
 347   tr_debug("tr_tids_req_handler: Request received (conn = %d)! Realm = %s, Comm = %s", orig_req->conn,
 348            orig_req->realm->buf, orig_req->comm->buf);
 349
 350   /* Duplicate the request, so we can modify and forward it */
 351   if (NULL == (fwd_req=tid_dup_req(orig_req))) {
 352     tr_debug("tr_tids_req_handler: Unable to duplicate request.");
 353     retval=-1; /* response will be a generic internal error */
 354     goto cleanup;
 355   }
 356   talloc_steal(tmp_ctx, fwd_req);
 357
 358   /* cfg_comm is now the community (APC or CoI) of the incoming request */
 359   if (NULL == (cfg_comm=tr_comm_table_find_comm(cfg_mgr->active->ctable, orig_req->comm))) {
 360     tr_notice("tr_tids_req_hander: Request for unknown comm: %s.", orig_req->comm->buf);
 361     tid_resp_set_err_msg(resp, tr_new_name("Unknown community"));
 362     retval=-1;
 363     goto cleanup;
 364   }
 365
 366   /* We now need to apply the filters associated with the RP client handing us the request.
 367    * It is possible (or even likely) that more than one client is associated with the GSS
 368    * name we got from the authentication. We will apply all of them in an arbitrary order.
 369    * For this to result in well-defined behavior, either only accept or only reject filter
 370    * lines should be used, or a unique GSS name must be given for each RP realm. */
 371
 372   if (!tids->gss_name) {
 373     tr_notice("tr_tids_req_handler: No GSS name for incoming request.");
 374     tid_resp_set_err_msg(resp, tr_new_name("No GSS name for request"));
 375     retval=-1;
 376     goto cleanup;
 377   }
 378
 379   /* Keep original constraints, may add more from the filter. These will be added to orig_req as
 380    * well. Need to verify that this is acceptable behavior, but it's what we've always done. */
 381   fwd_req->cons=orig_req->cons;
 382
 383   target=tr_filter_target_tid_req(tmp_ctx, orig_req);
 384   if (target==NULL) {
 385     tr_crit("tid_req_handler: Unable to allocate filter target, cannot apply filter!");
 386     tid_resp_set_err_msg(resp, tr_new_name("Incoming TID request filter error"));
 387     retval=-1;
 388     goto cleanup;
 389   }
 390
 391   rpc_iter=tr_rp_client_iter_new(tmp_ctx);
 392   if (rpc_iter==NULL) {
 393     tr_err("tid_req_handler: Unable to allocate RP client iterator.");
 394     retval=-1;
 395     goto cleanup;
 396   }
 397   for (rp_client=tr_rp_client_iter_first(rpc_iter, cfg_mgr->active->rp_clients);
 398        rp_client != NULL;
 399        rp_client=tr_rp_client_iter_next(rpc_iter)) {
 400
 401     if (!tr_gss_names_matches(rp_client->gss_names, tids->gss_name))
 402       continue; /* skip any that don't match the GSS name */
 403
 404     if (TR_FILTER_MATCH == tr_filter_apply(target,
 405                                            tr_filter_set_get(rp_client->filters,
 406                                                              TR_FILTER_TYPE_TID_INBOUND),
 407                                            &(fwd_req->cons),
 408                                            &oaction))
 409       break; /* Stop looking, oaction is set */
 410   }
 411
 412   /* We get here whether or not a filter matched. If tr_filter_apply() doesn't match, it returns
 413    * a default action of reject, so we don't have to check why we exited the loop. */
 414   if (oaction != TR_FILTER_ACTION_ACCEPT) {
 415     tr_notice("tr_tids_req_handler: Incoming TID request rejected by RP client filter for GSS name %.*s",
 416               tids->gss_name->len, tids->gss_name->buf);
 417     tid_resp_set_err_msg(resp, tr_new_name("Incoming TID request filter error"));
 418     retval = -1;
 419     goto cleanup;
 420   }
 421
 422   /* Check that the rp_realm is a member of the community in the request */
 423   if (NULL == tr_comm_find_rp(cfg_mgr->active->ctable, cfg_comm, orig_req->rp_realm)) {
 424     tr_notice("tr_tids_req_handler: RP Realm (%s) not member of community (%s).",
 425               orig_req->rp_realm->buf, orig_req->comm->buf);
 426     tid_resp_set_err_msg(resp, tr_new_name("RP community membership error"));
 427     retval=-1;
 428     goto cleanup;
 429   }
 430
 431   switch(map_coi(cfg_mgr->active->ctable, fwd_req)) {
 432     case MAP_COI_MAP_NOT_REQUIRED:
 433       cfg_apc = cfg_comm;
 434       break;
 435
 436     case MAP_COI_SUCCESS:
 437       cfg_apc = tr_comm_table_find_comm(cfg_mgr->active->ctable, tid_req_get_comm(fwd_req));
 438       tr_debug("tr_tids_req_handler: Community %.*s is a COI, mapping to APC %.*s.",
 439                tid_req_get_orig_coi(fwd_req)->len, tid_req_get_orig_coi(fwd_req)->buf,
 440                tr_comm_get_id(cfg_apc)->len, tr_comm_get_id(cfg_apc)->buf);
 441       break;
 442
 443     case MAP_COI_ALREADY_MAPPED:
 444       tr_notice("tr_tids_req_handler: community %.*s is COI but COI to APC mapping already occurred. Dropping request.",
 445                 tid_req_get_comm(orig_req)->len, tid_req_get_comm(orig_req)->buf);
 446       tid_resp_set_err_msg(resp, tr_new_name("Second COI to APC mapping would result, permitted only once."));
 447       retval = -1;
 448       goto cleanup;
 449
 450     case MAP_COI_NO_APC:
 451       tr_notice("No valid APC for COI %.*s.",
 452                 tid_req_get_comm(orig_req)->len, tid_req_get_comm(orig_req)->buf);
 453       tid_resp_set_err_msg(resp, tr_new_name("No valid APC for community"));
 454       retval = -1;
 455       goto cleanup;
 456
 457     case MAP_COI_INVALID_APC:
 458       tr_notice("tr_tids_req_hander: Request for unknown APC.");
 459       tid_resp_set_err_msg(resp, tr_new_name("Unknown APC"));
 460       retval = -1;
 461       goto cleanup;
 462
 463     default:
 464       tr_notice("tr_tids_req_hander: Unexpected error mapping COI to APC.");
 465       retval = -1;
 466       goto cleanup;
 467   }
 468
 469   /* cfg_comm is now the original community, and cfg_apc is the APC it belongs to. These
 470    * may both be the same. If not, check that rp_realm is a  member of the mapped APC */
 471   if ((cfg_apc != cfg_comm)
 472       && (NULL == tr_comm_find_rp(cfg_mgr->active->ctable,
 473                                   cfg_apc,
 474                                   tid_req_get_rp_realm(fwd_req)))) {
 475     tr_notice("tr_tids_req_hander: RP Realm (%.*s) not member of mapped APC (%.*s).",
 476               tid_req_get_rp_realm(fwd_req)->len, tid_req_get_rp_realm(fwd_req)->buf,
 477               tr_comm_get_id(cfg_apc)->len, tr_comm_get_id(cfg_apc)->buf);
 478     tid_resp_set_err_msg(resp, tr_new_name("RP community membership error"));
 479     retval=-1;
 480     goto cleanup;
 481   }
 482
 483   /* Look up the route for forwarding request's community/realm. */
 484   tr_debug("tr_tids_req_handler: looking up route.");
 485   route=trps_get_selected_route(trps, fwd_req->comm, fwd_req->realm);
 486   if (route==NULL) {
 487     /* No route. Use default AAA servers if we have them. */
 488     tr_debug("tr_tids_req_handler: No route for realm %s, defaulting.", fwd_req->realm->buf);
 489     if (NULL == (aaa_servers = tr_default_server_lookup(cfg_mgr->active->default_servers,
 490                                                         fwd_req->comm))) {
 491       tr_notice("tr_tids_req_handler: No default AAA servers, discarded.");
 492       tid_resp_set_err_msg(resp, tr_new_name("No path to AAA Server(s) for realm"));
 493       retval = -1;
 494       goto cleanup;
 495     }
 496     idp_shared = 0;
 497   } else {
 498     /* Found a route. Determine the AAA servers or next hop address for the request we are forwarding. */
 499     tr_debug("tr_tids_req_handler: found route.");
 500     if (trp_route_is_local(route)) {
 501       tr_debug("tr_tids_req_handler: route is local.");
 502       aaa_servers = tr_idp_aaa_server_lookup(cfg_mgr->active->ctable->idp_realms,
 503                                              fwd_req->realm,
 504                                              fwd_req->comm,
 505                                              &idp_shared);
 506     } else {
 507       tr_debug("tr_tids_req_handler: route not local.");
 508       aaa_servers = tr_aaa_server_new(tmp_ctx, trp_route_get_next_hop(route));
 509       idp_shared = 0;
 510     }
 511
 512     /* Since we aren't defaulting, check idp coi and apc membership of the original request */
 513     if (NULL == (tr_comm_find_idp(cfg_mgr->active->ctable, cfg_comm, orig_req->realm))) {
 514       tr_notice("tr_tids_req_handler: IDP Realm (%s) not member of community (%s).", orig_req->realm->buf, cfg_comm->id->buf);
 515       tid_resp_set_err_msg(resp, tr_new_name("IDP community membership error"));
 516       retval=-1;
 517       goto cleanup;
 518     }
 519     if ( cfg_apc && (NULL == (tr_comm_find_idp(cfg_mgr->active->ctable, cfg_apc, orig_req->realm)))) {
 520       tr_notice("tr_tids_req_handler: IDP Realm (%s) not member of APC (%s).", orig_req->realm->buf, cfg_apc->id->buf);
 521       tid_resp_set_err_msg(resp, tr_new_name("IDP APC membership error"));
 522       retval=-1;
 523       goto cleanup;
 524     }
 525   }
 526
 527   /* Make sure we came through with a AAA server. If not, we can't handle the request.
 528    * Report using the original request, not translated values. */
 529   if (NULL == aaa_servers) {
 530     tr_notice("tr_tids_req_handler: no route or AAA server for realm (%s) in community (%s).",
 531               orig_req->realm->buf, orig_req->comm->buf);
 532     tid_resp_set_err_msg(resp, tr_new_name("Missing trust route error"));
 533     retval = -1;
 534     goto cleanup;
 535   }
 536
 537   /* send a TID request to the AAA server(s), and get the answer(s) */
 538   tr_debug("tr_tids_req_handler: sending TID request(s).");
 539   /* Use the smaller of the APC's expiration interval and the expiration interval of the incoming request */
 540   expiration_interval = cfg_apc->expiration_interval;
 541   if (fwd_req->expiration_interval)
 542     fwd_req->expiration_interval =  (expiration_interval < fwd_req->expiration_interval) ? expiration_interval : fwd_req->expiration_interval;
 543   else
 544     fwd_req->expiration_interval = expiration_interval;
 545
 546   /* Set up message queue for replies from req forwarding threads */
 547   mq=tr_mq_new(tmp_ctx);
 548   if (mq==NULL) {
 549     tr_notice("tr_tids_req_handler: unable to allocate message queue.");
 550     retval=-1;
 551     goto cleanup;
 552   }
 553   tr_debug("tr_tids_req_handler: message queue allocated.");
 554
 555   /* start threads */
 556   aaa_iter=tr_aaa_server_iter_new(tmp_ctx);
 557   if (aaa_iter==NULL) {
 558     tr_notice("tr_tids_req_handler: unable to allocate AAA server iterator.");
 559     retval=-1;
 560     goto cleanup;
 561   }
 562   for (n_aaa=0, this_aaa=tr_aaa_server_iter_first(aaa_iter, aaa_servers);
 563        this_aaa!=NULL;
 564        n_aaa++, this_aaa=tr_aaa_server_iter_next(aaa_iter)) {
 565     tr_debug("tr_tids_req_handler: Preparing to start thread %d.", n_aaa);
 566
 567     aaa_cookie[n_aaa]=talloc(tmp_ctx, struct tr_tids_fwd_cookie);
 568     if (aaa_cookie[n_aaa]==NULL) {
 569       tr_notice("tr_tids_req_handler: unable to allocate cookie for AAA thread %d.", n_aaa);
 570       retval=-1;
 571       goto cleanup;
 572     }
 573     talloc_set_destructor((void *)(aaa_cookie[n_aaa]), tr_tids_fwd_cookie_destructor);
 574     /* fill in the cookie. To ensure the thread has valid data even if we exit first and
 575      * abandon it, duplicate anything pointed to (except the mq). */
 576     aaa_cookie[n_aaa]->thread_id=n_aaa;
 577     if (0!=pthread_mutex_init(&(aaa_cookie[n_aaa]->mutex), NULL)) {
 578       tr_notice("tr_tids_req_handler: unable to init mutex for AAA thread %d.", n_aaa);
 579       retval=-1;
 580       goto cleanup;
 581     }
 582     aaa_cookie[n_aaa]->mq=mq;
 583     aaa_cookie[n_aaa]->aaa_hostname=tr_dup_name(this_aaa->hostname);
 584     aaa_cookie[n_aaa]->dh_params=tr_dh_dup(orig_req->tidc_dh);
 585     aaa_cookie[n_aaa]->fwd_req=tid_dup_req(fwd_req);
 586     talloc_steal(aaa_cookie[n_aaa], aaa_cookie[n_aaa]->fwd_req);
 587     tr_debug("tr_tids_req_handler: cookie %d initialized.", n_aaa);
 588
 589     /* Take the cookie out of tmp_ctx before starting thread. If thread starts, it becomes
 590      * responsible for freeing it until it queues a response. If we did not do this, the possibility
 591      * exists that this function exits, freeing the cookie, before the thread takes the cookie
 592      * out of our tmp_ctx. This would cause a segfault or talloc error in the thread. */
 593     talloc_steal(NULL, aaa_cookie[n_aaa]);
 594     if (0!=pthread_create(&(aaa_thread[n_aaa]), NULL, tr_tids_req_fwd_thread, aaa_cookie[n_aaa])) {
 595       talloc_steal(tmp_ctx, aaa_cookie[n_aaa]); /* thread start failed; steal this back */
 596       tr_notice("tr_tids_req_handler: unable to start AAA thread %d.", n_aaa);
 597       retval=-1;
 598       goto cleanup;
 599     }
 600     tr_debug("tr_tids_req_handler: thread %d started.", n_aaa);
 601   }
 602
 603   /* determine expiration time */
 604   if (0!=tr_mq_pop_timeout(cfg_mgr->active->internal->tid_req_timeout, &ts_abort)) {
 605     tr_notice("tr_tids_req_handler: unable to read clock for timeout.");
 606     retval=-1;
 607     goto cleanup;
 608   }
 609
 610   /* wait for responses */
 611   tr_debug("tr_tids_req_handler: waiting for response(s).");
 612   n_responses=0;
 613   n_failed=0;
 614   while (((n_responses+n_failed)<n_aaa) &&
 615          (NULL!=(msg=tr_mq_pop(mq, &ts_abort)))) {
 616     /* process message */
 617     if (0==strcmp(tr_mq_msg_get_message(msg), TR_TID_MQMSG_SUCCESS)) {
 618       payload=talloc_get_type_abort(tr_mq_msg_get_payload(msg), TR_RESP_COOKIE);
 619       talloc_steal(tmp_ctx, payload); /* put this back in our context */
 620       aaa_resp[payload->thread_id]=payload->resp; /* save pointers to these */
 621
 622       if (payload->resp->result==TID_SUCCESS) {
 623         tr_tids_merge_resps(resp, payload->resp);
 624         n_responses++;
 625       } else {
 626         n_failed++;
 627         tr_notice("tr_tids_req_handler: TID error received from AAA server %d: %.*s",
 628                   payload->thread_id,
 629                   payload->resp->err_msg->len,
 630                   payload->resp->err_msg->buf);
 631       }
 632     } else if (0==strcmp(tr_mq_msg_get_message(msg), TR_TID_MQMSG_FAILURE)) {
 633       /* failure */
 634       n_failed++;
 635       payload=talloc_get_type(tr_mq_msg_get_payload(msg), TR_RESP_COOKIE);
 636       if (payload!=NULL)
 637         talloc_steal(tmp_ctx, payload); /* put this back in our context */
 638       else {
 639         /* this means the thread was unable to allocate a response cookie, and we thus cannot determine which thread it was. This is bad and should never happen in a working system.. Give up. */
 640         tr_notice("tr_tids_req_handler: TID request thread sent invalid reply. Aborting!");
 641         retval=-1;
 642         goto cleanup;
 643       }
 644       tr_notice("tr_tids_req_handler: TID request for AAA server %d failed.",
 645                 payload->thread_id);
 646     } else {
 647       /* unexpected message */
 648       tr_err("tr_tids_req_handler: Unexpected message received. Aborting!");
 649       retval=-1;
 650       goto cleanup;
 651     }
 652
 653     /* Set the cookie pointer to NULL so we know we've dealt with this one. The
 654      * cookie itself is in our tmp_ctx, which we'll free before exiting. Let it hang
 655      * around in case we are still using pointers to elements of the cookie. */
 656     aaa_cookie[payload->thread_id]=NULL;
 657
 658     tr_mq_msg_free(msg);
 659
 660     /* check whether we've received enough responses to exit */
 661     if ((idp_shared && (n_responses>0)) ||
 662         (resp_frac_denom*n_responses>=resp_frac_numer*n_aaa))
 663       break;
 664   }
 665
 666   tr_debug("tr_tids_req_handler: done waiting for responses. %d responses, %d failures.",
 667            n_responses, n_failed);
 668   /* Inform any remaining threads that we will no longer handle their responses. */
 669   for (ii=0; ii<n_aaa; ii++) {
 670     if (aaa_cookie[ii]!=NULL) {
 671       if (0!=tr_tids_fwd_get_mutex(aaa_cookie[ii]))
 672         tr_notice("tr_tids_req_handler: unable to get mutex for AAA thread %d.", ii);
 673
 674       aaa_cookie[ii]->mq=NULL; /* threads will not try to respond through a null mq */
 675
 676       if (0!=tr_tids_fwd_release_mutex(aaa_cookie[ii]))
 677         tr_notice("tr_tids_req_handler: unable to release mutex for AAA thread %d.", ii);
 678     }
 679   }
 680
 681   /* Now all threads have either replied (and aaa_cookie[ii] is null) or have been told not to
 682    * reply (by setting their mq pointer to null). However, some may have responded by placing
 683    * a message on the mq after we last checked but before we set their mq pointer to null. These
 684    * will not know that we gave up on them, so we must free their cookies for them. We can just
 685    * go through any remaining messages on the mq to identify these threads. By putting them in
 686    * our context instead of freeing them directly, we ensure we don't accidentally invalidate
 687    * any of our own pointers into the structure before this function exits. */
 688   while (NULL!=(msg=tr_mq_pop(mq, NULL))) {
 689     payload=(TR_RESP_COOKIE *)tr_mq_msg_get_payload(msg);
 690     if (aaa_cookie[payload->thread_id]!=NULL)
 691       talloc_steal(tmp_ctx, aaa_cookie[payload->thread_id]);
 692
 693     tr_mq_msg_free(msg);
 694   }
 695
 696   if (n_responses==0) {
 697     /* No requests succeeded, so this will be an error */
 698     retval = -1;
 699
 700     /* If we got any error responses, send an arbitrarily chosen one. */
 701     for (ii=0; ii<n_aaa; ii++) {
 702       if (aaa_resp[ii] != NULL) {
 703         tid_resp_cpy(resp, aaa_resp[ii]);
 704         goto cleanup;
 705       }
 706     }
 707     /* No error responses at all, so generate our own error. */
 708     tid_resp_set_err_msg(resp, tr_new_name("Unable to contact AAA server(s)."));
 709     goto cleanup;
 710   }
 711
 712   /* success! */
 713   retval=0;
 714
 715 cleanup:
 716   talloc_free(tmp_ctx);
 717   return retval;
 718 }
 719
 720 static int tr_tids_gss_handler(gss_name_t client_name, TR_NAME *gss_name,
 721                                void *data)
 722 {
 723   struct tr_tids_event_cookie *cookie=talloc_get_type_abort(data, struct tr_tids_event_cookie);
 724   TIDS_INSTANCE *tids = cookie->tids;
 725   TR_CFG_MGR *cfg_mgr = cookie->cfg_mgr;
 726
 727   if ((!client_name) || (!gss_name) || (!tids) || (!cfg_mgr)) {
 728     tr_debug("tr_tidc_gss_handler: Bad parameters.");
 729     return -1;
 730   }
 731
 732   /* Ensure at least one client exists using this GSS name */
 733   if (NULL == tr_rp_client_lookup(cfg_mgr->active->rp_clients, gss_name)) {
 734     tr_debug("tr_tids_gss_handler: Unknown GSS name %.*s", gss_name->len, gss_name->buf);
 735     return -1;
 736   }
 737
 738   /* Store the GSS name */
 739   tids->gss_name = tr_dup_name(gss_name);
 740   tr_debug("Client's GSS Name: %.*s", gss_name->len, gss_name->buf);
 741
 742   return 0;
 743 }
 744
 745
 746 /***** TIDS event handling *****/
 747
 748 /* called when a connection to the TIDS port is received */
 749 static void tr_tids_event_cb(int listener, short event, void *arg)
 750 {
 751   TIDS_INSTANCE *tids = talloc_get_type_abort(arg, TIDS_INSTANCE);
 752
 753   if (0==(event & EV_READ))
 754     tr_debug("tr_tids_event_cb: unexpected event on TIDS socket (event=0x%X)", event);
 755   else
 756     tids_accept(tids, listener);
 757 }
 758
 759 /* called when it's time to sweep for completed TID child processes */
 760 static void tr_tids_sweep_cb(int listener, short event, void *arg)
 761 {
 762   TIDS_INSTANCE *tids = talloc_get_type_abort(arg, TIDS_INSTANCE);
 763
 764   if (0==(event & EV_TIMEOUT))
 765     tr_debug("tr_tids_event_cb: unexpected event on TID process sweep timer (event=0x%X)", event);
 766   else
 767     tids_sweep_procs(tids);
 768 }
 769
 770 /* Configure the tids instance and set up its event handlers.
 771  * Returns 0 on success, nonzero on failure. Fills in
 772  * *tids_event (which should be allocated by caller). */
 773 int tr_tids_event_init(struct event_base *base, TIDS_INSTANCE *tids, TR_CFG_MGR *cfg_mgr, TRPS_INSTANCE *trps,
 774                        struct tr_socket_event *tids_ev, struct event **sweep_ev)
 775 {
 776   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
 777   struct tr_tids_event_cookie *cookie=NULL;
 778   struct timeval sweep_interval;
 779   int retval=0;
 780   int ii=0;
 781
 782   if (tids_ev == NULL) {
 783     tr_debug("tr_tids_event_init: Null tids_ev.");
 784     retval=1;
 785     goto cleanup;
 786   }
 787
 788   if (sweep_ev == NULL) {
 789     tr_debug("tr_tids_event_init: Null sweep_ev.");
 790     retval = 1;
 791     goto cleanup;
 792   }
 793
 794   /* Create the cookie for callbacks. We'll put it in the tids context, so it will
 795    * be cleaned up when tids is freed by talloc_free. */
 796   cookie=talloc(tmp_ctx, struct tr_tids_event_cookie);
 797   if (cookie == NULL) {
 798     tr_debug("tr_tids_event_init: Unable to allocate cookie.");
 799     retval=1;
 800     goto cleanup;
 801   }
 802   cookie->tids=tids;
 803   cookie->cfg_mgr=cfg_mgr;
 804   cookie->trps=trps;
 805   talloc_steal(tids, cookie);
 806
 807   /* get a tids listener */
 808   tids_ev->n_sock_fd = (int)tids_get_listener(tids,
 809                                               tr_tids_req_handler,
 810                                               tr_tids_gss_handler,
 811                                               cfg_mgr->active->internal->hostname,
 812                                               cfg_mgr->active->internal->tids_port,
 813                                               (void *)cookie,
 814                                               tids_ev->sock_fd,
 815                                               TR_MAX_SOCKETS);
 816   if (tids_ev->n_sock_fd==0) {
 817     tr_crit("Error opening TID server socket.");
 818     retval=1;
 819     goto cleanup;
 820   }
 821
 822   /* Set up listener events */
 823   for (ii=0; ii<tids_ev->n_sock_fd; ii++) {
 824     tids_ev->ev[ii]=event_new(base,
 825                               tids_ev->sock_fd[ii],
 826                               EV_READ|EV_PERSIST,
 827                               tr_tids_event_cb,
 828                               (void *)tids);
 829     event_add(tids_ev->ev[ii], NULL);
 830   }
 831
 832   /* Set up a periodic check for completed TID handler processes */
 833   *sweep_ev = event_new(base, -1, EV_TIMEOUT|EV_PERSIST, tr_tids_sweep_cb, tids);
 834   sweep_interval.tv_sec = 10;
 835   sweep_interval.tv_usec = 0;
 836   event_add(*sweep_ev, &sweep_interval);
 837
 838 cleanup:
 839   talloc_free(tmp_ctx);
 840   return retval;
 841 }