Fix community table sweep / removal. Trust router now stable.
[trust_router.git] / tr / tr_trp.c
1 /*
2  * Copyright (c) 2016, JANET(UK)
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  *
16  * 3. Neither the name of JANET(UK) nor the names of its contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  *
20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
21  * "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
22  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS
23  * FOR A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE
24  * COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT,
25  * INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
26  * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR
27  * SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
29  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
30  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
31  * OF THE POSSIBILITY OF SUCH DAMAGE.
32  *
33  */
34
35 #include <stdio.h>
36 #include <pthread.h>
37 #include <fcntl.h>
38 #include <event2/event.h>
39 #include <talloc.h>
40 #include <errno.h>
41 #include <unistd.h>
42 #include <string.h>
43 #include <sys/time.h>
44 #include <time.h>
45
46 #include <gsscon.h>
47 #include <tr.h>
48 #include <tr_mq.h>
49 #include <tr_rp.h>
50 #include <trp_internal.h>
51 #include <trp_ptable.h>
52 #include <trp_rtable.h>
53 #include <tr_config.h>
54 #include <tr_event.h>
55 #include <tr_msg.h>
56 #include <tr_trp.h>
57 #include <tr_debug.h>
58
59 /* data for event callbacks */
60 struct tr_trps_event_cookie {
61   TRPS_INSTANCE *trps;
62   TR_CFG_MGR *cfg_mgr;
63   struct event *ev;
64 };
65
66 /* callback to schedule event to process messages */
67 static void tr_trps_mq_cb(TR_MQ *mq, void *arg)
68 {
69   struct event *mq_ev=(struct event *)arg;
70   event_active(mq_ev, 0, 0);
71 }
72
73 static void msg_free_helper(void *p)
74 {
75   tr_msg_free_decoded((TR_MSG *)p);
76 }
77
78 static void tr_free_name_helper(void *arg)
79 {
80   tr_free_name((TR_NAME *)arg);
81 }
82
83 /* takes a TR_MSG and puts it in a TR_MQ_MSG for processing by the main thread */
84 static TRP_RC tr_trps_msg_handler(TRPS_INSTANCE *trps,
85                                   TRP_CONNECTION *conn,
86                                   TR_MSG *tr_msg)
87 {
88   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
89   TR_MQ_MSG *mq_msg=NULL;
90
91   /* n.b., conn is available here, but do not hold onto the reference
92    * because it may be cleaned up if the originating connection goes
93    * down before the message is processed */
94   mq_msg=tr_mq_msg_new(tmp_ctx, TR_MQMSG_MSG_RECEIVED, TR_MQ_PRIO_NORMAL);
95   if (mq_msg==NULL) {
96     return TRP_NOMEM;
97   }
98   tr_mq_msg_set_payload(mq_msg, (void *)tr_msg, msg_free_helper);
99   trps_mq_add(trps, mq_msg);
100   talloc_free(tmp_ctx); /* cleans up the message if it did not get appended correctly */
101   return TRP_SUCCESS;
102 }
103
104
105 static int tr_trps_gss_handler(gss_name_t client_name, gss_buffer_t gss_name,
106                                void *cookie_in)
107 {
108   struct tr_trps_event_cookie *cookie=(struct tr_trps_event_cookie *)cookie_in;
109   TRPS_INSTANCE *trps = cookie->trps;
110   TR_CFG_MGR *cfg_mgr = cookie->cfg_mgr;
111   TR_NAME name={gss_name->value, gss_name->length};
112
113   tr_debug("tr_trps_gss_handler()");
114
115   if ((!client_name) || (!gss_name) || (!trps) || (!cfg_mgr)) {
116     tr_debug("tr_trps_gss_handler: Bad parameters.");
117     return -1;
118   }
119   
120   /* look up the TRPS peer matching the GSS name */
121   if (NULL==trps_get_peer_by_gssname(trps, &name)) {
122     tr_warning("tr_trps_gss_handler: Connection attempt from unknown peer (GSS name: %.*s).", name.len, name.buf);
123     return -1;
124   }
125
126   tr_debug("Client's GSS Name: %.*s", name.len, name.buf);
127   return 0;
128 }
129
130 /* data passed to thread */
131 struct trps_thread_data {
132   TRP_CONNECTION *conn;
133   TRPS_INSTANCE *trps;
134 };
135 /* thread to handle GSS connections from peers */
136 static void *tr_trps_thread(void *arg)
137 {
138   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
139   struct trps_thread_data *thread_data=talloc_get_type_abort(arg, struct trps_thread_data);
140   TRP_CONNECTION *conn=thread_data->conn;
141   TRPS_INSTANCE *trps=thread_data->trps;
142   TR_MQ_MSG *msg=NULL;
143
144   tr_debug("tr_trps_thread: started");
145   if (trps_authorize_connection(trps, conn)!=TRP_SUCCESS)
146     goto cleanup;
147
148   msg=tr_mq_msg_new(tmp_ctx, TR_MQMSG_TRPS_CONNECTED, TR_MQ_PRIO_HIGH);
149   tr_mq_msg_set_payload(msg, (void *)tr_dup_name(trp_connection_get_peer(conn)), tr_free_name_helper);
150   if (msg==NULL) {
151     tr_err("tr_trps_thread: error allocating TR_MQ_MSG");
152     goto cleanup;
153   } 
154   trps_mq_add(trps, msg); /* steals msg context */
155   msg=NULL;
156
157   trps_handle_connection(trps, conn);
158
159 cleanup:
160   msg=tr_mq_msg_new(tmp_ctx, TR_MQMSG_TRPS_DISCONNECTED, TR_MQ_PRIO_HIGH);
161   tr_mq_msg_set_payload(msg, (void *)conn, NULL); /* do not pass a free routine */
162   if (msg==NULL)
163     tr_err("tr_trps_thread: error allocating TR_MQ_MSG");
164   else
165     trps_mq_add(trps, msg);
166   tr_debug("tr_trps_thread: exit");
167   talloc_free(tmp_ctx);
168   return NULL;
169 }
170
171 /* called when a connection to the TRPS port is received */
172 static void tr_trps_event_cb(int listener, short event, void *arg)
173 {
174   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
175   TRPS_INSTANCE *trps = talloc_get_type_abort(arg, TRPS_INSTANCE); /* aborts on wrong type */
176   TRP_CONNECTION *conn=NULL;
177   TR_NAME *gssname=NULL;
178   char *name=NULL;
179   struct trps_thread_data *thread_data=NULL;
180
181   if (0==(event & EV_READ)) {
182     tr_debug("tr_trps_event_cb: unexpected event on TRPS socket (event=0x%X)", event);
183   } else {
184     /* create a thread to handle this connection */
185     if (asprintf(&name, "trustrouter@%s", trps->hostname)==-1) {
186       goto cleanup;
187     }
188     gssname=tr_new_name(name);
189     free(name); name=NULL;
190     conn=trp_connection_accept(tmp_ctx, listener, gssname);
191     if (conn!=NULL) {
192       /* need to monitor this fd and trigger events when read becomes possible */
193       thread_data=talloc(conn, struct trps_thread_data);
194       if (thread_data==NULL) {
195         tr_err("tr_trps_event_cb: unable to allocate trps_thread_data");
196         talloc_free(tmp_ctx);
197         return;
198       }
199       thread_data->conn=conn;
200       thread_data->trps=trps;
201       trps_add_connection(trps, conn); /* remember the connection */
202       pthread_create(trp_connection_get_thread(conn), NULL, tr_trps_thread, thread_data);
203     }
204   }
205
206  cleanup:
207   talloc_free(tmp_ctx);
208 }
209
210 static void tr_trps_cleanup_conn(TRPS_INSTANCE *trps, TRP_CONNECTION *conn)
211 {
212   /* everything belonging to the thread is in the TRP_CONNECTION
213    * associated with it */
214   tr_debug("tr_trps_cleanup_conn: freeing %p", conn);
215   pthread_join(*trp_connection_get_thread(conn), NULL);
216   trps_remove_connection(trps, conn);
217   trp_connection_free(conn);
218   tr_debug("tr_trps_cleanup_conn: deleted connection");
219 }
220
221 static void tr_trps_cleanup_trpc(TRPS_INSTANCE *trps, TRPC_INSTANCE *trpc)
222 {
223   pthread_join(*trp_connection_get_thread(trpc_get_conn(trpc)), NULL);
224   trps_remove_trpc(trps, trpc);
225   trpc_free(trpc);
226   tr_debug("tr_trps_cleanup_trpc: deleted connection");
227 }
228
229 static void tr_trps_print_route_table(TRPS_INSTANCE *trps, FILE *f)
230 {
231   char *table=trp_rtable_to_str(NULL, trps->rtable, " | ", NULL);
232   if (table==NULL)
233     fprintf(f, "Unable to print route table.\n");
234   else {
235     fprintf(f, "%s\n", table);
236     talloc_free(table);
237   }
238 }
239
240 static void tr_trps_process_mq(int socket, short event, void *arg)
241 {
242   TRPS_INSTANCE *trps=talloc_get_type_abort(arg, TRPS_INSTANCE);
243   TR_MQ_MSG *msg=NULL;
244   const char *s=NULL;
245
246   msg=trps_mq_pop(trps);
247   while (msg!=NULL) {
248     s=tr_mq_msg_get_message(msg);
249     if (0==strcmp(s, TR_MQMSG_TRPS_CONNECTED)) {
250       TR_NAME *gssname=(TR_NAME *)tr_mq_msg_get_payload(msg);
251       TRP_PEER *peer=trps_get_peer_by_gssname(trps, gssname);
252       if (peer==NULL)
253         tr_err("tr_trps_process_mq: incoming connection from unknown peer (%s) reported.", gssname->buf);
254       else {
255         trp_peer_set_incoming_status(peer, PEER_CONNECTED);
256         tr_err("tr_trps_process_mq: incoming connection from %s established.", gssname->buf);
257       }
258     }
259     else if (0==strcmp(s, TR_MQMSG_TRPS_DISCONNECTED)) {
260       TRP_CONNECTION *conn=talloc_get_type_abort(tr_mq_msg_get_payload(msg), TRP_CONNECTION);
261       TR_NAME *gssname=trp_connection_get_gssname(conn);
262       TRP_PEER *peer=trps_get_peer_by_gssname(trps, gssname);
263       if (peer==NULL) {
264         tr_err("tr_trps_process_mq: incoming connection from unknown peer (%s) lost.",
265                trp_connection_get_gssname(conn)->buf);
266       } else {
267         trp_peer_set_incoming_status(peer, PEER_DISCONNECTED);
268         tr_trps_cleanup_conn(trps, conn);
269         tr_err("tr_trps_process_mq: incoming connection from %s lost.", gssname->buf);
270       }
271     }
272     else if (0==strcmp(s, TR_MQMSG_TRPC_CONNECTED)) {
273       TR_NAME *svcname=(TR_NAME *)tr_mq_msg_get_payload(msg);
274       TRP_PEER *peer=trps_get_peer_by_servicename(trps, svcname);
275       if (peer==NULL)
276         tr_err("tr_trps_process_mq: outgoing connection to unknown peer (%s) reported.", svcname->buf);
277       else {
278         trp_peer_set_outgoing_status(peer, PEER_CONNECTED);
279         tr_err("tr_trps_process_mq: outgoing connection to %s established.", svcname->buf);
280       }
281     }
282     else if (0==strcmp(s, TR_MQMSG_TRPC_DISCONNECTED)) {
283       /* trpc connection died */
284       TRPC_INSTANCE *trpc=talloc_get_type_abort(tr_mq_msg_get_payload(msg), TRPC_INSTANCE);
285       TR_NAME *gssname=trpc_get_gssname(trpc);
286       TRP_PEER *peer=trps_get_peer_by_servicename(trps, gssname);
287       if (peer==NULL)
288         tr_err("tr_trps_process_mq: outgoing connection to unknown peer (%s) lost.", gssname->buf);
289       else {
290         trp_peer_set_outgoing_status(peer, PEER_DISCONNECTED);
291         tr_err("tr_trps_process_mq: outgoing connection to %s lost.", gssname->buf);
292         tr_trps_cleanup_trpc(trps, trpc);
293       }
294     }
295
296     else if (0==strcmp(s, TR_MQMSG_MSG_RECEIVED)) {
297       if (trps_handle_tr_msg(trps, tr_mq_msg_get_payload(msg))!=TRP_SUCCESS)
298         tr_notice("tr_trps_process_mq: error handling message.");
299       else {
300         tr_trps_print_route_table(trps, stderr);
301       }
302     }
303     else
304       tr_notice("tr_trps_process_mq: unknown message '%s' received.", tr_mq_msg_get_message(msg));
305
306     tr_mq_msg_free(msg);
307     msg=trps_mq_pop(trps);
308   }
309 }
310
311 static void tr_trps_update(int listener, short event, void *arg)
312 {
313   struct tr_trps_event_cookie *cookie=talloc_get_type_abort(arg, struct tr_trps_event_cookie);
314   TRPS_INSTANCE *trps=cookie->trps;
315   struct event *ev=cookie->ev;
316
317   tr_debug("tr_trps_update: sending scheduled route/community updates.");
318   trps_update(trps, TRP_UPDATE_SCHEDULED);
319   event_add(ev, &(trps->update_interval));
320   tr_debug("tr_trps_update: update interval=%d", trps->update_interval.tv_sec);
321 }
322
323 static void tr_trps_sweep(int listener, short event, void *arg)
324 {
325   struct tr_trps_event_cookie *cookie=talloc_get_type_abort(arg, struct tr_trps_event_cookie);
326   TRPS_INSTANCE *trps=cookie->trps;
327   struct event *ev=cookie->ev;
328
329   tr_debug("tr_trps_sweep: sweeping routes.");
330   trps_sweep_routes(trps);
331   tr_debug("tr_trps_sweep: sweeping communities.");
332   trps_sweep_ctable(trps);
333   tr_trps_print_route_table(trps, stderr);
334   /* schedule the event to run again */
335   event_add(ev, &(trps->sweep_interval));
336 }
337
338 static void tr_connection_update(int listener, short event, void *arg)
339 {
340   struct tr_trps_event_cookie *cookie=talloc_get_type_abort(arg, struct tr_trps_event_cookie);
341   TRPS_INSTANCE *trps=cookie->trps;
342   struct event *ev=cookie->ev;
343
344   tr_debug("tr_connection_update: checking peer connections.");
345   tr_connect_to_peers(trps, ev);
346   /* schedule the event to run again */
347   event_add(ev, &(trps->connect_interval));
348 }
349
350 static int tr_trps_events_destructor(void *obj)
351 {
352   TR_TRPS_EVENTS *ev=talloc_get_type_abort(obj, TR_TRPS_EVENTS);
353   if (ev->mq_ev!=NULL)
354     event_free(ev->mq_ev);
355   if (ev->connect_ev!=NULL)
356     event_free(ev->connect_ev);
357   if (ev->update_ev!=NULL)
358     event_free(ev->update_ev);
359   if (ev->sweep_ev!=NULL)
360     event_free(ev->sweep_ev);
361   return 0;
362 }
363 static TR_TRPS_EVENTS *tr_trps_events_new(TALLOC_CTX *mem_ctx)
364 {
365   TR_TRPS_EVENTS *ev=talloc(mem_ctx, TR_TRPS_EVENTS);
366   if (ev!=NULL) {
367     ev->listen_ev=talloc(ev, struct tr_socket_event);
368     ev->mq_ev=NULL;
369     ev->connect_ev=NULL;
370     ev->update_ev=NULL;
371     ev->sweep_ev=NULL;
372     if (ev->listen_ev==NULL) {
373       talloc_free(ev);
374       ev=NULL;
375     } else {
376       talloc_set_destructor((void *)ev, tr_trps_events_destructor);
377     }
378   }
379   return ev;
380 }
381
382 static void tr_trps_events_free(TR_TRPS_EVENTS *ev)
383 {
384   talloc_free(ev);
385 }
386
387 /* Configure the trps instance and set up its event handler.
388  * Fills in trps_ev, which should be allocated by caller. */
389 TRP_RC tr_trps_event_init(struct event_base *base, TR_INSTANCE *tr)
390 {
391   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
392   struct tr_socket_event *listen_ev=NULL;
393   struct tr_trps_event_cookie *trps_cookie=NULL;
394   struct tr_trps_event_cookie *connection_cookie=NULL;
395   struct tr_trps_event_cookie *update_cookie=NULL;
396   struct tr_trps_event_cookie *sweep_cookie=NULL;
397   struct timeval zero_time={0,0};
398   TRP_RC retval=TRP_ERROR;
399
400   if (tr->events != NULL) {
401     tr_notice("tr_trps_event_init: tr->events was not null. Freeing before reallocating..");
402     tr_trps_events_free(tr->events);
403   }
404
405   tr->events=tr_trps_events_new(tmp_ctx);
406   if (tr->events == NULL) {
407     tr_debug("tr_trps_event_init: unable to allocate event handles.");
408     retval=TRP_NOMEM;
409     goto cleanup;
410   }
411
412   /* get convenient handles */
413   listen_ev=tr->events->listen_ev;
414
415   /* Create the cookie for callbacks. It will end up part of the trps context, so it will
416    * be cleaned up when trps is freed by talloc_free. */
417   trps_cookie=talloc(tr->events, struct tr_trps_event_cookie);
418   if (trps_cookie == NULL) {
419     tr_debug("tr_trps_event_init: Unable to allocate trps_cookie.");
420     retval=TRP_NOMEM;
421     tr_trps_events_free(tr->events);
422     tr->events=NULL;
423     goto cleanup;
424   }
425   trps_cookie->trps=tr->trps;
426   trps_cookie->cfg_mgr=tr->cfg_mgr;
427
428   /* get a trps listener */
429   listen_ev->sock_fd=trps_get_listener(tr->trps,
430                                        tr_trps_msg_handler,
431                                        tr_trps_gss_handler,
432                                        tr->cfg_mgr->active->internal->hostname,
433                                        tr->cfg_mgr->active->internal->trps_port,
434                                        (void *)trps_cookie);
435   if (listen_ev->sock_fd < 0) {
436     tr_crit("Error opening TRP server socket.");
437     retval=TRP_ERROR;
438     tr_trps_events_free(tr->events);
439     tr->events=NULL;
440     goto cleanup;
441   }
442   trps_cookie->ev=listen_ev->ev; /* in case it needs to frob the event */
443   
444   /* and its event */
445   listen_ev->ev=event_new(base,
446                           listen_ev->sock_fd,
447                           EV_READ|EV_PERSIST,
448                           tr_trps_event_cb,
449                           (void *)(tr->trps));
450   event_add(listen_ev->ev, NULL);
451   
452   /* now set up message queue processing event, only triggered by
453    * tr_trps_mq_cb() */
454   tr->events->mq_ev=event_new(base,
455                               0,
456                               EV_PERSIST,
457                               tr_trps_process_mq,
458                               (void *)(tr->trps));
459   tr_mq_set_notify_cb(tr->trps->mq, tr_trps_mq_cb, tr->events->mq_ev);
460
461   /* now set up the peer connection timer event */
462   connection_cookie=talloc(tr->events, struct tr_trps_event_cookie);
463   if (connection_cookie == NULL) {
464     tr_debug("tr_trps_event_init: Unable to allocate connection_cookie.");
465     retval=TRP_NOMEM;
466     tr_trps_events_free(tr->events);
467     tr->events=NULL;
468     goto cleanup;
469   }
470   connection_cookie->trps=tr->trps;
471   connection_cookie->cfg_mgr=tr->cfg_mgr;
472   tr->events->connect_ev=event_new(base, -1, EV_TIMEOUT, tr_connection_update, (void *)connection_cookie);
473   connection_cookie->ev=tr->events->connect_ev; /* in case it needs to frob the event */
474   /* The first time, do this immediately. Thereafter, it will retrigger every trps->connect_interval */
475   event_add(tr->events->connect_ev, &zero_time);
476
477   /* now set up the route update timer event */
478   update_cookie=talloc(tr->events, struct tr_trps_event_cookie);
479   if (update_cookie == NULL) {
480     tr_debug("tr_trps_event_init: Unable to allocate update_cookie.");
481     retval=TRP_NOMEM;
482     tr_trps_events_free(tr->events);
483     tr->events=NULL;
484     goto cleanup;
485   }
486   update_cookie->trps=tr->trps;
487   update_cookie->cfg_mgr=tr->cfg_mgr;
488   tr->events->update_ev=event_new(base, -1, EV_TIMEOUT, tr_trps_update, (void *)update_cookie);
489   update_cookie->ev=tr->events->update_ev; /* in case it needs to frob the event */
490   event_add(tr->events->update_ev, &(tr->trps->update_interval));
491
492   /* now set up the route table sweep timer event */
493   sweep_cookie=talloc(tr->events, struct tr_trps_event_cookie);
494   if (sweep_cookie == NULL) {
495     tr_debug("tr_trps_event_init: Unable to allocate sweep_cookie.");
496     retval=TRP_NOMEM;
497     tr_trps_events_free(tr->events);
498     tr->events=NULL;
499     goto cleanup;
500   }
501   sweep_cookie->trps=tr->trps;
502   sweep_cookie->cfg_mgr=tr->cfg_mgr;
503   tr->events->sweep_ev=event_new(base, -1, EV_TIMEOUT, tr_trps_sweep, (void *)sweep_cookie);
504   sweep_cookie->ev=tr->events->sweep_ev; /* in case it needs to frob the event */
505   event_add(tr->events->sweep_ev, &(tr->trps->sweep_interval));
506
507   talloc_steal(tr, tr->events);
508   retval=TRP_SUCCESS;
509
510 cleanup:
511   talloc_free(tmp_ctx);
512   return retval;
513 }
514
515
516 struct trpc_notify_cb_data {
517   int msg_ready;
518   pthread_cond_t cond;
519   pthread_mutex_t mutex;
520 };
521
522 static void tr_trpc_mq_cb(TR_MQ *mq, void *arg)
523 {
524   struct trpc_notify_cb_data *cb_data=(struct trpc_notify_cb_data *) arg;
525   pthread_mutex_lock(&(cb_data->mutex));
526   if (!cb_data->msg_ready) {
527     cb_data->msg_ready=1;
528     pthread_cond_signal(&(cb_data->cond));
529   }
530   pthread_mutex_unlock(&(cb_data->mutex));
531 }
532
533 /* data passed to thread */
534 struct trpc_thread_data {
535   TRPC_INSTANCE *trpc;
536   TRPS_INSTANCE *trps;
537 };
538 static void *tr_trpc_thread(void *arg)
539 {
540   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
541   struct trpc_thread_data *thread_data=talloc_get_type_abort(arg, struct trpc_thread_data);
542   TRPC_INSTANCE *trpc=thread_data->trpc;
543   TRPS_INSTANCE *trps=thread_data->trps;
544   TRP_RC rc=TRP_ERROR;
545   TR_MQ_MSG *msg=NULL;
546   const char *msg_type=NULL;
547   char *encoded_msg=NULL;
548   TR_NAME *peer_gssname=NULL;
549   int n_sent=0;
550   int exit_loop=0;
551
552   struct trpc_notify_cb_data cb_data={0,
553                                       PTHREAD_COND_INITIALIZER,
554                                       PTHREAD_MUTEX_INITIALIZER};
555
556   tr_debug("tr_trpc_thread: started");
557
558   /* set up the mq for receiving */
559   pthread_mutex_lock(&(cb_data.mutex)); /* hold this lock until we enter the main loop */
560
561   tr_mq_lock(trpc->mq);
562   tr_mq_set_notify_cb(trpc->mq, tr_trpc_mq_cb, (void *) &cb_data);
563   tr_mq_unlock(trpc->mq);
564
565   rc=trpc_connect(trpc);
566   if (rc!=TRP_SUCCESS) {
567     tr_notice("tr_trpc_thread: failed to initiate connection to %s:%d.",
568               trpc_get_server(trpc),
569               trpc_get_port(trpc));
570   } else {
571     peer_gssname=trp_connection_get_peer(trpc_get_conn(trpc));
572     if (peer_gssname==NULL) {
573       tr_err("tr_trpc_thread: could not duplicate peer_gssname.");
574       talloc_free(tmp_ctx);
575       return NULL;
576     }
577     tr_debug("tr_trpc_thread: connected to peer %s", peer_gssname->buf);
578
579     msg=tr_mq_msg_new(tmp_ctx, TR_MQMSG_TRPC_CONNECTED, TR_MQ_PRIO_HIGH);
580     tr_mq_msg_set_payload(msg, (void *)tr_dup_name(peer_gssname), tr_free_name_helper);
581     if (msg==NULL) {
582       tr_err("tr_trpc_thread: error allocating TR_MQ_MSG");
583       talloc_free(tmp_ctx);
584       return NULL;
585     }
586     trps_mq_add(trps, msg); /* steals msg context */
587     msg=NULL;
588
589     while(!exit_loop) {
590       cb_data.msg_ready=0;
591       pthread_cond_wait(&(cb_data.cond), &(cb_data.mutex));
592       /* verify the condition */
593       if (cb_data.msg_ready) {
594         for (msg=trpc_mq_pop(trpc),n_sent=0; msg!=NULL; msg=trpc_mq_pop(trpc),n_sent++) {
595           msg_type=tr_mq_msg_get_message(msg);
596
597           if (0==strcmp(msg_type, TR_MQMSG_ABORT)) {
598             exit_loop=1;
599             break;
600           }
601           else if (0==strcmp(msg_type, TR_MQMSG_TRPC_SEND)) {
602             encoded_msg=tr_mq_msg_get_payload(msg);
603             if (encoded_msg==NULL)
604               tr_notice("tr_trpc_thread: null outgoing TRP message.");
605             else {
606               rc = trpc_send_msg(trpc, encoded_msg);
607               if (rc!=TRP_SUCCESS) {
608                 tr_notice("tr_trpc_thread: trpc_send_msg failed.");
609                 exit_loop=1;
610                 break;
611               }
612             }
613           }
614           else
615             tr_notice("tr_trpc_thread: unknown message '%s' received.", msg_type);
616
617           tr_mq_msg_free(msg);
618         }
619         if (n_sent==0)
620           tr_err("tr_trpc_thread: notified of msg, but queue empty");
621         else 
622           tr_debug("tr_trpc_thread: sent %d messages.", n_sent);
623       }
624     }
625   }
626
627   tr_debug("tr_trpc_thread: exiting.");
628   msg=tr_mq_msg_new(tmp_ctx, TR_MQMSG_TRPC_DISCONNECTED, TR_MQ_PRIO_HIGH);
629   tr_mq_msg_set_payload(msg, (void *)trpc, NULL); /* do not pass a free routine */
630   if (msg==NULL)
631     tr_err("tr_trpc_thread: error allocating TR_MQ_MSG");
632   else
633     trps_mq_add(trps, msg);
634
635   trpc_mq_clear(trpc); /* clear any queued messages */
636
637   talloc_free(tmp_ctx);
638   return NULL;
639 }
640
641 /* convert an IDP realm into routing table entries. Outputs number in *n_routes */
642 static TRP_ROUTE **tr_make_local_routes(TALLOC_CTX *mem_ctx,
643                                          TR_IDP_REALM *realm,
644                                          char *trust_router,
645                                          size_t *n_routes)
646 {
647   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
648   TR_APC *comm=NULL;
649   TRP_ROUTE *new_entry=NULL;
650   TRP_ROUTE **entries=NULL;
651   size_t n_comms=0, ii=0;
652
653   *n_routes=0;
654
655   if ((realm==NULL) || (realm->origin!=TR_REALM_LOCAL))
656     goto cleanup;
657
658   /* count comms */
659   for (comm=realm->apcs, n_comms=0; comm!=NULL; comm=comm->next,n_comms++) {}
660
661   entries=talloc_array(tmp_ctx, TRP_ROUTE *, n_comms);
662   for (comm=realm->apcs,ii=0; comm!=NULL; comm=comm->next, ii++) {
663     new_entry=trp_route_new(entries);
664     if (new_entry==NULL) {
665       tr_crit("tr_make_local_routes: unable to allocate entry.");
666       talloc_free(entries);
667       goto cleanup;
668     }
669     trp_route_set_comm(new_entry, tr_dup_name(comm->id));
670     trp_route_set_realm(new_entry, tr_dup_name(realm->realm_id));
671     trp_route_set_peer(new_entry, tr_new_name("")); /* no peer, it's us */
672     trp_route_set_metric(new_entry, 0);
673     trp_route_set_trust_router(new_entry, tr_new_name(trust_router));
674     trp_route_set_next_hop(new_entry, tr_new_name(""));
675     trp_route_set_local(new_entry, 1);
676     entries[ii]=new_entry;
677   }
678
679   talloc_steal(mem_ctx, entries);
680   *n_routes=n_comms;
681  cleanup:
682   talloc_free(tmp_ctx);
683   return entries;
684 }
685
686 void tr_peer_status_change(TRP_PEER *peer, void *cookie)
687 {
688   TRPS_INSTANCE *trps=talloc_get_type_abort(cookie, TRPS_INSTANCE);
689
690   if (TRP_SUCCESS!=trps_wildcard_route_req(trps, trp_peer_get_servicename(peer)))
691     tr_err("tr_send_wildcard: error sending wildcard route request.");
692 }
693
694 /* starts a trpc thread to connect to server:port */
695 TRP_RC tr_trpc_initiate(TRPS_INSTANCE *trps, TRP_PEER *peer, struct event *ev)
696 {
697   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
698   TRPC_INSTANCE *trpc=NULL;
699   TRP_CONNECTION *conn=NULL;
700   struct trpc_thread_data *thread_data=NULL;
701   TRP_RC rc=TRP_ERROR;
702
703   tr_debug("tr_trpc_initiate entered");
704   trpc=trpc_new(tmp_ctx);
705   if (trpc==NULL) {
706     tr_crit("tr_trpc_initiate: could not allocate TRPC_INSTANCE.");
707     rc=TRP_NOMEM;
708     goto cleanup;
709   }
710   tr_debug("tr_trpc_initiate: allocated trpc");
711
712   conn=trp_connection_new(trpc);
713   if (conn==NULL) {
714     tr_crit("tr_trpc_initiate: could not allocate TRP_CONNECTION.");
715     rc=TRP_NOMEM;
716     goto cleanup;
717   }
718
719   trpc_set_conn(trpc, conn);
720   trpc_set_server(trpc, talloc_strdup(trpc, trp_peer_get_server(peer)));
721   trpc_set_port(trpc, trp_peer_get_port(peer));
722   trpc_set_gssname(trpc, trp_peer_dup_servicename(peer));
723   tr_debug("tr_trpc_initiate: allocated connection");
724   
725   /* start thread */
726   thread_data=talloc(trpc, struct trpc_thread_data);
727   if (thread_data==NULL) {
728     tr_crit("tr_trpc_initiate: could not allocate struct trpc_thread_data.");
729     rc=TRP_NOMEM;
730     goto cleanup;
731   }
732   thread_data->trpc=trpc;
733   thread_data->trps=trps;
734
735   trps_add_trpc(trps, trpc); /* must add before starting thread */
736   pthread_create(trp_connection_get_thread(conn), NULL, tr_trpc_thread, thread_data);
737
738   tr_debug("tr_trpc_initiate: started trpc thread");
739   rc=TRP_SUCCESS;
740
741  cleanup:
742   talloc_free(tmp_ctx);
743   return rc;
744 }
745
746 /* Add local routes to the route table. */
747 TRP_RC tr_add_local_routes(TRPS_INSTANCE *trps, TR_CFG *cfg)
748 {
749   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
750   TR_IDP_REALM *cur=NULL;
751   TRP_ROUTE **local_routes=NULL;
752   size_t n_routes=0;
753   size_t ii=0;
754   char *trust_router_name=talloc_asprintf(tmp_ctx, "%s:%d", cfg->internal->hostname, cfg->internal->trps_port);
755
756   /* determine our trust router name */
757   if (trust_router_name==NULL)
758     return TRP_NOMEM;
759
760   for (cur=cfg->ctable->idp_realms; cur!=NULL; cur=cur->next) {
761     local_routes=tr_make_local_routes(tmp_ctx, cur, trust_router_name, &n_routes);
762     for (ii=0; ii<n_routes; ii++)
763       trps_add_route(trps, local_routes[ii]);
764
765     talloc_free(local_routes);
766     local_routes=NULL;
767     n_routes=0;
768   }
769
770   talloc_free(tmp_ctx);
771   return TRP_SUCCESS;
772 }
773
774 /* decide how often to attempt to connect to a peer */
775 static int tr_conn_attempt_due(TRPS_INSTANCE *trps, TRP_PEER *peer, struct timespec *when)
776 {
777   return 1; /* currently make an attempt every cycle */
778 }
779
780 /* open missing connections to peers */
781 TRP_RC tr_connect_to_peers(TRPS_INSTANCE *trps, struct event *ev)
782 {
783   TALLOC_CTX *tmp_ctx=talloc_new(NULL);
784   TRP_PTABLE_ITER *iter=trp_ptable_iter_new(tmp_ctx);
785   TRP_PEER *peer=NULL;
786   struct timespec curtime={0,0};
787   TRP_RC rc=TRP_ERROR;
788
789   if (clock_gettime(CLOCK_REALTIME, &curtime)) {
790     tr_err("tr_connect_to_peers: failed to read time.");
791     rc=TRP_CLOCKERR;
792     goto cleanup;
793   }
794
795   for (peer=trp_ptable_iter_first(iter, trps->ptable);
796        peer!=NULL;
797        peer=trp_ptable_iter_next(iter))
798   {
799     if (trps_find_trpc(trps, peer)==NULL) {
800       TR_NAME *label=trp_peer_get_label(peer);
801       tr_debug("tr_connect_to_peers: %.*s missing connection.",
802                label->len, label->buf);
803       /* has it been long enough since we last tried? */
804       if (tr_conn_attempt_due(trps, peer, &curtime)) {
805         trp_peer_set_last_conn_attempt(peer, &curtime); /* we are trying again now */
806         if (tr_trpc_initiate(trps, peer, ev)!=TRP_SUCCESS) {
807           tr_err("tr_connect_to_peers: unable to initiate TRP connection to %s:%u.",
808                  trp_peer_get_server(peer),
809                  trp_peer_get_port(peer));
810         } 
811       }
812     }
813   }
814   rc=TRP_SUCCESS;
815     
816 cleanup:
817   trp_ptable_iter_free(iter);
818   talloc_free(tmp_ctx);
819   return rc;
820 }
821
822
823 /* Called by the config manager after a change to the active configuration.
824  * Updates configuration of objects that do not know about the config manager. */
825 void tr_config_changed(TR_CFG *new_cfg, void *cookie)
826 {
827   TR_INSTANCE *tr=talloc_get_type_abort(cookie, TR_INSTANCE);
828   TRPS_INSTANCE *trps=tr->trps;
829
830   tr->cfgwatch->poll_interval.tv_sec=new_cfg->internal->cfg_poll_interval;
831   tr->cfgwatch->poll_interval.tv_usec=0;
832
833   tr->cfgwatch->settling_time.tv_sec=new_cfg->internal->cfg_settling_time;
834   tr->cfgwatch->settling_time.tv_usec=0;
835
836   trps_set_connect_interval(trps, new_cfg->internal->trp_connect_interval);
837   trps_set_update_interval(trps, new_cfg->internal->trp_update_interval);
838   trps_set_sweep_interval(trps, new_cfg->internal->trp_sweep_interval);
839   trps_set_ctable(trps, new_cfg->ctable);
840   trps_set_ptable(trps, new_cfg->peers);
841   trps_set_peer_status_callback(trps, tr_peer_status_change, (void *)trps);
842   trps_clear_rtable(trps); /* should we do this every time??? */
843   tr_add_local_routes(trps, new_cfg); /* should we do this every time??? */
844   trps_update_active_routes(trps); /* find new routes */
845   trps_update(trps, TRP_UPDATE_TRIGGERED); /* send any triggered routes */
846   tr_print_config(new_cfg);
847   tr_trps_print_route_table(trps, stderr);
848 }
849