moved more stuff from rqout to rq
[radsecproxy.git] / dtls.c
1 /*
2  * Copyright (C) 2008 Stig Venaas <venaas@uninett.no>
3  *
4  * Permission to use, copy, modify, and distribute this software for any
5  * purpose with or without fee is hereby granted, provided that the above
6  * copyright notice and this permission notice appear in all copies.
7  */
8
9 #include <signal.h>
10 #include <sys/socket.h>
11 #include <netinet/in.h>
12 #include <netdb.h>
13 #include <string.h>
14 #include <unistd.h>
15 #include <limits.h>
16 #ifdef SYS_SOLARIS9
17 #include <fcntl.h>
18 #endif
19 #include <sys/time.h>
20 #include <sys/types.h>
21 #include <sys/select.h>
22 #include <ctype.h>
23 #include <sys/wait.h>
24 #include <arpa/inet.h>
25 #include <regex.h>
26 #include <pthread.h>
27 #include <openssl/ssl.h>
28 #include <openssl/err.h>
29 #include "debug.h"
30 #include "list.h"
31 #include "hash.h"
32 #include "util.h"
33 #include "radsecproxy.h"
34 #include "dtls.h"
35
36 static int client4_sock = -1;
37 static int client6_sock = -1;
38
39 struct sessioncacheentry {
40     pthread_mutex_t mutex;
41     struct queue *rbios;
42     struct timeval expiry;
43 };
44
45 struct dtlsservernewparams {
46     struct sessioncacheentry *sesscache;
47     int sock;
48     struct sockaddr_storage addr;    
49 };
50
51 int udp2bio(int s, struct queue *q, int cnt) {
52     unsigned char *buf;
53     BIO *rbio;
54
55     if (cnt < 1)
56         return 0;
57     
58     buf = malloc(cnt);
59     if (!buf) {
60         unsigned char err;
61         debug(DBG_ERR, "udp2bio: malloc failed");
62         recv(s, &err, 1, 0);
63         return 0;
64     }
65
66     cnt = recv(s, buf, cnt, 0);
67     if (cnt < 1) {
68         debug(DBG_WARN, "udp2bio: recv failed");
69         free(buf);
70         return 0;
71     }
72
73     rbio = BIO_new_mem_buf(buf, cnt);
74     BIO_set_mem_eof_return(rbio, -1);
75
76     pthread_mutex_lock(&q->mutex);
77     if (!list_push(q->entries, rbio)) {
78         BIO_free(rbio);
79         pthread_mutex_unlock(&q->mutex);
80         return 0;
81     }
82     pthread_cond_signal(&q->cond);
83     pthread_mutex_unlock(&q->mutex);
84     return 1;
85 }
86
87 BIO *getrbio(SSL *ssl, struct queue *q, int timeout) {
88     BIO *rbio;
89     struct timeval now;
90     struct timespec to;
91
92     pthread_mutex_lock(&q->mutex);
93     if (!(rbio = (BIO *)list_shift(q->entries))) {
94         if (timeout) {
95             gettimeofday(&now, NULL);
96             memset(&to, 0, sizeof(struct timespec));
97             to.tv_sec = now.tv_sec + timeout;
98             pthread_cond_timedwait(&q->cond, &q->mutex, &to);
99         } else
100             pthread_cond_wait(&q->cond, &q->mutex);
101         rbio = (BIO *)list_shift(q->entries);
102     }
103     pthread_mutex_unlock(&q->mutex);
104     return rbio;
105 }
106
107 int dtlsread(SSL *ssl, struct queue *q, unsigned char *buf, int num, int timeout) {
108     int len, cnt;
109     BIO *rbio;
110     
111     for (len = 0; len < num; len += cnt) {
112         cnt = SSL_read(ssl, buf + len, num - len);
113         if (cnt <= 0)
114             switch (cnt = SSL_get_error(ssl, cnt)) {
115             case SSL_ERROR_WANT_READ:
116                 rbio = getrbio(ssl, q, timeout);
117                 if (!rbio)
118                     return 0;
119                 BIO_free(ssl->rbio);            
120                 ssl->rbio = rbio;
121                 cnt = 0;
122                 continue;
123             case SSL_ERROR_WANT_WRITE:
124                 cnt = 0;
125                 continue;
126             case SSL_ERROR_ZERO_RETURN:
127                 /* remote end sent close_notify, send one back */
128                 SSL_shutdown(ssl);
129                 return -1;
130             default:
131                 return -1;
132             }
133     }
134     return num;
135 }
136
137 /* accept if acc == 1, else connect */
138 SSL *dtlsacccon(uint8_t acc, SSL_CTX *ctx, int s, struct sockaddr *addr, struct queue *rbios) {
139     SSL *ssl;
140     int i, res;
141     unsigned long error;
142     BIO *mem0bio, *wbio;
143
144     ssl = SSL_new(ctx);
145     if (!ssl)
146         return NULL;
147     
148     mem0bio = BIO_new(BIO_s_mem());
149     BIO_set_mem_eof_return(mem0bio, -1);
150     wbio = BIO_new_dgram(s, BIO_NOCLOSE);
151     BIO_dgram_set_peer(wbio, addr);
152     SSL_set_bio(ssl, mem0bio, wbio);
153
154     for (i = 0; i < 5; i++) {
155         res = acc ? SSL_accept(ssl) : SSL_connect(ssl);
156         if (res > 0)
157             return ssl;
158         if (res == 0)
159             break;
160         if (SSL_get_error(ssl, res) == SSL_ERROR_WANT_READ) {
161             BIO_free(ssl->rbio);
162             ssl->rbio = getrbio(ssl, rbios, 5);
163             if (!ssl->rbio)
164                 break;
165         }
166         while ((error = ERR_get_error()))
167             debug(DBG_ERR, "dtls%st: DTLS: %s", acc ? "accep" : "connec", ERR_error_string(error, NULL));
168     }
169
170     SSL_free(ssl);
171     return NULL;
172 }
173
174 unsigned char *raddtlsget(SSL *ssl, struct queue *rbios, int timeout) {
175     int cnt, len;
176     unsigned char buf[4], *rad;
177
178     for (;;) {
179         cnt = dtlsread(ssl, rbios, buf, 4, timeout);
180         if (cnt < 1) {
181             debug(DBG_DBG, cnt ? "raddtlsget: connection lost" : "raddtlsget: timeout");
182             return NULL;
183         }
184
185         len = RADLEN(buf);
186         rad = malloc(len);
187         if (!rad) {
188             debug(DBG_ERR, "raddtlsget: malloc failed");
189             continue;
190         }
191         memcpy(rad, buf, 4);
192         
193         cnt = dtlsread(ssl, rbios, rad + 4, len - 4, timeout);
194         if (cnt < 1) {
195             debug(DBG_DBG, cnt ? "raddtlsget: connection lost" : "raddtlsget: timeout");
196             free(rad);
197             return NULL;
198         }
199         
200         if (len >= 20)
201             break;
202         
203         free(rad);
204         debug(DBG_WARN, "raddtlsget: packet smaller than minimum radius size");
205     }
206     
207     debug(DBG_DBG, "raddtlsget: got %d bytes", len);
208     return rad;
209 }
210
211 void *dtlsserverwr(void *arg) {
212     int cnt;
213     unsigned long error;
214     struct client *client = (struct client *)arg;
215     struct queue *replyq;
216     struct reply *reply;
217     
218     debug(DBG_DBG, "dtlsserverwr: starting for %s", client->conf->host);
219     replyq = client->replyq;
220     for (;;) {
221         pthread_mutex_lock(&replyq->mutex);
222         while (!list_first(replyq->entries)) {
223             if (client->ssl) {      
224                 debug(DBG_DBG, "dtlsserverwr: waiting for signal");
225                 pthread_cond_wait(&replyq->cond, &replyq->mutex);
226                 debug(DBG_DBG, "dtlsserverwr: got signal");
227             }
228             if (!client->ssl) {
229                 /* ssl might have changed while waiting */
230                 pthread_mutex_unlock(&replyq->mutex);
231                 debug(DBG_DBG, "dtlsserverwr: exiting as requested");
232                 ERR_remove_state(0);
233                 pthread_exit(NULL);
234             }
235         }
236         reply = (struct reply *)list_shift(replyq->entries);
237         pthread_mutex_unlock(&replyq->mutex);
238         cnt = SSL_write(client->ssl, reply->buf, RADLEN(reply->buf));
239         if (cnt > 0)
240             debug(DBG_DBG, "dtlsserverwr: sent %d bytes, Radius packet of length %d",
241                   cnt, RADLEN(reply->buf));
242         else
243             while ((error = ERR_get_error()))
244                 debug(DBG_ERR, "dtlsserverwr: SSL: %s", ERR_error_string(error, NULL));
245         free(reply->buf);
246         free(reply);
247     }
248 }
249
250 void dtlsserverrd(struct client *client) {
251     struct request *rq;
252     uint8_t *buf;
253     pthread_t dtlsserverwrth;
254     
255     debug(DBG_DBG, "dtlsserverrd: starting for %s", client->conf->host);
256
257     if (pthread_create(&dtlsserverwrth, NULL, dtlsserverwr, (void *)client)) {
258         debug(DBG_ERR, "dtlsserverrd: pthread_create failed");
259         return;
260     }
261
262     for (;;) {
263         buf = raddtlsget(client->ssl, client->rbios, IDLE_TIMEOUT);
264         if (!buf) {
265             debug(DBG_ERR, "dtlsserverrd: connection from %s lost", client->conf->host);
266             break;
267         }
268         debug(DBG_DBG, "dtlsserverrd: got Radius message from %s", client->conf->host);
269         rq = newrequest();
270         if (!rq) {
271             free(buf);
272             continue;
273         }
274         rq->buf = buf;
275         rq->from = client;
276         if (!radsrv(rq)) {
277             debug(DBG_ERR, "dtlsserverrd: message authentication/validation failed, closing connection from %s", client->conf->host);
278             break;
279         }
280     }
281     
282     /* stop writer by setting ssl to NULL and give signal in case waiting for data */
283     client->ssl = NULL;
284
285     pthread_mutex_lock(&client->replyq->mutex);
286     pthread_cond_signal(&client->replyq->cond);
287     pthread_mutex_unlock(&client->replyq->mutex);
288     debug(DBG_DBG, "dtlsserverrd: waiting for writer to end");
289     pthread_join(dtlsserverwrth, NULL);
290     removeclientrqs(client);
291     debug(DBG_DBG, "dtlsserverrd: reader for %s exiting", client->conf->host);
292 }
293
294 void *dtlsservernew(void *arg) {
295     struct dtlsservernewparams *params = (struct dtlsservernewparams *)arg;
296     struct client *client;
297     struct clsrvconf *conf;
298     struct list_node *cur = NULL;
299     SSL *ssl = NULL;
300     X509 *cert = NULL;
301     uint8_t delay = 60;
302
303     debug(DBG_DBG, "dtlsservernew: starting");
304     conf = find_clconf(RAD_DTLS, (struct sockaddr *)&params->addr, NULL);
305     if (conf) {
306         ssl = dtlsacccon(1, conf->ssl_ctx, params->sock, (struct sockaddr *)&params->addr, params->sesscache->rbios);
307         if (!ssl)
308             goto exit;
309         cert = verifytlscert(ssl);
310         if (!cert)
311             goto exit;
312     }
313
314     while (conf) {
315         if (verifyconfcert(cert, conf)) {
316             X509_free(cert);
317             client = addclient(conf, 1);
318             if (client) {
319                 client->sock = params->sock;
320                 client->rbios = params->sesscache->rbios;
321                 client->ssl = ssl;
322                 dtlsserverrd(client);
323                 removeclient(client);
324                 delay = 0;
325             } else {
326                 debug(DBG_WARN, "dtlsservernew: failed to create new client instance");
327             }
328             goto exit;
329         }
330         conf = find_clconf(RAD_DTLS, (struct sockaddr *)&params->addr, &cur);
331     }
332     debug(DBG_WARN, "dtlsservernew: ignoring request, no matching TLS client");
333
334     if (cert)
335         X509_free(cert);
336
337  exit:
338     if (ssl) {
339         SSL_shutdown(ssl);
340         SSL_free(ssl);
341     }
342     pthread_mutex_lock(&params->sesscache->mutex);
343     freebios(params->sesscache->rbios);
344     params->sesscache->rbios = NULL;
345     gettimeofday(&params->sesscache->expiry, NULL);
346     params->sesscache->expiry.tv_sec += delay;
347     pthread_mutex_unlock(&params->sesscache->mutex);
348     free(params);
349     ERR_remove_state(0);
350     pthread_exit(NULL);
351     debug(DBG_DBG, "dtlsservernew: exiting");
352 }
353
354 void cacheexpire(struct hash *cache, struct timeval *last) {
355     struct timeval now;
356     struct hash_entry *he;
357     struct sessioncacheentry *e;
358     
359     gettimeofday(&now, NULL);
360     if (now.tv_sec - last->tv_sec < 19)
361         return;
362
363     for (he = hash_first(cache); he; he = hash_next(he)) {
364         e = (struct sessioncacheentry *)he->data;
365         pthread_mutex_lock(&e->mutex);
366         if (!e->expiry.tv_sec || e->expiry.tv_sec > now.tv_sec) {
367             pthread_mutex_unlock(&e->mutex);
368             continue;
369         }
370         debug(DBG_DBG, "cacheexpire: freeing entry");
371         hash_extract(cache, he->key, he->keylen);
372         if (e->rbios) {
373             freebios(e->rbios);
374             e->rbios = NULL;
375         }
376         pthread_mutex_unlock(&e->mutex);
377         pthread_mutex_destroy(&e->mutex);
378     }
379     last->tv_sec = now.tv_sec;
380 }
381
382 void *udpdtlsserverrd(void *arg) {
383     int ndesc, cnt, s = *(int *)arg;
384     unsigned char buf[4];
385     struct sockaddr_storage from;
386     socklen_t fromlen = sizeof(from);
387     struct dtlsservernewparams *params;
388     fd_set readfds;
389     struct timeval timeout, lastexpiry;
390     pthread_t dtlsserverth;
391     struct hash *sessioncache;
392     struct sessioncacheentry *cacheentry;
393     
394     sessioncache = hash_create();
395     if (!sessioncache)
396         debugx(1, DBG_ERR, "udpdtlsserverrd: malloc failed");
397     gettimeofday(&lastexpiry, NULL);
398     
399     for (;;) {
400         FD_ZERO(&readfds);
401         FD_SET(s, &readfds);
402         memset(&timeout, 0, sizeof(struct timeval));
403         timeout.tv_sec = 60;
404         ndesc = select(s + 1, &readfds, NULL, NULL, &timeout);
405         if (ndesc < 1) {
406             cacheexpire(sessioncache, &lastexpiry);
407             continue;
408         }
409         cnt = recvfrom(s, buf, 4, MSG_PEEK | MSG_TRUNC, (struct sockaddr *)&from, &fromlen);
410         if (cnt == -1) {
411             debug(DBG_WARN, "udpdtlsserverrd: recv failed");
412             cacheexpire(sessioncache, &lastexpiry);
413             continue;
414         }
415         cacheentry = hash_read(sessioncache, &from, fromlen);
416         if (cacheentry) {
417             debug(DBG_DBG, "udpdtlsserverrd: cache hit");
418             pthread_mutex_lock(&cacheentry->mutex);
419             if (cacheentry->rbios) {
420                 if (udp2bio(s, cacheentry->rbios, cnt))
421                     debug(DBG_DBG, "udpdtlsserverrd: got DTLS in UDP from %s", addr2string((struct sockaddr *)&from, fromlen));
422             } else
423                 recv(s, buf, 1, 0);
424             pthread_mutex_unlock(&cacheentry->mutex);
425             cacheexpire(sessioncache, &lastexpiry);
426             continue;
427         }
428
429         /* from new source */
430         debug(DBG_DBG, "udpdtlsserverrd: cache miss");
431         params = malloc(sizeof(struct dtlsservernewparams));
432         if (!params) {
433             cacheexpire(sessioncache, &lastexpiry);
434             recv(s, buf, 1, 0);
435             continue;
436         }
437         memset(params, 0, sizeof(struct dtlsservernewparams));
438         params->sesscache = malloc(sizeof(struct sessioncacheentry));
439         if (!params->sesscache) {
440             free(params);
441             cacheexpire(sessioncache, &lastexpiry);
442             recv(s, buf, 1, 0);
443             continue;
444         }
445         memset(params->sesscache, 0, sizeof(struct sessioncacheentry));
446         pthread_mutex_init(&params->sesscache->mutex, NULL);
447         params->sesscache->rbios = newqueue();
448         if (hash_insert(sessioncache, &from, fromlen, params->sesscache)) {
449             params->sock = s;
450             memcpy(&params->addr, &from, fromlen);
451
452             if (udp2bio(s, params->sesscache->rbios, cnt)) {
453                 debug(DBG_DBG, "udpdtlsserverrd: got DTLS in UDP from %s", addr2string((struct sockaddr *)&from, fromlen));
454                 if (!pthread_create(&dtlsserverth, NULL, dtlsservernew, (void *)params)) {
455                     pthread_detach(dtlsserverth);
456                     cacheexpire(sessioncache, &lastexpiry);
457                     continue;
458                 }
459                 debug(DBG_ERR, "udpdtlsserverrd: pthread_create failed");
460             }
461             hash_extract(sessioncache, &from, fromlen);
462         }
463         freebios(params->sesscache->rbios);
464         pthread_mutex_destroy(&params->sesscache->mutex);
465         free(params->sesscache);
466         free(params);
467         cacheexpire(sessioncache, &lastexpiry);
468     }
469 }
470
471 int dtlsconnect(struct server *server, struct timeval *when, int timeout, char *text) {
472     struct timeval now;
473     time_t elapsed;
474     X509 *cert;
475     
476     debug(DBG_DBG, "dtlsconnect: called from %s", text);
477     pthread_mutex_lock(&server->lock);
478     if (when && memcmp(&server->lastconnecttry, when, sizeof(struct timeval))) {
479         /* already reconnected, nothing to do */
480         debug(DBG_DBG, "dtlsconnect(%s): seems already reconnected", text);
481         pthread_mutex_unlock(&server->lock);
482         return 1;
483     }
484
485     for (;;) {
486         gettimeofday(&now, NULL);
487         elapsed = now.tv_sec - server->lastconnecttry.tv_sec;
488
489         if (timeout && server->lastconnecttry.tv_sec && elapsed > timeout) {
490             debug(DBG_DBG, "dtlsconnect: timeout");
491             SSL_free(server->ssl);
492             server->ssl = NULL;
493             pthread_mutex_unlock(&server->lock);
494             return 0;
495         }
496
497         if (server->connectionok) {
498             server->connectionok = 0;
499             sleep(2);
500         } else if (elapsed < 1)
501             sleep(2);
502         else if (elapsed < 60) {
503             debug(DBG_INFO, "dtlsconnect: sleeping %lds", elapsed);
504             sleep(elapsed);
505         } else if (elapsed < 100000) {
506             debug(DBG_INFO, "dtlsconnect: sleeping %ds", 60);
507             sleep(60);
508         } else
509             server->lastconnecttry.tv_sec = now.tv_sec;  /* no sleep at startup */
510         debug(DBG_WARN, "dtlsconnect: trying to open DTLS connection to %s port %s", server->conf->host, server->conf->port);
511
512         SSL_free(server->ssl);
513         server->ssl = dtlsacccon(0, server->conf->ssl_ctx, server->sock, server->conf->addrinfo->ai_addr, server->rbios);
514         if (!server->ssl)
515             continue;
516         debug(DBG_DBG, "dtlsconnect: DTLS: ok");
517         
518         cert = verifytlscert(server->ssl);
519         if (!cert)
520             continue;
521         
522         if (verifyconfcert(cert, server->conf))
523             break;
524         X509_free(cert);
525     }
526     X509_free(cert);
527     debug(DBG_WARN, "dtlsconnect: DTLS connection to %s port %s up", server->conf->host, server->conf->port);
528     gettimeofday(&server->lastconnecttry, NULL);
529     pthread_mutex_unlock(&server->lock);
530     return 1;
531 }
532
533 int clientradputdtls(struct server *server, unsigned char *rad) {
534     int cnt;
535     size_t len;
536     unsigned long error;
537     struct clsrvconf *conf = server->conf;
538
539     if (!server->ssl)
540         return 0;
541     len = RADLEN(rad);
542     while ((cnt = SSL_write(server->ssl, rad, len)) <= 0) {
543         while ((error = ERR_get_error()))
544             debug(DBG_ERR, "clientradputdtls: DTLS: %s", ERR_error_string(error, NULL));
545     }
546     debug(DBG_DBG, "clientradputdtls: Sent %d bytes, Radius packet of length %d to DTLS peer %s", cnt, len, conf->host);
547     return 1;
548 }
549
550 /* reads UDP containing DTLS and passes it on to dtlsclientrd */
551 void *udpdtlsclientrd(void *arg) {
552     int cnt, s = *(int *)arg;
553     unsigned char buf[4];
554     struct sockaddr_storage from;
555     socklen_t fromlen = sizeof(from);
556     struct clsrvconf *conf;
557     fd_set readfds;
558     
559     for (;;) {
560         FD_ZERO(&readfds);
561         FD_SET(s, &readfds);
562         if (select(s + 1, &readfds, NULL, NULL, NULL) < 1)
563             continue;
564         cnt = recvfrom(s, buf, 4, MSG_PEEK | MSG_TRUNC, (struct sockaddr *)&from, &fromlen);
565         if (cnt == -1) {
566             debug(DBG_WARN, "udpdtlsclientrd: recv failed");
567             continue;
568         }
569         
570         conf = find_srvconf(RAD_DTLS, (struct sockaddr *)&from, NULL);
571         if (!conf) {
572             debug(DBG_WARN, "udpdtlsclientrd: got packet from wrong or unknown DTLS peer %s, ignoring", addr2string((struct sockaddr *)&from, fromlen));
573             recv(s, buf, 4, 0);
574             continue;
575         }
576         if (udp2bio(s, conf->servers->rbios, cnt))
577             debug(DBG_DBG, "radudpget: got DTLS in UDP from %s", addr2string((struct sockaddr *)&from, fromlen));
578     }
579 }
580
581 void *dtlsclientrd(void *arg) {
582     struct server *server = (struct server *)arg;
583     unsigned char *buf;
584     struct timeval lastconnecttry;
585     int secs;
586     
587     for (;;) {
588         /* yes, lastconnecttry is really necessary */
589         lastconnecttry = server->lastconnecttry;
590         for (secs = 0; !(buf = raddtlsget(server->ssl, server->rbios, 10)) && !server->lostrqs && secs < IDLE_TIMEOUT; secs += 10);
591         if (!buf) {
592             dtlsconnect(server, &lastconnecttry, 0, "dtlsclientrd");
593             continue;
594         }
595         replyh(server, buf);
596     }
597     ERR_remove_state(0);
598     server->clientrdgone = 1;
599     return NULL;
600 }
601
602 void addserverextradtls(struct clsrvconf *conf) {
603     switch (conf->addrinfo->ai_family) {
604     case AF_INET:
605         if (client4_sock < 0) {
606             client4_sock = bindtoaddr(getsrcprotores(RAD_DTLS), AF_INET, 0, 1);
607             if (client4_sock < 0)
608                 debugx(1, DBG_ERR, "addserver: failed to create client socket for server %s", conf->host);
609         }
610         conf->servers->sock = client4_sock;
611         break;
612     case AF_INET6:
613         if (client6_sock < 0) {
614             client6_sock = bindtoaddr(getsrcprotores(RAD_DTLS), AF_INET6, 0, 1);
615             if (client6_sock < 0)
616                 debugx(1, DBG_ERR, "addserver: failed to create client socket for server %s", conf->host);
617         }
618         conf->servers->sock = client6_sock;
619         break;
620     default:
621         debugx(1, DBG_ERR, "addserver: unsupported address family");
622     }
623 }
624
625 void initextradtls() {
626     pthread_t cl4th, cl6th;
627     
628     if (client4_sock >= 0)
629         if (pthread_create(&cl4th, NULL, udpdtlsclientrd, (void *)&client4_sock))
630             debugx(1, DBG_ERR, "pthread_create failed");
631     if (client6_sock >= 0)
632         if (pthread_create(&cl6th, NULL, udpdtlsclientrd, (void *)&client6_sock))
633             debugx(1, DBG_ERR, "pthread_create failed");
634 }