various mutex-related cleanups
[mech_eap.git] / wrap.c
1 /*
2  * Copyright (c) 2010, JANET(UK)
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  *
16  * 3. Neither the name of JANET(UK) nor the names of its contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  *
20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
21  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  */
32
33 #include "gssapiP_eap.h"
34
35 OM_uint32
36 gss_wrap(OM_uint32 *minor,
37          gss_ctx_id_t ctx,
38          int conf_req_flag,
39          gss_qop_t qop_req,
40          gss_buffer_t input_message_buffer,
41          int *conf_state,
42          gss_buffer_t output_message_buffer)
43 {
44     OM_uint32 major;
45
46     if (ctx == GSS_C_NO_CONTEXT)
47         return GSS_S_NO_CONTEXT;
48
49     GSSEAP_MUTEX_LOCK(&ctx->mutex);
50
51     if (!CTX_IS_ESTABLISHED(ctx)) {
52         *minor = 0;
53         major = GSS_S_NO_CONTEXT;
54     } else {
55         major = gssEapWrap(minor, ctx, conf_req_flag, qop_req,
56                            input_message_buffer,
57                            conf_state, output_message_buffer);
58     }
59
60     GSSEAP_MUTEX_UNLOCK(&ctx->mutex);
61
62     return major;
63 }
64
65 OM_uint32
66 gssEapWrap(OM_uint32 *minor,
67            gss_ctx_id_t ctx,
68            int conf_req_flag,
69            gss_qop_t qop_req,
70            gss_buffer_t input_message_buffer,
71            int *conf_state,
72            gss_buffer_t output_message_buffer)
73 {
74     OM_uint32 major, tmpMinor;
75     gss_iov_buffer_desc iov[4];
76     unsigned char *p;
77     int i;
78
79     iov[0].type = GSS_IOV_BUFFER_TYPE_HEADER;
80     iov[0].buffer.value = NULL;
81     iov[0].buffer.length = 0;
82
83     iov[1].type = GSS_IOV_BUFFER_TYPE_DATA;
84     iov[1].buffer = *input_message_buffer;
85
86     iov[2].type = GSS_IOV_BUFFER_TYPE_PADDING;
87     iov[2].buffer.value = NULL;
88     iov[2].buffer.length = 0;
89
90     iov[3].type = GSS_IOV_BUFFER_TYPE_TRAILER;
91     iov[3].buffer.value = NULL;
92     iov[3].buffer.length = 0;
93
94     major = gssEapWrapIovLength(minor, ctx, conf_req_flag, qop_req,
95                                 NULL, iov, 4);
96     if (GSS_ERROR(major)) {
97         return major;
98     }
99
100     for (i = 0, output_message_buffer->length = 0; i < 4; i++) {
101         output_message_buffer->length += iov[i].buffer.length;
102     }
103
104     output_message_buffer->value = GSSEAP_MALLOC(output_message_buffer->length);
105     if (output_message_buffer->value == NULL) {
106         *minor = ENOMEM;
107         return GSS_S_FAILURE;
108     }
109
110     for (i = 0, p = output_message_buffer->value; i < 4; i++) {
111         if (iov[i].type == GSS_IOV_BUFFER_TYPE_DATA) {
112             memcpy(p, input_message_buffer->value, input_message_buffer->length);
113         }
114         iov[i].buffer.value = p;
115         p += iov[i].buffer.length;
116     }
117
118     major = gssEapWrapOrGetMIC(minor, ctx, conf_req_flag, conf_state,
119                                iov, 4, TOK_TYPE_WRAP);
120     if (GSS_ERROR(major)) {
121         gss_release_buffer(&tmpMinor, output_message_buffer);
122     }
123
124     return major;
125 }