more cleanups, locking-related
[mech_eap.git] / wrap.c
1 /*
2  * Copyright (c) 2010, JANET(UK)
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  *
16  * 3. Neither the name of JANET(UK) nor the names of its contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  *
20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
21  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  */
32
33 #include "gssapiP_eap.h"
34
35 OM_uint32
36 gss_wrap(OM_uint32 *minor,
37          gss_ctx_id_t ctx,
38          int conf_req_flag,
39          gss_qop_t qop_req,
40          gss_buffer_t input_message_buffer,
41          int *conf_state,
42          gss_buffer_t output_message_buffer)
43 {
44     OM_uint32 major = GSS_C_NO_CONTEXT;
45
46     *minor = 0;
47
48     if (ctx == GSS_C_NO_CONTEXT)
49         return GSS_S_NO_CONTEXT;
50
51     GSSEAP_MUTEX_LOCK(&ctx->mutex);
52
53     if (CTX_IS_ESTABLISHED(ctx)) {
54         major = gssEapWrap(minor, ctx, conf_req_flag, qop_req,
55                            input_message_buffer,
56                            conf_state, output_message_buffer);
57     }
58
59     GSSEAP_MUTEX_UNLOCK(&ctx->mutex);
60
61     return major;
62 }
63
64 OM_uint32
65 gssEapWrap(OM_uint32 *minor,
66            gss_ctx_id_t ctx,
67            int conf_req_flag,
68            gss_qop_t qop_req,
69            gss_buffer_t input_message_buffer,
70            int *conf_state,
71            gss_buffer_t output_message_buffer)
72 {
73     OM_uint32 major, tmpMinor;
74     gss_iov_buffer_desc iov[4];
75     unsigned char *p;
76     int i;
77
78     iov[0].type = GSS_IOV_BUFFER_TYPE_HEADER;
79     iov[0].buffer.value = NULL;
80     iov[0].buffer.length = 0;
81
82     iov[1].type = GSS_IOV_BUFFER_TYPE_DATA;
83     iov[1].buffer = *input_message_buffer;
84
85     iov[2].type = GSS_IOV_BUFFER_TYPE_PADDING;
86     iov[2].buffer.value = NULL;
87     iov[2].buffer.length = 0;
88
89     iov[3].type = GSS_IOV_BUFFER_TYPE_TRAILER;
90     iov[3].buffer.value = NULL;
91     iov[3].buffer.length = 0;
92
93     major = gssEapWrapIovLength(minor, ctx, conf_req_flag, qop_req,
94                                 NULL, iov, 4);
95     if (GSS_ERROR(major)) {
96         return major;
97     }
98
99     for (i = 0, output_message_buffer->length = 0; i < 4; i++) {
100         output_message_buffer->length += iov[i].buffer.length;
101     }
102
103     output_message_buffer->value = GSSEAP_MALLOC(output_message_buffer->length);
104     if (output_message_buffer->value == NULL) {
105         *minor = ENOMEM;
106         return GSS_S_FAILURE;
107     }
108
109     for (i = 0, p = output_message_buffer->value; i < 4; i++) {
110         if (iov[i].type == GSS_IOV_BUFFER_TYPE_DATA) {
111             memcpy(p, input_message_buffer->value, input_message_buffer->length);
112         }
113         iov[i].buffer.value = p;
114         p += iov[i].buffer.length;
115     }
116
117     major = gssEapWrapOrGetMIC(minor, ctx, conf_req_flag, conf_state,
118                                iov, 4, TOK_TYPE_WRAP);
119     if (GSS_ERROR(major)) {
120         gss_release_buffer(&tmpMinor, output_message_buffer);
121     }
122
123     return major;
124 }