Better error reporting through com_err
[mech_eap.git] / wrap.c
1 /*
2  * Copyright (c) 2010, JANET(UK)
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  *
16  * 3. Neither the name of JANET(UK) nor the names of its contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  *
20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
21  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  */
32
33 #include "gssapiP_eap.h"
34
35 OM_uint32
36 gss_wrap(OM_uint32 *minor,
37          gss_ctx_id_t ctx,
38          int conf_req_flag,
39          gss_qop_t qop_req,
40          gss_buffer_t input_message_buffer,
41          int *conf_state,
42          gss_buffer_t output_message_buffer)
43 {
44     OM_uint32 major;
45
46     if (ctx == GSS_C_NO_CONTEXT) {
47         *minor = EINVAL;
48         return GSS_S_NO_CONTEXT;
49     }
50
51     *minor = 0;
52
53     GSSEAP_MUTEX_LOCK(&ctx->mutex);
54
55     if (!CTX_IS_ESTABLISHED(ctx)) {
56         *minor = GSSEAP_CONTEXT_INCOMPLETE;
57         major = GSS_S_NO_CONTEXT;
58         goto cleanup;
59     }
60
61     major = gssEapWrap(minor, ctx, conf_req_flag, qop_req,
62                        input_message_buffer,
63                        conf_state, output_message_buffer);
64     if (GSS_ERROR(major))
65         goto cleanup;
66
67 cleanup:
68     GSSEAP_MUTEX_UNLOCK(&ctx->mutex);
69
70     return major;
71 }
72
73 OM_uint32
74 gssEapWrap(OM_uint32 *minor,
75            gss_ctx_id_t ctx,
76            int conf_req_flag,
77            gss_qop_t qop_req,
78            gss_buffer_t input_message_buffer,
79            int *conf_state,
80            gss_buffer_t output_message_buffer)
81 {
82     OM_uint32 major, tmpMinor;
83     gss_iov_buffer_desc iov[4];
84     unsigned char *p;
85     int i;
86
87     iov[0].type = GSS_IOV_BUFFER_TYPE_HEADER;
88     iov[0].buffer.value = NULL;
89     iov[0].buffer.length = 0;
90
91     iov[1].type = GSS_IOV_BUFFER_TYPE_DATA;
92     iov[1].buffer = *input_message_buffer;
93
94     iov[2].type = GSS_IOV_BUFFER_TYPE_PADDING;
95     iov[2].buffer.value = NULL;
96     iov[2].buffer.length = 0;
97
98     iov[3].type = GSS_IOV_BUFFER_TYPE_TRAILER;
99     iov[3].buffer.value = NULL;
100     iov[3].buffer.length = 0;
101
102     major = gssEapWrapIovLength(minor, ctx, conf_req_flag, qop_req,
103                                 NULL, iov, 4);
104     if (GSS_ERROR(major)) {
105         return major;
106     }
107
108     for (i = 0, output_message_buffer->length = 0; i < 4; i++) {
109         output_message_buffer->length += iov[i].buffer.length;
110     }
111
112     output_message_buffer->value = GSSEAP_MALLOC(output_message_buffer->length);
113     if (output_message_buffer->value == NULL) {
114         *minor = ENOMEM;
115         return GSS_S_FAILURE;
116     }
117
118     for (i = 0, p = output_message_buffer->value; i < 4; i++) {
119         if (iov[i].type == GSS_IOV_BUFFER_TYPE_DATA) {
120             memcpy(p, input_message_buffer->value, input_message_buffer->length);
121         }
122         iov[i].buffer.value = p;
123         p += iov[i].buffer.length;
124     }
125
126     major = gssEapWrapOrGetMIC(minor, ctx, conf_req_flag, conf_state,
127                                iov, 4, TOK_TYPE_WRAP);
128     if (GSS_ERROR(major)) {
129         gss_release_buffer(&tmpMinor, output_message_buffer);
130     }
131
132     return major;
133 }