Fixes for Heimdal (macOS) builds from Stefan.
[mech_eap.git] / mech_eap / wrap.c
1 /*
2  * Copyright (c) 2011, JANET(UK)
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  *
16  * 3. Neither the name of JANET(UK) nor the names of its contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  *
20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
21  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  */
32
33 /*
34  * Message protection services: wrap.
35  */
36
37 #include "gssapiP_eap.h"
38
39 OM_uint32 GSSAPI_CALLCONV
40 gss_wrap(OM_uint32 *minor,
41 #ifdef HAVE_HEIMDAL_VERSION
42          gss_const_ctx_id_t ctx,
43 #else
44          gss_ctx_id_t ctx,
45 #endif
46          int conf_req_flag,
47          gss_qop_t qop_req,
48          gss_buffer_t input_message_buffer,
49          int *conf_state,
50          gss_buffer_t output_message_buffer)
51 {
52     OM_uint32 major;
53
54     if (ctx == GSS_C_NO_CONTEXT) {
55         *minor = EINVAL;
56         return GSS_S_CALL_INACCESSIBLE_READ | GSS_S_NO_CONTEXT;
57     }
58
59     *minor = 0;
60
61     GSSEAP_MUTEX_LOCK(&((gss_ctx_id_t)ctx)->mutex);
62
63     if (!CTX_IS_ESTABLISHED(ctx)) {
64         major = GSS_S_NO_CONTEXT;
65         *minor = GSSEAP_CONTEXT_INCOMPLETE;
66         goto cleanup;
67     }
68
69     major = gssEapWrap(minor, (gss_ctx_id_t)ctx, conf_req_flag,
70                        qop_req, input_message_buffer,
71                        conf_state, output_message_buffer);
72     if (GSS_ERROR(major))
73         goto cleanup;
74
75 cleanup:
76     GSSEAP_MUTEX_UNLOCK(&((gss_ctx_id_t)ctx)->mutex);
77
78     return major;
79 }
80
81 OM_uint32
82 gssEapWrap(OM_uint32 *minor,
83            gss_ctx_id_t ctx,
84            int conf_req_flag,
85            gss_qop_t qop_req,
86            gss_buffer_t input_message_buffer,
87            int *conf_state,
88            gss_buffer_t output_message_buffer)
89 {
90     OM_uint32 major, tmpMinor;
91     gss_iov_buffer_desc iov[4];
92     unsigned char *p;
93     int i;
94
95     iov[0].type = GSS_IOV_BUFFER_TYPE_HEADER;
96     iov[0].buffer.value = NULL;
97     iov[0].buffer.length = 0;
98
99     iov[1].type = GSS_IOV_BUFFER_TYPE_DATA;
100     iov[1].buffer = *input_message_buffer;
101
102     iov[2].type = GSS_IOV_BUFFER_TYPE_PADDING;
103     iov[2].buffer.value = NULL;
104     iov[2].buffer.length = 0;
105
106     iov[3].type = GSS_IOV_BUFFER_TYPE_TRAILER;
107     iov[3].buffer.value = NULL;
108     iov[3].buffer.length = 0;
109
110     major = gssEapWrapIovLength(minor, ctx, conf_req_flag, qop_req,
111                                 NULL, iov, 4, TOK_TYPE_WRAP);
112     if (GSS_ERROR(major)) {
113         return major;
114     }
115
116     for (i = 0, output_message_buffer->length = 0; i < 4; i++) {
117         output_message_buffer->length += iov[i].buffer.length;
118     }
119
120     output_message_buffer->value = GSSEAP_MALLOC(output_message_buffer->length);
121     if (output_message_buffer->value == NULL) {
122         *minor = ENOMEM;
123         return GSS_S_FAILURE;
124     }
125
126     for (i = 0, p = output_message_buffer->value; i < 4; i++) {
127         if (iov[i].type == GSS_IOV_BUFFER_TYPE_DATA) {
128             memcpy(p, input_message_buffer->value, input_message_buffer->length);
129         }
130         iov[i].buffer.value = p;
131         p += iov[i].buffer.length;
132     }
133
134     major = gssEapWrapOrGetMIC(minor, ctx, conf_req_flag, conf_state,
135                                iov, 4, TOK_TYPE_WRAP);
136     if (GSS_ERROR(major)) {
137         gss_release_buffer(&tmpMinor, output_message_buffer);
138     }
139
140     return major;
141 }