Fixes for Heimdal (macOS) builds from Stefan.
[mech_eap.git] / mech_eap / unwrap.c
1 /*
2  * Copyright (c) 2011, JANET(UK)
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  *
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  *
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  *
16  * 3. Neither the name of JANET(UK) nor the names of its contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  *
20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
21  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  */
32
33 /*
34  * Message protection services: unwrap.
35  */
36
37 #include "gssapiP_eap.h"
38
39 OM_uint32 GSSAPI_CALLCONV
40 gss_unwrap(OM_uint32 *minor,
41 #ifdef HAVE_HEIMDAL_VERSION
42            gss_const_ctx_id_t ctx,
43 #else
44            gss_ctx_id_t ctx,
45 #endif
46            gss_buffer_t input_message_buffer,
47            gss_buffer_t output_message_buffer,
48            int *conf_state,
49            gss_qop_t *qop_state)
50 {
51     OM_uint32 major, tmpMinor;
52     gss_iov_buffer_desc iov[2];
53
54     if (ctx == GSS_C_NO_CONTEXT) {
55         *minor = EINVAL;
56         return GSS_S_CALL_INACCESSIBLE_READ | GSS_S_NO_CONTEXT;
57     }
58
59     *minor = 0;
60
61     GSSEAP_MUTEX_LOCK(&((gss_ctx_id_t)ctx)->mutex);
62
63     if (!CTX_IS_ESTABLISHED(ctx)) {
64         major = GSS_S_NO_CONTEXT;
65         *minor = GSSEAP_CONTEXT_INCOMPLETE;
66         goto cleanup;
67     }
68
69     iov[0].type = GSS_IOV_BUFFER_TYPE_STREAM;
70     iov[0].buffer = *input_message_buffer;
71
72     iov[1].type = GSS_IOV_BUFFER_TYPE_DATA | GSS_IOV_BUFFER_FLAG_ALLOCATE;
73     iov[1].buffer.value = NULL;
74     iov[1].buffer.length = 0;
75
76     major = gssEapUnwrapOrVerifyMIC(minor, (gss_ctx_id_t)ctx,
77                                     conf_state, qop_state,
78                                     iov, 2, TOK_TYPE_WRAP);
79     if (major == GSS_S_COMPLETE) {
80         *output_message_buffer = iov[1].buffer;
81     } else {
82         if (iov[1].type & GSS_IOV_BUFFER_FLAG_ALLOCATED)
83             gss_release_buffer(&tmpMinor, &iov[1].buffer);
84     }
85
86 cleanup:
87     GSSEAP_MUTEX_UNLOCK(&((gss_ctx_id_t)ctx)->mutex);
88
89     return major;
90 }