mech_eap/wrap_size_limit.c

   1 /*
   2  * Copyright (c) 2011, JANET(UK)
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  *
   9  * 1. Redistributions of source code must retain the above copyright
  10  *    notice, this list of conditions and the following disclaimer.
  11  *
  12  * 2. Redistributions in binary form must reproduce the above copyright
  13  *    notice, this list of conditions and the following disclaimer in the
  14  *    documentation and/or other materials provided with the distribution.
  15  *
  16  * 3. Neither the name of JANET(UK) nor the names of its contributors
  17  *    may be used to endorse or promote products derived from this software
  18  *    without specific prior written permission.
  19  *
  20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  21  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  23  * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE
  24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  30  * SUCH DAMAGE.
  31  */
  32
  33 /*
  34  * Message protection services: determine maximum input size.
  35  */
  36
  37 #include "gssapiP_eap.h"
  38
  39 OM_uint32
  40 gss_wrap_size_limit(OM_uint32 *minor,
  41                     gss_ctx_id_t ctx,
  42                     int conf_req_flag,
  43                     gss_qop_t qop_req,
  44                     OM_uint32 req_output_size,
  45                     OM_uint32 *max_input_size)
  46 {
  47     gss_iov_buffer_desc iov[4];
  48     OM_uint32 major, overhead;
  49
  50     if (ctx == GSS_C_NO_CONTEXT) {
  51         *minor = EINVAL;
  52         return GSS_S_CALL_INACCESSIBLE_READ | GSS_S_NO_CONTEXT;
  53     }
  54
  55     *minor = 0;
  56
  57     GSSEAP_MUTEX_LOCK(&ctx->mutex);
  58
  59     if (!CTX_IS_ESTABLISHED(ctx)) {
  60         major = GSS_S_NO_CONTEXT;
  61         *minor = GSSEAP_CONTEXT_INCOMPLETE;
  62         goto cleanup;
  63     }
  64
  65     iov[0].type = GSS_IOV_BUFFER_TYPE_HEADER;
  66     iov[0].buffer.value = NULL;
  67     iov[0].buffer.length = 0;
  68
  69     iov[1].type = GSS_IOV_BUFFER_TYPE_DATA;
  70     iov[1].buffer.length = req_output_size;
  71     iov[1].buffer.value = NULL;
  72
  73     iov[2].type = GSS_IOV_BUFFER_TYPE_PADDING;
  74     iov[2].buffer.value = NULL;
  75     iov[2].buffer.length = 0;
  76
  77     iov[3].type = GSS_IOV_BUFFER_TYPE_TRAILER;
  78     iov[3].buffer.value = NULL;
  79     iov[3].buffer.length = 0;
  80
  81     major = gssEapWrapIovLength(minor, ctx, conf_req_flag, qop_req,
  82                                 NULL, iov, 4);
  83     if (GSS_ERROR(major))
  84         goto cleanup;
  85
  86     overhead = iov[0].buffer.length + iov[3].buffer.length;
  87
  88     if (iov[2].buffer.length == 0 && overhead < req_output_size)
  89         *max_input_size = req_output_size - overhead;
  90     else
  91         *max_input_size = 0;
  92
  93 cleanup:
  94     GSSEAP_MUTEX_UNLOCK(&ctx->mutex);
  95
  96     return major;
  97 }