wrap_size_limit.c

   1 /*
   2  * Copyright (c) 2010, JANET(UK)
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  *
   9  * 1. Redistributions of source code must retain the above copyright
  10  *    notice, this list of conditions and the following disclaimer.
  11  *
  12  * 2. Redistributions in binary form must reproduce the above copyright
  13  *    notice, this list of conditions and the following disclaimer in the
  14  *    documentation and/or other materials provided with the distribution.
  15  *
  16  * 3. Neither the name of JANET(UK) nor the names of its contributors
  17  *    may be used to endorse or promote products derived from this software
  18  *    without specific prior written permission.
  19  *
  20  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  21  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  23  * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE
  24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  30  * SUCH DAMAGE.
  31  */
  32
  33 #include "gssapiP_eap.h"
  34
  35 OM_uint32
  36 gss_wrap_size_limit(OM_uint32 *minor,
  37                     gss_ctx_id_t ctx,
  38                     int conf_req_flag,
  39                     gss_qop_t qop_req,
  40                     OM_uint32 req_output_size,
  41                     OM_uint32 *max_input_size)
  42 {
  43     gss_iov_buffer_desc iov[4];
  44     OM_uint32 major, overhead;
  45
  46     if (ctx == GSS_C_NO_CONTEXT) {
  47         *minor = EINVAL;
  48         return GSS_S_NO_CONTEXT;
  49     }
  50
  51     *minor = 0;
  52
  53     GSSEAP_MUTEX_LOCK(&ctx->mutex);
  54
  55     if (!CTX_IS_ESTABLISHED(ctx)) {
  56         *minor = GSSEAP_CONTEXT_INCOMPLETE;
  57         major = GSS_S_NO_CONTEXT;
  58         goto cleanup;
  59     }
  60
  61     iov[0].type = GSS_IOV_BUFFER_TYPE_HEADER;
  62     iov[0].buffer.value = NULL;
  63     iov[0].buffer.length = 0;
  64
  65     iov[1].type = GSS_IOV_BUFFER_TYPE_DATA;
  66     iov[1].buffer.length = req_output_size;
  67     iov[1].buffer.value = NULL;
  68
  69     iov[2].type = GSS_IOV_BUFFER_TYPE_PADDING;
  70     iov[2].buffer.value = NULL;
  71     iov[2].buffer.length = 0;
  72
  73     iov[3].type = GSS_IOV_BUFFER_TYPE_TRAILER;
  74     iov[3].buffer.value = NULL;
  75     iov[3].buffer.length = 0;
  76
  77     major = gssEapWrapIovLength(minor, ctx, conf_req_flag, qop_req,
  78                                 NULL, iov, 4);
  79     if (GSS_ERROR(major))
  80         goto cleanup;
  81
  82     overhead = iov[0].buffer.length + iov[3].buffer.length;
  83
  84     if (iov[2].buffer.length == 0 && overhead < req_output_size)
  85         *max_input_size = req_output_size - overhead;
  86     else
  87         *max_input_size = 0;
  88
  89 cleanup:
  90     GSSEAP_MUTEX_UNLOCK(&ctx->mutex);
  91
  92     return major;
  93 }