Fixes for Heimdal (macOS) builds from Stefan.
[mech_eap.git] / mech_eap / util_base64.c
1 /*
2  * Copyright (c) 1995-2001 Kungliga Tekniska Högskolan
3  * (Royal Institute of Technology, Stockholm, Sweden).
4  * All rights reserved.
5  *
6  * Redistribution and use in source and binary forms, with or without
7  * modification, are permitted provided that the following conditions
8  * are met:
9  *
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  *
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in the
15  *    documentation and/or other materials provided with the distribution.
16  *
17  * 3. Neither the name of the Institute nor the names of its contributors
18  *    may be used to endorse or promote products derived from this software
19  *    without specific prior written permission.
20  *
21  * THIS SOFTWARE IS PROVIDED BY THE INSTITUTE AND CONTRIBUTORS ``AS IS'' AND
22  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24  * ARE DISCLAIMED.  IN NO EVENT SHALL THE INSTITUTE OR CONTRIBUTORS BE LIABLE
25  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
26  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
27  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
29  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
30  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
31  * SUCH DAMAGE.
32  */
33
34 #include "gssapiP_eap.h"
35
36 static const char base64_chars[] =
37     "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/";
38
39 static int
40 pos(char c)
41 {
42     const char *p;
43     for (p = base64_chars; *p; p++)
44         if (*p == c)
45             return p - base64_chars;
46     return -1;
47 }
48
49 ssize_t
50 base64Encode(const void *data, int size, char **str)
51 {
52     char *s, *p;
53     int i;
54     int c;
55     const unsigned char *q;
56
57     if (size > INT_MAX/4 || size < 0) {
58         *str = NULL;
59         return -1;
60     }
61
62     p = s = (char *)GSSEAP_MALLOC(BASE64_EXPAND(size));
63     if (p == NULL) {
64         *str = NULL;
65         return -1;
66     }
67     q = (const unsigned char *) data;
68
69     for (i = 0; i < size;) {
70         c = q[i++];
71         c *= 256;
72         if (i < size)
73             c += q[i];
74         i++;
75         c *= 256;
76         if (i < size)
77             c += q[i];
78         i++;
79         p[0] = base64_chars[(c & 0x00fc0000) >> 18];
80         p[1] = base64_chars[(c & 0x0003f000) >> 12];
81         p[2] = base64_chars[(c & 0x00000fc0) >> 6];
82         p[3] = base64_chars[(c & 0x0000003f) >> 0];
83         if (i > size)
84             p[3] = '=';
85         if (i > size + 1)
86             p[2] = '=';
87         p += 4;
88     }
89     *p = 0;
90     *str = s;
91     return strlen(s);
92 }
93
94 #define DECODE_ERROR 0xffffffff
95
96 static unsigned int
97 token_decode(const char *token)
98 {
99     int i;
100     unsigned int val = 0;
101     int marker = 0;
102     if (strlen(token) < 4)
103         return DECODE_ERROR;
104     for (i = 0; i < 4; i++) {
105         val *= 64;
106         if (token[i] == '=')
107             marker++;
108         else if (marker > 0)
109             return DECODE_ERROR;
110         else
111             val += pos(token[i]);
112     }
113     if (marker > 2)
114         return DECODE_ERROR;
115     return (marker << 24) | val;
116 }
117
118 ssize_t
119 base64Decode(const char *str, void *data)
120 {
121     const char *p;
122     unsigned char *q;
123
124     q = data;
125     p = str;
126
127     while (*p && (*p == '=' || strchr(base64_chars, *p) || isspace(*p))) {
128         unsigned int val; 
129         unsigned int marker; 
130         if (isspace(*p)) {
131             p++;
132             continue;
133         }
134         val = token_decode(p);
135         marker = (val >> 24) & 0xff;
136         if (val == DECODE_ERROR)
137             return -1;
138         *q++ = (val >> 16) & 0xff;
139         if (marker < 2)
140             *q++ = (val >> 8) & 0xff;
141         if (marker < 1)
142             *q++ = val & 0xff;
143         p += 4;
144     }
145     return q - (unsigned char *) data;
146 }
147
148 int
149 base64Valid(const char *str)
150 {
151     const char *p = str;
152     int valid = 1;
153
154     while (*p && *p && (*p == '=' || strchr(base64_chars, *p))) {
155         unsigned int val = token_decode(p);
156         if (val == DECODE_ERROR) {
157             valid = 0;
158             break;
159         }
160         p += 4;
161         if (*p == '\n')
162             p++;
163     }
164     return valid;
165 }