Merge branch 'openssh-5.8p2'
[openssh.git] / kex.h
1 /* $OpenBSD: kex.h,v 1.52 2010/09/22 05:01:29 djm Exp $ */
2
3 /*
4  * Copyright (c) 2000, 2001 Markus Friedl.  All rights reserved.
5  *
6  * Redistribution and use in source and binary forms, with or without
7  * modification, are permitted provided that the following conditions
8  * are met:
9  * 1. Redistributions of source code must retain the above copyright
10  *    notice, this list of conditions and the following disclaimer.
11  * 2. Redistributions in binary form must reproduce the above copyright
12  *    notice, this list of conditions and the following disclaimer in the
13  *    documentation and/or other materials provided with the distribution.
14  *
15  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
16  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
17  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
18  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
19  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
20  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
21  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
22  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
23  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
24  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
25  */
26 #ifndef KEX_H
27 #define KEX_H
28
29 #include <signal.h>
30 #include <openssl/evp.h>
31 #include <openssl/hmac.h>
32 #ifdef OPENSSL_HAS_ECC
33 #include <openssl/ec.h>
34 #endif
35
36 #define KEX_COOKIE_LEN  16
37
38 #define KEX_DH1                 "diffie-hellman-group1-sha1"
39 #define KEX_DH14                "diffie-hellman-group14-sha1"
40 #define KEX_DHGEX_SHA1          "diffie-hellman-group-exchange-sha1"
41 #define KEX_DHGEX_SHA256        "diffie-hellman-group-exchange-sha256"
42 #define KEX_RESUME              "resume@appgate.com"
43 /* The following represents the family of ECDH methods */
44 #define KEX_ECDH_SHA2_STEM      "ecdh-sha2-"
45
46 #define COMP_NONE       0
47 #define COMP_ZLIB       1
48 #define COMP_DELAYED    2
49
50 enum kex_init_proposals {
51         PROPOSAL_KEX_ALGS,
52         PROPOSAL_SERVER_HOST_KEY_ALGS,
53         PROPOSAL_ENC_ALGS_CTOS,
54         PROPOSAL_ENC_ALGS_STOC,
55         PROPOSAL_MAC_ALGS_CTOS,
56         PROPOSAL_MAC_ALGS_STOC,
57         PROPOSAL_COMP_ALGS_CTOS,
58         PROPOSAL_COMP_ALGS_STOC,
59         PROPOSAL_LANG_CTOS,
60         PROPOSAL_LANG_STOC,
61         PROPOSAL_MAX
62 };
63
64 enum kex_modes {
65         MODE_IN,
66         MODE_OUT,
67         MODE_MAX
68 };
69
70 enum kex_exchange {
71         KEX_DH_GRP1_SHA1,
72         KEX_DH_GRP14_SHA1,
73         KEX_DH_GEX_SHA1,
74         KEX_DH_GEX_SHA256,
75         KEX_ECDH_SHA2,
76         KEX_GSS_GRP1_SHA1,
77         KEX_GSS_GRP14_SHA1,
78         KEX_GSS_GEX_SHA1,
79         KEX_MAX
80 };
81
82 #define KEX_INIT_SENT   0x0001
83
84 typedef struct Kex Kex;
85 typedef struct Mac Mac;
86 typedef struct Comp Comp;
87 typedef struct Enc Enc;
88 typedef struct Newkeys Newkeys;
89
90 struct Enc {
91         char    *name;
92         Cipher  *cipher;
93         int     enabled;
94         u_int   key_len;
95         u_int   block_size;
96         u_char  *key;
97         u_char  *iv;
98 };
99 struct Mac {
100         char    *name;
101         int     enabled;
102         u_int   mac_len;
103         u_char  *key;
104         u_int   key_len;
105         int     type;
106         const EVP_MD    *evp_md;
107         HMAC_CTX        evp_ctx;
108         struct umac_ctx *umac_ctx;
109 };
110 struct Comp {
111         int     type;
112         int     enabled;
113         char    *name;
114 };
115 struct Newkeys {
116         Enc     enc;
117         Mac     mac;
118         Comp    comp;
119 };
120 struct Kex {
121         u_char  *session_id;
122         u_int   session_id_len;
123         Newkeys *newkeys[MODE_MAX];
124         u_int   we_need;
125         int     server;
126         char    *name;
127         int     hostkey_type;
128         int     kex_type;
129         int     roaming;
130         Buffer  my;
131         Buffer  peer;
132         sig_atomic_t done;
133         int     flags;
134         const EVP_MD *evp_md;
135 #ifdef GSSAPI
136         int     gss_deleg_creds;
137         int     gss_trust_dns;
138         char    *gss_host;
139         char    *gss_client;
140 #endif
141         char    *client_version_string;
142         char    *server_version_string;
143         int     (*verify_host_key)(Key *);
144         Key     *(*load_host_public_key)(int);
145         Key     *(*load_host_private_key)(int);
146         int     (*host_key_index)(Key *);
147         void    (*kex[KEX_MAX])(Kex *);
148 };
149
150 int      kex_names_valid(const char *);
151
152 Kex     *kex_setup(char *[PROPOSAL_MAX]);
153 void     kex_finish(Kex *);
154
155 void     kex_send_kexinit(Kex *);
156 void     kex_input_kexinit(int, u_int32_t, void *);
157 void     kex_derive_keys(Kex *, u_char *, u_int, BIGNUM *);
158
159 Newkeys *kex_get_newkeys(int);
160
161 void     kexdh_client(Kex *);
162 void     kexdh_server(Kex *);
163 void     kexgex_client(Kex *);
164 void     kexgex_server(Kex *);
165 void     kexecdh_client(Kex *);
166 void     kexecdh_server(Kex *);
167
168 #ifdef GSSAPI
169 void    kexgss_client(Kex *);
170 void    kexgss_server(Kex *);
171 #endif
172
173 void
174 kex_dh_hash(char *, char *, char *, int, char *, int, u_char *, int,
175     BIGNUM *, BIGNUM *, BIGNUM *, u_char **, u_int *);
176 void
177 kexgex_hash(const EVP_MD *, char *, char *, char *, int, char *,
178     int, u_char *, int, int, int, int, BIGNUM *, BIGNUM *, BIGNUM *,
179     BIGNUM *, BIGNUM *, u_char **, u_int *);
180 #ifdef OPENSSL_HAS_ECC
181 void
182 kex_ecdh_hash(const EVP_MD *, const EC_GROUP *, char *, char *, char *, int,
183     char *, int, u_char *, int, const EC_POINT *, const EC_POINT *,
184     const BIGNUM *, u_char **, u_int *);
185 int     kex_ecdh_name_to_nid(const char *);
186 const EVP_MD *kex_ecdh_name_to_evpmd(const char *);
187 #else
188 # define kex_ecdh_name_to_nid(x) (-1)
189 # define kex_ecdh_name_to_evpmd(x) (NULL)
190 #endif
191
192 void
193 derive_ssh1_session_id(BIGNUM *, BIGNUM *, u_int8_t[8], u_int8_t[16]);
194
195 #if defined(DEBUG_KEX) || defined(DEBUG_KEXDH) || defined(DEBUG_KEXECDH)
196 void    dump_digest(char *, u_char *, int);
197 #endif
198
199 #endif