SSL/TLS란 무엇인가? HTTPS 통신 원리와 개발자가 알아야 할 오류 해결 방법

SSL/TLS란 무엇인가? 개발자가 꼭 알아야 할 HTTPS 통신 원리

웹 개발을 하다 보면 다음과 같은 용어를 자주 접하게 됩니다.

• SSL 인증서
• HTTPS
• TLS Handshake
• SSL 오류
• 인증서 검증 실패

하지만 실제로 SSL/TLS가 무엇인지, 왜 필요한지 정확히 이해하지 못한 채 사용하는 경우가 많습니다.

이번 글에서는 SSL/TLS의 개념부터 동작 원리, 그리고 개발 시 자주 발생하는 오류까지 쉽게 정리해 보겠습니다.

---

SSL/TLS란?

SSL/TLS는 인터넷에서 데이터를 안전하게 주고받기 위한 암호화 기술입니다.

예를 들어 사용자가 로그인할 때 아이디와 비밀번호를 입력한다고 가정해 보겠습니다.

사용자
 ↓
인터넷
 ↓
웹 서버

암호화가 없다면 중간에서 네트워크 패킷을 가로채는 사람이 로그인 정보를 그대로 볼 수 있습니다.

이를 방지하기 위해 SSL/TLS를 사용하여 데이터를 암호화합니다.

사용자
 ↓ (암호화)
인터넷
 ↓ (암호화)
웹 서버

중간에서 데이터를 훔쳐보더라도 내용을 해독할 수 없습니다.

---

SSL과 TLS의 차이

많은 사람들이 SSL과 TLS를 같은 의미로 사용합니다.

실제로는 다음과 같습니다.

구분	설명
SSL	과거에 사용되던 보안 프로토콜
TLS	SSL을 개선한 현재 표준 프로토콜

현재는 SSL 3.0 이후 TLS로 발전했으며 대부분 TLS를 사용합니다.

하지만 업계에서는 여전히 아래와 같은 표현을 사용합니다.

• SSL 인증서
• SSL 통신
• SSL 오류

실제로는 TLS를 의미하는 경우가 대부분입니다.

---

HTTPS와 SSL/TLS의 관계

웹 주소를 보면 다음 두 가지 형태가 있습니다.

http://example.com

https://example.com

차이점은 HTTPS입니다.

HTTPS는 다음과 같습니다.

HTTPS = HTTP + TLS

즉 HTTP 통신에 TLS 암호화를 적용한 것입니다.

---

SSL/TLS는 왜 필요한가?

SSL/TLS는 크게 세 가지 목적을 가집니다.

1. 데이터 암호화

중간에서 패킷을 가로채더라도 내용을 확인할 수 없습니다.

2. 서버 인증

접속한 서버가 진짜 서버인지 확인합니다.

예를 들어 피싱 사이트가 아닌 실제 서비스 서버인지 검증합니다.

3. 데이터 무결성 보장

통신 중 데이터가 변조되지 않았는지 확인합니다.

---

SSL/TLS 통신 과정

HTTPS 접속 시 내부적으로 다음 과정이 수행됩니다.

1단계 : Client Hello

클라이언트가 서버에게 자신의 정보를 전달합니다.

안녕하세요.
TLS 1.2, TLS 1.3 지원합니다.
지원 가능한 암호화 방식은 다음과 같습니다.

---

2단계 : Server Hello

서버가 사용할 TLS 버전과 암호화 방식을 선택합니다.

좋습니다.
TLS 1.3을 사용하겠습니다.
암호화 방식은 AES256을 사용하겠습니다.

---

3단계 : 인증서 전달

서버가 자신의 인증서를 전달합니다.

이 서버가 진짜 서버임을 증명하는 인증서입니다.

---

4단계 : 인증서 검증

클라이언트가 인증서를 검증합니다.

인증서가 유효한가?
신뢰할 수 있는 기관이 발급했는가?
만료되지는 않았는가?

---

5단계 : 세션 키 생성

암호화 통신에 사용할 세션 키를 생성합니다.

---

6단계 : 암호화 통신 시작

이후부터 모든 데이터는 암호화되어 전송됩니다.

{
  "userId": "sample",
  "password": "******"
}

---

TLS Handshake란?

위 과정을 통틀어 TLS Handshake라고 부릅니다.

즉 실제 데이터를 전송하기 전에

암호화 방식 결정
인증서 검증
세션 키 생성

을 수행하는 과정입니다.

TLS Handshake가 성공해야 HTTPS 통신이 가능합니다.

---

개발 시 자주 발생하는 SSL/TLS 오류

1. TLS 버전 불일치

예를 들어 서버는 TLS 1.2 이상만 허용하는데

클라이언트는 TLS 1.0만 지원하는 경우 발생합니다.

대표 오류

handshake_failure

---

2. 인증서 검증 실패

클라이언트가 서버 인증서를 신뢰하지 못하는 경우입니다.

대표 오류

PKIX path building failed

unable to find valid certification path

---

3. 인증서 만료

인증서 유효기간이 종료된 경우입니다.

대표 오류

CertificateExpiredException

---

4. Cipher Suite 불일치

서버와 클라이언트가 공통으로 지원하는 암호화 알고리즘이 없는 경우입니다.

대표 오류

SSLHandshakeException

---

5. SNI(Server Name Indication) 문제

하나의 서버에서 여러 도메인을 운영하는 경우 사용됩니다.

클라이언트가 접속하려는 도메인 정보를 함께 전달해야 합니다.

구형 환경에서는 이 기능을 지원하지 않아 TLS 오류가 발생할 수 있습니다.

---

SSL/TLS 오류 발생 시 확인 순서

1. DNS 확인

nslookup example.com

---

2. 포트 연결 확인

telnet example.com 443

---

3. 인증서 확인

openssl s_client -connect example.com:443

---

4. TLS 버전 확인

openssl s_client -tls1_2 -connect example.com:443

---

5. 애플리케이션 로그 확인

Java의 경우

-Djavax.net.debug=ssl,handshake

옵션을 통해 상세 TLS 로그를 확인할 수 있습니다.

---

마무리

SSL/TLS는 단순히 HTTPS를 사용하기 위한 기술이 아니라 인터넷 보안의 핵심 요소입니다.

우리가 매일 사용하는 로그인, 결제, 본인 인증, API 통신 대부분이 SSL/TLS 위에서 동작합니다.

개발자는 SSL/TLS의 기본 개념과 Handshake 과정, 그리고 대표적인 오류 원인을 이해하고 있어야 실제 운영 환경에서 발생하는 다양한 통신 문제를 빠르게 해결할 수 있습니다.

특히 HTTPS 통신 오류가 발생한다면 단순히 "서버가 안 된다"라고 판단하기보다 TLS 버전, 인증서, 암호화 방식, 네트워크 환경 등을 단계적으로 점검하는 습관이 중요합니다.