- 이메일 암호화는 연결, 서버 간 전송, 저장, 종단 간 통신 중 어디에 적용하느냐에 따라 보호 범위가 다르며, 먼저 어떤 위협을 막으려는지 구분해야 함
- TLS는 전송 경로의 도청을 방어하지만, 서버 간 기회적 TLS는 비암호화 연결로 강등될 수 있음. MTA-STS와 DANE은 이를 보완하는 방식임
- 저장 데이터 암호화는 디스크 도난에 대응하지만, 서비스가 키를 보유하면 서버 장악이나 적법한 데이터 제출 요구까지 막지는 못함
- 제로 액세스 암호화는 서비스도 저장된 메일을 읽지 못하도록 하지만, 종단 간 암호화되지 않은 새 메일의 수신 시점이나 변조된 웹 클라이언트를 통한 공격에는 한계가 있음
- 종단 간 암호화는 본문을 강하게 보호하는 대신 키 관리와 서버 측 검색, 악성코드 검사에 제약을 줌. Fastmail은 일상적인 이메일의 편의성과 민감한 소통의 보호 수준을 구분해 선택할 것을 권함
- 대부분의 사용자에게 현실적으로 중요한 위협은 계정 탈취, 잘못된 스팸 판정, 악성코드, 실수에 의한 삭제임
- 피싱이나 비밀번호 재사용으로 계정 접근권을 빼앗기거나, 중요한 메일이 스팸으로 분류되어 누락될 수 있음
- 링크나 첨부파일을 통해 악성코드에 감염되거나, 사람의 실수로 중요한 데이터를 잃을 수 있음
- 네트워크 도청, 데이터 유출, 물리적 도난도 중요하지만 상대적으로 드문 위협임
- 같은 Wi-Fi의 사용자나 ISP가 통신을 가로채거나, 보안 취약점으로 저장 메일이 노출되거나, 기기와 디스크 도난으로 데이터가 드러날 수 있음
- 취재원을 보호하는 기자, 적대적인 국가의 활동가, 고도화된 공격자를 상대하는 사람은 서비스 내부자와 정부의 법적 강제까지 고려해야 함
- 암호화 방식마다 막을 수 있는 위협이 다르며, 일부 보호 기능은 오히려 약해질 수 있어 위협 모델에 맞는 균형이 필요함
- TLS는 기기와 서버 사이의 통신을 암호화해 로컬 Wi-Fi, ISP, 중간 네트워크에서의 도청을 막음
- 최신 표준인 TLS 1.3은 강력한 암호 방식 사용을 요구함
- 공개 키 인프라(PKI) 는 암호화된 연결의 상대가 실제 이메일 서비스인지 확인함
- 서버는 Let’s Encrypt 같은 인증기관(CA)이 서명한 인증서를 제시함
- 브라우저나 이메일 클라이언트는 내장된 신뢰 CA 목록으로 서명을 검증하고, 해당 도메인에 정당하게 발급된 인증서인지 확인함
- 공격자가 트래픽을 다른 곳으로 돌리더라도 자신이 통제하지 않는 도메인의 유효한 인증서를 얻을 수 없다면 서비스 사칭을 막을 수 있음
- 인증서 투명성(CT) 로그는 참여 CA가 발급한 인증서를 공개된 추가 전용 기록에 남김
- 도메인 소유자는 부정 발급을 감시할 수 있으며, 브라우저도 인증서를 신뢰하기 전에 로그 등록을 요구함
- CA가 침해되거나 속아서 인증서를 잘못 발급한 사례는 있지만, PKI와 CT의 조합은 의도한 서버에 연결했다는 강력하고 실용적인 확인 수단임
- Fastmail은 TLS 1.3과 HSTS를 지원하고 비암호화 IMAP/POP/SMTP 포트를 닫아 암호화 없는 접속을 방지함
- STARTTLS보다 처음부터 TLS로 연결하는 방식을 선호하며, 이는 IETF의 권고이기도 함
- 이메일은 발신자의 서비스 서버를 거쳐 수신자의 서버로 이동하며, 서버 간 통신에는 기회적 TLS(opportunistic TLS) 를 사용함
- 암호화를 시도하되 상대 서버가 지원하지 않으면 비암호화 전송으로 전환함
- Fastmail은 수신에 2009년 4월, 발신에 2010년 1월부터 이를 지원함
- 기회적 TLS는 능동적인 중간자 공격(MITM)에 취약함
- 공격자가 초기 연결 협상에서 STARTTLS 명령을 제거하면 비암호화 연결을 강제할 수 있음
- 암호화를 지원하지 않는 서버를 오가는 정상 메일이 여전히 많아, 모든 전송에 암호화를 강제하면 무시할 수 없는 양의 정상 메일을 잃게 됨
- 기본적으로 인증서가 목적지 서버 소유인지도 검증하지 않음. 공격자가 비암호화 연결로 강등할 수 있는 상황에서는 인증서 검증만 추가해도 보안이 강화되지 않기 때문임
-
MTA-STS와 DANE
- MTA-STS는 수신 도메인이 유효한 인증서를 포함한 STARTTLS 암호화 연결을 요구하도록 함
- 발신 서버는 정책을 확인하고, 조건에 맞는 암호화 연결을 만들 수 없으면 전송을 거부해야 함
- DNS 레코드와 HTTPS로 제공하는 정책 파일만 필요해 배포가 비교적 단순함
- 설정에 문제가 생겨도 수신 메일이 지연되거나 반송되는 범위에 그치며, 웹사이트 등 도메인의 다른 용도에는 영향을 주지 않음
- DANE은 DNSSEC으로 서명한 DNS 레코드에 TLS 인증서 정보를 직접 게시함
- 인증기관 의존성과 MTA-STS의 최초 사용 시 신뢰 문제를 없애지만 운영 비용이 큼
- 최상위 도메인 등록기관의 지원 여부에 따라 DNSSEC을 사용할 수 없는 도메인도 있음
- DNSSEC의 복잡성은 심각한 장애 가능성을 높이며, 잘못된 레코드가 인터넷 곳곳의 캐시에 몇 시간에서 며칠 동안 남을 수 있음
- Cloudflare의 1.1.1.1은 2023년 10월 캐시된 루트 존의 DNSSEC 서명 만료로 몇 시간 동안 장애를 겪음
- 뉴질랜드 .nz는 2023년 5월 정기 DNSSEC 키 교체 중 여러 날에 걸친 가용성 사고를 겪었으며, 유사 장애 기록도 많음
- Fastmail은 보안에서 기밀성, 무결성, 가용성을 함께 고려하며, 현재는 DANE의 추가 기밀성 이점보다 가용성 위험이 크다고 판단함
- 가용성은 사용자가 메일을 읽을 수 있는지, 무결성은 타인이 메일을 손상하거나 변경할 수 없는지에 관한 것임
- Google과 Yahoo도 DANE보다 MTA-STS를 선호하는 선택을 했으며, Fastmail은 생태계 변화에 따라 판단을 재검토함
- 두 보완 프로토콜의 보급은 아직 제한적이지만, 주요 서비스 사이의 메일은 거의 확실하게 전송 중 암호화됨
- DANE이나 MTA-STS가 없으면 국가 수준의 공격자가 연결을 강등해 메일을 가로챌 수 있음
- 다만 대규모 공격은 거의 확실히 탐지되며, 주요 서비스 사이의 대량 메일 흐름에서 특정 개인만 겨냥하기는 매우 어려움
- 저장 데이터 암호화는 일반적으로 서비스가 보유한 키와 BitLocker, LUKS, ZFS 데이터셋 암호화 같은 기술로 디스크에 저장된 메일을 보호함
- 데이터센터의 디스크가 도난당하거나 폐기 디스크가 제대로 지워지지 않아도 데이터를 읽을 수 없게 하며, GDPR과 HIPAA 같은 규정 준수에도 도움이 됨
- 서비스가 키를 보유한다는 한계가 있음
- 유효한 법원 명령에 따라 데이터를 복호화해 제출해야 할 수 있음
- 공격자가 서버를 완전히 장악하면 키가 이미 로드되어 있으므로 저장 암호화가 보호를 제공하지 못함
- Fastmail은 백업을 포함한 모든 사용자 데이터를 암호화된 디스크 볼륨에 저장하며 키를 직접 통제함
- 엄격한 접근 통제와 포괄적인 로깅, 감사를 운영하고, 연간 법적 요청과 대응 건수를 투명성 보고서에 공개함
- Proton Mail과 Tuta 같은 서비스의 제로 액세스 암호화는 기기에서 비밀번호로 암호화 키를 도출해, 서비스도 저장된 메일을 복호화하지 못하도록 함
- 로그인 시 비밀번호로 로컬에서 키를 복호화하며 서버는 비밀번호를 보지 못함
- 내부자 위협이나 정부의 강제 조치에 대한 보호를 우선하고 기능상 제약을 감수할 사용자에게는 정당한 선택임
- 내부자 공격과 데이터 유출을 방어하고 법원 명령에 따라 제출할 수 있는 데이터를 제한할 수 있음
-
보호하지 못하는 영역
- 새 메일 가로채기는 여전히 가능함. 종단 간 암호화가 아니라면 서비스는 사용자의 공개 키로 암호화하기 전에 평문 메일에 접근함
- 감청 명령이나 악의적인 직원이 이 시점에 복사본을 확보할 수 있음
- 모든 데이터가 암호화되지는 않음. 이메일 주소와 타임스탬프, Proton Mail의 경우 제목도 암호화되지 않음
- 누구와 언제 얼마나 자주 연락하고 어떤 주제를 다루는지는 본문보다 중요할 때도 있음
- 서버의 읽기 전용 침해를 넘어서는 공격에는 한계가 있음
- 브라우저 사용자는 서비스 서버에서 복호화 코드를 받아 실행하므로, 서버가 장악되면 비밀번호를 탈취하도록 코드가 바뀔 수 있음
- 법 집행기관도 법원 명령에 따라 특정 사용자를 대상으로 이런 변경을 강제할 수 있음
- 수신자의 복사본이 암호화되어도 발신자는 읽을 수 있는 복사본을 보관하고 있을 가능성이 큼
-
기능상 대가
- 비밀번호와 복구 구문을 잃으면 메일도 영구적으로 잃음. 전통적인 비밀번호 재설정이 불가능하며, 숙련된 사용자도 비밀번호를 잃어 계정에 접근하지 못할 수 있음
- 비밀번호 재설정은 계정 보안의 약점이 될 수 있지만, Fastmail은 보안을 고려한 자동 계정 복구 시스템을 운영함
- 서버가 암호화된 본문을 읽거나 색인화할 수 없어 검색 기능이 제한됨
- 클라이언트에서 검색 색인을 만들 수는 있지만 모든 기기에 전체 메일을 내려받아야 하므로 수십 GB 규모 계정에는 비현실적일 수 있음
- 표준 클라이언트와 서비스 이전에 제약이 생김. 서비스가 표준 IMAP이나 JMAP을 직접 제공할 수 없고, 다른 서비스로 이전하기도 어려워 강한 공급업체 종속이 발생함
- 고객 지원도 제한됨. 사용자가 허락해도 서비스가 메일을 볼 수 없어 해결을 도울 수 없는 문제가 많음
- 공유 메일함이나 규정 준수 도구 같은 업무 기능을 제공하지 못하는 경우가 많음
- 발신자와 수신자만 본문을 읽는 종단 간 암호화는 1990년대부터 S/MIME과 OpenPGP로 가능했지만, 수십 년 동안 일반 소비자에게 의미 있게 확산되지 못함
- S/MIME은 CA 인증서를 사용하며 일부 기업용 이메일 클라이언트가 지원함
- 기존 PKI와 내부 디렉터리에서 수신자의 공개 키를 찾을 수 있는 조직에서는 일부 쓰이지만, 그 밖에서는 드묾
- OpenPGP는 사용자가 서로의 키를 보증하는 분산형 ‘신뢰의 망(Web of Trust)’을 사용하지만, 보안 연구자들은 이 구조가 사실상 사라졌다고 봄
- PGP에는 메타데이터 유출, 전방향 안전성 부재, 실용적인 키 교체 부족 등 여러 설계 문제가 있음
- 1999년 Why Johnny Can’t Encrypt 연구에서는 참가자 12명 중 4명만 90분 안에 PGP로 이메일을 올바르게 암호화함
- 2006년과 2019년 후속 연구에서도 다른 사람의 공개 키를 찾고 검증하는 데 어려움이 지속됨
- PGP 개발자 Phil Zimmermann도 2015년 버전 비호환성으로 메일 복호화에 어려움을 겪음
- 근본적인 과제는 공개 키 배포와 정기 교체임
- 보내기 전에 수신자의 공개 키를 얻고 실제 소유자를 확실히 검증해야 하지만, 이를 보편적으로 처리하거나 키를 정기 교체할 인프라가 없음
- 키 교체가 없으면 키나 비밀번호가 유출되었을 때 이전에 가로챈 모든 메일을 복호화할 수 있음
- Signal과 WhatsApp은 한 조직이 전체 소프트웨어를 통제해 암호화를 자동으로 처리함
- 설치 시 키를 생성하고, 전화번호로 연락처를 찾고, 보안 프로토콜을 전체에 일괄 적용함
- 어떤 클라이언트든 어떤 서버와도 통신하는 이메일의 연합형 구조에서는 이런 통합 접근이 불가능함
- 이메일의 주요 기능과도 충돌함
- 서버가 본문을 읽지 못하면 서버 측 검색이 불가능하고, 모든 메시지를 검색 가능한 보관함에 유지하는 것 자체도 보안 모범 관행과 상충함
- 피싱 탐지와 악성코드 방지는 메시지 검사가 필요함
- 여러 기기에서 사용하려면 개인 키를 동기화해야 하므로 보안 위험이 생김
- To, From, Date 헤더는 이메일의 기본 기능을 유지하면서 암호화할 수 없음
- 암호학자 Bruce Schneier도 이메일과 이메일 시스템에 기대하는 기능이 암호화와 쉽게 양립하지 않는다고 봄
- 강한 프라이버시 보호와 악용 방지 사이에는 긴장이 있음
- 스팸 필터, 피싱 탐지, 악성코드 검사는 본문을 읽어야 하거나, 읽을 수 있을 때 더 효과적으로 작동함
- 서버 측 검사는 링크와 발신 패턴으로 피싱을 식별하고, 받은편지함에 도달하기 전에 악성코드를 격리하며, 비정상적인 행동 패턴으로 계정 탈취를 탐지할 수 있음
- 종단 간 암호화에서는 이런 보호 능력이 줄거나 사라짐
- 이메일 보안은 이분법이 아니라 절충의 연속선임
- 전송 암호화는 수동적 감시를 막고, 저장 암호화는 물리적 도난에 대응함
- 제로 액세스 암호화는 내부자 접근을 제한하는 대신 기능을 희생함
- 종단 간 암호화는 가장 강한 본문 보호를 제공하지만, 대부분의 사용자에게 비실용적이며 자체적인 사용성과 보안 문제도 있음
- 매우 민감한 소통에는 Signal 같은 전용 암호화 메신저가 어떤 이메일 솔루션보다 강한 보호를 제공함
- 취재원을 보호하거나 국가 수준의 공격자를 상대한다면 이메일보다 암호화 메신저를 사용하는 편이 적절함
- 일상적인 이메일에는 전송 암호화와 저장 암호화의 조합이 검색, 스팸 필터링, 편의성을 유지하면서 가장 현실적인 위협에 의미 있는 보호를 제공함
- Fastmail은 25년 이상 이메일 서비스를 운영하며 메일을 사용자의 전자적 기억으로 보고, 접근 가능성과 프라이버시, 보안을 함께 우선함
- 전송 및 서버 저장 암호화, 강력한 인증 옵션, Masked Email로 프라이버시와 보안을 보호함
- 다중 데이터센터 이중화에 기반한 안정성, 빠른 인터페이스, 수십 년치 메일을 다루는 검색 기능을 유지함
- 사용 가능한 기술적, 실무적 선택지를 바탕으로 사용자 경험과 프라이버시의 절충을 정기적으로 재평가함