V2Ray DNS 누출 점검 및 방지: v2rayN·v2rayNG DNS 설정

DNS 누출의 의미와 점검 방법을 알아보고, v2rayN·v2rayNG에서 원격 DNS와 TUN을 설정해 DNS 요청이 프록시를 우회하지 않도록 하는 방법을 안내합니다.

핵심 내용

웹페이지가 프록시를 통해 열리더라도 도메인 조회까지 프록시를 거친다는 뜻은 아닙니다. 테스트 페이지에 여전히 현재 네트워크의 리졸버가 표시된다면, 먼저 같은 브라우저에서 프록시를 끈 상태를 기준으로 확인하세요. 그런 다음 브라우저, TUN 또는 VPN이 트래픽을 어디까지 처리하는지와 원격 DNS 요청의 실제 출구를 각각 점검합니다. 한 번에 한 항목만 바꿔야 어떤 설정이 결과에 영향을 줬는지 알 수 있습니다.

DNS 누출: 웹 트래픽과 도메인 조회가 서로 다른 경로를 타는 경우

DNS는 주소록과 비슷합니다. 앱은 연결을 시작하기 전에 도메인에 대응하는 주소를 알아야 하는 경우가 많습니다. 여기서 말하는 누출은 프록시를 통해 조회하려던 도메인 요청이 로컬 네트워크나 예상하지 못한 다른 리졸버로 전달되는 상황입니다. 직접 연결하도록 지정한 사이트가 로컬 리졸버를 사용하는 것은 라우팅 결과입니다. 중요한 것은 어떤 요청이 원래 직접 연결되어야 하는지 구분하는 일입니다.

앱에서 조회 요청클라이언트가 요청 처리DNS 정책 적용아웃바운드 선택리졸버 응답

위 흐름은 클라이언트가 처리하는 DNS 요청에만 해당합니다. 데스크톱의 시스템 프록시는 주로 시스템 프록시 설정을 따르는 앱에 영향을 주며, 운영체제의 DNS 요청까지 처리한다는 뜻은 아닙니다. 브라우저에서 ‘보안 DNS’를 사용하면 조회 요청이 HTTPS로 암호화되어 브라우저가 직접 리졸버를 선택할 수도 있습니다. 이 HTTPS 연결이 프록시를 거치는지는 프록시의 트래픽 처리 범위와 라우팅 규칙에 따라 달라집니다.

DNS 누출 테스트: 기준 상태부터 프록시 연결 상태까지

  1. 기준 상태 기록: 프록시나 VPN이 필요 없는 네트워크에서 잠시 연결을 끄고, 재귀 리졸버 목록을 보여 주는 DNS 테스트 페이지를 같은 브라우저로 엽니다. 네트워크 종류, 브라우저의 보안 DNS 설정, 리졸버 주소와 서비스 제공자를 기록하세요. 프록시를 끄기 어렵다면 기준 측정은 건너뛰고, 예상한 리졸버와 클라이언트 로그를 비교하세요.
  2. 다른 조건은 그대로 유지: 프록시를 다시 연결하고 현재 노드, 라우팅 모드, 네트워크를 유지한 채 테스트 페이지에서 새로 테스트합니다. 이전 테스트 결과를 그대로 비교하지 마세요. 테스트 페이지는 보통 매회 다른 도메인으로 조회를 유도하므로, 같은 웹페이지를 반복해서 여는 것보다 캐시의 영향을 덜 받습니다.
  3. 브라우저와 시스템을 구분: 브라우저에서 보안 DNS를 사용 중이라면 잠시 끄고 같은 설정으로 다시 테스트한 뒤 원래대로 복구합니다. Windows에서는 아래 명령어를 실행해 시스템 DNS 조회가 가능한지도 확인할 수 있습니다. 이 명령어는 서버를 지정하지 않으며, 브라우저와 같은 경로를 사용한다는 의미도 아닙니다.
Resolve-DnsName -Name example.com -Type A -DnsOnly
확인된 현상우선 확인할 항목
웹 트래픽의 출구는 바뀌었지만 리졸버는 기준 상태와 동일함브라우저의 보안 DNS, 앱의 처리 여부, 리졸버 연결에 직접 연결 규칙이 적용되는지 확인하세요. 결과가 같다는 사실만으로 누출이라고 단정할 수는 없습니다.
리졸버가 여러 개 표시되거나 노드와 다른 지역의 리졸버가 표시됨주소보다 먼저 서비스 제공자를 확인하세요. 공용 리졸버는 여러 출구를 사용할 수 있으므로 위치나 개수만으로 누출을 판단할 수 없습니다.
테스트 페이지에서는 예상대로 나오지만 다른 앱에서는 여전히 문제가 발생함해당 앱이 TUN 또는 VPN의 처리 범위에 포함되는지, 자체 DNS 기능을 사용하는지 확인하세요. 웹 테스트 결과는 테스트를 실행한 브라우저에만 해당합니다.

어떤 종류의 DNS 요청이 잘못된 경로를 타는지 먼저 확인하세요

브라우저의 보안 DNS를 전환했을 때 브라우저 테스트 결과만 달라진다면, 먼저 브라우저 경로만 점검하세요. 노드와 클라이언트 DNS를 동시에 바꾸지 마세요. 테스트 페이지에 표시되는 것은 테스트 페이지로 조회를 보낸 재귀 리졸버입니다. 클라이언트에서 리졸버로 향하는 연결이 어떤 아웃바운드를 탔는지 확인하려면 로그나 실제 네트워크 트래픽도 함께 살펴봐야 합니다.

v2rayN: 원격 DNS 및 TUN 설정

원격 DNS는 사용할 리졸버 주소를 지정하고, TUN은 어떤 트래픽을 클라이언트가 처리할지 정합니다. 두 설정은 해결하는 문제가 다릅니다. 원격 DNS만 입력해도 원래 클라이언트를 우회하던 앱이 자동으로 프록시를 사용하지는 않습니다. 아래 내용은 v2rayN 7.x에서 흔히 볼 수 있는 화면을 기준으로 합니다. 공백과 입력 항목 구성은 마이너 버전이나 선택한 코어에 따라 다를 수 있습니다.

  1. 현재 설정 기록하기

    메인 창에서 현재 노드, 하단 표시줄의 시스템 프록시 상태와 라우팅 설정을 확인합니다. ‘설정’ → ‘DNS 설정’을 열고 사용 중인 코어의 기존 DNS 구성을 기록하세요. 사용자 지정 설정 편집창이 있다면 내용을 따로 보관하세요. URL 하나를 전체 설정인 것처럼 붙여 넣으면 안 됩니다.

  2. 원격 DNS 입력하기

    화면에 DoH URL을 입력할 수 있는 ‘원격 DNS’ 항목이 있다면 https://1.1.1.1/dns-query를 주소 형식의 예로 사용할 수 있습니다. DoH는 기본적으로 HTTPS 443 포트를 사용하고, 일반 DNS는 보통 53 포트를 사용합니다. 주소를 입력하면 리졸버만 선택되며 연결이 프록시를 거칠지 직접 연결될지는 정해지지 않습니다. 비교와 복구를 위해 기존 직접 연결 DNS 설정은 유지하세요.

  3. TUN 켜기

    메인 창 하단에서 ‘TUN 사용’을 켜고 시스템 안내에 따라 권한을 허용합니다. 테스트할 앱이 원래 시스템 프록시를 사용했다면 TUN만의 효과를 확인할 때 ‘시스템 프록시’를 ‘시스템 프록시 해제’로 바꾸세요. 노드나 라우팅 모드는 동시에 바꾸지 마세요. 전환 전에 기존 상태를 기록해 두면 테스트 후 복구하기 쉽습니다.

  4. 아웃바운드 확인 후 다시 테스트

    같은 브라우저에서 다시 테스트하고, 메인 창 로그에 리졸버 주소와 해당 연결에 적용된 아웃바운드가 표시되는지 확인합니다. 리졸버에 직접 연결 규칙이 적용됐다면 ‘설정’ → ‘라우팅 설정’에서 현재 사용 중인 구성과 규칙 순서를 확인하세요. 아웃바운드 기록이 보이지 않는다면 웹페이지가 열린다는 사실만으로 프록시를 사용했다고 판단하지 마세요.

v2rayNG: 원격 DNS 및 Android VPN 처리

Android에서 v2rayNG의 VPN 모드는 시스템이 제공하는 가상 네트워크 인터페이스로 트래픽을 처리합니다. 알림 영역에 VPN 아이콘이 표시되면 시스템 VPN이 연결된 상태라는 뜻이지만, 모든 앱이 처리 범위에 포함되거나 DNS 요청이 반드시 프록시를 통해 나간다는 의미는 아닙니다.

  1. 실행 모드 확인: 왼쪽 위 메뉴에서 ‘설정’을 엽니다. ‘실행 모드’ 항목이 있다면 로컬 프록시 포트만 제공하는 모드가 아니라 ‘VPN 모드’를 선택하세요. 메인 화면으로 돌아가 연결을 시작하고, 처음 사용할 때는 시스템의 VPN 연결 요청을 허용합니다.
  2. DNS 설정 확인: ‘설정’에서 ‘원격 DNS’와 ‘직접 연결 DNS’를 찾습니다. 원격 DNS는 해당 프록시 조회 경로에, 직접 연결 DNS는 해당 직접 연결 경로에 사용됩니다. 실제 동작은 생성된 구성과 라우팅 규칙에 따라 달라집니다. 현재 화면에 ‘로컬 DNS 사용’ 항목이 있다면 클라이언트 내부의 DNS 처리를 켜는 설정이지, 공유기 DNS를 사용한다는 뜻은 아닙니다. 설정을 바꾼 뒤 연결을 끊었다가 다시 연결하고 결과를 확인하세요.
  3. 앱 처리 범위 확인: ‘앱별 프록시’를 켰다면 테스트 브라우저가 VPN 처리 범위에 포함되어 있는지 확인하세요. 목록은 ‘선택한 앱만 처리’하거나 ‘선택한 앱 제외’를 의미할 수 있습니다. 브라우저 이름에 체크 표시가 있다는 것만으로 어느 경로를 사용하는지 판단할 수는 없습니다.
  4. 암호화 DNS는 따로 확인: 결과가 여전히 예상과 다르면 먼저 브라우저의 보안 DNS를 확인한 다음 Android 시스템 설정에서 ‘비공개 DNS’를 검색해 서비스 제공자가 지정되어 있는지 기록하세요. 두 설정은 서로 다른 항목입니다. 임시로 설정을 바꿔야 한다면 한 번에 하나씩만 바꾸고 테스트 후 복구하세요. 특히 시스템 비공개 DNS의 서비스 제공자 호스트 이름과 클라이언트 DoH URL을 같은 입력란에 넣지 마세요.

도메인 라우팅 정책: 언제 변경해야 할까

도메인 트래픽을 판별할 때 IP 규칙도 적용해야 하는 경우에만 Xray 라우팅의 domainStrategy 변경을 고려하세요. 이 설정은 ‘라우팅 규칙을 비교할 때 도메인을 IP로 해석할지’를 정하며, ‘DNS 요청을 어느 아웃바운드로 보낼지’를 정하는 것은 아닙니다. 이 값을 바꿔도 원격 DNS 설정을 대신하거나 TUN의 처리 범위가 넓어지지는 않습니다.

AsIs
라우팅 규칙을 비교할 때 대상은 원래 형태 그대로 처리하며, 규칙 적용을 위해 도메인을 별도로 조회하지 않습니다. 실제 연결을 시작할 때는 이후 단계에서 조회가 이루어질 수 있습니다.
IPIfNonMatch
도메인 대상이 첫 번째 규칙 비교에서 일치하지 않으면 IP로 조회한 뒤 IP 규칙을 적용합니다. 첫 번째 비교에서 기본 규칙에 이미 일치했다면 IP 규칙이 있더라도 다시 조회하지 않습니다.
IPOnDemand
라우팅 비교 중 IP가 필요한 규칙을 만나면 조회가 시작될 수 있습니다. 규칙 순서에 따라 조회 시점이 달라지므로 모든 도메인을 먼저 조회한다고 볼 수는 없습니다.

도메인 라우팅은 예상대로 작동하는데 테스트에서 원치 않는 리졸버가 표시된다면 DNS 요청의 아웃바운드부터 확인하세요. 누출을 막겠다고 바로 IPOnDemand로 바꾸지는 마세요. 또한 IPv6의 AAAA 레코드 조회와 DNS 요청이 IPv4 또는 IPv6 중 어느 네트워크를 사용하는지는 서로 다른 문제입니다. 반환할 레코드 유형을 제한해도 조회 요청이 다른 네트워크 경로로 우회하는 것을 막을 수는 없습니다.

자주 발생하는 오류와 복구 순서

아래는 로그에 나타날 수 있는 오류 예시입니다. 같은 오류라도 DNS가 아니라 노드 연결 문제일 수 있으므로, 먼저 오류 앞부분에서 대상이 노드 주소인지, 리졸버 주소인지, 접속하려는 주소인지 확인하세요.

오류: i/o timeout

원인 및 해결: 제한 시간 안에 연결이나 조회가 완료되지 않았습니다. 로그에 DoH 리졸버가 표시된다면 먼저 해당 리졸버의 443 연결이 예상한 아웃바운드를 사용하는지 확인한 뒤 기존 DNS를 복구해 비교하세요. 리졸버에 연결할 수 없는 문제인지 노드 자체의 연결이 끊긴 것인지 구분할 수 있습니다.

오류: no such host

원인 및 해결: 로그에 표시된 호스트 이름을 사용할 수 있는 주소로 조회하지 못했습니다. 먼저 철자가 맞는지 확인하세요. 호스트 이름이 포함된 DoH 주소로 바꾼 직후라면 DoH 연결이 이루어지기 전에 클라이언트가 해당 서버 이름을 조회할 방법이 있는지도 확인하세요.

오류: x509: certificate signed by unknown authority

원인 및 해결: 클라이언트가 서버 인증서 체인을 신뢰하지 못했습니다. 로그가 예상한 DoH 서비스로 연결되는지 확인하고, 시스템의 신뢰 설정과 관리형 HTTPS 검사 네트워크 사용 여부를 점검하세요. 연결을 계속하기 위해 인증서 검증을 끄지 마세요.

설정을 바꾼 뒤 기기 전체에서 웹페이지가 열리지 않는다면 마지막으로 변경한 항목부터 되돌리세요. 그래도 연결되지 않으면 기존 DNS를 복구하고 TUN 또는 VPN과 시스템 프록시도 변경 전 상태로 되돌리세요. 기존 연결이 작동하는지 확인한 뒤 ‘시스템 또는 앱의 처리 범위, 원격 DNS, 라우팅 정책’ 순서로 항목을 하나씩 확인합니다. 매 단계에서 한 가지만 바꾸고 같은 테스트 페이지의 결과와 관련 로그를 기록하세요.

v2rayN 다운로드플랫폼에 맞는 클라이언트 선택