Shadowrocket DNS 설정 가이드: 시스템 DNS, 사용자 지정 DNS, DNS over HTTPS 선택법

시스템 DNS, 사용자 지정 DNS, DNS over HTTPS의 조회 경로와 사용 상황을 설명하고, 도메인 조회 오류로 연결되지 않을 때의 점검 순서를 안내합니다.

이 글의 핵심

회사나 가정 네트워크의 내부 도메인을 조회해야 한다면 먼저 시스템 DNS로 기준을 확인하세요. 관리자가 지정한 주소를 사용해야 한다면 사용자 지정 DNS를 선택하고, 클라이언트와 DNS 서버 사이의 조회를 암호화하려면 DNS over HTTPS를 사용하세요. 이미 작동하는 설정이 있다면 아래 단계에 따라 DNS 설정 하나만 바꾼 뒤 같은 도메인으로 다시 테스트하면 조회 실패, 잘못된 규칙 선택, 대상 연결 실패를 구분할 수 있습니다.

시스템 DNS, 사용자 지정 DNS, DoH의 차이

dns-server는 Shadowrocket 설정에서 사용할 DNS 조회 경로를 지정합니다. DIRECT와 PROXY는 트래픽에 적용되는 규칙 정책입니다. DNS를 DoH로 바꿔도 모든 연결이 PROXY로 바뀌는 것은 아닙니다. Home에서 Global Routing을 전환해도 특정 DNS 서버가 지정되는 것은 아닙니다. 문제를 점검할 때는 먼저 어느 계층을 확인할지 정하세요.

설정 방식조회 요청이 전달되는 곳선택할 상황
시스템 DNS현재 시스템에서 사용할 수 있는 DNS 서버를 이용합니다. Wi-Fi를 바꾸거나 셀룰러 네트워크로 전환하면 DNS 서버가 달라질 수 있습니다.네트워크에 설정된 DNS 정책을 그대로 사용하거나, 현재 네트워크에서 내부 도메인을 조회할 수 있는지 확인할 때 적합합니다.
사용자 지정 DNS(IP 주소)현재 네트워크에서 할당된 서버에만 의존하지 않고, 설정에 지정한 DNS 서버 IP로 조회 요청을 보냅니다.관리자가 제공한 DNS 서버 주소가 있고, 기기가 대상 네트워크에서 해당 주소에 접속할 수 있을 때 사용합니다.
DNS over HTTPS(DoH)DNS 조회 요청을 HTTPS 요청에 담아 지정된 엔드포인트 URL로 보냅니다.사용할 수 있는 DoH 엔드포인트가 확인되어 있고, 클라이언트와 DNS 서버 사이의 조회를 암호화해야 할 때 적합합니다.

사용자 지정 DNS와 DoH는 서로 배타적인 방식이 아닙니다. DoH URL을 직접 입력하는 것도 DNS 서버를 지정하는 방법입니다. 이 문서에서는 입력 방식과 장애 양상을 비교하기 위해 ‘사용자 지정 DNS’를 기존 DNS 서버의 IP 주소를 입력하는 방식으로 한정합니다.

53
기존 DNS의 기본 포트이며 UDP 또는 TCP 사용 가능
443
DoH에서 사용하는 HTTPS 기본 포트
A / AAAA
IPv4 및 IPv6 주소 레코드를 각각 조회합니다.

선택 기준: 먼저 내부 도메인 확인

회사나 가정 네트워크에서만 조회되는 도메인에 기기가 접속해야 한다면, DNS 서버를 바꾸기 전에 사용할 DNS 서버가 해당 도메인의 올바른 주소를 반환하는지 확인하세요. 공용 도메인 조회에 성공했다고 해서 이 확인을 대신할 수는 없습니다.

Config에서 DNS를 변경하고 다시 테스트

아래 예시는 iPhone / iPad의 구성 파일을 기준으로 합니다. 같은 네트워크, 작동이 확인된 동일한 연결, 같은 대상 도메인 목록으로 비교하세요. 기존 설정을 먼저 기록한 다음 한 항목만 변경하세요. 네트워크 전환, 연결 변경, DNS 변경을 한 번의 테스트에 함께 적용하지 마세요.

  1. 현재 상태 기록

    Home → Global Routing에서 현재 선택 항목을 확인하세요. 구성 파일의 규칙에 따른 라우팅을 테스트하려면 Config가 선택되어 있는지 확인하고, 테스트 중에는 이 설정을 유지하세요. 현재 네트워크와 정상 도메인 하나, 실패 도메인 하나를 기록합니다.

  2. 적용 중인 구성 파일 열기

    Config에서 현재 선택된 구성 파일을 찾습니다. 편집하기 전에 기존 설정을 저장해 두세요. 로컬 편집이 가능한 파일은 파일 옆의 ⓘ → Edit Config를 누르고 [General]에 설정된 dns-server를 확인합니다. 원격 업데이트로 관리되는 파일이라면 편집 가능한 로컬 사본으로 비교 테스트하세요.

  3. DNS 조회 경로만 변경

    기존 규칙은 유지하고 dns-server를 확인하려는 단일 DNS 경로로 바꾸세요. DoH를 사용하려면 DNS 서비스 제공업체가 안내한 전체 HTTPS URL을 입력하고, 경로도 제공업체가 지정한 값을 사용해야 합니다. 여러 DNS 서버를 한꺼번에 입력하면 웹페이지가 열리는지만으로 어떤 서버가 응답했는지 판단할 수 없습니다.

  4. 저장 후 다시 테스트

    저장한 뒤 Config에서 실제 선택된 파일을 확인하고, Home으로 돌아가 연결을 끊었다가 다시 연결하세요. 같은 앱에서 앞서 기록한 두 도메인을 다시 테스트하고, 도메인 없음, 조회 시간 초과, 주소를 받은 뒤 연결 실패 등의 결과를 각각 기록합니다. 다시 연결해도 앱 자체의 DNS 캐시가 지워진다는 보장은 없습니다. 즉시 한 번 성공했다고 새 설정이 적용됐다고 단정하지 마세요.

아래 세 가지는 함께 사용할 수 없는 설정 예시입니다. 기존 [General]에 dns-server 항목을 한 번에 하나만 선택해 입력하세요. 192.0.2.53과 dns.example.com은 문서용 예시이며 실제로 사용할 수 있는 DNS 서버가 아닙니다.

[General]
dns-server = system
[General]
dns-server = 192.0.2.53
[General]
dns-server = https://dns.example.com/dns-query

도메인 조회 오류 점검 순서

오류가 DNS 조회 전에 발생했는지, 주소를 받은 뒤 발생했는지 먼저 확인하세요. 웹페이지에 ‘연결 시간 초과’만 표시된다고 해서 DNS 문제라고 단정할 수는 없습니다. 대상 포트에 접속할 수 없거나, 프록시 연결이 실패하거나, TLS 핸드셰이크에 문제가 있어도 페이지가 열리지 않을 수 있습니다. 로그가 있다면 도메인과 발생 시간을 기준으로 조회 결과와 이후 연결 결과를 확인하세요.

  1. 먼저 시스템 DNS로 기준을 확인합니다. 같은 네트워크에서 dns-server = system으로 동일한 도메인을 다시 테스트하세요. 정상 도메인과 문제 도메인이 모두 실패하면 네트워크가 정상적으로 작동하는지, 공용 Wi-Fi의 로그인 페이지를 처리해야 하는지 먼저 확인합니다. 한 도메인만 실패한다면 전체 호스트 이름이 정확한지, 지정된 네트워크에서만 조회되는 도메인인지 확인하세요.
  2. 레코드 없음과 응답 없음 구분하기. NXDOMAIN은 DNS 서버가 조회한 이름이 존재하지 않는다고 응답한 것입니다. 조회 시간 초과는 대기 시간 내에 응답을 받지 못했다는 뜻입니다. AAAA 레코드가 없어도 도메인이 존재하지 않는 것은 아니며, A 레코드가 있을 수 있습니다. 시스템 DNS에서는 내부 도메인의 주소를 받았는데 DNS 서버를 바꾼 뒤 NXDOMAIN이 반환된다면, 새 DNS 서버가 해당 내부 도메인 영역을 조회할 수 있는지 먼저 확인하세요.
  3. DoH 엔드포인트를 따로 확인합니다. 엔드포인트에 호스트 이름을 사용하는 경우, 클라이언트는 HTTPS 연결을 만들기 전에 해당 엔드포인트의 주소를 먼저 조회해야 합니다. 시스템 DNS는 작동하지만 DoH로 바꾼 뒤 시간 초과가 발생한다면 URL, 현재 네트워크에서 엔드포인트에 접속할 수 있는지, 기기 시간이 정확한지 확인하세요. 엔드포인트에 접속하려면 프록시가 필요한데 프록시 서버의 호스트 이름은 다시 해당 엔드포인트를 통해 조회해야 하는 순환 의존성이 있는지도 살펴보세요.
  4. 주소를 받은 뒤에는 규칙과 연결을 확인합니다. Home → Global Routing에서 예상한 상태인지 확인하세요. Config를 사용한다면 대상 도메인이 의도한 DOMAIN-SUFFIX 규칙과 일치하는지, 아니면 FINAL로 처리되는지 확인합니다. 도메인 규칙은 도메인으로 판단할 수 있지만, IP-CIDR과 GEOIP에는 IP 주소 정보가 필요합니다. 주소를 받은 뒤에도 연결이 실패하면 실제 적용된 정책, 대상 포트, 연결 경로를 계속 점검하세요.

네트워크 변경 및 DoH 사용 시 자주 묻는 문제

회사 Wi-Fi에서는 되는데 셀룰러 네트워크에서는 열리지 않나요?

두 네트워크에서 시스템 DNS를 사용해 같은 전체 도메인 이름을 조회하고 결과를 각각 기록하세요. 내부 도메인이거나 DNS 서버 주소가 회사 네트워크에서만 접속 가능하다면 셀룰러 네트워크에서 실패해도 설정 오류라고 단정할 수 없습니다. 회사 네트워크로 돌아가 다시 테스트하고, 관리자가 안내한 접속 방식에 따라 이용하세요. 공용 DNS 서버를 반복해서 바꾸지 마세요.

DoH 주소를 브라우저에 붙여 넣었을 때 오류가 표시되면 사용할 수 없는 건가요?

반드시 그렇지는 않습니다. 일반 웹페이지 요청은 완전한 DoH 조회가 아니며, DNS 조회 내용이 없는 요청을 엔드포인트가 거부할 수도 있습니다. 서비스 안내에 따라 호스트 이름과 경로를 확인한 뒤 실제 도메인을 조회하고 오류 결과를 살펴보세요. 주소 조회, HTTPS 연결, DNS 응답 중 어느 단계에서 문제가 발생했는지 구분할 수 있습니다.

DNS를 바꾼 뒤 특정 앱에서만 계속 실패하나요?

먼저 문제가 발생한 앱에서 같은 호스트 이름을 다시 테스트한 뒤 다른 앱의 결과와 비교하세요. 결과가 다르면 해당 앱이 기존 연결을 재사용하는지, 주소를 캐시했는지, 자체 DNS 조회 기능을 사용하는지 확인하세요. 다른 앱에서 웹페이지가 열렸다고 해서 문제가 발생한 앱에도 새 설정이 적용됐다고 볼 수는 없습니다.

연결을 끊어도 다시 자동 연결되면 어떻게 비교하나요?

Settings → On Demand에서 현재 네트워크에 적용되는 연결 조건이 있는지 확인하세요. 연결 전후 상태를 비교하려면 먼저 기존 설정을 기록하고, 조정이 허용된 기기에서 관련 조건을 일시 중지하세요. Home으로 돌아가 실제 연결 상태를 확인한 뒤 테스트하고, 완료 후 설정을 복원합니다.

Shadowrocket 무료 다운로드