Duo 인증 로그 수집

다음에서 지원:

이 문서에서는 Amazon S3를 사용하여 Duo 인증 로그를 Google Security Operations로 수집하는 방법을 설명합니다. 파서는 JSON 형식 메시지에서 로그를 추출합니다. 원시 로그 데이터를 통합 데이터 모델 (UDM)로 변환하여 사용자, 기기, 애플리케이션, 위치, 인증 세부정보와 같은 필드를 매핑하는 동시에 다양한 인증 요소와 결과를 처리하여 보안 이벤트를 분류합니다. 파서는 데이터 품질과 일관성을 보장하기 위해 데이터 정리, 유형 변환, 오류 처리도 실행합니다.

시작하기 전에

  • Google SecOps 인스턴스
  • Duo 테넌트에 대한 권한 있는 액세스 (Admin API 애플리케이션)
  • AWS (S3, IAM, Lambda, EventBridge)에 대한 권한 있는 액세스

Duo Admin API 애플리케이션 구성

  1. Duo 관리자 패널에 로그인합니다.
  2. 애플리케이션 > 애플리케이션 보호로 이동합니다.
  3. Admin API 애플리케이션 추가
  4. 다음 값을 복사하여 안전한 위치에 저장합니다.
    • 통합 키 (ikey)
    • 보안 비밀 키 (skey)
    • API 호스트 이름 (예: api-XXXXXXXX.duosecurity.com)
  5. 권한에서 읽기 로그 권한 부여 (인증 로그 읽기)를 사용 설정합니다.
  6. 애플리케이션을 저장합니다.

Google SecOps용 AWS S3 버킷 및 IAM 구성

  1. 이 사용자 가이드(버킷 만들기)에 따라 Amazon S3 버킷을 만듭니다.
  2. 나중에 참조할 수 있도록 버킷 이름리전을 저장합니다 (예: duo-auth-logs).
  3. 이 사용자 가이드(IAM 사용자 만들기)에 따라 사용자를 만듭니다.
  4. 생성된 사용자를 선택합니다.
  5. 보안 사용자 인증 정보 탭을 선택합니다.
  6. 액세스 키 섹션에서 액세스 키 만들기를 클릭합니다.
  7. 사용 사례서드 파티 서비스를 선택합니다.
  8. 다음을 클릭합니다.
  9. 선택사항: 설명 태그를 추가합니다.
  10. 액세스 키 만들기를 클릭합니다.
  11. CSV 파일 다운로드를 클릭하여 나중에 사용할 수 있도록 액세스 키비밀 액세스 키를 저장합니다.
  12. 완료를 클릭합니다.
  13. 권한 탭을 선택합니다.
  14. 권한 정책 섹션에서 권한 추가를 클릭합니다.
  15. 권한 추가를 선택합니다.
  16. 정책 직접 연결을 선택합니다.
  17. AmazonS3FullAccess 정책을 검색하여 선택합니다.
  18. 다음을 클릭합니다.
  19. 권한 추가를 클릭합니다.

S3 업로드용 IAM 정책 및 역할 구성

  1. AWS 콘솔 > IAM > 정책 > 정책 생성 > JSON 탭으로 이동합니다.
  2. 다음 정책을 입력합니다.

    {
      "Version": "2012-10-17",
      "Statement": [
        {
          "Sid": "AllowPutDuoAuthObjects",
          "Effect": "Allow",
          "Action": "s3:PutObject",
          "Resource": "arn:aws:s3:::duo-auth-logs/*"
        },
        {
          "Sid": "AllowGetStateObject",
          "Effect": "Allow",
          "Action": "s3:GetObject",
          "Resource": "arn:aws:s3:::duo-auth-logs/duo/auth/state.json"
        }
      ]
    }
    
    
    • 다른 버킷 이름을 입력한 경우 duo-auth-logs을 해당 이름으로 바꿉니다.
  3. 다음 > 정책 만들기를 클릭합니다.

  4. IAM > 역할 > 역할 생성 > AWS 서비스 > Lambda로 이동합니다.

  5. 새로 만든 정책을 연결합니다.

  6. 역할 이름을 WriteDuoAuthToS3Role로 지정하고 역할 만들기를 클릭합니다.

Lambda 함수 만들기

  1. AWS 콘솔에서 Lambda > 함수 > 함수 만들기로 이동합니다.
  2. 처음부터 작성을 클릭합니다.
  3. 다음 구성 세부정보를 제공합니다.

    설정
    이름 duo_auth_to_s3
    런타임 Python 3.13
    아키텍처 x86_64
    실행 역할 WriteDuoAuthToS3Role
  4. 함수가 생성되면 코드 탭을 열고 스텁을 삭제한 후 다음 코드를 입력합니다 (duo_auth_to_s3.py).

    #!/usr/bin/env python3
    # Lambda: Pull Duo Admin API v2 Authentication Logs to S3 (raw JSON pages)
    # Notes:
    # - Duo v2 requires mintime/maxtime in *milliseconds* (13-digit epoch).
    # - Pagination via metadata.next_offset ("<millis>,<txid>").
    # - We save state (mintime_ms) in ms to resume next run without gaps.
    
    import os, json, time, hmac, hashlib, base64, email.utils, urllib.parse
    from urllib.request import Request, urlopen
    from urllib.error import HTTPError, URLError
    import boto3
    
    DUO_IKEY = os.environ["DUO_IKEY"]
    DUO_SKEY = os.environ["DUO_SKEY"]
    DUO_API_HOSTNAME = os.environ["DUO_API_HOSTNAME"].strip()
    S3_BUCKET = os.environ["S3_BUCKET"]
    S3_PREFIX = os.environ.get("S3_PREFIX", "duo/auth/").strip("/")
    STATE_KEY = os.environ.get("STATE_KEY", "duo/auth/state.json")
    LIMIT = min(int(os.environ.get("LIMIT", "500")), 1000)  # default 100, max 1000
    
    s3 = boto3.client("s3")
    
    def _canon_params(params: dict) -> str:
        parts = []
        for k in sorted(params.keys()):
            v = params[k]
            if v is None:
                continue
            parts.append(f"{urllib.parse.quote(str(k), '~')}={urllib.parse.quote(str(v), '~')}")
        return "&".join(parts)
    
    def _sign(method: str, host: str, path: str, params: dict) -> dict:
        now = email.utils.formatdate()
        canon = "\n".join([now, method.upper(), host.lower(), path, _canon_params(params)])
        sig = hmac.new(DUO_SKEY.encode("utf-8"), canon.encode("utf-8"), hashlib.sha1).hexdigest()
        auth = base64.b64encode(f"{DUO_IKEY}:{sig}".encode()).decode()
        return {"Date": now, "Authorization": f"Basic {auth}"}
    
    def _http(method: str, path: str, params: dict, timeout: int = 60, max_retries: int = 5) -> dict:
        host = DUO_API_HOSTNAME
        assert host.startswith("api-") and host.endswith(".duosecurity.com"), \
            "DUO_API_HOSTNAME must be like api-XXXXXXXX.duosecurity.com"
        qs = _canon_params(params)
        url = f"https://{host}{path}" + (f"?{qs}" if qs else "")
    
        attempt, backoff = 0, 1.0
        while True:
            req = Request(url, method=method.upper())
            req.add_header("Accept", "application/json")
            for k, v in _sign(method, host, path, params).items():
                req.add_header(k, v)
            try:
                with urlopen(req, timeout=timeout) as r:
                    return json.loads(r.read().decode("utf-8"))
            except HTTPError as e:
                if (e.code == 429 or 500 <= e.code <= 599) and attempt < max_retries:
                    time.sleep(backoff); attempt += 1; backoff *= 2; continue
                raise
            except URLError:
                if attempt < max_retries:
                    time.sleep(backoff); attempt += 1; backoff *= 2; continue
                raise
    
    def _read_state_ms() -> int | None:
        try:
            obj = s3.get_object(Bucket=S3_BUCKET, Key=STATE_KEY)
            val = json.loads(obj["Body"].read()).get("mintime")
            if val is None:
                return None
            # Backward safety: if seconds were stored, convert to ms
            return int(val) * 1000 if len(str(int(val))) <= 10 else int(val)
        except Exception:
            return None
    
    def _write_state_ms(mintime_ms: int):
        body = json.dumps({"mintime": int(mintime_ms)}).encode("utf-8")
        s3.put_object(Bucket=S3_BUCKET, Key=STATE_KEY, Body=body, ContentType="application/json")
    
    def _write_page(payload: dict, when_epoch_s: int, page: int) -> str:
        key = f"{S3_PREFIX}/{time.strftime('%Y/%m/%d', time.gmtime(when_epoch_s))}/duo-auth-{page:05d}.json"
        s3.put_object(
            Bucket=S3_BUCKET,
            Key=key,
            Body=json.dumps(payload, separators=(",", ":")).encode("utf-8"),
            ContentType="application/json",
        )
        return key
    
    def fetch_and_store():
        now_s = int(time.time())
        # Duo recommends a ~2-minute delay buffer; use maxtime = now - 120 seconds (in ms)
        maxtime_ms = (now_s - 120) * 1000
        mintime_ms = _read_state_ms() or (maxtime_ms - 3600 * 1000)  # 1 hour on first run
    
        page = 0
        total = 0
        next_offset = None
    
        while True:
            params = {"mintime": mintime_ms, "maxtime": maxtime_ms, "limit": LIMIT}
            if next_offset:
                params["next_offset"] = next_offset
    
            data = _http("GET", "/admin/v2/logs/authentication", params)
            _write_page(data, maxtime_ms // 1000, page)
            page += 1
    
            resp = data.get("response")
            items = resp if isinstance(resp, list) else []
            total += len(items)
    
            meta = data.get("metadata") or {}
            next_offset = meta.get("next_offset")
            if not next_offset:
                break
    
        # Advance window to maxtime_ms for next run
        _write_state_ms(maxtime_ms)
        return {"ok": True, "pages": page, "events": total, "next_mintime_ms": maxtime_ms}
    
    def lambda_handler(event=None, context=None):
        return fetch_and_store()
    
    if __name__ == "__main__":
        print(lambda_handler())
    
    
  5. 구성 > 환경 변수 > 수정 > 새 환경 변수 추가로 이동합니다.

  6. 제공된 다음 환경 변수를 입력하고 값으로 바꿉니다.

    S3_BUCKET duo-auth-logs
    S3_PREFIX duo/auth/
    STATE_KEY duo/auth/state.json
    DUO_IKEY DIXYZ...
    DUO_SKEY ****************
    DUO_API_HOSTNAME api-XXXXXXXX.duosecurity.com
    LIMIT 500
  7. 함수가 생성된 후 해당 페이지에 머무르거나 Lambda > 함수 > your‑function을 엽니다.

  8. 구성 탭을 선택합니다.

  9. 일반 구성 패널에서 수정을 클릭합니다.

  10. 제한 시간5분 (300초)으로 변경하고 저장을 클릭합니다.

EventBridge 일정 만들기

  1. Amazon EventBridge > 스케줄러 > 일정 만들기로 이동합니다.
  2. 다음 구성 세부정보를 제공합니다.
    • 반복 일정: 요율 (1 hour)
    • 타겟: Lambda 함수
    • 이름: duo-auth-1h.
  3. 일정 만들기를 클릭합니다.

선택사항: Google SecOps용 읽기 전용 IAM 사용자 및 키 만들기

  1. AWS 콘솔에서 IAM > Users로 이동한 다음 Add users를 클릭합니다.
  2. 다음 구성 세부정보를 제공합니다.
    • 사용자: 고유한 이름 (예: secops-reader)을 입력합니다.
    • 액세스 유형: 액세스 키 - 프로그래매틱 액세스를 선택합니다.
    • 사용자 만들기를 클릭합니다.
  3. 최소 읽기 정책 (맞춤) 연결: 사용자 > secops-reader 선택 > 권한 > 권한 추가 > 정책 직접 연결 > 정책 만들기
  4. JSON 편집기에서 다음 정책을 입력합니다.

    {
      "Version": "2012-10-17",
      "Statement": [
        {
          "Effect": "Allow",
          "Action": ["s3:GetObject"],
          "Resource": "arn:aws:s3:::<your-bucket>/*"
        },
        {
          "Effect": "Allow",
          "Action": ["s3:ListBucket"],
          "Resource": "arn:aws:s3:::<your-bucket>"
        }
      ]
    }
    
  5. 이름을 secops-reader-policy로 설정합니다.

  6. 정책 만들기 > 검색/선택 > 다음 > 권한 추가로 이동합니다.

  7. 보안 사용자 인증 정보> 액세스 키> 액세스 키 만들기로 이동합니다.

  8. CSV를 다운로드합니다 (이러한 값은 피드에 입력됨).

Duo 인증 로그를 수집하도록 Google SecOps에서 피드 구성

  1. SIEM 설정> 피드로 이동합니다.
  2. + 새 피드 추가를 클릭합니다.
  3. 피드 이름 필드에 피드 이름을 입력합니다 (예: Duo Authentication Logs).
  4. 소스 유형으로 Amazon S3 V2를 선택합니다.
  5. 로그 유형으로 Duo Auth를 선택합니다.
  6. 다음을 클릭합니다.
  7. 다음 입력 파라미터의 값을 지정합니다.
    • S3 URI: s3://duo-auth-logs/duo/auth/
    • 소스 삭제 옵션: 환경설정에 따라 삭제 옵션을 선택합니다.
    • 최대 파일 기간: 기본값은 180일입니다.
    • 액세스 키 ID: S3 버킷에 액세스할 수 있는 사용자 액세스 키입니다.
    • 보안 비밀 액세스 키: S3 버킷에 액세스할 수 있는 사용자 보안 비밀 키입니다.
    • 애셋 네임스페이스: 애셋 네임스페이스입니다.
    • 수집 라벨: 이 피드의 이벤트에 적용된 라벨입니다.
  8. 다음을 클릭합니다.
  9. 확정 화면에서 새 피드 구성을 검토한 다음 제출을 클릭합니다.

UDM 매핑 테이블

로그 필드 UDM 매핑 논리
access_device.browser target.resource.attribute.labels.value access_device.browser이 있으면 값이 UDM에 매핑됩니다.
access_device.hostname principal.hostname access_device.hostname이 있고 비어 있지 않으면 값이 UDM에 매핑됩니다. 비어 있고 event_type가 USER_CREATION인 경우 event_type가 USER_UNCATEGORIZED로 변경됩니다. access_device.hostname이 비어 있고 hostname 필드가 있으면 hostname 값이 사용됩니다.
access_device.ip principal.ip access_device.ip이 있고 유효한 IPv4 주소인 경우 해당 값이 UDM에 매핑됩니다. 올바른 IPv4 주소가 아닌 경우 키 access_device.ip을 사용하여 additional.fields에 문자열 값으로 추가됩니다.
access_device.location.city principal.location.city 값이 있으면 UDM에 매핑됩니다.
access_device.location.country principal.location.country_or_region 값이 있으면 UDM에 매핑됩니다.
access_device.location.state principal.location.state 값이 있으면 UDM에 매핑됩니다.
access_device.os principal.platform 값이 있는 경우 해당 UDM 값 (MAC, WINDOWS, LINUX)으로 변환됩니다.
access_device.os_version principal.platform_version 값이 있으면 UDM에 매핑됩니다.
application.key target.resource.id 값이 있으면 UDM에 매핑됩니다.
application.name target.application 값이 있으면 UDM에 매핑됩니다.
auth_device.ip target.ip 값이 있고 'None'이 아닌 경우 UDM에 매핑됩니다.
auth_device.location.city target.location.city 값이 있으면 UDM에 매핑됩니다.
auth_device.location.country target.location.country_or_region 값이 있으면 UDM에 매핑됩니다.
auth_device.location.state target.location.state 값이 있으면 UDM에 매핑됩니다.
auth_device.name target.hostname 또는 target.user.phone_numbers auth_device.name이 있고 정규화 후 전화번호인 경우 target.user.phone_numbers에 추가됩니다. 그렇지 않으면 target.hostname에 매핑됩니다.
client_ip target.ip 값이 있고 'None'이 아닌 경우 UDM에 매핑됩니다.
client_section target.resource.attribute.labels.value client_section가 있으면 값이 키 client_section를 사용하여 UDM에 매핑됩니다.
dn target.user.userid dn이 있고 user.nameusername가 없는 경우 userid는 grok을 사용하여 dn 필드에서 추출되고 UDM에 매핑됩니다. event_type이 USER_LOGIN으로 설정됩니다.
event_type metadata.product_event_typemetadata.event_type 값은 metadata.product_event_type에 매핑됩니다. 또한 metadata.event_type을 결정하는 데도 사용됩니다. 'authentication'은 USER_LOGIN이 되고 'enrollment'는 USER_CREATION이 되며, 비어 있거나 둘 다 아닌 경우 GENERIC_EVENT가 됩니다.
factor extensions.auth.mechanismextensions.auth.auth_details 값은 해당 UDM auth.mechanism 값 (HARDWARE_KEY, REMOTE_INTERACTIVE, LOCAL, OTP)으로 변환됩니다. 원래 값도 extensions.auth.auth_details에 매핑됩니다.
hostname principal.hostname 값이 있고 access_device.hostname이 비어 있으면 UDM에 매핑됩니다.
log_format target.resource.attribute.labels.value log_format가 있으면 값이 키 log_format를 사용하여 UDM에 매핑됩니다.
log_level.__class_uuid__ target.resource.attribute.labels.value log_level.__class_uuid__가 있으면 값이 키 __class_uuid__이 있는 UDM에 매핑됩니다.
log_level.name target.resource.attribute.labels.valuesecurity_result.severity log_level.name가 있으면 값이 키 name이 있는 UDM에 매핑됩니다. 값이 'info'이면 security_result.severity이 INFORMATIONAL로 설정됩니다.
log_logger.unpersistable target.resource.attribute.labels.value log_logger.unpersistable가 있으면 값이 키 unpersistable이 있는 UDM에 매핑됩니다.
log_namespace target.resource.attribute.labels.value log_namespace가 있으면 값이 키 log_namespace를 사용하여 UDM에 매핑됩니다.
log_source target.resource.attribute.labels.value log_source가 있으면 값이 키 log_source를 사용하여 UDM에 매핑됩니다.
msg security_result.summary 값이 있고 reason이 비어 있으면 UDM에 매핑됩니다.
reason security_result.summary 값이 있으면 UDM에 매핑됩니다.
result security_result.action_detailssecurity_result.action 값이 있으면 security_result.action_details에 매핑됩니다. 'success' 또는 'SUCCESS'는 security_result.action ALLOW로 변환되고, 그렇지 않으면 BLOCK으로 변환됩니다.
server_section target.resource.attribute.labels.value server_section가 있으면 값이 키 server_section를 사용하여 UDM에 매핑됩니다.
server_section_ikey target.resource.attribute.labels.value server_section_ikey가 있으면 값이 키 server_section_ikey를 사용하여 UDM에 매핑됩니다.
status security_result.action_detailssecurity_result.action 값이 있으면 security_result.action_details에 매핑됩니다. '허용'은 security_result.action ALLOW로 변환되고 '거부'는 BLOCK으로 변환됩니다.
timestamp metadata.event_timestampevent.timestamp 값은 타임스탬프로 변환되고 metadata.event_timestampevent.timestamp 모두에 매핑됩니다.
txid metadata.product_log_idnetwork.session_id 값은 metadata.product_log_idnetwork.session_id 모두에 매핑됩니다.
user.groups target.user.group_identifiers 배열의 모든 값이 target.user.group_identifiers에 추가됩니다.
user.key target.user.product_object_id 값이 있으면 UDM에 매핑됩니다.
user.name target.user.userid 값이 있으면 UDM에 매핑됩니다.
username target.user.userid user.name이 없고 이 있으면 값이 UDM에 매핑됩니다. event_type이 USER_LOGIN으로 설정됩니다.
(파서 로직) metadata.vendor_name 항상 'DUO_SECURITY'로 설정됩니다.
(파서 로직) metadata.product_name 항상 'MULTI-FACTOR_AUTHENTICATION'으로 설정됩니다.
(파서 로직) metadata.log_type 원시 로그의 최상위 log_type 필드에서 가져옵니다.
(파서 로직) extensions.auth.type 항상 'SSO'로 설정됩니다.

도움이 더 필요하신가요? 커뮤니티 회원 및 Google SecOps 전문가로부터 답변을 받으세요.