Apache Kafka

Apache Kafka 커넥터를 사용하면 Apache Kafka 데이터베이스에 대한 삽입, 삭제, 업데이트, 읽기 작업을 수행할 수 있습니다.

지원되는 버전

Apache Kafka 커넥터는 기본 클라이언트 라이브러리를 활용하여 지정된 Kafka 클러스터에 대한 연결을 설정하며 커넥터는 클라이언트 버전 3.3.1에서 작동합니다. 하지만 커넥터는 버전 3.0~3.3.1의 Kafka 클러스터에 대한 연결을 설정할 수 있습니다.

시작하기 전에

Apache Kafka 커넥터를 사용하기 전에 다음 태스크를 수행합니다.

• Google Cloud 프로젝트에서:
  • 네트워크 연결이 설정되어 있는지 확인합니다. 네트워크 패턴에 대한 자세한 내용은 네트워크 연결을 참조하세요.
  • 커넥터를 구성하는 사용자에게 roles/connectors.admin IAM 역할을 부여합니다.
  • 커넥터에 사용할 서비스 계정에 다음 IAM 역할을 부여합니다.
    • roles/secretmanager.viewer
    • roles/secretmanager.secretAccessor

    서비스 계정은 인증을 거쳐야 하며 Google API의 데이터에 액세스할 수 있는 승인을 받은 사람이 아닌 사용자를 나타내는 특별한 유형의 Google 계정입니다. 서비스 계정이 없으면 서비스 계정을 만들어야 합니다. 자세한 내용은 서비스 계정 만들기를 참조하세요.

  • 다음 서비스를 사용 설정합니다.
    • secretmanager.googleapis.com(Secret Manager API)
    • connectors.googleapis.com(Connectors API)

    서비스 사용 설정 방법은 서비스 사용 설정을 참조하세요.

  이러한 서비스나 권한이 이전 프로젝트에서 사용 설정되지 않았으면 커넥터를 구성할 때 서비스나 권한을 사용 설정하라는 메시지가 표시됩니다.

커넥터 구성

커넥터를 구성하려면 데이터 소스(백엔드 시스템)에 대한 연결을 만들어야 합니다. 연결은 데이터 소스와 관련이 있습니다. 즉, 데이터 소스가 많으면 데이터 소스마다 별도의 연결을 만들어야 합니다. 연결을 만들려면 다음 단계를 따르세요.

1. Cloud 콘솔에서 Integration Connectors > 연결 페이지로 이동한 다음 Google Cloud 프로젝트를 선택하거나 만듭니다.

   연결 페이지로 이동

2. + 새로 만들기를 클릭하여 연결 만들기 페이지를 엽니다.
3. 위치 단계에서 새 Apache Kafka 연결 위치를 선택합니다.
   1. 리전: 목록에서 리전을 선택합니다.
   2. 다음을 클릭합니다.
4. 연결 세부정보 단계에서 새 Apache Kafka 연결에 대한 세부정보를 제공합니다.
   1. 커넥터 버전: 목록에서 사용 가능한 Apache Kafka 커넥터 버전을 선택합니다.
   2. 연결 이름: Apache Kafka 연결 이름을 입력합니다.
   3. (선택사항) 설명: 연결에 대한 설명을 입력합니다.
   4. (선택사항) Cloud Logging 사용 설정: 연결의 모든 로그 데이터를 저장하려면 이 체크박스를 선택합니다.
   5. 서비스 계정: Apache Kafka 연결을 위한 필수 IAM 역할이 있는 서비스 계정을 선택합니다.
   6. Apache Kafka 연결에는 이벤트 구독, 항목, 작업 사용 옵션이 기본적으로 선택됩니다.
   7. 유형 감지 스키마: MessageOnly를 선택합니다.
   8. 레지스트리 서비스: 주제 스키마 작업에 사용되는 스키마 레지스트리 서비스입니다.
   9. 레지스트리 유형: 특정 주제에 지정된 스키마의 유형입니다.
   10. 레지스트리 버전: 지정된 주제의 RegistryUrl에서 읽은 스키마 버전입니다.
   11. 레지스트리 사용자: RegistryUrl에 지정된 서버로 승인할 사용자 이름 또는 액세스 키 값입니다.
   12. 레지스트리 비밀번호: RegistryUrl에 지정된 서버로 승인할 비밀번호/보안 비밀 키 값이 포함된 Secret Manager 보안 비밀입니다.
   13. 필요한 경우 연결 노드 설정을 구성합니다.
       • 최소 노드 수: 최소 연결 노드 수를 입력합니다.
       • 최대 노드 수: 최대 연결 노드 수를 입력합니다.

       노드는 트랜잭션을 처리하는 연결의 단위(또는 복제본)입니다. 연결에 대해 더 많은 트랜잭션을 처리하려면 더 많은 노드가 필요합니다. 이와 반대로 더 적은 트랜잭션을 처리하기 위해서는 더 적은 노드가 필요합니다. 노드가 커넥터 가격 책정에 미치는 영향을 파악하려면 연결 노드 가격 책정을 참조하세요. 값을 입력하지 않으면 기본적으로 최소 노드가 (높은 가용성을 위해) 2로 설정되고 최대 노드는 50으로 설정됩니다.

   14. (선택사항) + 라벨 추가를 클릭하여 키/값 쌍의 형식으로 연결에 라벨을 추가합니다.
   15. SSL 사용 설정: 이 필드는 SSL 사용 설정 여부를 설정합니다.
   16. 다음을 클릭합니다.
5. 대상 섹션에 연결하려는 Kafka 부트스트랩 서버의 세부정보를 입력합니다.
   1. 대상 유형: 대상 유형을 선택합니다.
      • 목록에서 호스트 주소를 선택하여 대상의 호스트 이름 또는 IP 주소를 지정합니다.
      • 백엔드 시스템에 비공개 연결을 설정하려면 목록에서 엔드포인트 연결을 선택한 다음 엔드포인트 연결 목록에서 필요한 엔드포인트 연결을 선택합니다.

      추가 보안을 사용하여 백엔드 시스템에 공개 연결을 설정하려면 연결의 고정 아웃바운드 IP 주소를 구성한 후 방화벽 규칙을 구성하여 특정 고정 IP 주소만 허용 목록에 추가합니다.

      Kafka 부트스트랩 서버를 추가하려면 + 대상 추가를 클릭합니다.

   2. 다음을 클릭합니다.
6. 인증 섹션에서 인증 세부정보를 입력합니다.
   1. 인증 유형을 선택하고 관련 세부정보를 입력합니다.

      Apache Kafka 연결에서 지원되는 인증 유형은 다음과 같습니다.

      • 사용자 이름 및 비밀번호
        • 사용자 이름: 연결에 사용할 Apache Kafka 사용자 이름입니다.
        • 비밀번호: Apache Kafka 사용자 이름과 연결된 비밀번호가 포함된 Secret Manager 보안 비밀입니다.
        • 인증 스킴: 인증에 사용되는 스킴입니다.

          Apache Kafka 연결에서 지원되는 인증 스키마는 다음과 같습니다.

          • Plain
          • SCRAM-SHA-1
          • SCRAM-SHA-256
      • 사용 불가

        익명 로그인을 사용하려면 사용할 수 없음을 선택합니다.

   2. 다음을 클릭합니다.
7. 데드 레터 구성을 입력합니다. 데드 레터를 구성하면 연결에서 처리되지 않은 이벤트를 지정된 Pub/Sub 주제에 씁니다. 다음 세부정보를 입력합니다.
   1. 데드 레터 프로젝트 ID: 데드 레터 Pub/Sub 주제를 구성한 Google Cloud 프로젝트 ID입니다.
   2. 데드 레터 주제: 처리되지 않은 이벤트의 세부정보를 쓰려는 Pub/Sub 주제입니다.
8. 다음을 클릭합니다.
9. 검토: 연결 및 인증 세부정보를 검토합니다.
10. 만들기를 클릭합니다.

시스템 제한사항

Apache Kafka 커넥터는 노드당 1초에 최대 50개의 트랜잭션을 처리할 수 있으며 이 한도를 초과하는 모든 트랜잭션을 제한합니다. 기본적으로 Integration Connectors는 가용성을 높이기 위해 연결에 2개의 노드를 할당합니다.

Integration Connectors에 적용되는 한도에 대한 자세한 내용은 한도를 참조하세요.

작업

PublishMessage 작업

이 작업은 메시지를 Apache Kafka 주제에 게시합니다. 다음 표에서는 PublishMessage 작업의 입력 및 출력 매개변수를 설명합니다.

입력 매개변수

출력 매개변수

PublishMessage 작업의 샘플 응답은 다음과 같습니다.

{Success: true,
PartitionWritten: 1,
OffsetWritten: 22301,
KeyWritten: "dGVzdA==",
TimestampWritten: 1690806748}

Confluent Cloud 구성

Confluent Cloud의 구성은 앞에서 설명한 Apache Kafka 단계와 약간 다릅니다. Confluent Cloud를 만들 때 다음 사항을 고려하세요.

• Confluent Cloud 클러스터 API 키는 사용자 이름으로 사용되고 키의 Secret Manager 보안 비밀은 부트스트랩 서버에 연결하기 위한 비밀번호로 사용됩니다. API 키가 없는 경우 Confluent Cloud에 API 키를 만들어야 합니다.
• Connection Details 섹션에서 SSL 사용을 선택합니다.
• 스키마 레지스트리를 사용하는 경우 다음 값을 구성합니다.
  • Connection Details 섹션에서 다음을 수행합니다.
    • 레지스트리 버전: 레지스트리 버전 번호를 입력합니다. 최신 버전을 사용하려면 latest를 입력합니다.
    • 레지스트리 사용자: 스키마 레지스트리 API 키를 입력합니다. 스키마 레지스트리 API 키가 아직 없으면 만들어야 합니다.
    • 레지스트리 비밀번호: 레지스트리 비밀번호의 Secret Manager 보안 비밀을 입력합니다.
    • 보안 비밀 버전: 보안 비밀 버전 번호를 선택합니다.
    • 레지스트리 유형: Confluent를 선택합니다.
    • 유형 감지 스키마: MessageOnly를 선택합니다.
  • Destinations 섹션에서 호스트 이름 필드에 레지스트리 URL을 입력합니다.

  terraform을 사용하여 연결 만들기

  Terraform 리소스를 사용하여 새 연결을 만들 수 있습니다.

  Terraform 구성을 적용하거나 삭제하는 방법은 기본 Terraform 명령어를 참조하세요.

  연결 만들기를 위한 샘플 Terraform 템플릿을 보려면 샘플 템플릿을 참조하세요.

  Terraform을 사용하여 이 연결을 만들 때는 Terraform 구성 파일에서 다음 변수를 설정해야 합니다.

  파라미터 이름	데이터 유형	필수	설명
  type_detection_scheme	ENUM	참	Apache Kafka 브로커에서 인증에 사용하는 스킴입니다. 지원되는 값은 MessageOnly입니다.
  registry_service	ENUM	False	주제 스키마 작업에 사용되는 스키마 레지스트리 서비스입니다. 지원되는 값은 Confluent입니다.
  registry_type	ENUM	False	특정 주제에 지정된 스키마의 유형입니다. 지원되는 값은 AVRO, JSON입니다.
  registry_version	STRING	False	지정된 주제의 RegistryUrl에서 읽은 스키마 버전입니다. 레지스트리 버전에 유효한 값은 [1,2^31-1] 또는 마지막으로 등록된 스키마를 반환하는 'latest' 문자열입니다.
  registry_user	STRING	False	RegistryUrl에 지정된 서버를 사용하여 승인할 사용자 이름입니다.
  registry_password	SECRET	False	RegistryUrl에 지정된 서버로 승인할 비밀번호/보안 비밀 키 값이 포함된 Secret Manager 보안 비밀입니다.
  usessl	불리언	False	이 필드는 SSL 사용 설정 여부를 설정합니다.

  통합에서 Apache Kafka 연결 사용

  연결을 만들면 Apigee Integration 및 Application Integration에서 사용할 수 있게 됩니다. 커넥터 태스크를 통해 통합에서 연결을 사용할 수 있습니다.

  • Apigee Integration에서 커넥터 태스크를 만들고 사용하는 방법을 알아보려면 커넥터 태스크를 참조하세요.
  • Application Integration에서 커넥터 태스크를 만들고 사용하는 방법을 이해하려면 커넥터 태스크를 참조하세요.

  Google Cloud 커뮤니티에서 도움 받기

  Google Cloud 커뮤니티에서 Cloud 포럼에 질문을 게시하고 이 커넥터에 대해 토론할 수 있습니다.

  다음 단계

  • 연결 일시중지 및 재개 방법 알아보기
  • 커넥터 사용량 모니터링 방법 알아보기
  • 커넥터 로그 확인 방법 알아보기