엔드포인트 배포 및 관리

프로덕션 애플리케이션 또는 벤치마킹 워크플로에서 학습된 커스텀 Speech-to-Text 모델을 사용합니다. 선택한 리전에 모델을 배포하기 위해 부분적으로 생성된 전용 엔드포인트를 통해 모델을 배포하고 노출해야 합니다. 인식기 객체를 통해 자동으로 프로그래매틱 방식으로 액세스할 수 있습니다. V2 API 또는 Google Cloud 콘솔을 통해 직접 사용됩니다. 모델이 학습된 리전과 다른 리전에 배포할 수 있지만 모델 사본은 엔드포인트에서 지정한 리전에 생성됩니다.

커스텀 음성 모델을 사용하려면 전용 엔드포인트를 통해 배포하고 노출해야 합니다. 엔드포인트를 만들면 원하는 리전에 모델을 배포할 수 있습니다. 추론을 위한 V2 API를 통해서나 Google Cloud 콘솔에서 직접 사용할 수 있도록 인식기 객체를 통해 프로그래매틱 액세스 권한이 자동으로 부여됩니다.

시작하기 전에

Google Cloud 계정에 가입하고 프로젝트를 만들고 커스텀 음성 모델을 학습했는지 확인합니다.

  1. Google Cloud 콘솔에서 음성으로 이동하고 Speech-to-Text로 이동합니다.
  2. 왼쪽 탐색 메뉴의 커스텀 모델 섹션 내에서 이동합니다.

엔드포인트 만들기

  1. 커스텀 모델 섹션의 엔드포인트 탭으로 이동합니다.
  2. 새 엔드포인트를 클릭합니다.
  3. 엔드포인트의 이름을 정의합니다. 엔드포인트 리소스의 고유 식별자로 작동하고 추론에 커스텀 음성 모델을 호출하는 데 사용됩니다.
  4. 커스텀 음성 모델을 배포할 리전을 정의합니다. 모델이 엔드포인트 구성에 정의된 리전과 다른 리전에서 학습된 경우 새 모델 사본이 자동으로 생성됩니다.
  5. 엔드포인트를 통해 노출할 목록에서 학습된 커스텀 음성 모델을 선택합니다.
  6. 만들기를 클릭하면 잠시 후 커스텀 음성 모델이 엔드포인트에 배포되어 추론 및 벤치마킹에 사용할 수 있게 됩니다.
커스텀 모델의 엔드포인트에 필요한 필드를 보여주는 커스텀 Speech-to-Text 모델 엔드포인트 생성 워크플로의 스크린샷

엔드포인트 나열

커스텀 모델 섹션에서 엔드포인트 탭을 선택하여 콘솔에서 연결된 엔드포인트를 관리할 수 있습니다. 콘솔에서 만든 엔드포인트를 현재 상태 및 연결된 커스텀 Speech-to-Text 모델과 함께 나열할 수도 있습니다.

커스텀 모델의 이미 만든 모든 엔드포인트가 포함된 테이블을 보여주는 커스텀 Speech-to-Text 모델 엔드포인트 목록 워크플로의 스크린샷

엔드포인트 삭제

시작하기 전에 엔드포인트를 삭제하면 요청을 처리할 수 없으므로 엔드포인트를 통해 라우팅되는 트래픽이 없는지 확인하세요.

  1. 커스텀 모델 섹션의 엔드포인트 탭으로 이동합니다.
  2. 엔드포인트 탭에서 클릭하여 옵션을 펼친 다음 삭제를 클릭합니다. 잠시 후 엔드포인트가 삭제되고 더 이상 트래픽을 전송하지 않습니다.

모델 벤치마킹

커스텀 Speech-to-Text 모델과 벤치마킹 데이터 세트를 사용하여 모델의 정확성을 평가하려면 정확성 측정 및 개선 가이드를 따르세요.