Creación de un tema de Apache Kafka - Transmisión administrada de Amazon para Apache Kafka

Creación de un tema de Apache Kafka

En este paso, utilizará el equipo cliente creado anteriormente para crear un tema en el clúster sin servidor.

Configuración del entorno para crear temas

  • Antes de crear un tema, asegúrese de haber descargado el archivo JAR de IAM de AWS MSK en el directorio libs/ de la instalación de Kafka. Si aún no ha realizado este paso, ejecute el siguiente comando en el directorio libs/ de Kafka.

    wget https://github.com/aws/aws-msk-iam-auth/releases/download/v2.3.0/aws-msk-iam-auth-2.3.0-all.jar

    Este archivo JAR es necesario para la autenticación de IAM con el clúster de MSK sin servidor.

  • Al ejecutar comandos de Kafka, es posible que deba asegurarse de que classpath incluya el archivo JAR de IAM de AWS MSK. Para ello, siga uno de estos pasos:

    • Configure la variable de entorno CLASSPATH para incluir las bibliotecas de Kafka, como se muestra en el siguiente ejemplo.

      export CLASSPATH=<path-to-your-kafka-installation>/libs/*:<path-to-your-kafka-installation>/libs/aws-msk-iam-auth-2.3.0-all.jar
    • Ejecute los comandos de Kafka mediante el comando completo de Java con classpath explícito, como se muestra en el siguiente ejemplo.

      java -cp "<path-to-your-kafka-installation>/libs/*:<path-to-your-kafka-installation>/libs/aws-msk-iam-auth-2.3.0-all.jar" org.apache.kafka.tools.TopicCommand --bootstrap-server $BS --command-config client.properties --create --topic msk-serverless-tutorial --partitions 6

Creación de un tema y escritura de datos en este

  1. En el siguiente comando export, sustituya my-endpoint por la cadena bootstrap-server que guardó después de crear el clúster. A continuación, vaya al directorio kafka_2.12-2.8.1/bin del equipo cliente y ejecute el comando export.

    export BS=my-endpoint
  2. Ejecute el siguiente comando para crear un tema denominado msk-serverless-tutorial.

    <path-to-your-kafka-installation>/bin/kafka-topics.sh --bootstrap-server $BS --command-config client.properties --create --topic msk-serverless-tutorial --partitions 6

Paso siguiente

Producción y consumo de datos en MSK sin servidor