制作營(yíng)銷網(wǎng)站模板下載花都網(wǎng)站建設(shè)公司
1.使用控制臺(tái)創(chuàng)建即可
根據(jù)實(shí)例類型創(chuàng)建需要至少15分以上,可以提前創(chuàng)建好ec2實(shí)例和Secrets Manager,一會(huì)會(huì)使用到
2. 創(chuàng)建Secrets Manager (使用無(wú)認(rèn)證時(shí)請(qǐng)?zhí)^)
官方文檔:https://docs.aws.amazon.com/zh_cn/msk/latest/developerguide/msk-password.html
必須以AmazonMSK_前綴,并且不能使用默認(rèn)加密方式,需要去kms創(chuàng)建一個(gè)新的
kms 詳情 截圖
注意授權(quán)給當(dāng)前用戶,否則不能選擇
3.修改初始的驗(yàn)證方式
確認(rèn)等待完成
4.登錄ec2測(cè)試
按照文檔準(zhǔn)備環(huán)境
https://docs.aws.amazon.com/zh_cn/msk/latest/developerguide/mkc-create-topic.html
以下是我個(gè)人總結(jié)的,實(shí)際參數(shù)按自己情況修改
sudo yum -y install java-11
wget https://archive.apache.org/dist/kafka/2.8.1/kafka_2.13-2.8.1.tgz
tar -xzf kafka_2.13-2.8.1.tgz
cd ./kafka_2.13-2.8.1/libs/
wget https://github.com/aws/aws-msk-iam-auth/releases/download/v1.1.1/aws-msk-iam-auth-1.1.1-all.jar
sasl認(rèn)證相關(guān)
https://docs.aws.amazon.com/zh_cn/msk/latest/developerguide/msk-password.html
##配置認(rèn)證文件
touch /data/users_jaas.conf
vim /data/users_jaas.confKafkaClient {org.apache.kafka.common.security.scram.ScramLoginModule requiredusername="alice"password="alice-secret";};cp /usr/lib/jvm/java-11-amazon-corretto.x86_64/lib/security/cacerts /tmp/kafka.client.truststore.jks
cd /root/kafka_2.13-2.8.1/bin
touch client_sasl.properties
vim client_sasl.propertiessecurity.protocol=SASL_SSLsasl.mechanism=SCRAM-SHA-512ssl.truststore.location=/tmp/kafka.client.truststore.jks##配置用戶密鑰文件環(huán)境變量(新加的ssh窗口 需要再次申明)
export KAFKA_OPTS=-Djava.security.auth.login.config=/data/users_jaas.conf
##配置地址方便使用(不同的認(rèn)證方式端點(diǎn)不同,可能需要添加多個(gè)變量)
export KAFKA1=b-3.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9092,b-2.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9092,b-1.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9092
export KAFKA2=b-3.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9096,b-2.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9096,b-1.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9096
上述的端點(diǎn)地址:在控制臺(tái)客戶端信息查看
測(cè)試連接集群和操作集群
(以下命令明文傳輸時(shí),直接不帶 ‘--command-config client_sasl.properties’ 即可)
##列出topic
./kafka-topics.sh --bootstrap-server $KAFKA1 --list --command-config client_sasl.properties##創(chuàng)建topic
./kafka-topics.sh --bootstrap-server $KAFKA2 --create --topic <topic-name> --command-config client_sasl.properties --replication-factor 2 --partitions 1 ##發(fā)送消息
./kafka-console-producer.sh --broker-list $KAFKA2 --topic topic-ht --producer.config client_sasl.properties
##接收消息
./kafka-console-consumer.sh --bootstrap-server $KAFKA2 --topic topic-ht --from-beginning --consumer.config client_sasl.properties
測(cè)試效果打開2個(gè)會(huì)話(新會(huì)話需要重新聲明環(huán)境變量)
1.創(chuàng)建topic 2.生產(chǎn) 3.消費(fèi)
可以看到我1會(huì)話使用的無(wú)驗(yàn)證方式,產(chǎn)生消息(只支持vpc下開啟)
2會(huì)話窗口使用sasl驗(yàn)證連接集群,消費(fèi)消息