日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網(wǎng)為廣大站長提供免費收錄網(wǎng)站服務,提交前請做好本站友鏈:【 網(wǎng)站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網(wǎng)站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

本文介紹了批量記錄處理后如何提交卡夫卡抵銷的處理方法,對大家解決問題具有一定的參考價值,需要的朋友們下面隨著小編來一起學習吧!

問題描述

我正在使用spring-kafka并使用Kafka主題中的批量記錄,并提交偏移量AbstractMessageListenerContainer.AckMode.BATCH

在我的例子中,處理批處理記錄需要時間(大約20秒),而使用者線程等待批處理過程完成,然后再次執(zhí)行輪詢(在這次輪詢時提交偏移量)。在本例中,我將List記錄分配給一個線程(名稱:ProcessThread),該線程將處理所有記錄并將結果返回給使用者線程,然后使用者線程將記錄結果。(在此過程中,使用者線程將一直等待,直到它從ProcessThread獲得結果,這會導致性能低下。

ProcessThread有沒有辦法向Kafka提交Offset?因此使用者線程不需要等待,它將為每個輪詢創(chuàng)建一個新processThread

在我的例子中,我的主題有20個分區(qū)和10個Pod,每個Pod有2個消費者線程(Spring Kafka并發(fā)消費者),每個輪詢100條記錄(使用Spring Boot線程處理所有這些記錄@Async)

通過上面的配置,我可以在2小時內(nèi)處理100萬條記錄,我需要將其拖到至少40分鐘。

分享到:
標簽:卡夫卡 批量 抵銷 提交 記錄
用戶無頭像

網(wǎng)友整理

注冊時間:

網(wǎng)站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網(wǎng)站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網(wǎng)站吧!
最新入駐小程序

數(shù)獨大挑戰(zhàn)2018-06-03

數(shù)獨一種數(shù)學游戲,玩家需要根據(jù)9

答題星2018-06-03

您可以通過答題星輕松地創(chuàng)建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數(shù)有氧達人2018-06-03

記錄運動步數(shù),積累氧氣值。還可偷

每日養(yǎng)生app2018-06-03

每日養(yǎng)生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定