Коннектор Debezium MySQL (MariaDB): как возобновить работу с предыдущей позиции файла bin-log

Я использую Debezium-connector-mysql-0.7.5-plugin для CDC для подключения MariaDB v10.0.32. Записи CDC сохраняются в HDFS для дальнейшей обработки. Все было идеально, пока не произошла следующая ситуация:

  1. Прекращено подключение
  2. Остановил Кафку полностью
  3. Остановлен сервер MariaDB

Из записей CDC я вижу, что координаты последнего обработанного журнала бункера выглядят следующим образом:

File : mysql-bin.000008
Position: 2155

Из-за вышеперечисленных действий я столкнулся со следующими последствиями:

  1. MariaDB вращает журнал своей корзины во время перезапуска, и текущий статус показан ниже.

    +------------------+----------+--------------+------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | +------------------+----------+--------------+------------------+ | mysql-bin.000009 | 326 | | | +------------------+----------+--------------+------------------+

  2. Мой ранее зарегистрированный коннектор Debezium больше не доступен в недавно запущенном Kafka

В этой ситуации, если я начну с нуля, соединитель сделает исходный снимок со следующими действиями:

  1. Установите блокировки, затем прочитайте данные из всех таблиц
  2. После этого начните читать последний файл журнала bin, который является mysql-bin.000009.

Учитывая мою ситуацию, есть ли способ указать Debezium возобновить работу с mysql-bin.000008 - позиция 2155 и пропустить начальный снимок.

Заранее спасибо за помощь.


person Khorshed Alam    schedule 21.06.2018    source источник


Ответы (2)


Вы можете попробовать вставить запись в тему смещения Connect, представляющую позицию, с которой вы хотите продолжить. Но я бы не рекомендовал делать это в этом случае, так как вы потеряете события между моментом, когда коннектор ушел, и временем ротации журнала. Так что вы будете в большей безопасности, если сделаете новый снимок.

person Gunnar    schedule 22.06.2018

Насколько я пытался, вы не можете сбросить имя файла binlog и положение debezium.

person user2114243    schedule 03.09.2019