canal实战(二)|canal java客户端

迷南。 2022-12-22 14:26 454阅读 0赞

> ***\#\# 本文章改编于阿里开源工具Canal，原版网址[https://github.com/alibaba/canal][https_github.com_alibaba_canal]***

在前面canal搭建并启动后（[传送站][Link 1]），我们就可以开始进行第二步canal java客户端

建立maven工程，maven工程创建如有不会的童鞋可参考[传送站][Link 2]

pom.xml依赖添加

> <dependency>  
>     <groupId>com.alibaba.otter</groupId>  
>     <artifactId>canal.client</artifactId>  
>     <version>1.1.0</version>  
> </dependency>

OK，我们可以开始写代码了，有问题的地方我会写注释

package com.hhy.canal;
    
    import com.alibaba.otter.canal.client.CanalConnector;
    import com.alibaba.otter.canal.client.CanalConnectors;
    import com.alibaba.otter.canal.protocol.Message;
    import org.springframework.beans.factory.InitializingBean;
    import org.springframework.stereotype.Component;
    import java.net.InetSocketAddress;
    import java.util.List;
    import com.alibaba.otter.canal.protocol.CanalEntry.Column;
    import com.alibaba.otter.canal.protocol.CanalEntry.Entry;
    import com.alibaba.otter.canal.protocol.CanalEntry.EntryType;
    import com.alibaba.otter.canal.protocol.CanalEntry.EventType;
    import com.alibaba.otter.canal.protocol.CanalEntry.RowChange;
    import com.alibaba.otter.canal.protocol.CanalEntry.RowData;
    
    @Component
    public class CanalClient implements InitializingBean {
    
        private final static int BATCH_SIZE = 1000;
        public static void main(String args[]) {
            CanalClient canalClient = new CanalClient();
            try {
                canalClient.afterPropertiesSet();
            }catch (Exception e) {
                e.printStackTrace();
            }finally {
                System.out.println("End");
            }
        }
        @Override
        public void afterPropertiesSet() throws Exception {
            // 创建链接
            // 这里填写canal所配置的服务器ip,端口号,destination(在canal.properties文件里)以及服务器账号密码
            CanalConnector connector = CanalConnectors.newSingleConnector(new InetSocketAddress("192.168.xxx.xxx", 11111), "example", "root", "xxxxxxxxx");
            try {
                //打开连接
                connector.connect();
                //订阅数据库表,全部表
                connector.subscribe(".*\\..*");
                //回滚到未进行ack的地方，下次fetch的时候，可以从最后一个没有ack的地方开始拿
                connector.rollback();
                while (true) {
                    //获取指定数量的数据
                    Message message = connector.getWithoutAck(BATCH_SIZE);
                    //获取批量ID
                    long batchId = message.getId();
                    //获取批量的数量
                    int size = message.getEntries().size();
                    //如果没有数据
                    if (batchId == -1 || size == 0) {
                        try {
                            //线程休眠2秒
                            Thread.sleep(2000);
                        } catch (InterruptedException e) {
                            e.printStackTrace();
                        }
                    } else {
                        //如果有数据,处理数据
                        printEntry(message.getEntries());
                    }
                    //进行 batch id 的确认。确认之后，小于等于此 batchId 的 Message 都会被确认。
                    connector.ack(batchId);
                }
            } catch (Exception e) {
                e.printStackTrace();
            } finally {
                connector.disconnect();
            }
        }
    
        /**
         * 打印canal server解析binlog获得的实体类信息
         */
        private static void printEntry(List<Entry> entrys) {
            for (Entry entry : entrys) {
                if (entry.getEntryType() == EntryType.TRANSACTIONBEGIN || entry.getEntryType() == EntryType.TRANSACTIONEND) {
                    //开启/关闭事务的实体类型，跳过
                    continue;
                }
                //RowChange对象，包含了一行数据变化的所有特征
                //比如isDdl 是否是ddl变更操作 sql 具体的ddl sql beforeColumns afterColumns 变更前后的数据字段等等
                RowChange rowChage;
                try {
                    rowChage = RowChange.parseFrom(entry.getStoreValue());
                } catch (Exception e) {
                    throw new RuntimeException("ERROR ## parser of eromanga-event has an error , data:" + entry.toString(), e);
                }
                //获取操作类型：insert/update/delete类型
                EventType eventType = rowChage.getEventType();
                //打印Header信息
                System.out.println(String.format("================》; binlog[%s:%s] , name[%s,%s] , eventType : %s",
                        entry.getHeader().getLogfileName(), entry.getHeader().getLogfileOffset(),
                        entry.getHeader().getSchemaName(), entry.getHeader().getTableName(),
                        eventType));
                //判断是否是DDL语句
                if (rowChage.getIsDdl()) {
                    System.out.println("================》;isDdl: true,sql:" + rowChage.getSql());
                }
                //获取RowChange对象里的每一行数据，打印出来
                for (RowData rowData : rowChage.getRowDatasList()) {
                    //如果是删除语句
                    if (eventType == EventType.DELETE) {
                        printColumn(rowData.getBeforeColumnsList());
                        //如果是新增语句
                    } else if (eventType == EventType.INSERT) {
                        printColumn(rowData.getAfterColumnsList());
                        //如果是更新的语句
                    } else {
                        //变更前的数据
                        System.out.println("------->; before");
                        printColumn(rowData.getBeforeColumnsList());
                        //变更后的数据
                        System.out.println("------->; after");
                        printColumn(rowData.getAfterColumnsList());
                    }
                }
            }
        }
    
        private static void printColumn(List<Column> columns) {
            for (Column column : columns) {
                System.out.println(column.getName() + " : " + column.getValue() + "    update=" + column.getUpdated());
            }
        }
    }

这里需要改的是canal的配置相关，其余参数可自行依据实际情况配置

当运行后，我们运行MySQL插入数据

insert into hhy_test.canal_test VALUES(1,'test',now())

这时在控制台便会显示出

> ================》; binlog\[mysql-bin.000003:12626\] , name\[hhy\_test,canal\_test\] , eventType : INSERT  
> id : 1    update=true  
> name : test    update=true  
> bz : 2020-11-20 16:07:39    update=true

OK，至此客户端配置完毕！

[https_github.com_alibaba_canal]: https://github.com/alibaba/canal
[Link 1]: https://blog.csdn.net/mochou111/article/details/109808581
[Link 2]: https://blog.csdn.net/mochou111/article/details/104967170