Kettle的增量抽取SQL和算法


 SELECT  LPAD(CONV(A.OPERATESTATUS ,10,2),10,'0'),A.OPERATEID, A.OPERATETYPE, A.PKEYCHANGED, A.ID_USER_NEW, A.ID_USER_OLD,B.*  
FROM TB_USER_SYNC_PLUS A 
LEFT JOIN TB_USER B ON B.ID_USER = A.ID_USER_NEW 
WHERE  SUBSTRING(LPAD(CONV(A.OPERATESTATUS ,10,2),10,'0'),10,1) = 0 AND SYNCTIMES <  5 ORDER BY A.OPERATEID;


Kettle核心增量抽取逻辑就是这个。从右边第一位开始计算 不结合TASK 总归还是有些瓶颈要处理。

评论

此博客中的热门博文

Kettle设计中 判断的基准和多数据流时的主键唯一性

9月的诚品书单[待修订]

引用 vista下.lnk快捷方式打开方式修复