Kettle的增量抽取SQL和算法
SELECT LPAD(CONV(A.OPERATESTATUS ,10,2),10,'0'),A.OPERATEID, A.OPERATETYPE, A.PKEYCHANGED, A.ID_USER_NEW, A.ID_USER_OLD,B.*
FROM TB_USER_SYNC_PLUS A
LEFT JOIN TB_USER B ON B.ID_USER = A.ID_USER_NEW
WHERE SUBSTRING(LPAD(CONV(A.OPERATESTATUS ,10,2),10,'0'),10,1) = 0 AND SYNCTIMES < 5 ORDER BY A.OPERATEID;
Kettle核心增量抽取逻辑就是这个。从右边第一位开始计算 不结合TASK 总归还是有些瓶颈要处理。
评论
发表评论