博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
mysql导入hbase
阅读量:5308 次
发布时间:2019-06-14

本文共 1340 字,大约阅读时间需要 4 分钟。

##########################

cat dt.txt
2015-12-02 42
2015-12-04 1
2015-12-09 2769
2015-12-10 6439
2015-12-11 5966
#########
cat imp.py
# -*- coding: utf-8 -*-
import sys

reload(sys)

sys.setdefaultencoding('utf-8')

import happybase

import json
conn = happybase.Connection('bhasehost')
conn.open()

tab1 = conn.table('star_biz:t_realname_model')

with tab1.batch(batch_size=5) as tab1bat:
with open("/data/dyg/tmp/table_name.csv", "r") as f:
for i in f:
r=json.loads(json.loads(i.encode('utf-8')))
if not tab1.row(r["A:id"]):
tab1bat.put(r["A:id"],r)

#########

for dt in $(cat dt.txt | awk '{print $1;}')
do
echo $dt
mysql -uroot -ppassword -hmysqlhost --default-character-set utf8 db_name -N > table_name.csv <<EOF
SELECT CONCAT('"{\\\"A:cardId\\\":\\\"',id_card,'\\\",'
'\\\"A:createTime\\\":\\\"',UNIX_TIMESTAMP(create_time) * 1000,'\\\",',
'\\\"A:id\\\":\\\"',CONCAT(REVERSE(id_card),name), '\\\",',
'\\\"A:msg\\\":\\\"','一致\\\",',
'\\\"A:picture\\\":\\\"',picture,'\\\",',
'\\\"A:realName\\\":\\\"',name,'\\\",',
'\\\"A:status\\\":\\\"','SUCCESS\\\",',
'\\\"A:updateTime\\\":\\\"',UNIX_TIMESTAMP(update_time) * 1000, '\\\"}"')
FROM table_name
where update_time >= '$dt'
and update_time < date_add('$dt', interval +1 day);
EOF

sed -i -e 's/\\\\/\\/g' table_name.csv

python2.7 imp.py

done

转载于:https://www.cnblogs.com/falcon007/p/10496991.html

你可能感兴趣的文章
查看oracle数据库的连接数以及用户
查看>>
【数据结构】栈结构操作示例
查看>>
中建项目环境迁移说明
查看>>
三.野指针和free
查看>>
activemq5.14+zookeeper3.4.9实现高可用
查看>>
TCP/IP详解学习笔记(3)IP协议ARP协议和RARP协议
查看>>
简单【用户输入验证】
查看>>
python tkinter GUI绘制,以及点击更新显示图片
查看>>
CS0103: The name ‘Scripts’ does not exist in the current context解决方法
查看>>
20130330java基础学习笔记-语句_for循环嵌套练习2
查看>>
Spring面试题
查看>>
窥视SP2010--第一章节--SP2010开发者路线图
查看>>
C语言栈的实现
查看>>
代码为什么需要重构
查看>>
TC SRM 593 DIV1 250
查看>>
SRM 628 DIV2
查看>>
2018-2019-2 20165314『网络对抗技术』Exp5:MSF基础应用
查看>>
Python-S9-Day127-Scrapy爬虫框架2
查看>>
SecureCRT的使用方法和技巧(详细使用教程)
查看>>
右侧导航栏(动态添加数据到list)
查看>>