[TOC]
# 导入表数据到 HDFS
下面的命令用于从MySQL数据库服务器中的emp表导入HDFS
`--m` 表示跑这个任务需要多少个map
~~~
sqoop import \
--connect jdbc:mysql://localhost:3306/userdb \
--username root \
--password root \
--table emp --m 1
~~~
如果要指定这样`--m 2`的话,就需要指定个字段了
`--split-by id`比如指定id,按照那个字段切分
~~~
[root@master ~]# sqoop import \
> --connect jdbc:mysql://192.168.33.3:3306/app \
> --username root \
> --password root \
> --split-by id \
> --table emp_add --m 2
~~~
如果成功执行,那么会得到下面的输出。
~~~
14/12/22 15:24:54 INFO sqoop.Sqoop: Running Sqoop version: 1.4.5
14/12/22 15:24:56 INFO manager.MySQLManager: Preparing to use a MySQL streaming resultset.
INFO orm.CompilationManager: Writing jar file: /tmp/sqoop-hadoop/compile/cebe706d23ebb1fd99c1f063ad51ebd7/emp.jar
-----------------------------------------------------
O mapreduce.Job: map 0% reduce 0%
14/12/22 15:28:08 INFO mapreduce.Job: map 100% reduce 0%
14/12/22 15:28:16 INFO mapreduce.Job: Job job_1419242001831_0001 completed successfully
-----------------------------------------------------
-----------------------------------------------------
14/12/22 15:28:17 INFO mapreduce.ImportJobBase: Transferred 145 bytes in 177.5849 seconds (0.8165 bytes/sec)
14/12/22 15:28:17 INFO mapreduce.ImportJobBase: Retrieved 5 records.
~~~
为了验证在HDFS导入的数据,请使用以下命令查看导入的数据
默认在`/user/root`下面表名这个文件夹
~~~
$ $HADOOP_HOME/bin/hadoop fs -cat /user/hadoop/emp/part-m-00000
~~~
emp表的数据和字段之间用逗号(,)表示。
~~~
1201, gopal, manager, 50000, TP
1202, manisha, preader, 50000, TP
1203, kalil, php dev, 30000, AC
1204, prasanth, php dev, 30000, AC
1205, kranthi, admin, 20000, TP
~~~
# 导入到HDFS指定目录
在导入表数据到HDFS使用Sqoop导入工具,我们可以指定目标目录。
以下是指定目标目录选项的Sqoop导入命令的语法。
~~~
--target-dir <new or exist directory in HDFS>
~~~
下面的命令是用来导入emp_add表数据到'/queryresult'目录。
~~~
sqoop import \
--connect jdbc:mysql://localhost:3306/test \
--username root \
--password root123 \
--target-dir /queryresult \
--table emp_add--m 1
~~~
下面的命令是用来验证 /queryresult 目录中 emp_add表导入的数据形式。
~~~
$HADOOP_HOME/bin/hadoop fs -cat /queryresult/part-m-*
~~~
它会用逗号(,)分隔emp_add表的数据和字段。
~~~
1201, 288A, vgiri, jublee
1202, 108I, aoc, sec-bad
1203, 144Z, pgutta, hyd
1204, 78B, oldcity, sec-bad
1205, 720C, hitech, sec-bad
~~~
然后看运行命令的地方,下面生成了几个.java文件
他是把这些命令打包成jar包运行的
默认目录是`/user/${user.name}/${tablename}`,可以通过`--target-dir`设置hdfs上的目标目录。
如果想要将整个数据库中的表全部导入到hdfs上,可以使用`import-all-tables`命令。
~~~
sqoop import-all-tables –connect jdbc:mysql://192.168.81.176/hivemeta2db --username root -password passwd
~~~
如果想要指定所需的列,使用如下:
~~~
sqoop import --connect jdbc:mysql://192.168.81.176/hivemeta2db --username root -password passwd --table sds --columns "SD_ID,CD_ID,LOCATION"
~~~
指定导出文件为SequenceFiles,并且将生成的类文件命名为com.ctrip.sds:
~~~
sqoop import --connect jdbc:mysql://192.168.81.176/hivemeta2db --username root -password passwd --table sds --class-name com.ctrip.sds --as-sequencefile
~~~
- linux
- 常用命令
- 高级文本命令
- 面试题
- redis
- String
- list
- hash
- set
- sortedSet
- 案例-推荐
- java高级特性
- 多线程
- 实现线程的三种方式
- 同步关键词
- 读写锁
- 锁的相关概念
- 多线程的join
- 有三个线程T1 T2 T3,保证顺序执行
- java五种线程池
- 守护线程与普通线程
- ThreadLocal
- BlockingQueue消息队列
- JMS
- 反射
- volatile
- jvm
- IO
- nio
- netty
- netty简介
- 案例一发送字符串
- 案例二发送对象
- 轻量级RPC开发
- 简介
- spring(IOC/AOP)
- spring初始化顺序
- 通过ApplicationContextAware加载Spring上下文
- InitializingBean的作用
- 结论
- 自定义注解
- zk在框架中的应用
- hadoop
- 简介
- hadoop集群搭建
- hadoop单机安装
- HDFS简介
- hdfs基本操作
- hdfs环境搭建
- 常见问题汇总
- hdfs客户端操作
- mapreduce工作机制
- 案列-单词统计
- 局部聚合Combiner
- 案列-流量统计(分区,排序,比较)
- 案列-倒排索引
- 案例-共同好友
- 案列-join算法实现
- 案例-求topN(分组)
- 自定义inputFormat
- 自定义outputFormat
- 框架运算全流程
- mapreduce的优化方案
- HA机制
- Hive
- 安装
- DDL操作
- 创建表
- 修改表
- DML操作
- Load
- insert
- select
- join操作
- 严格模式
- 数据类型
- shell参数
- 函数
- 内置运算符
- 内置函数
- 自定义函数
- Transform实现
- 特殊分割符处理
- 案例
- 级联求和accumulate
- flume
- 简介
- 安装
- 常用的组件
- 拦截器
- 案例
- 采集目录到HDFS
- 采集文件到HDFS
- 多个agent串联
- 日志采集和汇总
- 自定义拦截器
- 高可用配置
- 使用注意
- sqoop
- 安装
- 数据导入
- 导入数据到HDFS
- 导入关系表到HIVE
- 导入表数据子集
- 增量导入
- 数据导出
- 作业
- 原理
- azkaban
- 简介
- 安装
- 案例
- 简介
- command类型单一job
- command类型多job工作流flow
- HDFS操作任务
- mapreduce任务
- hive脚本任务
- hbase
- 简介
- 安装
- 命令行
- 基本CURD
- 过滤器查询
- 系统架构
- 物理存储
- 寻址机制
- 读写过程
- Region管理
- master工作机制
- 建表高级属性
- 与mapreduce结合
- 协处理器
- 点击流平台开发
- 简介
- storm
- 简介
- 安装
- 集群启动及任务过程分析
- 单词统计
- 并行度
- ACK容错机制
- ACK简介