天天看点

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

下载Sqoop

   或

   或通过CM、Ambari

很多同行,也许都知道,对于我们大数据搭建而言,目前主流,分为Apache 和 Cloudera 和 Ambari。

     后两者我不多说,是公司必备和大多数高校科研环境所必须的!

     分别,详情见我如下的博客

环境准备

  Java

  Hadoop(Hdfs/Yarn)

Hadoop2.6.0(单节点)下安装Sqoop

  第一步:上传sqoop的安装包,这里不多赘述。

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

[hadoop@djt002 sqoop]$ pwd

/usr/local/sqoop

[hadoop@djt002 sqoop]$ ls

sqoop-1.4.6.bin__hadoop-2.0.4-alpha

[hadoop@djt002 sqoop]$ mv sqoop-1.4.6.bin__hadoop-2.0.4-alpha/ sqoop-1.4.6

sqoop-1.4.6

[hadoop@djt002 sqoop]$ cd sqoop-1.4.6/

[hadoop@djt002 sqoop-1.4.6]$ pwd

/usr/local/sqoop/sqoop-1.4.6

[hadoop@djt002 sqoop-1.4.6]$

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

 

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

[hadoop@djt002 sqoop-1.4.6]$ ls

bin CHANGELOG.txt conf ivy lib NOTICE.txt README.txt sqoop-patch-review.py src

build.xml COMPILING.txt docs ivy.xml LICENSE.txt pom-old.xml sqoop-1.4.6.jar sqoop-test-1.4.6.jar testdata

[hadoop@djt002 sqoop-1.4.6]$ cd conf/

[hadoop@djt002 conf]$ pwd

/usr/local/sqoop/sqoop-1.4.6/conf

[hadoop@djt002 conf]$ ls

oraoop-site-template.xml sqoop-env-template.cmd sqoop-env-template.sh sqoop-site-template.xml sqoop-site.xml

[hadoop@djt002 conf]$ cp sqoop-env-template.sh sqoop-env.sh

[hadoop@djt002 conf]$ vim sqoop-env.sh

   第二步:配置文件

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

# Licensed to the Apache Software Foundation (ASF) under one or more

# contributor license agreements. See the NOTICE file distributed with

# this work for additional information regarding copyright ownership.

# The ASF licenses this file to You under the Apache License, Version 2.0

# (the "License"); you may not use this file except in compliance with

# the License. You may obtain a copy of the License at

#

# http://www.apache.org/licenses/LICENSE-2.0

# Unless required by applicable law or agreed to in writing, software

# distributed under the License is distributed on an "AS IS" BASIS,

# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.

# See the License for the specific language governing permissions and

# limitations under the License.

# included in all the hadoop scripts with source command

# should not be executable directly

# also should not be passed any arguments, since we need original $*

# Set Hadoop-specific environment variables here.

#Set path to where bin/hadoop is available

#export HADOOP_COMMON_HOME=    (建议都安装上)

#Set path to where hadoop-*-core.jar is available

#export HADOOP_MAPRED_HOME=     (建议都安装上)

#set the path to where bin/hbase is available  

#export HBASE_HOME=          (建议都安装上)

#Set the path to where bin/hive is available

#export HIVE_HOME=           (建议都安装上)

#Set the path for where zookeper config dir is

#export ZOOCFGDIR=            (因为,我这里是,hadoop-2.6.0的单节点分布,所以就没必要去配置Zookeeper了)

    如果数据读取不涉及hbase和hive,那么相关hbase和hive的配置可以不加;如果集群有独立的zookeeper集群,那么配置zookeeper,反之,不用配置。

在这里,我就全部配置吧,为了大家的方便!

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

  所以,就没配置Zookeeper了。

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

   

  第三:配置环境变量

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

  第四步:生效环境变量

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

   

  第五步:这里大家,记得要给sqoop安装目录,授予权限给hadoop用户

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

  第六步:将相关的驱动 jar 包拷贝到 sqoop/lib 目录下。

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

   这里,省略了,很多,包括。hadoo的相关核心jar包、hive的相关核心jar包和hbase的相关核心jar包(补补)

 测试

   比如,我这里打开下,数据库

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

   得,先启动之前安装好的数据库。

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

  然后,这边,选择连接。

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

   然后,继续,还没达到我们想要的目的效果。

继续,怎么做呢?

补充Sqoop命令怎么用?

  

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

  大家,最好,还是擅于读官方文档

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

<a href="http://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html">http://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html</a>

待整理,如下,暂时不要去看

二、Hadoop2.6.0下安装Sqoop

   我这里,暂时,以Ubuntu环境下。

     步骤一: 下载sqoop2安装包:

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

   我一般,传到Linux里的目录是,/usr/local/sqoop,这个,自行去设置。

步骤二、解压安装包,sudo  tar  -zxvf  sqoop-1.99.6-bin-hadoop200.tar.gz

步骤三、修改文件的名字为sqoop1996 ,

           sudo  mv  sqoop-1.99.6-bin-hadoop200.tar.gz     sqoop-1.99.6

步骤四、进入sqoop-1.99.6文件,进行配置:cd sqoop-1.99.6

  1.配置环境变量,sudo gedit ~/.bashrc,写入sqoop的安装路径和path变量

        export SQOOP2_HOME=/usr/local/sqoop/sqoop-1.99.6

               export PATH=.:$SQOOP2_HOME/bin:$PATH

               export CALALINA_BASE=$SQOOP2_HOME/server

   3.修改配置文件$SQOOP2_HOME/server/conf/sqoop.properties

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

   修改配置文件$SQOOP2_HOME/server/conf/catalina.properties,如图红框部分修改为自己的安装目录

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

 步骤五、启动sqoop server

  在sqoop的安装目录下,执行bin/sqoop.sh server start

步骤六、启动sqoop client

  在sqoop的安装目录下,执行bin/sqoop.sh client start

hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)Cloudera安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐)Ambari安装搭建部署大数据集群(图文分五大步详解)(博主强烈推荐Navicat for MySQL之MySQL客户端的下载、安装和使用个人推荐,比较好的MySQL客户端工具

本文转自大数据躺过的坑博客园博客,原文链接:http://www.cnblogs.com/zlslch/p/6116363.html,如需转载请自行联系原作者