Hadoop基本使用(二)HelloWorld之旅

您所在的位置:网站首页 hadoop统计某个单词次数 Hadoop基本使用(二)HelloWorld之旅

Hadoop基本使用(二)HelloWorld之旅

2023-03-17 20:44| 来源: 网络整理| 查看: 265

前言 上一篇文件已经介绍了hadoop的基本配置和安装。本篇文章将介绍hadoop的一个简单实用的小案例。hadoop框架是实现大数据的基础,而大数据存储主要是为了分析数据中对我们有用的信息,比如统计某一个城市中人名包含了某一个字的人数。本片文章也将会以简单的数据统计为基础,写一个简单的HelloWorld。 如果还没有安装Hadoop,请先看第一篇文章《 hadoop的基本配置和安装》 开发环境 系统:ubuntu linux 软件:hadoop 2.7.3 步骤

1.在/home/javen/hadoop-2.7.3/文件夹下创建一个test文件夹。命令如下:

  2.进入test文件夹:   3.在test文件夹下创建2个文件:   4. 退出test目录:   5. 在hdfs系统中创建一个input文件夹,用来存放test1.txt和test2.txt文件,命令如下:   6.再将test文件夹上传到/user/hadoop/input文件夹下,命令如下:   7.使用hadoop自带的example.jar执行,命令如下: 8.执行完第7步之后,会在output2文件夹下生成一个part-xxx文件,part-xxx文件中存放的就是hadoop的统计结果。 9.然后执行如下命令,查看结果,命令如下: 结果 以上结果统计出每个单词出现的次数。 到此为止一个简单的Helloworld程序就执行完毕。 这只是一个简单的案例。如果要进行比较复杂的数据分析和统计,需要自己先去了解Map和Reduce。


【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3