大数据处理，MapReduce,Spark,Scala

╰+哭是因爲堅強的太久メ 2022-01-25 14:38 232阅读 0赞

## **数据处理**实验 ##

# 实验目的 #

1.  理解MapReduce、SPARK在Hadoop大数据平台中的作用；
2.  掌握基本的MapReduce编程方法；
3.  了解MapReduce解决一些常见的数据处理问题；
4.  掌握基本的Spark shell编程；
5.  掌握基本的Spark API编程；

# 实验环境 #

实验平台：基于实验一搭建的虚拟机Hadoop大数据实验平台上的MapReduce、SPARK集群；

编程语言：JAVA、Scala；

# 实验说明 #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70]

压缩包目录下包括实验报告，源代码，以及实验的输出结果：

# 实验内容 #

## 1.MapReduce数据处理 ##

### 1）编程实现文件合并和去重操作；对于每行至少具有三个字段的两个输入文件，即文件A和文件B，请编写MapReduce程序，对两个文件进行合并，并剔除其中重复的内容，得到一个新的输出文件C。 ###

**实验过程**  
Merge.java

import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.Path;
    import org.apache.hadoop.io.Text;
    import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
    import org.apache.hadoop.mapreduce.Job;
    import org.apache.hadoop.mapreduce.Mapper;
    import org.apache.hadoop.mapreduce.Reducer;
    import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
    import java.io.IOException;
    
    public class Merge {
        
        //Map类，继承自Mapper类--一个抽象类
        public static class Map extends Mapper<Object, Text, Text, Text> 
        {
        
            private static Text text = new Text();
            //重写map方法
            public void map(Object key, Text value, Context content) throws IOException, InterruptedException 
            {
        
                text = value
              //底层通过Context content传递信息（即key value）
                content.write(text, new Text(""));
            }
        }
    
        //Reduce类，继承自Reducer类--一个抽象类
        public static class Reduce extends Reducer<Text, Text, Text, Text> 
        {
        
            public void reduce(Text key, Iterable<Text> values, Context context) throws IOException, InterruptedException 
            {
        
                //对于所有的相同的key，只写入一个，相当于对于所有Iterable<Text> values，只执行一次write操作
                context.write(key, new Text(""));
            }
        }
        //main方法
        public static void main(String[] args) throws Exception {
        
            final String OUTPUT_PATH = "output1";     
            Configuration conf = new Configuration();
            // conf.set("fs.defaultFS", "hdfs://localhost:9000");
            Path path = new Path(OUTPUT_PATH);  
    
            //加载配置文件
            FileSystem fileSystem = path.getFileSystem(conf);
            //输出目录若存在则删除
            if (fileSystem.exists(new Path(OUTPUT_PATH))) 
            {
          
               fileSystem.delete(new Path(OUTPUT_PATH),true);  
            }  
            //指定输入输出目录
            String[] otherArgs = new String[]{
        "input1","output1"};
            if (otherArgs.length != 2) 
            {
        
                System.err.println("路径出错");
                System.exit(2);
            }
            //一些初始化
            Job job = Job.getInstance(conf,"Merge");
            job.setJarByClass(Merge.class);
            job.setMapperClass(Map.class);  //初始化为自定义Map类
            job.setReducerClass(Reduce.class);  //初始化为自定义Reduce类
            job.setOutputKeyClass(Text.class);  //指定输出的key的类型，Text相当于String类
            job.setOutputValueClass(Text.class);  //指定输出的Value的类型，Text相当于String类
            FileInputFormat.addInputPath(job, new Path(otherArgs[0]));  //FileInputFormat指将输入的文件（若大于64M）进行切片划分，每个split切片对应一个Mapper任务
            FileOutputFormat.setOutputPath(job, new Path(otherArgs[1]));
            System.exit(job.waitForCompletion(true) ? 0 : 1);
        }
    }

编译运行之前现在hadoop用户根目录下创建input1和output1目录。将

> 附录实验数据一：MapReduce编程一使用的数据文件A；  
> 附录实验数据二：MapReduce编程一使用的数据文件B；

两个文件放到input1目录中：

![在这里插入图片描述][20190531130402224.png]

然后编译运行：

编译

javac -cp  
/usr/local/hadoop-2.6.5/share/hadoop/common/\*:/usr/local/hadoop-2.6.5/share/hadoop/common/lib/\*:/usr/local/hadoop-2.6.5/share/hadoop/hdfs/lib/\*:/usr/local/hadoop-2.6.5/share/hadoop/hdfs/\*:/usr/local/hadoop-2.6.5/share/hadoop/mapreduce/\*:/usr/local/hadoop-2.6.5/share/hadoop/mapreduce/lib/\*:/usr/local/hadoop-2.6.5/share/hadoop/yarn/lib/\*:/usr/local/hadoop-2.6.5/share/hadoop/yarn/\*:  
Merge.java

执行

java -cp  
/usr/local/hadoop-2.6.5/share/hadoop/common/\*:/usr/local/hadoop-2.6.5/share/hadoop/common/lib/\*:/usr/local/hadoop-2.6.5/share/hadoop/hdfs/lib/\*:/usr/local/hadoop-2.6.5/share/hadoop/hdfs/\*:/usr/local/hadoop-2.6.5/share/hadoop/mapreduce/\*:/usr/local/hadoop-2.6.5/share/hadoop/mapreduce/lib/\*:/usr/local/hadoop-2.6.5/share/hadoop/yarn/lib/\*:/usr/local/hadoop-2.6.5/share/hadoop/yarn/\*:  
Merge

**结果：**

查看output1目录会发现目录下多出文件：

![在这里插入图片描述][20190531130417631.png]

说明程序运行成功，结果在part-r-00000文件中：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 1]

### 2）编写程序实现对输入文件的排序；现在有多个输入文件，每个文件中的每行内容均为一个整数。要求读取所有文件中的整数，进行升序排序后，输出到一个新的文件中，输出的数据格式为每行两个整数，第一个数字为第二个整数的排序位次，第二个整数为原待排列的整数。 ###

**实验过程**

SortRunner.java:

import org.apache.hadoop.io.Text;
    import org.apache.hadoop.io.LongWritable;
    import org.apache.hadoop.mapreduce.Mapper;
    import java.io.IOException;
    import org.apache.hadoop.io.IntWritable;
    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.Path;
    import org.apache.hadoop.mapreduce.Job;
    import org.apache.hadoop.mapreduce.Partitioner;
    import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
    import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
    import org.apache.hadoop.util.GenericOptionsParser;
    import org.apache.hadoop.mapreduce.Mapper;
    import org.apache.hadoop.mapreduce.Reducer;
    import org.apache.hadoop.fs.FileSystem;
    
    public class SortRunner {
        
        public static class Partition extends Partitioner<IntWritable, IntWritable> {
        
     
            @Override
            public int getPartition(IntWritable key, IntWritable value,
                                    int numPartitions) {
        
                int MaxNumber = 65223;
                int bound = MaxNumber / numPartitions + 1;
                int keynumber = key.get();
                for (int i = 0; i < numPartitions; i++) {
        
                    if (keynumber < bound * i && keynumber >= bound * (i - 1))
                        return i - 1;
                }
                return 0;
            }
        }
    	
        public static class SortMapper extends Mapper<Object, Text, IntWritable, IntWritable>{
        
     
    		private static IntWritable data = new IntWritable();
    	 
    		public void map(Object key, Text value, Context context)
    				throws IOException, InterruptedException {
        
    			String line = value.toString();
    	 
    			data.set(Integer.parseInt(line));
    	 
    			context.write(data, new IntWritable(1));
    	 
    		}
    	}
    
        public static class SortReducer extends Reducer<IntWritable, IntWritable, IntWritable, IntWritable>{
        
    		private static IntWritable linenum = new IntWritable(1);
    	 
    		public void reduce(IntWritable key, Iterable<IntWritable> values,
    						   Context context) throws IOException, InterruptedException {
        
    	 
    			for (IntWritable val : values) {
        
    	 
    				context.write(linenum, key);
    	 
    				linenum = new IntWritable(linenum.get() + 1);
    			}
    	 
    		}
    	}
        public static void main(String[] args) throws Exception {
        
            // TODO Auto-generated method stub
              final String OUTPUT_PATH = "output2";     
            Configuration conf = new Configuration();
            // conf.set("fs.defaultFS", "hdfs://localhost:9000");
    
            Path path = new Path(OUTPUT_PATH);  
    
            //加载配置文件
            FileSystem fileSystem = path.getFileSystem(conf);
    
            //输出目录若存在则删除
            if (fileSystem.exists(new Path(OUTPUT_PATH))) 
            {
          
               fileSystem.delete(new Path(OUTPUT_PATH),true);  
            }  
    
            //指定输入输出目录
            String[] otherArgs = new String[]{
        "input2","output2"};
            if (otherArgs.length != 2) 
            {
        
                System.err.println("路径出错");
                System.exit(2);
            }
    
            Job job = new Job(conf, "SortRunner");
            job.setJarByClass(SortRunner.class);
            job.setMapperClass(SortMapper.class);
            job.setPartitionerClass(Partition.class);
            job.setReducerClass(SortReducer.class);
            job.setOutputKeyClass(IntWritable.class);
            job.setOutputValueClass(IntWritable.class);
            FileInputFormat.addInputPath(job, new Path(otherArgs[0]));  //FileInputFormat指将输入的文件（若大于64M）进行切片划分，每个split切片对应一个Mapper任务
            FileOutputFormat.setOutputPath(job, new Path(otherArgs[1]));
            System.exit(job.waitForCompletion(true) ? 0 : 1);
        }
    }

在hadoop用户根目录下创建input2和output2目录：

然后将实验数据：

> 附录实验数据三：MapReduce编程二使用的数据文件A；  
> 附录实验数据四：MapReduce编程二使用的数据文件B；

做完上面的工作之后进行编译执行：

编译

执行

运行结果：

查看Output2目录保存的输出文件：  
![在这里插入图片描述][20190531130515331.png]

结果保存在part-r-00000：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 2]

## 2.SPARK数据处理 ##

### 1）使用SPARK shell编程实现以下指定功能： ###

#### （1）创建RDD，并熟悉RDD中的转换操作，行动操作，并给出相应实例 ####

**实验过程**

首先启动spark，进入到scala环境:

spark-shell --master local\[4\]

下面的实验也是在scala> 环境下直接输入scala程序进行运行

创建RDD

val input = sc.parallelize(List(1, 2, 3, 4))

转换操作map操作：

实例：计算元素的平方值

val result = input.map(x => x \* x)

行动操作collect操作：

实例：返回全部的元素

println(result.collect().mkString(","))

**实验结果：**

![在这里插入图片描述][20190531130638438.png]

![在这里插入图片描述][20190531130645168.png]

#### （2）了解如何将RDD中的计算过程进行持久化操作，并给出具体代码； ####

**实验过程**

Spark RDD 是惰性求值的，而有时我们希望能多次使用同一个RDD。如果简单地对RDD  
调用行动操作，Spark 每次都会重算RDD  
以及它的所有依赖。这在迭代算法中消耗格外大。为了避免多次计算同一个RDD，可以让Spark  
对数据进行持久化。出于不同的目的，我们可以为RDD  
选择不同的持久化级别，持久化级别如下表  
![在这里插入图片描述][20190531130654374.png]  
下面实验分别进行两次，第一次是没有调用persist()  
方法来实现持久化操作打印出运行的时间，第二次调用了persist()  
方法来实现持久化操作，打印出运行的时间。

**无持久化操作：**

val testrdd = sc.textFile(“test.txt”); testrdd.count();val t1 =  
System.currentTimeMillis();println(“noCache()=testrdd.count()=” +  
testrdd.count());val t2 = System.currentTimeMillis();val t2\_t1 = t2 -  
t1;println(“nocache()=” + t2\_t1);  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 3]  
**持久化操作：**

val testrdd = sc.textFile(“test.txt”)  
.persist(StorageLevel.MEMORY\_ONLY());testrdd.count();val t1 =  
System.currentTimeMillis();println(“noCache()=testrdd.count()=” +  
testrdd.count());val t2 = System.currentTimeMillis();val t2\_t1

= t2 - t1;println(“nocache()=” + t2\_t1);

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 4]

**结果分析**

可以看到没有使用持久化操作的运行时间为490ms。而使用了持久化操作的运行时间为163ms，性能得到很大的提升，这是使用持久化带来的性能提升。

#### （3）了解Spark的数据读取与保存操作，尝试完成csv文件的读取和保存； ####

首先上传test.scv也就是

附录实验数据五：SPARK编程一使用的CSV数据文件；

上传到hdfs文件系统中：hdfa dfs -put test.csv /user/Hadoop/  
![在这里插入图片描述][20190531130806475.png]

输入下面的scala程序回车运行：

import java.io.StringReader;import au.com.bytecode.opencsv.CSVReader; val
    input=sc.textFile("test.csv");input.foreach(println);val result = input.map{
        line
    =\>val reader = new CSVReader(new StringReader(line));reader.readNext();}

**实验结果：**  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 5]

另一种实现方式是不能在scala环境直接运行，需要编写scala文件，在maven工程中或者 使用sbt  
打包 Scala 程序，引入com.databricks.spark.csv对应的jar包才能实现：

import org.apache.spark.sql.SQLContext;val sqlContext = new SQLContext(sc);val
    df = sqlContext.load("com.databricks.spark.csv", Map("path" -\> "test.csv",
    "header" -\> "true"));df.select("日期",
    "数值").save("newcars.csv","com.databricks.spark.csv");
    
    import org.apache.spark.sql.SQLContext;import com.databricks.spark.csv._;val
    sqlContext = new SQLContext(sc);val cars =
    sqlContext.csvFile("test.csv");cars.select("日期",
    "数值").saveAsCsvFile("newtest.csv")

### 2）编程熟悉Spark中的健值对操作，利用Spark的API完成wordcount实验，即统计一段文本中每个单词的出现总数。 ###

实验过程

WordCount.scala文件内容：

import org.apache.spark.SparkContext
    
    import org.apache.spark.SparkContext.\_
    
    import org.apache.spark.SparkConf
    
    import scala.collection.Map
    
    object WordCount {
        
    
    def main(args: Array[String]) {
        
    
    val inputFile = "test3.txt"
    
    val conf = new SparkConf().setMaster("local[2]").setAppName("WordCount")
    
    conf.set("spark.testing.memory", "500000000")
    
    val sc = new SparkContext(conf)
    
    val textFile = sc.textFile(inputFile)
    
    val wordCount = textFile.flatMap(line =\> line.split(" ")).map(word =\> (word,
    1)).reduceByKey((a, b) =\> a + b)
    
    wordCount.foreach(println)
    
    wordCount.saveAsTextFile("outputtest3")
    
    }
    
    }

编译 scalac -cp /usr/local/spark-1.6.3-bin-hadoop2.6/lib/\*: WordCount.scala

运行 java -cp /usr/local/spark-1.6.3-bin-hadoop2.6/lib/\*: WordCount

**结果：**  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 6]

在hadoop用户根目录下outputtest3目录下：

![在这里插入图片描述][20190531130920595.png]

由于输出内容太多，输出到两个文件中：

Part-r-00000：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 7]

Part-r-00001：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 8]源码连接：[https://github.com/Topdu/os/tree/master/大数据实验3][https_github.com_Topdu_os_tree_master_3]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70]: /images/20220125/a501a9f59f3c456d93fcb218cab52566.png
[20190531130402224.png]: /images/20220125/5550713d1e7f4940b597bf4f2b2b1cf6.png
[20190531130417631.png]: /images/20220125/4e74efb99cd2482c84f88581d6076996.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 1]: /images/20220125/1525ff1643374705af5fd403f92adca3.png
[20190531130515331.png]: /images/20220125/b7afbda77b244de9a8d87ea2e571f314.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 2]: /images/20220125/7a531d9c56094412bbd5ac7ee20343a9.png
[20190531130638438.png]: /images/20220125/974c4f42bebc4f65b9cd8cd1374d97c0.png
[20190531130645168.png]: /images/20220125/6df4e86f3f3549b28da67727f714a62f.png
[20190531130654374.png]: /images/20220125/9c9fcd6c73c04a95a5731de3204f2f43.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 3]: /images/20220125/466c99e0943c4bbfb784a07dbeb65701.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 4]: /images/20220125/cf69ce005af048f6b093635aa33b41fa.png
[20190531130806475.png]: /images/20220125/978071b277b7440f89cdf534bd4e5ba4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 5]: /images/20220125/805ffd0236d445dcb62b193dd69f49ee.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 6]: /images/20220125/914aec6f228a4d0f9796a27975ca83cb.png
[20190531130920595.png]: /images/20220125/684ed8fb2ad94bd3b739cb3c2cb8ae7e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 7]: /images/20220125/4e84b1d3e42c4b93a6ba68b359365b75.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw_size_16_color_FFFFFF_t_70 8]: https://img-blog.csdnimg.cn/20190531130959671.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTcwNTcwMw==,size_16,color_FFFFFF,t_70
[https_github.com_Topdu_os_tree_master_3]: https://github.com/Topdu/os/tree/master/%E5%A4%A7%E6%95%B0%E6%8D%AE%E5%AE%9E%E9%AA%8C3