博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hive语句是如何转化成MapReduce任务的
阅读量:4298 次
发布时间:2019-05-27

本文共 284 字,大约阅读时间需要 1 分钟。

假如面试时给你一个这样的问题,你怎么解决。

你要知道mapper和reducer工作的原理,从文件里按照key-value,一条一条记录读的,然后对数据做分解处理。

 

 

首先通过key-value传进来,每个value就是上图的一条记录,然后根据逗号我来分解他。

获得这个字符串数组,如果第2个元素等于bee,那我就把它写出去。

因为你sql语句,select的是id,所以我把第一个元素作为key写出去。

 

然后在reducer里,key就是那个id,value还是那条记录,不过我们要查的就是id,所以不用把value写出去。

所以是NullWritable.get()

转载地址:http://ruvws.baihongyu.com/

你可能感兴趣的文章
OpenGL ES 3.0(八)实现带水印的相机预览功能
查看>>
OpenGL ES 3.0(九)实现美颜相机功能
查看>>
FFmpeg 的介绍与使用
查看>>
Android 虚拟机简单介绍——ART、Dalvik、启动流程分析
查看>>
原理性地理解 Java 泛型中的 extends、super 及 Kotlin 的协变、逆变
查看>>
FFmpeg 是如何实现多态的?
查看>>
FFmpeg 源码分析 - avcodec_send_packet 和 avcodec_receive_frame
查看>>
FFmpeg 新旧版本编码 API 的区别
查看>>
RecyclerView 源码深入解析——绘制流程、缓存机制、动画等
查看>>
Android 面试题整理总结(一)Java 基础
查看>>
Android 面试题整理总结(二)Java 集合
查看>>
学习笔记_vnpy实战培训day02
查看>>
学习笔记_vnpy实战培训day03
查看>>
VNPY- VnTrader基本使用
查看>>
VNPY - CTA策略模块策略开发
查看>>
VNPY - 事件引擎
查看>>
MongoDB基本语法和操作入门
查看>>
学习笔记_vnpy实战培训day04_作业
查看>>
OCO订单(委托)
查看>>
学习笔记_vnpy实战培训day05
查看>>