一点一滴

一点一滴

点点滴滴,记录人生

Spark-专栏

1.csdn 生命不息丶折腾不止https://blog.csdn.net/leen0304/category_6635527.html

Spark Java sortByKey二次排序及Task not serializable异常

相比于scala,用java写二次排序较繁琐一些,请参考:Spark Java 二次排序:http://blog.csdn.net/leen0304/article/details/782802...

Spark Java 二次排序

1.输入1 5 2 4 3 5 1 8 2 1 3 2 5 1 6 22.代码实现2.1自定义比较器import scala.math.Ordered; import java.io.Seri...

Spark- 常见问题解决方案

1. Could not find CoarseGrainedScheduler异常详情如下:17/12/23 00:50:09 ERROR TransportRequestHandler: E...

Spark-Spark的对象不可序列化(object not serializable)的一个解决方案

最近在公司开发了一个新项目。这个项目要求人工去编写配置文件,然后根据配置文件配置的函数去处理数据。学到的隐式转换终于排上用场了。假设这些函数就是对比两个Set内容,然后得到这俩Set的相关得分。...