网站建设资讯

NEWS

网站建设资讯

spark基础--rdd的生成

使用parallelize创建RDD 也 可以使用makeRDD来创建RDD。

宜秀网站制作公司哪家好,找成都创新互联!从网页设计、网站建设、微信开发、APP开发、响应式网站等网站项目制作,到程序开发,运营维护。成都创新互联从2013年开始到现在10年的时间,我们拥有了丰富的建站经验和运维经验,来保证我们的工作的顺利进行。专注于网站建设就选成都创新互联

通过查看源码可以发现,makeRDD执行的时候,也是在调用parallelize函数,二者无区别。

通过 .textFile 可以通过文件读取项目路径 和 hdfs 文件路径

*

makeRDD 和 parallelize 第二个参数为处理的并行度数量

不给定时,默认值为 通过

conf.getInt("spark.default.parallelism", math.max(totalCoreCount.get(), 2)) 获取

即 获取 spark.default.parallelism 参数值

当参数值存在时,使用 spark.default.parallelism 配置的参数

当参数不存在时,比较系统总共可用核数 和 2 ,哪个大使用哪个

*

通过.textFile 第二个参数为处理的并行度数量(textFile对数据切分规则和hadoop对文件切分规则一致)

不给定时,默认值为取 conf.getInt("spark.default.parallelism", math.min(totalCoreCount.get(), 2))

即参数不存在时,比较系统总共可用核数 和 2 ,哪个小使用哪个,但是不一定是分区数,取决于hadoop读取文件时的分片规则

查看源码可发现,底层调用的是 hadoopFile,因此 假设参数默认值为 2

经过hadoop切片处理,会经过hadoop对文件进行切分,假如数据为5条,经过hadoop切片会分成 2 2 1 条数据

*

saveRDD 函数存储的分区数,即数据文本数量,取决于 运行的并行度


网页名称:spark基础--rdd的生成
分享地址:http://cdweb.net/article/pijhsh.html