spark读取目录及子目录中文件

发布于2022-01-04 18:11:29

spark读取目录及子目录中文件?接下来教大家spark如何读取目录及子目录中文件。在spark输入1valrdd=spark.sparkContext.textFile("D:\\data\\test_table\\*=1,D:\\dat

1个回答
admin
网友回答2022-01-04

spark读取目录及子目录中文件?接下来教大家spark如何读取目录及子目录中文件。

spark读取目录及子目录中文件

在spark输入1 val rdd=spark.sparkContext.textFile("D:\\data\\test_table\\*=1,D:\\data\\test_table\\key=2")

注意:

每个路径都要定位到最后一级。

路径之间不能存在包含关系。

目录与文件不要混放,即放在同一个目录下。

路径中可使用通配符。

spark读取目录及子目录中文件(1)

回到
顶部