Hadoop DistributedCache使用方法及原理

Dear 丶 2022-06-09 23:49 275阅读 0赞

概览

DistributedCache 是一个提供给Map/Reduce框架的工具，用来缓存文件（text, archives, jars and so on）文件的默认访问协议为(hdfs://).

DistributedCache将拷贝缓存的文件到Slave节点在任何Job在节点上执行之前。

文件在每个Job中只会被拷贝一次，缓存的归档文件会被在Slave节点中解压缩。

符号链接

每个存储在HDFS中的文件被放到缓存中后都可以通过一个符号链接使用。

URI hdfs://namenode/test/input/file1\#myfile  你可以在程序中直接使用 myfile 来访问  file1 这个文件。 myfile 是一个符号链接文件。

缓存在本地的存储目录

<property>
    
      <name>mapred.local.dir</name>
    
      <value>${Hadoop.tmp.dir}/mapred/local</value>
    
      <description>The local directory where MapReduce stores intermediate
    
      data files.  May be a comma-separated list of
    
      directories on different devices in order to spread disk i/o.
    
      Directories that do not exist are ignored.
    
      </description>
    
    </property>
    
     
    
    <property>
    
      <name>local.cache.size</name>
    
      <value>10737418240</value> （默认大小：10GB）
    
      <description>The limit on the size of cache you want to keep, set by default
    
      to 10GB. This will act as a soft limit on the cache directory for out of band data.
    
      </description>
    
    </property>

#### DistributedCache ####

[DistributedCache][] 可将具体应用相关的、大尺寸的、只读的文件有效地分布放置。

DistributedCache 是Map/Reduce框架提供的功能，能够缓存应用程序所需的文件 （包括文本，档案文件，jar文件等）。

应用程序在JobConf中通过url(hdfs://)指定需要被缓存的文件。 DistributedCache假定由hdfs://格式url指定的文件已经在 FileSystem上了。

Map-Redcue框架在作业所有任务执行之前会把必要的文件拷贝到slave节点上。 它运行高效是因为每个作业的文件只拷贝一次并且为那些没有文档的slave节点缓存文档。

DistributedCache 根据缓存文档修改的时间戳进行追踪。 在作业执行期间，当前应用程序或者外部程序不能修改缓存文件。

distributedCache可以分发简单的只读数据或文本文件，也可以分发复杂类型的文件例如归档文件和jar文件。归档文件(zip,tar,tgz和tar.gz文件)在slave节点上会被*解档（un-archived）*。 这些文件可以设置*执行权限*。

用户可以通过设置mapred.cache.\{files|archives\}来分发文件。 如果要分发多个文件，可以使用逗号分隔文件所在路径。也可以利用API来设置该属性： [DistributedCache.addCacheFile(URI,conf)][DistributedCache.addCacheFile_URI_conf]/ [DistributedCache.addCacheArchive(URI,conf)][DistributedCache.addCacheArchive_URI_conf] and [DistributedCache.setCacheFiles(URIs,conf)][DistributedCache.setCacheFiles_URIs_conf]/ [DistributedCache.setCacheArchives(URIs,conf)][DistributedCache.setCacheArchives_URIs_conf] 其中URI的形式是 hdfs://host:port/absolute-path\#link-name 在Streaming程序中，可以通过命令行选项 -cacheFile/-cacheArchive 分发文件。

用户可以通过[ DistributedCache.createSymlink(Configuration)][DistributedCache.createSymlink_Configuration]方法让DistributedCache 在*当前工作目录*下创建到缓存文件的符号链接。 或者通过设置配置文件属性mapred.create.symlink为yes。 分布式缓存会截取URI的片段作为链接的名字。 例如，URI是 hdfs://namenode:port/lib.so.1\#lib.so， 则在task当前工作目录会有名为lib.so的链接， 它会链接分布式缓存中的lib.so.1。

DistributedCache可在map/reduce任务中作为 一种基础软件分发机制使用。它可以被用于分发jar包和本地库（native libraries）。 [DistributedCache.addArchiveToClassPath(Path, Configuration)][DistributedCache.addArchiveToClassPath_Path_ Configuration]和 [DistributedCache.addFileToClassPath(Path, Configuration)][DistributedCache.addFileToClassPath_Path_ Configuration] API能够被用于 缓存文件和jar包，并把它们加入子jvm的*classpath*。也可以通过设置配置文档里的属性 mapred.job.classpath.\{files|archives\}达到相同的效果。缓存文件可用于分发和装载本地库。

[http://www.open-open.com/lib/view/open1337349822015.html][http_www.open-open.com_lib_view_open1337349822015.html]

[Hadoop][]有一个叫做 [分布式][Link 1]缓存(distributed cache)的机制来将 [数据][Link 2]分发到集群上的所有节点上。为了节约网络带宽，在每一个作业中，各个文件通常只需要复制到一个节点一次。

缓存文件复制位置：mapred-site.xml中

<name>mapred.local.dir</name>

<value>/home/hadoop/tmp</value>

</property>

操作步骤：

1.将数据的分发到每个节点上：

DistributedCache.addCacheFile(new URI("hdfs://cloud01:9000/user/hadoop/mrinput/ST.txt"), conf);

注意，此操作一定要在创建Job，将conf传递给Job之前进行，否则数据文件的路径不会被Mapper中取到。

2.在每个Mapper中获取文件URI，再进行相关操作：

URI\[\] uris=DistributedCache.getCacheFiles(context.getConfiguration());

比如读取该文件：

FileSystem fs = FileSystem.get(URI.create("hdfs://cloud01:9000"), context.getConfiguration());

FSDataInputStream in = null;

in = fs.open(new Path(uris\[0\].getPath()));

BufferedReader br=new BufferedReader(new InputStreamReader(in));

# [hadoop中的DistributedCache 2][hadoop_DistributedCache 2] #

WordCount.javaHadoop的分布式缓存机制使得一个job的所有map或reduce可以访问同一份文件。在任务提交后，hadoop将由-files和-archive选项指定的文件复制到HDFS上（JobTracker的文件系统）。在任务运行前，TaskTracker从JobTracker文件系统复制文件到本地磁盘作为缓存，这样任务就可以访问这些文件。对于job来说，它并不关心文件是从哪儿来的。在使用DistributedCache时，对于本地化文件的访问，通常使用Symbolic Link来访问，这样更方便。通过 **URI hdfs://namenode/test/input/file1\#myfile** 指定的文件在当前工作目录中被符号链接为myfile。这样job里面可直接通过myfile来访问文件，而不用关心该文件在本地的具体路径。

[DistributedCache]: http://hadoop.apache.org/core/docs/r0.18.2/api/org/apache/hadoop/filecache/DistributedCache.html
[DistributedCache.addCacheFile_URI_conf]: http://hadoop.apache.org/core/docs/r0.18.2/api/org/apache/hadoop/filecache/DistributedCache.html#addCacheFile%28java.net.URI,%20org.apache.hadoop.conf.Configuration%29
[DistributedCache.addCacheArchive_URI_conf]: http://hadoop.apache.org/core/docs/r0.18.2/api/org/apache/hadoop/filecache/DistributedCache.html#addCacheArchive%28java.net.URI,%20org.apache.hadoop.conf.Configuration%29
[DistributedCache.setCacheFiles_URIs_conf]: http://hadoop.apache.org/core/docs/r0.18.2/api/org/apache/hadoop/filecache/DistributedCache.html#setCacheFiles%28java.net.URI[],%20org.apache.hadoop.conf.Configuration%29
[DistributedCache.setCacheArchives_URIs_conf]: http://hadoop.apache.org/core/docs/r0.18.2/api/org/apache/hadoop/filecache/DistributedCache.html#setCacheArchives%28java.net.URI[],%20org.apache.hadoop.conf.Configuration%29
[DistributedCache.createSymlink_Configuration]: http://hadoop.apache.org/core/docs/r0.18.2/api/org/apache/hadoop/filecache/DistributedCache.html#createSymlink%28org.apache.hadoop.conf.Configuration%29
[DistributedCache.addArchiveToClassPath_Path_ Configuration]: http://hadoop.apache.org/core/docs/r0.18.2/api/org/apache/hadoop/filecache/DistributedCache.html#addArchiveToClassPath%28org.apache.hadoop.fs.Path,%20org.apache.hadoop.conf.Configuration%29
[DistributedCache.addFileToClassPath_Path_ Configuration]: http://hadoop.apache.org/core/docs/r0.18.2/api/org/apache/hadoop/filecache/DistributedCache.html#addFileToClassPath%28org.apache.hadoop.fs.Path,%20org.apache.hadoop.conf.Configuration%29
[http_www.open-open.com_lib_view_open1337349822015.html]: http://www.open-open.com/lib/view/open1337349822015.html
[Hadoop]: http://www.haogongju.net/tag/Hadoop
[Link 1]: http://www.haogongju.net/tag/%E5%88%86%E5%B8%83%E5%BC%8F
[Link 2]: http://www.haogongju.net/tag/%E6%95%B0%E6%8D%AE
[hadoop_DistributedCache 2]: http://www.cnblogs.com/xuxm2007/archive/2011/06/30/2094397.html