Ruby中的类Google Map/Reduce框架Skynet介绍

skynet是一个很响亮的名字，因为它是阿诺施瓦辛格主演的经典系列电影《终结者》里面的统治人类的超级计算机网络。不过本文的skynet没这么恐怖，它是一个ruby版本的google map/reduce框架的名字而已。

google的map/reduce框架实在太有名气了，他可以把一个任务切分为很多份，交给n台计算机并行执行，返回的结果再并行的归并，最后得到运算的结果。据说google一个搜索结果会map到7000台服务器并行执行，这么多么可怕的分布式运算能力阿！有了map/reduce，程序员就可以在无需关注分布式框架的情况下，用简单的代码写出来健壮、并行的分布式应用程序，并且可以充分发挥计算机群集运算的能力。

如今能够实现map/reduce算法的框架已经有好几个了，其中最有名气的可能就是yahoo发起的开源项目hadoop，不过hadoop并不是用ruby编写的，但在ruby的世界，adam pisoni已经开发出来了ruby版本的map/reduce框架，这就是skynet。

adam pisoni开发skynet的初衷是因为adam pisoni的公司geni.com是一家定位于家族sns的互联网网站。网站提供的新闻推送功能要求能够从大量的用户产生的信息当中提取特定用户感兴趣的内容，推送给用户。这实际上是一个分布式运算模型，要能够把任务分布到多台服务器上面执行，最后把任务归并回来。adam pisoni没有找到合适的框架，最终自己开发了skynet，运用map/reduce算法来提供这个分布式运算平台。

用skynet开发map/reduce的分布式应用程序非常简单，让我们举一个简单的例子看看吧：假设有一个1gb的文本文件，我们的任务是要统计该文件当中每个单词出现的次数统计。传统的做法当然很简单，顺序读入文件内容，进行单词统计就行了，但是毫无疑问，执行速度会很慢。如果我们有一个1000台服务器的运算群集，我们可以如何利用skeynet来并发执行这个程序，从而缩短统计时间呢？

map/reduce算法的过程是：

1、partition(划分数据)
把数据划分为1000份，这个过程由skynet自动完成

2、map
除了划分数据，还需要把运算该数据的代码也map到每个运算节点上面去并发执行。这1000个节点各自执行自己的任务，执行完毕以后把执行结果返回

3、partition
这1000分执行结果需要归并，于是我们再次划分数据，比方说划分为10份，这个过程也是skynet自动完成的

4、reduce
把reduce代码和reduce数据分发到10个节点执行，每个节点执行完毕返回数据。如果需要再次reduce可以再次执行。最终reduce为一个总共的结果。

其实map/reduce算法的原理是很简单的，好了，看看skynet下面，我们怎么实现呢？其实我们需要编写的代码只有两个方法：一个map方法，告诉skynet如何执行每份数据，一个reduce方法，告诉skynet如何归并每份数据，所以这个并行算法最终用skynet来写的话，也非常简单：

  class mapreducetest
    include skynetdebugger
           
    def self.map(datas)
      results = {}
      datas.each do |data|
        results[data] ||= 0
        results[data] += 1
      end                
      [results]     
    end
   
    def self.reduce(datas)
      results = {}
      datas.each do |hashes|
        hashes.each do |key,value|
          results[key] ||= 0
          results[key] += value
        end
      end
      results
    end
  end

这个就是一个最简单、但是完整ruby版本的map/reduce代码了。我们需要编写一个map方法，告诉skynet去统计每个单词的出现次数，我们还需要编写一个reduce方法告诉skynet去归并每个map的统计结果。好了，剩下所有的工作都归skeynet接管了，是不是很简单！

当然要让这个map/reduce跑起来我们还需要做一些工作，比方说安装skynet，配置skynet的并行节点等等，这些琐碎的工作可以看看skynet自己的文档：，就不详述了。

值得一提的是skynet可以和rails框架良好的整合起来工作，你可以把rails当中一些非常耗时、可以map/reduce的工作丢给skynet去异步后台执行，比方说：

mymodel.distributed_find(:all, :conditions => “created_on < '#{3.days.ago}'”).each(:some_method)

把最近3天以来所有的model查询处理以后要执行的耗时操作some_method交给skynet，让skynet动用他强大的运算网络去执行。

还可以异步执行：

model_object.send_later(:method, options, :save) 

把耗时的任务交给skynet去异步执行。

对于拥有强大运算网络、并且需要进行大量耗时运算的web2.0网站来说，skynet真是一个很棒的工具，他可以让程序员很简单的编写处理健壮而高效的分布式应用程序！