Python实现的分布式计算框架:DPark -电脑资料

DPark 是 Spark 的 Python 克隆,是一个Python实现的分布式计算框架,可以非常方便地实现大规模数据处理和迭代计算,

Python实现的分布式计算框架:D

Park

。 DPark 由豆瓣实现,目前豆瓣内部的绝大多数数据分析都使用DPark 完成,正日趋完善。

import dpark file = dpark.textFile("/tmp/words.txt") words = file.flatMap(lambda x:x.split()).map(lambda x:(x,1)) wc = words.reduceByKey(lambda x,y:x+y).collectAsMap() print wc

项目主页:http://www.open-open.com/lib/view/home/1370500999727

相关文章

中秋节由来与传说

快到中秋了,看着天上那轮圆月,我就想到了中秋的圆月,然后,我想起了那个关于中秋节的来历和传说。下面是小编为您带来的中秋节的由来与传说,欢迎阅读!  中秋节由来与传说  中秋节有悠久的历史,和其它传统节...
资料大全2017-04-03
中秋节由来与传说

清晨赖床不起易生病?应培养正确的睡眠习惯

早晨闹钟响了,是不是总想多赖一会儿?即使起来了也是昏头胀脑的?大学网准备了几个个小窍门,帮你从半梦半醒到神清气爽,告别“起床气”,试试看,美妙的清晨在等着你。清晨赖床不起易生病?应培养正确的睡眠习惯清...
资料大全2017-06-05
清晨赖床不起易生病?应培养正确的睡眠习惯

金钗石斛功效与作用

金钗石斛,又名金钗石、扁金钗、扁黄草、扁草,性寒,味甘、淡、微咸;是我国传统的名贵中药,民间有“救命仙草”之称,在“神农本草经”中列为上品。以铁皮石斛加工的“枫斗”或“耳环石斛”,被称为“金耳环”、“...
资料大全2017-06-09
金钗石斛功效与作用

公司年会抽奖奖品方案

为了确保工作或事情能有条不紊地开展,时常需要预先制定方案,一份好的方案一定会注重受众的参与性及互动性。那么问题来了,方案应该怎么写?下面是小编精心整理的公司年会抽奖奖品方案,希望能够帮助到大家。  公...
资料大全2018-03-04
公司年会抽奖奖品方案

如果以企业违反劳动法第38条规定,那我该怎么写,写完以后怎么办?

如果以企业违反劳动法第38条规定,那我该怎么写,写完以后怎么办?[如果以企业违反劳动法第38条规定,那我该怎么写,写完以后怎么办?]...
资料大全2017-09-07
如果以企业违反劳动法第38条规定,那我该怎么写,写完以后怎么办?

剪纸校本课程实施方案

为了保障事情或工作顺利、圆满进行,常常需要提前制定一份优秀的方案,方案是书面计划,具有内容条理清楚、步骤清晰的特点。你知道什么样的方案才能切实地帮助到我们吗?以下是小编整理的剪纸校本课程实施方案,希望...
资料大全2017-04-09
剪纸校本课程实施方案