

0
0
Apache SparkÕâ¿î¹¤¾ßÖ÷ÒªÊÇÓÃÓÚ´ó¹æÄ£Êý¾Ý´¦ÀíµÄ¿ìËÙͨÓÃÒýÇæ|£¬´Ë¹¤¾ßÓëMapReduce²»Í¬£¬Spark²¢²»¾ÖÏÞÓÚ±àдmapºÍreduceÁ½¸ö·½·¨£¬ÆäÌṩÁ˸üΪǿ´óµÄÄÚ´æ¼ÆËã(in-memory computing)Ä£ÐÍ£¬Ê¹µÃÓû§¿ÉÒÔͨ¹ý±à³Ì½«Êý¾Ý¶ÁÈ¡µ½¼¯ÈºµÄÄÚ´æµ±ÖУ¬²¢ÇÒ¿ÉÒÔ·½±ãÓû§¿ìËÙµØÖظ´²éѯ£¬·Ç³£ÊʺÏÓÃÓÚʵÏÖ»úÆ÷ѧϰËã·¨¡£
SparkÊÇÒ»¸ö»ùÓÚÄÚ´æ¼ÆËãµÄ¿ªÔ´¼¯Èº¼ÆËãϵͳ£¬Ä¿µÄÊǸü¿ìËٵĽøÐÐÊý¾Ý·ÖÎö¡£SparkÓɼÓÖݲ®¿ËÀû´óѧAMPʵÑéÊÒMateiΪÖ÷µÄСÍŶÓʹÓÃScala¿ª·¢¿ª·¢£¬ÆäºËÐIJ¿·ÖµÄ´úÂëÖ»ÓÐ63¸öScalaÎļþ£¬·Ç³£ÇáÁ¿¼¶¡£ Spark ÌṩÁËÓë Hadoop ÏàËÆµÄ¿ªÔ´¼¯Èº¼ÆËã»·¾³£¬µ«»ùÓÚÄÚ´æºÍµü´úÓÅ»¯µÄÉè¼Æ£¬Spark ÔÚijЩ¹¤×÷¸ºÔرíÏÖ¸üÓÅÐã¡£
1. ÇáÁ¿¼¶¿ìËÙ´¦Àí¡£×ÅÑÛ´óÊý¾Ý´¦Àí£¬ËÙ¶ÈÍùÍù±»ÖÃÓÚµÚһ룬ÎÒÃǾ³£Ñ°ÕÒÄܾ¡¿ì´¦ÀíÎÒÃÇÊý¾ÝµÄ¹¤¾ß¡£SparkÔÊÐíHadoop¼¯ÈºÖеÄÓ¦ÓóÌÐòÔÚÄÚ´æÖÐÒÔ100±¶µÄËÙ¶ÈÔËÐУ¬¼´Ê¹ÔÚ´ÅÅÌÉÏÔËÐÐÒ²ÄÜ¿ì10±¶¡£Sparkͨ¹ý¼õÉÙ´ÅÅÌIOÀ´´ïµ½ÐÔÄÜÌáÉý£¬ËüÃǽ«Öм䴦ÀíÊý¾ÝÈ«²¿·Åµ½ÁËÄÚ´æÖС£
SparkʹÓÃÁËRDD£¨Resilient Distributed Dataset£©µÄÀíÄÕâÔÊÐíËü¿ÉÒÔ͸Ã÷µÄÄÚ´æÖд洢Êý¾Ý£¬Ö»ÔÚÐèҪʱ²Å³Ö¾Ã»¯µ½´ÅÅÌ¡£ÕâÖÖ×ö·¨´ó´óµÄ¼õÉÙÁËÊý¾Ý´¦Àí¹ý³ÌÖдÅÅ̵ĶÁд£¬´ó·ù¶ÈµÄ½µµÍÁËËùÐèʱ¼ä¡£
2. Ò×ÓÚʹÓã¬SparkÖ§³Ö¶àÓïÑÔ¡£SparkÔÊÐíJava¡¢Scala¼°Python£¬ÕâÔÊÐí¿ª·¢ÕßÔÚ×Ô¼ºÊìϤµÄÓïÑÔ»·¾³Ï½øÐй¤×÷¡£Ëü×Ô´øÁË80¶à¸ö¸ßµÈ¼¶²Ù×÷·û£¬ÔÊÐíÔÚshellÖнøÐн»»¥Ê½²éѯ¡£
3. Ö§³Ö¸´ÔÓ²éѯ¡£ÔÚ¼òµ¥µÄ¡°map¡±¼°¡°reduce¡±²Ù×÷Ö®Í⣬Spark»¹Ö§³ÖSQL²éѯ¡¢Á÷ʽ²éѯ¼°¸´ÔÓ²éѯ£¬±ÈÈ翪Ïä¼´ÓõĻúÆ÷ѧϰ»úͼËã·¨¡£Í¬Ê±£¬Óû§¿ÉÒÔÔÚͬһ¸ö¹¤×÷Á÷ÖÐÎÞ·ìµÄ´îÅäÕâЩÄÜÁ¦¡£
4. ʵʱµÄÁ÷´¦Àí¡£¶Ô±ÈMapReduceÖ»ÄÜ´¦ÀíÀëÏßÊý¾Ý£¬SparkÖ§³ÖʵʱµÄÁ÷¼ÆËã¡£SparkÒÀÀµSpark Streaming¶ÔÊý¾Ý½øÐÐʵʱµÄ´¦Àí£¬µ±È»ÔÚYARNÖ®ºóHadoopÒ²¿ÉÒÔ½èÖúÆäËûµÄ¹¤¾ß½øÐÐÁ÷ʽ¼ÆËã¡¢¡£¶ÔÓÚSpark Streaming£¬ClouderaµÄÆÀ¼ÛÊÇ£º
¼òµ¥£ºÇáÁ¿¼¶ÇҾ߱¸¹¦ÄÜÇ¿´óµÄAPI¡¢£¬Sparks StreamingÔÊÐíÄã¿ìËÙ¿ª·¢Á÷Ó¦ÓóÌÐò¡¢¡£
ÈÝ´í£º²»ÏñÆäËûµÄÁ÷½â¾ö·½°¸£¬±ÈÈçStorm¡¢£¬ÎÞÐè¶îÍâµÄ´úÂëºÍÅäÖᢣ¬Spark Streaming¾Í¿ÉÒÔ×ö´óÁ¿µÄ»Ö¸´ºÍ½»¸¶¹¤×÷¡£
¼¯³É£ºÎªÁ÷´¦ÀíºÍÅú´¦ÀíÖØÓÃÁËͬÑùµÄ´úÂë¡¢£¬ÉõÖÁ¿ÉÒÔ½«Á÷Êý¾Ý±£´æµ½ÀúÊ·Êý¾ÝÖС¢¡£
5. ¿ÉÒÔÓëHadoopºÍÒÑ´æHadoopÊý¾ÝÕûºÏ¡£Spark¿ÉÒÔ¶ÀÁ¢µÄÔËÐС¢£¬³ýÁË¿ÉÒÔÔËÐÐÔÚµ±ÏµÄYARN¼¯Èº¹ÜÀíÖ®Íâ¡¢£¬Ëü»¹¿ÉÒÔ¶ÁÈ¡ÒÑÓеÄÈκÎHadoopÊý¾Ý¡£ÕâÊǸö·Ç³£´óµÄÓÅÊÆ¡¢£¬Ëü¿ÉÒÔÔËÐÐÔÚÈκÎHadoopÊý¾ÝÔ´ÉÏ¡¢£¬±ÈÈçHBase¡¢HDFSµÈ¡¢¡£Õâ¸öÌØÐÔÈÃÓû§¿ÉÒÔÇáÒ×Ç¨ÒÆÒÑÓÐHadoopÓ¦Óᢣ¬Èç¹ûºÏÊʵϰ¡£
6. »îÔ¾ºÍÎÞÏÞ׳´óµÄÉçÇø¡¢¡£SparkÆðÔ´ÓÚ2009Äê¡¢£¬µ±ÏÂÒÑÓг¬¹ý50¸ö»ú¹¹250¸ö¹¤³Ìʦ¹±Ï×¹ý´úÂ룬ºÍÈ¥ÄêÁùÔÂÏà±È¡¢£¬´úÂëÐÐÊý¼¸ºõÀ©´óÈý±¶¡¢£¬ÕâÊǸöÁîÈËÑÞÏÛµÄÔö³¤¡£
Sparkͨ¹ýÔÚÊý¾Ý´¦Àí¹ý³ÌÖгɱ¾¸üµÍµÄÏ´ÅÆ£¨Shuffle£©·½Ê½£¬½«MapReduceÌáÉýµ½Ò»¸ö¸ü¸ßµÄ²ã´Î¡¢¡£ÀûÓÃÄÚ´æÊý¾Ý´æ´¢ºÍ½Ó½üʵʱµÄ´¦ÀíÄÜÁ¦¡¢£¬Spark±ÈÆäËûµÄ´óÊý¾Ý´¦Àí¼¼ÊõµÄÐÔÄÜÒª¿ìºÜ¶à±¶¡£
Spark»¹Ö§³Ö´óÊý¾Ý²éѯµÄÑÓ³Ù¼ÆËã©§£¬Õâ¿ÉÒÔ°ïÖúÓÅ»¯´óÊý¾Ý´¦ÀíÁ÷³ÌÖеĴ¦Àí²½Öè©§¡£Spark»¹Ìṩ¸ß¼¶µÄAPIÒÔÌáÉý¿ª·¢ÕßµÄÉú²úÁ¦©§£¬³ý´ËÖ®Í⻹Ϊ´óÊý¾Ý½â¾ö·½°¸ÌṩһÖµÄÌåϵ¼Ü¹¹Ä£ÐÍ©§¡£
Spark½«Öмä½á¹û±£´æÔÚÄÚ´æÖжø²»Êǽ«ÆäдÈë´ÅÅÌ£¬µ±ÐèÒª¶à´Î´¦ÀíͬһÊý¾Ý¼¯Ê±©§£¬ÕâÒ»µãÌØ±ðʵÓé§¡£SparkµÄÉè¼Æ³õÖÔ¾ÍÊǼȿÉÒÔÔÚÄÚ´æÖÐÓÖ¿ÉÒÔÔÚ´ÅÅÌÉϹ¤×÷µÄÖ´ÐÐÒýÇæ¡£µ±ÄÚ´æÖеÄÊý¾Ý²»ÊÊÓÃʱ©§£¬Spark²Ù×÷·û¾Í»áÖ´ÐÐÍⲿ²Ù×÷©§¡£Spark¿ÉÒÔÓÃÓÚ´¦Àí´óÓÚ¼¯ÈºÄÚ´æÈÝÁ¿×ܺ͵ÄÊý¾Ý¼¯¡£
Spark»á³¢ÊÔÔÚÄÚ´æÖд洢¾¡¿ÉÄܶàµÄÊý¾ÝÈ»ºó½«ÆäдÈë´ÅÅÌ©§¡£Ëü¿ÉÒÔ½«Ä³¸öÊý¾Ý¼¯µÄÒ»²¿·Ö´æÈëÄÚ´æ¶øÊ£Óಿ·Ö´æÈë´ÅÅÌ©§¡£¿ª·¢ÕßÐèÒª¸ù¾ÝÊý¾ÝºÍÓÃÀýÆÀ¹À¶ÔÄÚ´æµÄÐèÇó©§¡£SparkµÄÐÔÄÜÓÅÊÆµÃÒæÓÚÕâÖÖÄÚ´æÖеÄÊý¾Ý´æ´¢©§¡£
SparkµÄÆäËûÌØÐÔ°üÀ¨£º
Ö§³Ö±ÈMapºÍReduce¸ü¶àµÄº¯Êý¡£
ÓÅ»¯ÈÎÒâ²Ù×÷Ëã×Óͼ£¨operator graphs£©©§¡£
¿ÉÒÔ°ïÖúÓÅ»¯ÕûÌåÊý¾Ý´¦ÀíÁ÷³ÌµÄ´óÊý¾Ý²éѯµÄÑÓ³Ù¼ÆËã©§¡£
Ìṩ¼òÃ÷¡¢Ò»ÖµÄScala©§£¬JavaºÍPython API©§¡£
Ìṩ½»»¥Ê½ScalaºÍPython Shell¡£Ä¿Ç°Ôݲ»Ö§³ÖJava©§¡£
SparkÊÇÓÃScala³ÌÐòÉè¼ÆÓïÑÔ±àд¶ø³É©§£¬ÔËÐÐÓÚJavaÐéÄâ»ú£¨JVM£©»·¾³Ö®ÉÏ¡£Ä¿Ç°Ö§³ÖÈçϳÌÐòÉè¼ÆÓïÑÔ±àдSparkÓ¦Óãº
Scala
Java
Python
Clojure
R
70KB / 03-27
ϵͳÆäËû
ÏÂÔØ
21.5M / 02-01
ÓÎÏ·²¹¶¡
ÏÂÔØ
231KB / 09-26
ϵͳÓÅ»¯
ÏÂÔØ
ÐÖµÜcontrol center4´òÓ¡»úÇý¶¯
Ó²¼þÇý¶¯ / 134.3M
ÏÂÔØ
1
p2psearcher3.5ÂÌÉ«Ãâ·Ñ°æ
ËÑË÷²éÕÒ / 1.5M
ÏÂÔØ
2
bluetoothÍâΧÉ豸Çý¶¯³ÌÐò
Ó²¼þÇý¶¯ / 12.7M
ÏÂÔØ
3
Vista Start Menu Free¸ü»»ÏµÍ³¿ªÊ¼²Ëµ¥v.3.88 ÂÌÉ«¶àÓï°æ
ϵͳÓÅ»¯ / 9.4M
ÏÂÔØ
4
UUID Factory(µçÄÔuuidʶ±ðÂëÉú³É¹¤¾ß£©V2.2.0.3310 ÂÌÉ«°æ
ϵͳÆäËû / 2.0M
ÏÂÔØ
5
ExeWatch(¿ÉÖ´ÐÐÎļþ¼àÊÓ¹¤¾ß)V1.30 ÂÌÉ«°æ
ϵͳÆäËû / 203KB
ÏÂÔØ
6
CrystalDiskInfo´ÅÅ̼ì²â¹¤¾ßÖÐÎÄÂÌÉ«°æv7.5.0
´ÅÅ̹¤¾ß / 14M
ÏÂÔØ
7
΢ÈíMicrosoft Visual C++ 2015SP1(x64) 64λÔËÐпâ
Ó²¼þÇý¶¯ / 13.7M
ÏÂÔØ
8
ºìÃ×ProÇý¶¯¹Ù·½°æ
Ó²¼þÇý¶¯ / 18.4M
ÏÂÔØ
9
²âÊÔµçÄÔÖÜΧÔëÒô·Ö±´µÄÃâ·ÑÈí¼þv1.0 ÂÌÉ«°æ
ϵͳÆäËû / 141KB
ÏÂÔØ
10
140.5M / 09-05
Á¢¼´ÏÂÔØ
76.4M / 03-25
Á¢¼´ÏÂÔØ
55M / 06-05
Á¢¼´ÏÂÔØ
88.7M / 04-13
Á¢¼´ÏÂÔØ
900.9M / 03-02
Á¢¼´ÏÂÔØ
96.2M / 07-06
Á¢¼´ÏÂÔØ
311.2M / 07-06
Á¢¼´ÏÂÔØ
335M / 07-06
Á¢¼´ÏÂÔØ
ǰ³ÌËÆ½õ(Excellent Expectations)
200M / 07-06
Á¢¼´ÏÂÔØ
413.8M / 07-06
Á¢¼´ÏÂÔØ
x8ɳÏ䰲׿Ãâ·Ñ°æ2023¹Ù·½×îаæ
480.3M / 01-03
Á¢¼´ÏÂÔØ
768.9M / 08-19
Á¢¼´ÏÂÔØ
165.4M / 09-05
Á¢¼´ÏÂÔØ
131.8M / 04-13
Á¢¼´ÏÂÔØ
195.6M / 03-03
Á¢¼´ÏÂÔØ
45.6M / 09-08
Á¢¼´ÏÂÔØ
665.2M / 07-06
Á¢¼´ÏÂÔØ
2.84G / 07-06
Á¢¼´ÏÂÔØ
93M / 07-06
Á¢¼´ÏÂÔØ
338.3M / 07-06
Á¢¼´ÏÂÔØ
959.8M / 12-24
Á¢¼´ÏÂÔØ 312M / 07-30
Á¢¼´ÏÂÔØ 1.38G / 07-26
Á¢¼´ÏÂÔØ DZͧΰΰÃÔÖ²Îï´óÕ½½©Ê¬ÔÓ½»°æµçÄÔ°æ
109.8M / 06-03
Á¢¼´ÏÂÔØ 142M / 01-08
Á¢¼´ÏÂÔØ 1.2M / 11-23
Á¢¼´ÏÂÔØ 548.8M / 04-13
Á¢¼´ÏÂÔØ 1.6M / 04-13
Á¢¼´ÏÂÔØ 1.48G / 03-18
Á¢¼´ÏÂÔØ 646.6M / 03-03
Á¢¼´ÏÂÔØ 401.9M / 01-06
Á¢¼´ÏÂÔØ 1.89G / 12-19
Á¢¼´ÏÂÔØ 110.5M / 09-05
Á¢¼´ÏÂÔØ 33.4M / 09-05
Á¢¼´ÏÂÔØ 60M / 04-29
Á¢¼´ÏÂÔØ 254M / 04-25
Á¢¼´ÏÂÔØ 659M / 04-23
Á¢¼´ÏÂÔØ up¶Ôսƽ̨ºÐ×Ó¹Ù·½ÏÂÔØ2023×îаæ
253.4M / 12-08
Á¢¼´ÏÂÔØ 253M / 12-08
Á¢¼´ÏÂÔØ 1.19G / 11-16
Á¢¼´ÏÂÔØ 118.2M / 01-06
Á¢¼´ÏÂÔØ 488.3M / 06-04
Á¢¼´ÏÂÔØ 369M / 09-22
Á¢¼´ÏÂÔØ 181.5M / 09-22
Á¢¼´ÏÂÔØ 201.2M / 09-05
Á¢¼´ÏÂÔØ 248.9M / 12-08
Á¢¼´ÏÂÔØ 248.9M / 12-08
Á¢¼´ÏÂÔØ 100.6M / 03-06
Á¢¼´ÏÂÔØ 148.9M / 03-06
Á¢¼´ÏÂÔØ 1.12G / 07-06
Á¢¼´ÏÂÔØ 126.7M / 02-04
Á¢¼´ÏÂÔØ 1.76G / 09-22
Á¢¼´ÏÂÔØ 1.92G / 04-17
Á¢¼´ÏÂÔØ 201.5M / 04-13
Á¢¼´ÏÂÔØ 7.31G / 07-01
Á¢¼´ÏÂÔØ 94.3M / 07-06
Á¢¼´ÏÂÔØ 2.48G / 07-06
Á¢¼´ÏÂÔØ 7.63G / 07-06
Á¢¼´ÏÂÔØ 1M / 07-06
Á¢¼´ÏÂÔØ 778.1M / 07-06
Á¢¼´ÏÂÔØ 1.40G / 12-19
Á¢¼´ÏÂÔØ 72M / 07-06
Á¢¼´ÏÂÔØ 548.7M / 07-06
Á¢¼´ÏÂÔØ 1.00G / 07-06
Á¢¼´ÏÂÔØ 9.13G / 07-06
Á¢¼´ÏÂÔØ 126.2M / 07-06
Á¢¼´ÏÂÔØ 72M / 07-06
Á¢¼´ÏÂÔØ 105.1M / 07-06
Á¢¼´ÏÂÔØ 132M / 07-06
Á¢¼´ÏÂÔØ 132M / 07-06
Á¢¼´ÏÂÔØ bonbonjump°²×¿¹Ù·½ÏÂÔØ2023×îаæ
13.4M / 01-03
Á¢¼´ÏÂÔØ 293.0M / 09-05
Á¢¼´ÏÂÔØ 1.22G / 07-06
Á¢¼´ÏÂÔØ 20.53G / 07-06
Á¢¼´ÏÂÔØ 229.9M / 07-06
Á¢¼´ÏÂÔØ 3.70G / 07-06
Á¢¼´ÏÂÔØ 904.0M / 07-06
Á¢¼´ÏÂÔØ 15.84G / 07-06
Á¢¼´ÏÂÔØ 45.50G / 07-06
Á¢¼´ÏÂÔØ 1.02G / 07-06
Á¢¼´ÏÂÔØ Copyright 2010-2025 µ¥»úÓÎÏ·ÏÂÔØ (R) °æÈ¨ËùÓÐ ·ÉÏèÏÂÔØËùÓÐÓÎÏ·¼°Èí¼þÏÂÔØ×ÊÔ´À´Ô´»¥ÁªÍø£¬²¢ÓÉÍøÓÑÉÏ´«·ÖÏí¡£ÈçÓÐÇÖȨ|£¬ÇëÀ´µçÀ´º¯¸æÖ®|¡£
·ÉÏèÖҸ棺µÖÖÆ²»Á¼É«Çé¡¢·´¶¯|¡¢±©Á¦ÓÎÏ· ºÏÀí°²ÅÅÓÎϷʱ¼ä ÏíÊܽ¡¿µÉú»î ¶õ¹«Íø°²±¸£º42011102003115ºÅ ¡¾¶õICP±¸17000818ºÅ-1¡¿