用Spark实现日志解析
admin
2023-07-31 01:52:12
0次

当下数据矿工们谈论最多的，莫过于这「星火」了。Spark这名字，总让我联想起高中背过的单词书，从而印象不佳，哈哈。
今天也凑了把热闹，把一个日志解析的模块改成Spark实现，算是体验之旅吧。
刚开始我是用看起来很像Swift的Scala写的：SparkLogExtract.scala
然后我希望为这个程序增加参数传入的功能，然后我谷歌大法了，然后就没有然后了。
总体感觉Scala是一个不够可爱的姑娘，表现在：

  1. 语法似乎还没进入稳定状态，像列表扩展、正则匹配这样基础的API都能搜出一大堆眼花缭乱的做法。
  2. 没有break和continue的日子里我真的很想他们……
  3. SBT对天朝子民真的很慢！
  4. 虽然提供了Shell，可提交还是要编译的好不。
  5. 长得不好看，函数没有「return」真的充满了违和感（咦，我怎么会用违和感这种高级词汇？）

当然要换回熟悉的Python！
接下来就爽快多了，除了map的函数传参遇到了困难（最后我恶心地用一个lambda调用普通函数搞定了），其他一帆风顺，运行速度和Scala一样快的（嘿嘿）。
代码请见：spark_log_extract.py
求赐星星！

来自：建造者说

python scala 日志分析 apachespark

上一篇：python functools

下一篇：python 加速库 cytoolz

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联，打开，勾选电子书文件选项就可以了。
500 行 Python 代码... 语法分析器描述了一个句子的语法结构，用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义，以我们...
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完，导致很多软件没法再运行。经过仔细检查发现是C:\Program...
65536是2的几次方 计算2... 65536是2的16次方：65536=2⁶ 65536是256的2次方：65536=256 6553...
小程序支付时提示：appid和... [Q]小程序支付时提示：appid和mch_id不匹配 [A]小程序和微信支付没有进行关联，访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈，微信小程序里面的音频播放是没有进度条的，但最近有个项目呢，客户要求音频要有进度条控制，所...
Apache Doris 2.... 亲爱的社区小伙伴们，我们很高兴地向大家宣布，Apache Doris 2.0.0 版本已于...
python清除字符串里非数字... 本文实例讲述了python清除字符串里非数字字符的方法。分享给大家供大家参考。具体如下： impor...