logstash grok使用案例:php-slow日志的匹配

在 logstash 的使用中,我遇到最多的问题是通过 grok 对日志清洗的正则规则使用了,把案例记录一下,以便存档吧。 logstash 本身提供了一个 grok 预定义常用表达式的文件,包括%{USER}、%{IP}、%{NUMBER} 、%{DATA}等,可以通过这来了解一下基本的正则写法。路径如下: /usr/share/logstash/vendor/bundle/jruby/1.9/gems/logstash-patterns-core-4.0.2/patterns/grok-patterns 这是我们要处理的PHP的slow日志,经过filebeats多行合并之后,我们可以把每… 继续阅读 logstash grok使用案例:php-slow日志的匹配

ELKtrack日志收集分析的实验

实验结构 filebeat –> logstash –> elasticsearch –> kibana 说明: ELK是实时日志处理领域的第一开源选择,基于实时全文索引,统一的配置语言,支持集群线性扩展,这次实验设计的各种软件均属于ELK的套件工具。 filebeat 是一个轻量的日志采集器,安装在各应用服务器,其实logstash也可以实现此功能不过过于笨重,其监控所定义的日志文件,然后根据配置统一输出到logstash,当然也可直接输出到elasticsearch或redis,但是filebeat只支持多行合并和简单过滤控制,我们需要… 继续阅读 ELKtrack日志收集分析的实验

知乎:中小学教育社区产品问答

在知乎竟然有人邀请答题,好吧,正好把最近所想稍稍整理了一段,快媒体适应以后也很少发blog,就把这也作为一篇博文吧。 感觉在知乎上关注教育的人不少,但对中小学教育关注的貌似不多。 链接地址:http://www.zhihu.com/question/21438480  谢邀,在回答问题之前,先谈谈我对互联网与中小学教育的一点点认识,也作为对于中小学社交系统的一点交流。以下教育特指中小学教育,这里不涉及大学和社会职业教育领域方面。 义务和高中教育是一个很复杂的领域,涉及的对象很多,从教育管理者(省市县区校各级行政从业人员)、研究者(教课教研部门的从业者)、教师(科目老师班主任等)、学生(小初高)… 继续阅读 知乎:中小学教育社区产品问答

在centos6上建立openvpn server

工作需要建个vpn,便于远程到内网环境来开发,内部设备也好维护。使用centos6自带的openvpn rpm包即可。 # yum install openvpn # cd /etc/openvpn # cp /usr/share/doc/openvpn-2.2.2/sample-config-files/server.conf ./ # mkdir -p easy-rsa/keys # cd easy-rsa/ # cp /usr/share/openvpn/easy-rsa/2.0/* ./ # source ./vars # ./clean-all 建立公用证书 # ./build-ca… 继续阅读 在centos6上建立openvpn server

为什么选择教育社区

在教育信息中心的泥沼里沦陷了十多年,前五年应该属于学习成长期,互联网行业的发展远远没有如今的成熟,所有的一切工作都是从零开始,所有的一切都很刺激兴奋,让人很有成就感,所以很感激有这样的环境。但是后面的若干年,工作环境的发展已经远远落后于行业的发展,个人也陷于各种的事务,物质环境的成熟让人也逐渐懈怠和停滞,个人感觉这是一件挺可怕的事儿。 我不是决策层,所以仅就从业务层面来谈谈,我为什么要选择教育社区。 在去年底,那次头脑风暴的闭关中涌现出来的教育社区的想法,并不是一时兴起。就信息中心现有的网站来说,真正和教育相关的都是教育管理性的平台,其他一些更多的属于行政事务的资讯发布,并没有什么社会化的流量… 继续阅读 为什么选择教育社区