博主呓语:

nginx分析日志利器goaccess安装

Posted by 破冰 on 2016-11-30 15:43 Wednesday

它是一个日志分析工具,并不只是为nginx使用的。你也可以用它来分析apache,IIS的日志,甚至你自己写的web服务,当然前提是你需要定义好解析的日志格式

1 解析速度快

2 使用简单
3 能生成html,json,csv

yum install glib2 glib2-devel GeoIP-devel  ncurses-devel zlib zlib-devel
$ wget http://tar.goaccess.io/goaccess-1.1.1.tar.gz
$ tar -xzvf goaccess-1.1.1.tar.gz
$ cd goaccess-1.1.1/
$ ./configure --enable-geoip --enable-utf8
$ make
# make install

或者直接安装:
CentOS/RedHat:
yum install goaccess

Debian/Ubuntu:
apt-get install goaccess

日志格式:
%t 时间字段匹配的time_format变量。
%d 字段匹配的date_format变量。
%h host(客户端IP地址,IPv4或IPv6)
%r 请求从客户端。这需要特定的分隔符全要求(如单引号,双引号,或者别的什么东西)来解析。如果不是,我们必须结合使用特殊格式说明符 %m %U %H
%m 请求的方法。
%U 在URL路径的要求(包括任何查询字符串)。
%H 请求协议。
%s 状态码,服务器发送回客户端。
%b 对象的大小返回给客户端。
%R 以上的referer HTTP请求头。
%u 在用户代理HTTP请求头。
%D 时间服务请求,在微秒。
%T 时间,服务要求,在秒。注:%D先于%T如果同时使用。
%^ 忽略这一领域

控制台使用GoAccess
F1 主帮助页面
F5 重绘主窗口
q 退出程序或者当前{详细视图}(窗口)
o 打开当前激活模块的详细视图
c 设置或改变配色方案
TAB 向前迭代模块。从当前激活模块开始。
SHIFT + TAB 向后迭代模块。从当前激活模块开始。
RIGHT ARROW 打开当前激活模块的详细视图
0-9 激活模块,这样用户就可以使用^o^或^RIGHT ARROW^打开{详细视图}
SHIFT + 0-9 激活超过10的模块
s 根据日期进行独立访客排序。仅在独立访客模块(1)有效。
S 根据点击数进行独立访客排序。仅在独立访客模块(1)有效。
/ 向前在任意{详细视图}窗口搜索输入模式(pattern)。
n 在任意{详细视图}窗口中找到下一次出现的位置。
t 跳到第一个条目或屏幕顶端
b 跳到最后一个条目或者屏幕底部

启动参数介绍
-b 流量消耗统计,如果想要提高解析速度,不要开启这个选项。缺省值为不开启此选项
-f 日志文件路径。
-s HTTP 状态码报告,为了能够更好的解析日志,选项被默认关闭。 -e 指定IP地址的访问统计。
-a 通过代理的请求统计。
-d --with-output-resolver 在HTML输出或者json输出中开启IP 解析,如果开启了-d,goaccess就会使用GEOIP来进行IP解析。
-e --exclude-ip=<ip address> Host模块中不需要被统计的IP,比如可以将爬虫的IP过滤掉
-h --help 帮助文档
-H --http-protocol 显示的时候是否带上HTTP协议信息
-m --with-mouse 控制面板开启支持鼠标点击,带上了m之后,双击鼠标就相当于回车的操作
-M --http-method 是否带上HTTP方法信息
-o --output-format=csv|json 输出为csv或者json形式
-p --conf-file=<filename> 指定配置文件,如果你有配置文件,配置文件中又恰巧设置了log-format和date,那么你就不会被强制进入到format对话框了。如果你没有设置的话,默认使用~/.goacessrc。
-q --no-query-string 忽略请求的参数部分
-r --no-term-resolver 在Host模块中是否进行IP的解析。加上-r是禁止IP解析。
--no-color 输出无颜色标示
--real-os 展示真实的操作系统。在Operation System模块中,是否展示更详细的操作系统信息。

控制台登录

goaccess -a -d -f /var/log/apache2/access.log -p /etc/goaccess.conf

Nginx日志是属于Combined Log Format (XLF/ELF)类型的,所以我们选择第三个。用上下光标移动,空格选中,回车确定。

QQ图片20161130154228.png

生成html页面展示
goaccess -a -d -f /var/log/apache2/access.log -p /etc/goaccess.conf >/tmp/xxx/index.html


参考:

https://www.fancycoding.com/log-analyse-using-goaccess/

https://wsgzao.github.io/post/goaccess/

http://www.jianshu.com/p/33e2e79d0373

https://goaccess.io/download

发表评论: