欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

大数据之nginx+js点击流日志采集服务部署教程

程序员文章站 2022-06-20 18:05:41
点击流日志采集服务部署 1、服务器中安装依赖 yum -y install gcc perl pcre-devel openssl openssl-devel 2、上传lua...

点击流日志采集服务部署

1、服务器中安装依赖

yum -y install gcc perl pcre-devel openssl openssl-devel

2、上传luajit-2.0.4.tar.gz并安装luajit

tar -zxvf luajit-2.0.4.tar.gz -c /usr/local/src/

cd /usr/local/src/luajit-2.0.4/

make && make install prefix=/usr/local/luajit

3、设置luajit环境变量

vi /etc/profile 添加如下内容:

export luajit_lib=/usr/local/luajit/lib

export luajit_inc=/usr/local/luajit/include/luajit-2.0

source /etc/profile

4、创建modules保存nginx的模块

mkdir -p /usr/local/nginx/modules

5、上传依赖的模块

?set-misc-nginx-module-0.29.tar.gz

?lua-nginx-module-0.10.0.tar.gz

?ngx_devel_kit-0.2.19.tar.gz

?echo-nginx-module-0.58.tar.gz

6、将依赖的模块直接解压到/usr/local/nginx/modules目录

tar -zxvf lua-nginx-module-0.10.0.tar.gz -c /usr/local/nginx/modules/

tar -zxvf set-misc-nginx-module-0.29.tar.gz -c /usr/local/nginx/modules/

tar -zxvf ngx_devel_kit-0.2.19.tar.gz -c /usr/local/nginx/modules/

tar -zxvf echo-nginx-module-0.58.tar.gz -c /usr/local/nginx/modules/

不需要编译安装

7、安装openresty

下载对应的安装包:openresty-1.9.7.3.tar.gz

解压:tar -zxvf openresty-1.9.7.3.tar.gz -c /usr/local/src/

编译安装openresty:

cd /usr/local/src/openresty-1.9.7.3/

执行命令:

./configure --prefix=/usr/local/openresty --with-luajit && make && make install

8、安装nginx

下载对应的安装包:nginx-1.8.1.tar.gz

解压:tar -zxvf nginx-1.8.1.tar.gz -c /usr/local/src/

9、编译nginx并支持其他模块

进入到nginx的安装目录 cd /usr/local/src/nginx-1.8.1/

执行如下命令:

./configure --prefix=/usr/local/nginx \

--with-ld-opt="-wl,-rpath,/usr/local/luajit/lib" \

--add-module=/usr/local/nginx/modules/ngx_devel_kit-0.2.19 \

--add-module=/usr/local/nginx/modules/lua-nginx-module-0.10.0 \

--add-module=/usr/local/nginx/modules/set-misc-nginx-module-0.29 \

--add-module=/usr/local/nginx/modules/echo-nginx-module-0.58

make -j2

make install

10、修改nginx的配置文件

worker_processes 2;

events {

worker_connections 1024;

}

http {

include mime.types;

default_type application/octet-stream;

log_format tick "$msec^a$remote_addr^a$u_domain^a$u_url^a$u_title^a$u_referrer^a$u_sh^a$u_sw^a$u_cd^a$u_lang^a$http_user_agent^a$u_utrace^a$u_account";

access_log logs/access.logtick;

sendfile on;

keepalive_timeout 65;

server {

listen 80;

server_name localhost;

location /1.gif {

#伪装成gif文件

default_type image/gif;

#本身关闭access_log,通过subrequest记录log

access_log off;

access_by_lua "

-- 用户跟踪cookie名为__utrace

local uid = ngx.var.cookie___utrace

if not uid then

-- 如果没有则生成一个跟踪cookie,算法为md5(时间戳+ip+客户端信息)

uid = ngx.md5(ngx.now() .. ngx.var.remote_addr .. ngx.var.http_user_agent)

end

ngx.header['set-cookie'] = {'__utrace=' .. uid .. '; path=/'}

if ngx.var.arg_domain then

-- 通过subrequest到/i-log记录日志,将参数和用户跟踪cookie带过去

ngx.location.capture('/i-log?' .. ngx.var.args .. '&utrace=' .. uid)

end

";

#此请求不缓存

add_header expires "fri, 01 jan 1980 00:00:00 gmt";

add_header pragma "no-cache";

add_header cache-control "no-cache, max-age=0, must-revalidate";

#返回一个1×1的空gif图片

empty_gif;

}

location /i-log {

#内部location,不允许外部直接访问

internal;

#设置变量,注意需要unescape

set_unescape_uri $u_domain $arg_domain;

set_unescape_uri $u_url $arg_url;

set_unescape_uri $u_title $arg_title;

set_unescape_uri $u_referrer $arg_referrer;

set_unescape_uri $u_sh $arg_sh;

set_unescape_uri $u_sw $arg_sw;

set_unescape_uri $u_cd $arg_cd;

set_unescape_uri $u_lang $arg_lang;

set_unescape_uri $u_utrace $arg_utrace;

set_unescape_uri $u_account $arg_account;

#打开日志

log_subrequest on;

#记录日志到ma.log,实际应用中最好加buffer,格式为tick

access_log /var/nginx_logs/ma.logtick;

#输出空字符串

echo '';

}

}

}

11、修改在nginx所在的服务器上添加一个ma.js

ma.js内容如下:

(function () {

var params = {};

//document对象数据

if(document) {

params.domain = document.domain || '';

params.url = document.url || '';

params.title = document.title || '';

params.referrer = document.referrer || '';

}

//window对象数据

if(window && window.screen) {

params.sh = window.screen.height || 0;

params.sw = window.screen.width || 0;

params.cd = window.screen.colordepth || 0;

}

//navigator对象数据

if(navigator) {

params.lang = navigator.language || '';

}

//解析_maq配置

if(_maq) {

for(var i in _maq) {

switch(_maq[i][0]) {

case '_setaccount':

params.account = _maq[i][1];

break;

default:

break;

}

}

}

//拼接参数串

var args = '';

for(var i in params) {

if(args != '') {

args += '&';

}

args += i + '=' + encodeuricomponent(params[i]);

}

//通过image对象请求后端脚本

var img = new image(1, 1);

img.src = 'https://xxx.xxx.xxx.xxx/log.gif?' + args;

})();

12、在要统计的页面添加js脚本

13、启动nginx

cd /usr/local/nginx 目录

执行命令 sbin/nginx -c conf/nginx.conf 启动nginc服务

检验启动是否成功:

(1)ps -ef | grep nginx 查看是否有nginx对应的进程

(2) netstat -nlp 查看80端口是否起来

通过游览器访问对应的web界面 http//xxx.xxx.xxx.xxx:80

并且观察日志采集文件是否有对应的内容输出

tail -f /var/nginx_logs/ma.log

tail -f logs/access.log