数据的预处理 |
您所在的位置：网站首页 › 平滑滑板 › 数据的预处理 |
数据的预处理
|
在对时间序列数据（如信号数据或股票价格数据）进行统计分析时，往往需要对数据进行平滑处理，本次主要介绍smooth函数、smoothts函数和medfilt1函数的用法 1.smooth函数smooth函数调用格式如下： 1) yy=smooth(y) 利用移动平均滤波器对列向量y进行平滑处理，返回与y等长的列向量yy。移动平均滤波器的默认窗宽为5，yy中元素的计算方法如下： yy(1)=y(1) yy(2)=(y(1)+y(2)+y(3))/3 yy(3)=(y(1)+y(2)+y(3)+y(4)+y(5))/5 yy(4)=(y(2)+y(3)+y(4)+y(5)+y(6))/5 yy(5)=(y(3)+y(4)+y(5)+y(6)+y(7))/5 … 2) yy=smooth(y,span) 用span参数指定移动平均滤波器的窗宽，span为奇数。 3) yy=smooth(y,method) 用method参数指定平滑数据的方法，method是字符串变量，可用的字符串如下表： method参数值说明'moving ’移动平均法(默认情况)。一个低通滤波器，滤波系数为窗宽的倒数’ lowess’局部回归(加权线性最小二乘和一个一阶多项式模型)‘loess’局部回归(加权线性最小二乘和一个二阶多项式模型)‘sgolay’Savitzky -Golay滤波。一种广义移动平均法.滤波系数由不加权线性最小二乘回归和一个多项式模型确定，多项式模型的阶数n可以指定(默认为2)‘rlowess’'lowess’方法的稳健形式。异常值被赋予较小的权重，6倍的平均绝对偏差以外的数据的权重为0‘rloess’'loess’方法的稳健形式。舁常值被赋予较小的权承.6倍的平均绝对偏差以外的数据的权重为04) yy=smooth(y,span,method) 对于由method参数指定的平滑方法，用span参数指定滤波器的窗宽。对于loess和lowess方法，span是一个小于或等于1的数，表示占全体数据点总数的比例；对于移动平均法和Savitzky-Golay法，span必须是一个正的奇数，只要用户输入的span是一个正数，smooth函数内部会自动把span转为正的奇数。 5) yy=smooth(y,‘sgolay’,degree) 利用Savitzky-Golay方法平滑数据，此时用dcgree参数指定多项式模型的阶数。dcgree是一个整数，取值介于0和span-1之间。 6) yy=smooth(y,span,‘sgolay’,degree) 用span参数指定Savitzky-Golay滤波器的窗宽。span必须是一个正的奇数，degree是一个整数，取值介于0和span-1之间。 7) yy=smooth(x,y,…) 同时指定x数据。如果没有指定x，smooth函数中自动令x=1:length(y)。当x是非均匀或经过排序的数据时，用户应指定x数据。如果x是非均匀数据而用户没有指定method参数，smooth函数自动用lowess方法。如果数据平滑方法要求x是经过排序的数据，smooth函数自动对x进行排序。 【例】产生一列正弦波信号，加入噪声信号，然后调用smooth函数对加入噪声的正弦波进行滤波（平滑处理）。 %-------------------------------------------------------------------------- % 调用smooth函数进行加噪数据的平滑处理 %-------------------------------------------------------------------------- %*****************产生加噪正弦波信号，绘制加噪波形图************************* t = linspace(0,2*pi,500)'; % 产生一个从0到2*pi的向量，长度为500 y = 100*sin(t); % 产生正弦波信号 % 产生500行1列的服从N(0,15^2)分布的随机数，作为噪声信号 noise = normrnd(0,15,500,1); y = y + noise; % 将正弦波信号加入噪声信号 figure; % 新建一个图形窗口 plot(t,y); % 绘制加噪波形图 xlabel('t'); % 为X轴加标签 ylabel('y = sin(t) + 噪声'); % 为Y轴加标签 %*************利用移动平均法对加噪信号进行平滑处理，绘制平滑波形图************* yy1 = smooth(y,30); % 利用移动平均法对y进行平滑处理 figure; % 新建一个图形窗口 plot(t,y,'k:'); % 绘制加噪波形图 hold on; plot(t,yy1,'k','linewidth',3); % 绘制平滑后波形图 xlabel('t'); % 为X轴加标签 ylabel('moving'); % 为Y轴加标签 legend('加噪波形','平滑后波形'); %*************利用lowess方法对加噪信号进行平滑处理，绘制平滑波形图************* yy2 = smooth(y,30,'lowess'); % 利用lowess方法对y进行平滑处理 figure; % 新建一个图形窗口 plot(t,y,'k:'); % 绘制加噪波形图 hold on; plot(t,yy2,'k','linewidth',3); % 绘制平滑后波形图 xlabel('t'); % 为X轴加标签 ylabel('lowess'); % 为Y轴加标签 legend('加噪波形','平滑后波形'); %*************利用rlowess方法对加噪信号进行平滑处理，绘制平滑波形图************ yy3 = smooth(y,30,'rlowess'); % 利用rlowess方法对y进行平滑处理 figure; % 新建一个图形窗口 plot(t,y,'k:'); % 绘制加噪波形图 hold on; plot(t,yy3,'k','linewidth',3); % 绘制平滑后波形图 xlabel('t'); % 为X轴加标签 ylabel('rlowess'); % 为Y轴加标签 legend('加噪波形','平滑后波形'); %*************利用loess方法对加噪信号进行平滑处理，绘制平滑波形图************* yy4 = smooth(y,30,'loess'); % 利用loess方法对y进行平滑处理 figure; % 新建一个图形窗口 plot(t,y,'k:'); % 绘制加噪波形图 hold on; plot(t,yy4,'k','linewidth',3); % 绘制平滑后波形图 xlabel('t'); % 为X轴加标签 ylabel('loess'); % 为Y轴加标签 legend('加噪波形','平滑后波形'); %*************利用sgolay方法对加噪信号进行平滑处理，绘制平滑波形图************* yy5 = smooth(y,30,'sgolay',3); % 利用sgolay方法对y进行平滑处理 figure; % 新建一个图形窗口 plot(t,y,'k:'); % 绘制加噪波形图 hold on; plot(t,yy5,'k','linewidth',3); % 绘制平滑后波形图 xlabel('t'); % 为X轴加标签 ylabel('sgolay'); % 为Y轴加标签 legend('加噪波形','平滑后波形');加噪波形图： smoothts函数调用格式如下： output = smoothts(input) output = smoothts(input,‘b’,wsize) output = smoothts(input,‘g’,wsize,stdev) output = smoothts(input,‘e’,n) smoothts函数的输入参数input是一个金融时间序列对象或行导向矩阵，其中金融时间序列对象是MATLAB中由ascii2fts或fints函数所创建的一种对象。行导向矩阵是指用行表示观测数据集的矩阵，若input是一个行导向矩阵，input的每一行都是一个单独的观测集。 以上调用格式中的’b’,‘g’,或’e’表示不同的数据平滑方法，其中’b’表示盒子法（box method），'g’表示高斯窗方法(gaussian window method)，'e’表示指数法(exponential method)。 输入参数wsize是一个标量，用来指定各种数据平滑方法的窗宽，默认窗宽为5. 输入参数stdcv也是一个标量，用来指定高斯窗方法的标准差，默认值为0.65 【例】现有上海股市日开盘价、最高价、最低价、收盘价、收益率等数据，时间跨度为2005年1月4日至2007年4月3日，共510组数据。完整数据保存在文件examp03_02.xls中，试调用smoothts函数对日收盘价数据进行平滑处理。 %-------------------------------------------------------------------------- % 调用smoothts函数对金融时间序列数据进行平滑处理 %-------------------------------------------------------------------------- %*********************读取金融时间序列数据，绘制波形图************************ x = xlsread('examp03_02.xls'); % 从文件examp03_02.xls中读取数据 price = x(:,4)'; % 提取矩阵x的第4列数据，即收盘价数据 figure; % 新建一个图形窗口 plot(price,'k','LineWidth',2); % 绘制日收盘价曲线图，黑色实线，线宽为2 xlabel('观测序号'); ylabel('上海股市日收盘价'); % 为X轴和Y轴加标签 %*****************利用盒子法对数据进行平滑处理，绘制平滑波形图**************** output1 = smoothts(price,'b',30); % 用盒子法平滑数据，窗宽为30 output2 = smoothts(price,'b',100); % 用盒子法平滑数据，窗宽为100 figure; % 新建一个图形窗口 plot(price,'.'); % 绘制日收盘价散点图 hold on plot(output1,'k','LineWidth',2); % 绘制平滑后曲线图，黑色实线，线宽为2 plot(output2,'k-.','LineWidth',2); % 绘制平滑后曲线图，黑色点划线，线宽为2 xlabel('观测序号'); ylabel('Box method'); % 为X轴和Y轴加标签 % 为图形加标注框 legend('原始散点','平滑曲线(窗宽30)','平滑曲线(窗宽100)','location','northwest'); %****************利用高斯窗方法对数据进行平滑处理，绘制平滑波形图************** output3 = smoothts(price,'g',30); % 窗宽为30，标准差为默认值0.65 output4 = smoothts(price,'g',100,100); % 窗宽为100，标准差为100 figure; % 新建一个图形窗口 plot(price,'.'); % 绘制日收盘价散点图 hold on plot(output3,'k','LineWidth',2); % 绘制平滑后曲线图，黑色实线，线宽为2 plot(output4,'k-.','LineWidth',2); % 绘制平滑后曲线图，黑色点划线，线宽为2 xlabel('观测序号'); ylabel('Gaussian window method'); % 为X轴和Y轴加标签 legend('原始散点','平滑曲线(窗宽30，标准差0.65)',... '平滑曲线(窗宽100，标准差100)','location','northwest'); %*****************利用指数法对数据进行平滑处理，绘制平滑波形图**************** output5 = smoothts(price,'e',30); % 用指数法平滑数据，窗宽为30 output6 = smoothts(price,'e',100); % 用指数法平滑数据，窗宽为100 figure; % 新建一个图形窗口 plot(price,'.'); % 绘制日收盘价散点图 hold on plot(output5,'k','LineWidth',2); % 绘制平滑后曲线图，黑色实线，线宽为2 plot(output6,'k-.','LineWidth',2); % 绘制平滑后曲线图，黑色点划线，线宽为2 xlabel('观测序号'); ylabel('Exponential method'); % 为X轴和Y轴加标签 legend('原始散点','平滑曲线(窗宽30)','平滑曲线(窗宽100)','location','northwest');原始收盘价曲线图： 平滑后曲线图(exponential method)： |
平滑后波形图（移动平均法）： 
平滑后波形图（lowess法）： 
平滑后波形图（rlowess法）： 
平滑后波形图（loess法）： 
平滑后波形图（sgolay法）： 
实际上随着窗宽的增大，平滑后的曲线会越来越光滑，但过于光滑也可能造成失真。
平滑后曲线图（box method）： 
平滑后曲线图(gaussian window method)： 
总的来说，在数据的中端，3种方法的平滑效果都比较好，并且随着窗宽的增大，平滑后的曲线的光滑性也在增强，但光滑性增强的同时也造成了失真。【本文地址】