数据的无量纲化处理

数据的无量纲化处理是一种统计学中的预处理技术,主要用于消除数据中的量纲影响,使得不同单位或量级的指标可以相互比较和结合。无量纲化通过调整数据的范围或尺度,使得数据集中的每个特征或变量处于相似的数值区间内。以下是几种常见的无量纲化处理方法:

  1. 极值化(Min-Max Scaling 或 归一化 Normalization)
    将数据缩放到[0, 1]或[-1, 1]的区间内,公式为:
[
X_{\text{norm}} = \frac{X - X_{\text{min}}}{X_{\text{max}} - X_{\text{min}}}
]

  2. 标准化(Standardization 或 Z-score normalization)
    在这里插入图片描述

  3. 均值化(Mean Normalization)
    使数据具有零均值,但不一定单位方差,公式为:
[
X_{\text{mean}} = \frac{X - \mu}{X_{\text{max}} - X_{\text{min}}}
]

在这里插入图片描述

在具体应用中,选择哪种无量纲化方法取决于数据的特点和后续分析的需求。例如,如果数据的分布未知或非正态,可能更倾向于使用极值化;如果数据的分布接近正态,则标准化可能更为合适。

示例
假设我们有两个指标,一个是员工的年龄(范围从20到60),另一个是他们每天的步数(范围从5000到30000)。如果我们想对这两个指标进行比较,我们需要首先进行无量纲化处理。

对于年龄,假设最小值是20岁,最大值是60岁。使用极值化公式,我们可以将年龄缩放到[0, 1]的范围内。对于步数,同样地,我们可以用同样的方法进行缩放。这样,处理后的数据就可以在同一尺度上进行比较和分析了。

在这里插入图片描述
在这里插入图片描述
在进行综合评价之前,确实需要对评价指标进行标准化处理,以消除不同量纲和量级的影响。这个过程称为无量纲化,它确保了所有指标可以在同一尺度上比较,避免了综合评价中的偏差。对于效益型、成本型和固定型指标,无量纲化的方式有所不同。

给定的实测数据矩阵 (X) 和评价标准矩阵 (Y) 如下所示:
[
X = \begin{bmatrix}
130 & 10.3 & 0.35 & 2.76 \
105 & 10.7 & 0.4 & 2.0 \
20 & 1.4 & 4.5 & 0.22 \
30 & 6.26 & 0.25 & 1.67 \
20 & 10.13 & 0.5 & 0.23
\end{bmatrix},
Y = \begin{bmatrix}
4 & 23 & 110 & 660 \
0.09 & 0.36 & 1.8 & 7.1 \
12 & 2.4 & 0.55 & 19 \
0.02 & 0.06 & 0.31 & 1.2 \
0.1 & 0.1 & 0.1 & 0.1
\end{bmatrix}
]

其中,(X) 表示实测数据,(Y) 表示评价标准。接下来,我们构建无量纲化后的实测数据矩阵 (A) 和等级标准矩阵 (B)。

无量纲化方法

对于 效益型指标,使用最大值标准化,即 (\frac{x_{ij}}{\max(x_j)})。

对于 成本型指标,使用最小值标准化,即 (\frac{x_{ij}}{\min(x_j)})。

对于 固定型指标,可以使用目标值标准化,即 (\left|\frac{x_{ij}-target_j}{target_j}\right|),其中 (target_j) 是目标值。
在这里插入图片描述

建立无量纲化矩阵

对于实测数据矩阵 (X) 中的每一列(即每一个评价指标),根据其属性应用上述方法进行无量纲化,得到无量纲化实测数据矩阵 (A)。

同样地,对评价标准矩阵 (Y) 进行相应的无量纲化处理,得到无量纲化等级标准矩阵 (B)。

例如,对于 总磷(效益型指标),使用最大值标准化;对于 耗氧量(成本型指标),使用最小值标准化;对于 透明度总氨(假设为固定型指标),使用目标值标准化。

这样,通过无量纲化处理后,所有的指标都在同一尺度上,可以进行下一步的综合评价计算,比如使用加权平均法、TOPSIS法或其他多准则决策方法来得出最终的综合评价结果。

在这里插入图片描述
在这里插入图片描述
要对湖泊水质的富营养化进行综合评价,我们首先需要分析给定的四个指标(总磷、耗氧量、透明度、总氨)对水质评价的影响。富营养化通常是由过量的营养物质,尤其是磷和氮,导致藻类过度生长引起的,这会影响水体的透明度和溶解氧水平。接下来,我们将依据给定的评价标准,对这四个指标进行分析,并对湖泊水质进行综合评价。

分析指标作用

  1. 总磷(Total Phosphorus):总磷是富营养化的主要驱动因素,高浓度的总磷会导致藻类大量繁殖,加速富营养化进程。西湖、东湖和巢湖的总磷浓度远高于青海湖和滇池,显示出更高的富营养化风险。

  2. 耗氧量(Chemical Oxygen Demand, COD):耗氧量反映水中有机物含量,间接指示富营养化程度。西湖、东湖和巢湖的耗氧量较高,说明这些湖泊中可能有较多的有机污染物,这与总磷浓度高的趋势一致。

  3. 透明度(Transparency):低透明度往往与高藻类密度相关,藻类过多会降低水体的透明度。西湖、东湖和巢湖的透明度较低,表明藻类密度可能较高,滇池的透明度相对较好,但总磷和总氨的浓度仍显示其富营养化问题。

  4. 总氨(Total Ammonia):总氨是另一种重要的营养盐,虽然其对富营养化的影响不如总磷明显,但高浓度的总氨仍能促进藻类生长。西湖和巢湖的总氨浓度较高,表明它们也面临着氮源富营养化的压力。

综合评价

为了综合评价湖泊水质,我们将对照湖泊水质评价标准(表2-3),对每个湖泊进行等级评定。由于评价标准未提供确切的数值界限,我们将使用给出的区间进行大致判断。

杭州西湖
  • 总磷:富营养
  • 耗氧量:富营养
  • 透明度:极富营养
  • 总氨:中营养

综合来看,西湖水质等级接近富营养至极富营养。

武汉东湖
  • 总磷:富营养
  • 耗氧量:富营养
  • 透明度:极富营养
  • 总氨:贫营养

东湖水质等级接近富营养至极富营养。

青海湖
  • 总磷:贫营养
  • 耗氧量:贫营养
  • 透明度:中营养
  • 总氨:贫营养

青海湖水质等级接近贫营养。

巢湖
  • 总磷:中营养
  • 耗氧量:中营养
  • 透明度:极富营养
  • 总氨:贫营养

巢湖水质等级接近中营养至富营养。

滇池
  • 总磷:贫营养
  • 耗氧量:富营养
  • 透明度:贫营养
  • 总氨:贫营养

滇池水质等级接近贫营养至富营养。

综上所述,西湖、东湖和巢湖面临较为严重的富营养化问题,而青海湖和滇池的状况相对较好,但仍存在局部富营养化现象。对于治理措施,应当针对总磷和总氨的来源进行管控,比如减少农业面源污染,加强污水处理,控制入湖污染物排放,同时实施生态修复工程,提升湖泊自净能力。

% 实测数据矩阵
X = [130 10.3 0.35 2.76;
     105 10.7 0.4 2.0;
     20 1.4 4.5 0.22;
     30 6.26 0.25 1.67;
     20 10.13 0.5 0.23];

% 评价标准矩阵
Y = [1 4 23 110 660;
     0.09 0.36 1.8 7.1 27.1;
     37 12 2.4 0.55 0.17;
     0.02 0.06 0.31 1.2 4.6];

% 无量纲化处理
% 假设第1列和第2列为成本型指标,第3列和第4列为效益型指标
A1 = X(:,1) ./ max(X(:,1)); % 成本型指标 - 总磷
A2 = X(:,2) ./ max(X(:,2)); % 成本型指标 - 耗氧量
A3 = X(:,3) ./ min(X(:,3)); % 效益型指标 - 透明度
A4 = X(:,4) ./ min(X(:,4)); % 效益型指标 - 总氨
A = [A1 A2 A3 A4];

% 标准化评价标准
% 假设第1列至第5列为成本型指标
B = Y / max(Y); % 所有指标视为成本型指标进行标准化

% 计算权重
w = std(B) ./ sum(std(B));

% 计算距离
% 注意:dist() 和 mandist() 不是MATLAB内置函数,需要自定义或使用其他函数代替
% 这里使用欧式距离作为示例
jd = sqrt(sum((A - B') .^ 2, 2));
mjd = jd; % 假设 mjd 为某种距离计算方式,这里直接使用欧式距离

% 输出结果
disp('标准化后的实测数据矩阵 A:');
disp(A);
disp('标准化后的评价标准矩阵 B:');
disp(B);
disp('权重 w:');
disp(w);
disp('距离 jd:');
disp(jd);

极差标准化(Range Scaling)

极差标准化(Range Scaling)是一种数据预处理方法,用于将数据集中的所有特征缩放到一个特定的范围内,通常是[0, 1]区间内。这种标准化方法通过调整数据的量纲和量级,消除不同特征之间因单位或量级差异而导致的影响,从而使数据在模型训练或数据分析中更加公平地贡献。

极差标准化的计算公式如下:

在这里插入图片描述

通过上述公式,数据集中的最小值会被转换为0,最大值会被转换为1,而其他所有数据点则根据它们与最小值和最大值的关系被线性地映射到0到1之间。

极差标准化的一个优点是它非常直观且计算简单。然而,它也有一些缺点:

  • 极差标准化对异常值敏感。如果数据集中存在异常值,那么极差可能会变得非常大,导致大部分数据被压缩在一个很小的范围内。
  • 如果数据集的最小值或最大值发生变化,整个数据集的标准化结果也会改变,这意味着在实时数据流的情况下,可能需要动态更新极差。

极差标准化常用于需要确保所有特征在相同尺度上的机器学习算法,例如支持向量机(SVM)、K最近邻(KNN)、神经网络和基于距离的聚类算法等。在实际应用中,极差标准化通常与其他数据预处理步骤结合使用,例如缺失值填充、异常值检测和处理等。

问题分析

针对长江水质的分析与预测,问题被分为四个部分,分别涉及水质的综合评价、污染物分布区域的确定、未来水质污染发展趋势的预测,以及未来10年内每年需处理废水量的计算。以下是各问题的解析与方法论概述:

问题一:水质综合评价

采用Topsis法(逼近理想解的排序法)对长江两年多的水质进行综合评价。首先,基于每月各观测站的数据,使用数据标准化消除指标间差异,再运用“S”形曲线作为变权函数,对不同水质类别的同种污染指标动态赋权,以综合考量所有因素作用。

问题二:污染物分布区域

通过将干流分为八个区域,考虑其中的六个,利用段首观测站数据代替上游污染源,结合一维水质模型,求解每段污染源的排污量,进而分析污染物的主要分布区域。

问题三:水质污染发展趋势预测

使用Ⅳ、V、劣V类水质的百分比之和作为水质污染的物理量,通过灰色GM(1,1)模型预测水质污染的确定性增长趋势,同时利用时间序列分析法预测水质污染的平稳周期变化趋势,两者之和反映了水质污染的发展趋势。

问题四:未来10年需处理废水量

首先预测未来10年废水排放量,然后通过线性回归方法确定废水排放量的极限值,这个极限值受到长江总流量和废水排放总量对不可饮用类水百分比含量影响的制约。废水排放量预测值与极限值的差额即为每年需处理的废水量。

这些方法的综合应用,能够从多个角度全面分析长江水质状况,预测未来水质污染趋势,并指导废水处理策略的制定,对于长江水资源管理和保护具有重要意义。

基于灰色关联的方法综合分析 17个观测点水质的污染情况

基于灰色关联分析的方法用于综合分析17个观测点水质的污染情况是一种有效手段,这种方法特别适用于处理不完全信息或模糊信息的决策问题,尤其是在环境科学和水资源管理中。下面我将概述如何使用灰色关联分析来评估水质污染情况:

1. 数据准备

首先,收集17个观测点的水质监测数据,包括但不限于pH值、溶解氧(DO)、生化需氧量(BOD)、化学需氧量(COD)、氨氮(NH3-N)、总磷(TP)、总氮(TN)等关键指标。这些数据应当是时间序列数据,以便于分析水质随时间的变化。

2. 数据预处理

  • 无量纲化:由于各个指标的量纲和数值范围可能不同,需要对数据进行无量纲化处理,通常使用最小-最大规范化或者Z-score标准化。
  • 确定参考序列:选择一个理想的水质状况作为参考序列,理想状况通常代表最优的水质指标值。
    在这里插入图片描述

3. 计算灰色关联系数

对于每一个观测点的每一项指标,计算其与参考序列的关联系数。关联系数表示观测序列与参考序列之间的相似程度。计算公式如下:

[
\zeta_i^k = \frac{\min_j\min_k|x_k^j - y_k^j| + \rho \max_j\max_k|x_k^j - y_kj|}{|x_ki - y_k^i| + \rho \max_j\max_k|x_k^j - y_k^j|}
]

其中:

  • (x_k^i) 是第i个观测点的第k个指标值。
  • (y_k^j) 是参考序列的第k个指标值。
  • (\rho) 是分辨系数,一般取值为0.5。

4. 计算灰色关联度

关联系数的平均值即为灰色关联度,它反映了一个观测点的整体水质与理想水质的相似程度。

[
\gamma_i = \frac{1}{m}\sum_{k=1}{m}\zeta_ik
]

5. 结果分析

根据计算出的关联度,可以对17个观测点的水质进行排序,关联度越高的观测点表示其水质越接近理想状态,反之则表示水质污染较重。

6. 进一步分析

  • 敏感性分析:可以检查哪些指标对关联度的影响最大,帮助识别主要的污染源。
  • 趋势分析:如果数据包含时间序列,可以分析水质随时间的变化趋势。

7. 改进与优化

如前所述,灰色关联度可能在某些情况下分辨率较低,可以通过引入其他统计方法(如熵权法、主成分分析等)来优化权重分配,提高分析的准确性。

通过上述步骤,你可以使用灰色关联分析来综合评估17个观测点的水质污染情况,并据此制定相应的水质管理措施。

出题人总结

针对“长江水质评价和预测”问题,解决这一系列问题的方法多样,每种方法都有其适用场景和局限性。以下是对解决四个主要问题的方法概述和分析:

问题1:水质综合评价

  • 方法选择:综合加权法、模糊综合评判法、主成份分析法、灰色聚类、多目标决策、神经网络等。
  • 关键点:建立合理的综合评价指标或函数至关重要,这将是评价的基础。
  • 常见误区:仅进行简单的统计计算,如统计各类水质出现的频率或取平均值,忽略了综合评价的复杂性。

问题2:确定主要污染源

  • 方法:大多数队伍使用一维水质模型(连续或差分形式)来研究污染物降解,确定浓度变化。
  • 处理方式:合理假设排污点分布,如在江段内均匀分布或集中于某点。
  • 目的:根据各江段排污量确定主要污染源位置。

问题3:未来水质变化预测

  • 预测方法:灰色预测、时间序列、回归分析、拟合等。
  • 难点:小样本预测的不确定性,尤其是当数据缺乏明显趋势时,任何方法都可能不可靠。
  • 常见问题:对各类水质比例分别预测,结果往往不可靠,如预测值之和超过100%。

问题4:水质控制

  • 关联性:此问题与问题3紧密相关,应基于对未来水质变化的预测来研究控制策略。
  • 误区:将问题4视为独立问题,导致重复工作,增加了复杂度。
  • 建议:优化选择方法,避免盲目套用单一模型,强调模型优化的重要性。

方法选择与优化

  • 综合比较:面对多种可能的方法或模型时,应进行综合比较,选择最合理有效的。
  • 避免过度复杂化:确保方法选择符合问题本质,避免不必要的复杂化。

解决这些问题时,理解每个问题的实质,合理选择和优化方法是关键。同时,避免常见的误区,如过度简化或复杂化问题,是保证解决方案质量的重要因素。

在解答“长江水质的评价和预测”这一开放性问题时,参赛队伍普遍遇到了一系列问题和误区,这些问题主要集中在以下几个方面:

1. 对综合评价的理解偏差

  • 概念混淆:部分队伍对“综合评价”的概念理解不清,不知道评价的对象、数据来源及评价方法。
  • 关键要素缺失:综合评价需包含被评价对象、评价指标、权重系数、综合评价模型和评价者等要素。
  • 方法运用不当:部分队伍仅做简单统计,如计算各类水质出现的频率或平均值,忽视了综合评价的深度和科学性。

2. 数据处理与分析不足

  • 忽略PH值影响:不少队伍在评价中未考虑PH值对水质的影响,即使对分类无直接影响,PH值对生态环境仍有重大影响。
  • 标准化处理缺失:一些队伍在建立综合评价指标时未对数据进行标准化处理,违背了评价指标的可公度性要求。
  • 定量依据缺乏:部分队伍仅做图表分析,缺乏定量分析,且未给出明确结论。

3. 忽视长江自然降解功能

  • 统计方法局限:一些队伍仅对观测点数据进行统计,未考虑长江的自然降解功能,导致结果失真。
  • 忽略排污源影响:多数队伍未考虑干流上排污源(包括支流和直排口)的影响,影响了结果的准确性。

4. 预测方法不当

  • 直接预测水质比例:许多队伍直接预测各类水质比例,未考虑到总排污量和总水流量的影响,导致预测结果不可靠。
  • 拟合方法选择失误:多数队伍使用拟合方法预测,但指数拟合和二次函数拟合导致增长过快,线性拟合效果不佳,高次拟合则存在过度拟合的风险。

5. 问题理解与处理误区

  • 误解题意:部分队伍对问题4的题意理解有误,错误解读水质比例要求,或将长江长度的百分比误解为水浓度的百分比,导致处理方法不当。
  • 常识性错误:个别队伍直接对长江水总流量按比例处理,得出污水处理量为数千亿吨的不合理结果,忽略了实际操作的可行性。

解决策略建议

  • 深入理解综合评价:明确综合评价的要素和步骤,确保评价的全面性和科学性。
  • 细致数据处理:对数据进行标准化处理,确保指标的可比性和评价的公正性。
  • 考虑自然与人为因素:综合考虑长江的自然降解能力和人为排污的影响,提高评价和预测的准确性。
  • 审慎选择预测方法:根据数据特点和问题性质,选择合适且可靠的预测模型。
  • 准确理解题意:仔细阅读题目要求,避免对题意的误解,确保解答的正确性。

在解答开放性问题“7.2 答卷中出现的主要问题概述”时,学生在理解和处理上遇到了一些困难,这些问题主要集中在以下几个方面:

  1. 对“综合评价”的理解
    许多学生对题目要求的“长江水质情况做出定量的综合评价”理解不当,对“综合评价”的概念模糊不清。综合评价是指将多个维度或因素综合起来评估事物的价值或状况,它包括被评价对象、评价指标、权重系数、综合评价模型和评价者五个要素。

  2. 缺乏定量综合评价方法
    部分队伍仅使用简单统计手段评价水质,如计算各类水质出现的频率或平均次数,这种做法缺乏科学性,不符合综合评价的要求,且不能反映同一类别内水质的差异。有些队伍甚至自行设定水质分类标准,忽略了国家规定的分类方法。

  3. 忽略PH值的影响
    相当一部分队伍在评价过程中忽视了PH值的作用,虽然PH值不影响水质分类,但它对水质的实际状态和生态环境有重要影响。

  4. 数据标准化处理缺失
    在建立综合评价指标体系时,一些队伍未对原始数据进行标准化处理(如无量纲化),这是综合评价中的基本错误,破坏了评价指标的可比较性。

  5. 问题2的处理不当
    对于长江自然降解功能的考虑不足,以及对干流上排污源影响的忽视。个别队伍对降解系数的理解错误,有的队伍在计算排污量时出现了负值,未给出合理解释。

  6. 问题3的预测不合理
    许多队伍直接预测各类水质比例,忽略了预测的基础应该是有规律的变化趋势,且预测应考虑年排污量和总水流量的影响。部分队伍采用的拟合方法效果不佳或存在过度拟合的问题。

  7. 问题4的复杂化处理
    队伍在解决问题4时,未能正确理解题意,例如将“四类水和五类水的比例不超过20%”误解为两类水分别不超过20%,并且在处理长江水总流量和污水处理量时出现常识性错误。

这些问题的出现,反映出学生在面对开放性、综合性问题时,需要更全面的知识储备和严谨的逻辑思维能力。

在这里插入图片描述

Logo

助力广东及东莞地区开发者,代码托管、在线学习与竞赛、技术交流与分享、资源共享、职业发展,成为松山湖开发者首选的工作与学习平台

更多推荐