在信息粒度研究方面，系统建立了精确粒空间与模糊粒空间的信息粒度度量方法;给出了精确/模糊信息粒度的公理化方法，统一了不同类型粒空间背景下信息粒度的相关度量，深刻揭示了精确/模糊信息粒度度量的本质，为粒化不确定性研究提供了约束性理论与指导性方法。

三、借鉴人类的粒化认知能力，发展了基于多粒度认知的、基于动态粒度认知的以及基于序化粒度认知的三大类复杂数据建模理论与方法，极大地推动了基于粒化认知的数据建模发展。

借鉴人类的多粒度认知能力，给出了基于“求同存异”的、基于“求同排异”的以及带概念描述的三类多粒度数据建模方法，极大地丰富了基于粗糙集的建模理论与方法，可以广泛应用于诸如分布式信息系统、多智能Agent等多粒度环境下的数据分析。

借鉴人类的动态粒度认知能力，建立了动态粒度下的概念逼近和决策逼近方法，提出了通用粗糙特征选择加速器，为高效地进行特征选择提供了有效方法。理论分析和实验结论表明：

(1)将加速器嵌入到每个特征选择方法中后，改进的算法能够保持原有算法的特征选择结果；

(2)与原有算法相比，带加速器的特征选择算法的耗时大大减少；

(3)数据规模越大，该加速器的优势越明显。提出了一种特征空间降维和样本空间降维相融合的结构降维策略，并设计了一种高效规则获取算法，分析表明该算法无论从计算时间还是决策性能都具有一定优势，为面向高维海量数据的知识发现提供了高效方法。借鉴人类的序化粒度认知能力，给出了区间型、合取集值型与析取集值型三类数据的描述语义，建立了基于序化粒度的排序决策与分级决策模型，提出了基于保序原理的特征选择方法，有效解决了序信息系统与序决策信息系统中的特征选择问题。研究结果进一步完善了复杂数据的排序决策、分级决策建模的理论与方法，也为有序分类、有序聚类等相关建模问题提供了可资借鉴的手段。文献综述

四、建立了基于整体决策性能评价的模型选择方法，为知识发现的模型选择提供了理论依据与技术支持。

对于完备决策信息系统，给出了整体确定度、整体协调度和整体支持度三个完备决策规则集决策性能评价指标；对于非完备决策信息系统，提出了用极大相容块刻画非完备决策规则的方法，给出了整体确定度、整体协调度和整体支持度；面向分级决策问题，给出了序意义下的整体确定度、整体协调度和覆盖度三个优势规则集决策性能评价指标。理论分析和实验结论表明，提出的评价方法都明显优于基于近似精度和近似质量的评价方法，可为特定问题的模型选择提供理论依据与技术支持。通过以上系统研究，从揭示人类的粒化认知机理出发，论文在信息粒化、粒化不确定性、建模策略与模型选择四个数据建模阶段都获得了重要的研究成果，初步形成了一个基于粒化机理的数据建模理论与方法体系，对面向复杂数据的数据建模有着重要的理论意义，同时对提高海量信息处理的效率具有实际的应用价值。

第二章 神经网络

2。1 概述

以监督学习为例，假设我们有训练样本集(x(i), y(i))，那么神经网络算法能够提供一种复杂且非线性的假设模型hW, b(x)，它具有参数 W, b可以以此参数来拟合我们的数据。 

为了描述神经网络，我们先从最简单的神经网络讲起，这个神经网络仅由一个“神经元”构成，以下即是这个“神经元”的图示： 

这个“神经元”是一个以 x1,x2,x3及截距a +1为输入值的运算单元，其输出为，其中函数被称为“激活函数”。在本教程中，我们选用sigmoid函数作为激活函数f(·)