算法 自动采集列表(谢邀！机器学习的研究主旨是使用计算机模拟人类的学习活动)

　　算法 自动采集列表(谢邀！机器学习的研究主旨是使用计算机模拟人类的学习活动)

　　感谢邀请！

　　机器学习研究的主要目的是利用计算机来模拟人类的学习活动。它是学习计算机以识别现有知识、获取新知识、不断提高性能和实现自我完善的一种方法。这里的学习是指从数据中学习，包括三类：监督学习、无监督学习和半监督学习。

　　以下是机器学习中常用的回归算法及其优缺点：

　　1、Linear Regression Algorithm（线性回归） ① 算法思想： 线性回归（Linear Regression）是利用称为线性回归方程的最小二乘函数对一个或多个自变量与因变量之间的关系进行建模的一种回归分析。该函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量的情况称为简单回归，有多个自变量的情况称为多元回归。

　　回归模型：

　　其中θ和C为未知参数，可用于每个训练样本(xi,yi))(xih，用于预测真实值yi。损失函数：

　　是误差值的平方。

　　1：对于训练集，找到θ以最小化损失函数。 （使用最小二乘法，梯度下降法）

　　2：对于新输入x，其预测输出为θTx

　　②优点：结果易懂、易实现、易计算

　　③缺点：1）不利于非线性数据拟合（原因：因为线性回归将数据视为线性，可能会出现欠拟合，导致结果无法达到最佳预测效果。2）如果某些训练数据有非常大的偏差，这个时候最终训练出来的模型在整体数据上可能没有很好的准确率。

　　④Improvement：针对2）Improving ：部分加权回归

　　2、Local Weighted Regression（局部加权回归）

　　①算法思想：

　　给每个待预测点周围的点赋予一定的权重，点越近，权重越高，以便选择预测点对应的数据子集，然后根据最小均方误差在这个数据子集上执行普通回归。部分加权回归本质上是针对需要预测的点，只根据附近的点进行训练，其他保持不变。

　　对于局部线性加权算法：

　　1：对于输入x，在训练集中寻找x邻域内的训练样本

　　2：对于其邻域内的训练样本，求θ使得它

　　∈x ) 的邻域最小。其中 w(i) 是权重值。 3.预测输出为θTx

　　4. 对新输入重复过程 1-3。

　　哪里

　　τ 是恒定带宽。离输入越远，权重越小， 。

　　②优点：

　　1）部分加权回归仍然更适合训练数据。

　　2） 不依赖于特征的选择，只有线性模型才能训练出一个很好的拟合模型，

　　③缺点：

　　1） 是计算密集型的。 （因为局部加权回归的损失随着预测值的变化而变化，所以无法提前确定θ。需要扫描所有数据，每次预测重新计算θ）

　　2）部分加权回归容易出现过拟合，过拟合明显。

　　3） 关注局部训练数据，忽略全局数据。如果预测点靠近有偏差的训练数据，那么预测值就会有很大的偏差。

　　④改进：

　　3、k-Nearest Nei*敏*感*词*or Algorithm for Regression（回归k最近邻）

　　①算法思想：

　　通过找到一个样本的k个最近邻，并将这些邻域的属性的平均值赋给样本，就可以得到样本的属性。一个更有用的方法是对不同距离的邻居对样本的影响赋予不同的权重，例如权重与距离成正比。

　　如果特征空间中一个样本的k个最相似（即特征空间中的最近邻）样本中的大部分属于某个类别，则该样本也属于该类别。

　　KNN 算法不仅可以用于分类，还可以用于回归。通过找出一个样本的k个最近邻，将这些邻域的属性的平均值赋给样本，就可以得到样本的属性。一种更有用的方法是对不同距离的邻居对样本的影响赋予不同的权重，例如权重与距离成反比。

　　②优点：

　　1） 简单有效。

　　2）再训练成本低（类别系统的变化和训练集的变化在Web环境和电子商务应用中很常见）。

　　3）计算时间和空间与训练集的大小成线性关系（在某些情况下不会太大）。

　　4）因为KNN方法主要依靠周围有限的相邻样本，而不是通过区分类域的方法来确定类别，所以对于要划分的样本集，类域的交叉或重叠较多, KNN 方法比其他方法更适合。 5）该算法更适合对样本量比较大的类域进行自动分类，而样本量较小的类域使用该算法更容易误分类。

　　③缺点：

　　（1）KNN对属性较多的训练样本进行分类时，由于计算量大，效率大大降低，效果不是很理想。

　　(2）当样本不平衡时，例如一个类的样本量很大，而其他类的样本量很小，可能会导致输入新样本时，K样本的邻居有一个大容量的类，样本占多数。

　　（3）对数据的局部结构更敏感，如果查询点位于训练集较密集的区域，则预测比其他稀疏集更准确。

　　（4） 对 k 值敏感。

　　（5）维度灾难：邻近距离可能被不相关的属性支配（因此出现特征选择问题）

　　④改进：

　　(1）Classification 效率：提前减少样本属性，删除对分类结果影响不大的属性，快速得到待分类样本的类别。该算法更适用于样本量相对较大的自动分类，样本量较小的领域使用该算法更容易被误分类。

　　（2）Classification 效果：用权重法（离样本距离小的邻居权重大）改进，Han等人在2002年尝试用贪心法为文件分类k最近邻法WAkNN(weightedadjusted k最近邻)来提升分类效果；而Li等人在2004年提出，由于不同分类的文件数量不同，因此也应基于各种不同的文件训练集中的分类数，选择不同数量的最近邻参与分类。

　　(3）这个算法在分类上的主要缺点是当样本不平衡时，比如一类的样本量很大，而其他类的样本量很小，这可能会导致新样本的输入，此时样本的K个邻居的大容量样本占了多数。那么或者这种类型的样本与目标样本不接近，或者这个类样本与目标样本非常接近。不管怎样，数量不影响运行结果。可以使用权重方法（与目标样本的邻居）距离样本越小权重越大）来提高。

　　(4）K 值的选择会对算法的结果产生很大的影响。小的K值意味着只有接近输入实例的训练实例才会对预测结果产生影响，但是容易出现过拟合；如果 K 的值很大，优点是可以减少学习的估计误差，缺点是学习的近似误差增大。输入实例也会在预测中起作用，也就是预测误差。在实际应用中，K 值一般选择较小的值，通常使用交叉验证来选择最优的 K 值作为训练样本的个数趋于无穷大且 K=1 ，错误率不会超过贝叶斯错误率 如果K也趋于无穷大，则错误率趋于贝叶斯错误率。

　　(5）这种方法的另一个缺点是计算量大，因为对于每一个待分类的文本，必须计算到所有已知样本的距离才能找到它的K个最近邻点。目前常用的解决方案是提前编辑已知样本点，提前剔除对分类影响不大的样本。

　　该算法更适合样本量较大的类域的自动分类，样本量较小的类域使用该算法更容易误分类。

　　随着信息技术的发展，出现了很多大数据分析工具。其中，NLPIR大数据语义智能分析平台（原ICTCLAS）是一个比较好的系统。是北京理工大学大数据搜索挖掘实验室主任张华平针对大数据内容采集、编辑、挖掘和搜索的综合需求，整合网络精准采集最新研究成果而研发的、自然语言理解、文本挖掘和语义搜索，近二十年来不断创新。平台提供客户端工具、云服务、二次开发接口等多种产品使用形式。每个中间件API都可以无缝集成到客户的各种复杂应用系统中，兼容Windows、Linux、Android、Maemo5、FreeBSD等不同操作系统平台，可用于Java、Python、C等各种开发、C# 等语言用法。

　　NLPIR大数据语义智能分析平台的十三项功能：

　　NLPIR大数据语义智能分析平台客户端

　　精准采集：*敏*感*词*海量信息实时精准采集，有话题采集（话题采集根据信息需要）和网站采集（站内）使用给定的 URL 列表）定点 采集 函数）。

　　文档转换：对doc、excel、pdf、ppt等多种主流文档格式的文本信息进行转换，效率满足大数据处理要求。

　　新词发现：从文本中发现新词、新概念，用户可以将其用于专业词典的编纂，还可以进一步编辑标注，导入分词词典，提高分词准确率分词系统，适应新语言的变化。

　　批量分词：对原语料进行分词，自动识别姓名、地名、机构名称等未注册词，新词标注，词性标注。并在分析过程中，导入用户自定义词典。

　　语言统计：根据分词和标注结果，系统可以自动进行一元词频数统计和二元词转移概率统计。对于常用术语，会自动给出相应的英文解释。

　　文本聚类：可以从*敏*感*词*数据中自动分析热点事件，并提供事件主题的关键特征描述。同时适用于短文、微博等长文和短文的热点分析。

　　文本分类：根据规则或训练方法对大量文本进行分类，可用于新闻分类、简历分类、邮件分类、办公文档分类、区域分类等多个方面。

　　摘要实体：对于单个或多个文章，自动提取内容摘要，提取人名、地名、机构名称、时间和主题关键词；方便用户快速浏览文本内容。

　　智能过滤：对文本内容进行语义智能过滤和审核，内置国内最全的词库，智能识别变形、拼音、繁体、简体等多种变体，语义精准消歧。

　　情感分析：针对预先指定的分析对象，系统自动分析海量文档的情感倾向：情感极性和情感值测度，并给出原文中的正负分和句例。

　　文档去重：快速准确判断文件集合或数据库中是否存在内容相同或相似的记录，同时查找所有重复记录。

　　全文搜索：支持文本、数字、日期、字符串等多种数据类型，多字段高效搜索，支持AND/OR/NOT、NEAR接近等查询语法，支持维文、藏文、蒙古语、阿拉伯语、韩语等多种少数民族语言搜索。

　　编码转换：自动识别内容的编码，统一将编码转换为其他编码。

　　以上是推荐的中文分词工具。我希望它能帮助你。如果您有任何问题，请联系我，我会帮助您！