登录社区云,与社区用户共同成长
邀请您加入社区
Isomap是一种专门处理非线性流形数据的降维算法,能有效解决PCA无法处理的卷曲数据问题。其核心思想是通过构建邻域图计算最短路径来近似真实测地距离,再用MDS方法降维保留全局结构。文章详细讲解了Isomap的三步算法流程(邻域图构建、测地距离计算、MDS降维),并提供了瑞士卷数据的实战代码演示。Isomap适用于中小规模非线性数据,能完美展开卷曲结构,但计算复杂度较高。与其他降维方法相比,Iso
参数估计是统计推断的核心内容,主要包括矩估计和最大似然估计两种方法。矩估计通过样本矩与总体矩相等建立方程求解参数,适用于正态分布、泊松分布等常见分布。最大似然估计则通过最大化似然函数寻找最可能产生观测样本的参数值,在伯努利分布、正态分布等场景中表现优异。两种方法各有特点:矩估计计算简单但可能效率不高,最大似然估计理论性质优良但计算可能更复杂。实际应用中需根据具体问题选择合适的估计方法,并注意验证估
迁移学习是机器学习领域的重要分支,通过将在源任务上学到的知识迁移到目标任务,以提高目标任务的学习效率和性能。在数据稀缺、标注成本高的场景中,迁移学习展现出显著优势。核心思想:利用已有的知识和经验,加速新任务的学习过程。
24.1 k近邻学习 - "维数危机"24.2 降维24.3 MDS降维方法与算法解读24.4 引子:线性降维方法
基础线性代数知识与在深度学习方面的应用
本期主要解析了 rsl_rl`仓库中 ActorCritic与 ActorCriticRecurrent的 Python 实现,回顾了 Actor-Critic 的核心原理,重点讲解了 ActorCriticRecurrent 引入 RNN/Memory 模块以增强网络对历史信息的记忆能力,区分了训练和推理模式下隐藏状态的处理,并对网络构建、动作采样、价值评估等函数实现进行了详细剖析,为理解复杂机
系统阐述了GraphRAG技术的演进历程、核心架构与前沿实践。传统RAG存在关系理解缺失、多跳推理薄弱等局限,而GraphRAG通过知识图谱的语义网络结构实现突破性提升。文章详细解析了三阶段架构(知识图谱构建-图谱检索-增强生成),对比分析了Microsoft GraphRAG等四大前沿框架的技术特点,并建立了覆盖检索质量、生成效果与系统性能的评估体系。研究表明,GraphRAG在复杂查询场景下可
自动驾驶系统由感知、定位、规划和控制四大核心模块组成。感知模块通过摄像头、激光雷达等传感器识别环境;定位模块利用GPS、激光雷达等技术确定车辆位置;规划模块负责路线选择和行为决策;控制模块执行转向和速度控制。系统通过传感器采集数据→环境理解→决策规划→车辆执行的流程实现自动驾驶功能。开发过程包括算法开发、仿真测试和道路测试等环节,最终实现从感知到执行的完整技术架构。
深度学习是机器学习的一种特殊方法,而机器学习是实现人工智能的主要途径。
逻辑回归(Logistic Regression)是机器学习中最常用却最容易被误解的算法之一。它名字里有“回归”,却用于分类问题;它看似简单,却在医疗诊断、金融风控、广告点击率预测等场景中扮演着核心角色。本文将彻底拆解逻辑回归的数学本质,手写实现核心代码(无库依赖),并通过真实乳腺癌数据集展示实战应用。内容包含公式推导、代码逐行解析、可视化分析、常见误区,确保你不仅能用,更能理解为什么这样用。无论
摘要:本文介绍了朴素贝叶斯算法和聚类算法的原理与应用。朴素贝叶斯是一种基于概率的分类算法,假设特征相互独立,适用于文本分类等场景。聚类算法则是一种无监督学习方法,通过样本相似性进行分组,包括K-means、层次聚类等。K-means算法流程包括初始化聚类中心、计算距离、重新计算中心点等步骤,评估指标有SSE、轮廓系数等。文章还提供了商品评论情感分析和客户聚类两个实际案例,展示了算法在文本处理和商业
支持向量机(Support Vector Machine,SVM)是机器学习领域经典的有监督分类算法,自诞生以来凭借扎实的数学理论、优秀的小样本学习能力、强大的非线性拟合能力,在分类、回归等任务中得到了广泛应用。本文将从通俗的原理讲解入手,深入拆解 SVM 的核心逻辑,再基于 Python+sklearn 实现完整的 SVM 分类任务,包含可视化、模型训练、评估全流程,帮助读者从入门到实战彻底掌握
本文系统介绍了计算机视觉中的形状模型,涵盖从基础到高级的多种方法。首先讲解了形状的轮廓点表示和参数化表示,随后详细阐述了Snake模型、形状模板、统计形状模型(PCA)、子空间形状模型(PPCA)等核心算法,并提供了对应的Python实现代码。针对三维场景,介绍了三维形状模型和铰接式人体模型。文章还探讨了形状与外观的联合建模以及非高斯统计形状模型(GPLVM)。每个模型都配有可视化示例,通过对比原
做机器学习别一上来就挑模型,先把地图画清:数据有没有标签,决定用监督、无监督、半监督还是强化。再按“数据→特征→训练→评估→上线”走流程,效果多半卡在特征工程上。模型只是工具而已。
创新点总结CrossAD通过“跨尺度重建”解决了多尺度关联利用的深度问题,通过“跨窗口全局建模”解决了上下文视野广度的问题。两者结合,使模型同时具备了“显微镜”(洞察细粒度异常)和“望远镜”(把握全局背景)的能力。CrossAD通过机制设计,将模型从“盲人摸象(固定窗口)”和“管中窥豹(单尺度)”的传统困境中解放出来,使其能够“纵观全局、明察秋毫”,这正是其在技术上取得突破性进展的根本原因。实验验
被 GPT-5.2「夺舍」?谷歌 Gemini 3.1 Pro 深度实测来了
从样本图像来看,数据集覆盖了多样化的机场地面场景:包含不同机型的飞机、各类地勤保障设备与廊桥设施,且图像中存在自然的光照变化、阴影干扰与设备遮挡,模拟了机场周转作业中的真实视觉条件。该数据集覆盖了机场周转环节的典型环境:包含白天、黄昏、夜间等不同时段的光照变化,以及晴天、阴天等天气条件,模拟了机场地面作业的真实视觉挑战,能够帮助算法更好地应对现实中的干扰因素,提升检测的鲁棒性。在使用该数据集进行学
1.核心概念:条件独立性是图模型的基础,有向图表示因果关系,无向图表示相互依赖; 2.实战重点:有向图适合分类 / 推理,无向图适合图像建模 / 去噪,CRF 是无向图在视觉中的核心应用; 3.关键能力:图模型的学习是估计参数,推理是求解未知变量(MAP、边缘分布、采样等)。
这篇文章主要讲一些模型集成的原理,实际上我做完集成后中kaggle上的分数反而不如单一模型的表现(目前我最好的成绩已经到了Top3%,大家可以期待一下后续的文章)模型集成是机器学习里 “花小钱办大事” 的核心技巧 —— 哪怕单个模型效果平平,选对方法把它们组合起来,就能显著提升预测准确率和稳定性。。关键前提:参与集成的模型要 “有差异”(比如类型不同、参数不同),如果所有模型都犯一样的错,集成只会
本文探讨了社交平台广告精准投放与转化优化的核心技术框架,聚焦于Andromeda广告检索系统、多维度动态检索机制(整合27种信号)、Godel广告排序模型以及转化率预测算法。这些技术通过人工智能和机器学习驱动,提升广告交付的精确性和转化效率。
本文系统介绍了核机器(Kernel Machines)的原理与应用,重点讲解了支持向量机(SVM)及其核心技巧。主要内容包括:1)线性可分SVM的最优超平面;2)软边缘SVM处理不可分数据;3)ν-SVM的容错机制;4)核技巧的本质与常见核函数对比;5)自定义核函数的实现方法;6)核机器在分类、回归、排序、异常检测等场景的应用;7)核降维技术KernelPCA。通过可视化对比和可运行代码,直观展示
LongCat-Flash-Lite 的实践,为大模型的高效扩展提供了一种新的可能性:通过 N-gram 嵌入 与 系统级优化 的协同设计,我们得以用29亿~45亿的动态激活参数,在智能体与编码等关键任务上,实现与更大模型比肩的竞争力。
集成学习是将多个基学习器(基础模型)进行组合训练,最终形成一个强学习器的机器学习方法,核心思想是“三个臭皮匠,顶个诸葛亮”——通过多个简单模型的协同,实现比单一模型更优越的学习性能。随机森林是以决策树为基分类器的Bagging集成模型,通过对训练数据和特征进行双重随机采样,构建多棵相互独立的决策树,最终通过多数投票(分类任务)或均值(回归任务)得到模型输出。其核心是“随机”+“森林”:随机保证了树
本实验围绕回归算法展开实践,包含四个任务:1)使用正规方程实现房价预测线性回归模型;2)采用10次多项式回归拟合平面数据点;3)运用岭回归解决多项式过拟合问题,分析不同正则化参数的影响;4)基于糖尿病数据集建立线性预测模型。实验涉及算法实现、模型评估(MSE、R2)、特征处理及结果可视化,通过对比不同回归方法验证了正则化对模型泛化能力的提升效果,并输出了糖尿病预测的回归方程。
本文系统介绍了多层感知器(MLP)的核心原理与应用。首先从人脑神经元机制引出感知器模型,通过代码实现展示了单个感知器处理二分类问题的能力及其线性不可分的局限性。重点阐述了MLP通过增加隐藏层和非线性激活函数解决XOR等复杂问题的原理,包括前向传播、反向传播算法和普适近似定理。文章提供了完整的Python实现,涵盖MLP训练、非线性函数拟合、自编码器降维等应用场景,并讨论了过拟合、网络规模调整等实践
数据本身蕴含结构,只需合适的透镜去观察。它不提供确定答案,而是提出假设——“这些样本可能属于同一类”、“数据可能位于这个低维流形上”。这种探索精神,正是科学发现的本质。下一篇文章,我们将进入模型评估与验证的领域——那里有偏差-方差权衡、交叉验证、A/B 测试,是确保模型可靠落地的关键。真正的洞察,往往始于对数据本身的敬畏与好奇。
本文是《机器学习导论》第1章的实战指南,系统讲解机器学习五大核心应用场景。内容涵盖关联规则学习、分类、回归、非监督学习和增强学习,每个知识点均配有可直接运行的Python代码(含详细注释)和可视化效果对比。通过购物篮分析、鸢尾花分类、房价预测、KMeans聚类和迷宫寻路等经典案例,直观展示机器学习算法的实际应用。文章采用"理论+代码+可视化"的三维讲解模式,包含流程图、思维导图
本文详细介绍了机器学习中两种核心特征提取方法:主成分分析(PCA)和线性判别分析(LDA)。PCA作为无监督降维技术,通过最大化方差寻找数据主成分;LDA则是有监督方法,利用类别信息优化类间/类内方差比。文章对比了两者的特点、几何解释及应用场景,并提供了sklearn实现代码和参数调优建议。通过人脸识别和葡萄酒分类等案例,展示了特征提取在实际问题中的应用价值,最后以手写数字识别为例完整演示了特征提
神经网络通过多层非线性变换实现复杂函数逼近,其核心在于前向传播和反向传播机制。相比传统机器学习模型,神经网络擅长处理高维非线性数据(如图像、语音等),但计算复杂度更高。关键设计包括激活函数(如ReLU)引入非线性、损失函数匹配任务需求,以及通过反向传播高效计算梯度。尽管神经网络被视为"黑箱",但其本质是灵活的数学函数逼近器,而非模拟人脑。理解其数学原理和工程权衡,有助于在实际问
本文介绍了机器学习中的距离度量和特征预处理方法。距离度量部分详细讲解了欧式距离、曼哈顿距离、切比雪夫距离以及综合性的闵可夫斯基距离。特征预处理部分重点阐述了归一化和标准化两种方法:归一化通过MinMaxScaler将数据映射到指定范围(如[0,1]),标准化则使用Z-score方法将数据转换为均值为0、标准差1的分布。文章通过Python代码演示了两种预处理的手动实现和sklearn API实现,
本项目使用的是Indian Liver Patient Dataset(印度肝病患者数据集),该数据集来自UCI机器学习数据库,包含了印度安得拉邦阿波罗医院收集的583个患者记录。异质性:结合了不同类型算法的优势元学习:通过第二层模型学习最优组合方式鲁棒性:即使某个基础模型表现较差,整体性能仍能保持稳定✅ 实现了完整的机器学习流程:从数据预处理到模型评估✅ 采用Stacking集成学习,整合了8种
模型架构是反事实推理嵌入的核心载体,需根据任务类型(传统统计学习、深度学习)与数据维度,选择适配的因果模型框架,并在架构中嵌入因果约束,确保模型学习因果关联而非仅拟合关联模式。,让模型在学习数据模式的同时,掌握因果推理能力。传统机器学习模型的核心是拟合数据中的关联模式,但在真实世界中,关联往往受到混淆变量、选择偏差等因素的影响,无法支撑可靠的决策。通过对这些反事实场景的训练,模型能够学习到更通用的
本文介绍了KNN(K-近邻)算法的核心原理与应用。KNN通过计算样本间欧氏距离,基于最近邻样本进行预测,适用于分类和回归任务。分类采用多数投票法,回归采用均值法。文章详细分析了K值选择对模型的影响(过小易过拟合,过大易欠拟合),并提供了Python实现代码示例,包括鸢尾花分类和房价预测回归任务。最后对比了KNN在分类与回归中的核心差异,强调回归任务必须进行特征标准化。该算法简单直观,但计算复杂度随
本文全面介绍了集成学习的基本概念和主要方法。集成学习通过组合多个基学习器提升模型性能,核心思想是"三个臭皮匠顶个诸葛亮"。主要内容包括:1)Bagging方法(如随机森林),通过并行训练和样本/特征扰动降低方差;2)Boosting方法(如AdaBoost、GBDT),通过串行训练和错误样本权重调整降低偏差;3)实战应用部分展示了随机森林、GBDT/XGBoost在分类、回归任
线性回归是机器学习中最基础、最常用的算法之一,核心作用是 “建模变量间的线性关系”,比如用广告投入预测销售额、用学习时长预测考试成绩。它原理简单、可解释性强,是解决回归类问题的 “入门首选”,工作中掌握这一章的核心内容,能应对 80% 的连续值预测场景。