神经网络基础

📖 学习建议（阶梯式路径）

感知机与MLP —— 感知机线性二分类，MLP通过隐藏层与激活函数拟合非线性。
💡 用NumPy从零实现一个两层MLP，解决XOR问题。
激活函数 —— Sigmoid/Tanh易饱和，ReLU缓解梯度消失，LeakyReLU/PReLU/ELU变体。
💡 在隐藏层用ReLU，输出层二分类用Sigmoid，多分类用Softmax。
反向传播 —— 根据损失函数，沿计算图反向传播梯度，更新参数。
💡 手动推导一个简单MLP的反向传播公式。
优化器 —— SGD + Momentum加速，AdaGrad自适应学习率，Adam集大成。
💡 用Adam优化器训练模型，对比SGD的收敛速度。
权重初始化 —— 全零初始化导致对称失效。Xavier适合Tanh，He适合ReLU。
💡 在PyTorch中指定初始化方式，观察训练初期梯度分布。

💡 学习贴士： 理论与代码并重，动手实现经典模型，在GPU上验证想法。

前置依赖： 学习神经网络基础前，建议具备Python编程、线性代数、概率论基础。

后续延伸： 学完神经网络基础后，可继续深入AI的其他子领域或应用方向。

🔵 已开放 · 可随时探索🟠 生长中 · 内容持续丰富🟣 探索级 · 深度拓展

🌱 为了包容与博爱的传递，为了知识平权，善智导航正在陆续深化每一个知识点页面。
下方所有知识点均已预留链接，可随时点击探索。

✨ 每个链接都是一扇门，推开即是新世界。

MLP即可达到97%以上准确率。

在结构化数据上，MLP可作为XGBoost的替代或补充。

我是一名正在学习神经网络基础的学生，请用生动易懂的方式为我讲解其核心概念，并结合AI领域的实际应用场景加以说明。