手机浏览器扫描二维码访问
第583章 激活函数（第1页）
激活函数是什么？——用故事和比喻讲解
故事比喻：门卫老张的筛选机制
想象一个大型科技公司的总部大楼，每天有很多人想进公司。但并不是所有人都能进去，只有符合某些条件的员工才能进入工作，而其他人要被拦在门外。
这座大楼的门口站着一个门卫——老张。他的任务是检查进来的人，决定谁能进，谁不能进。他的决策规则就像神经网络中的“激活函数”！
第一种情况：老张完全放行（恒等函数）
有一天，老张心情很好，他决定：“今天所有人都能进！”
?不管是正式员工、游客，还是快递小哥，只要有人过来，老张就让他们进大楼。
?这就像是**“线性函数”或“恒等函数”**（IdentityFunction），没有任何筛选，数据怎么进来，就怎么传递出去。
问题：
?如果门口有太多人，会导致办公楼人满为患，甚至干扰员工工作（信息过载）。
?这种情况下，神经网络可能无法学习复杂的特征，因为它没有任何“过滤”或“激活”机制。
第二种情况：老张只让合格员工进（ReLU激活函数）
第二天，公司老板告诉老张：“从现在开始，只有正式员工能进，其他人一律不准进！”
?于是，如果有人出示正式员工证，老张就让他进去。
?但如果是游客、闲杂人等，老张直接摇头：“不行，回去吧！”
这就像ReLU（修正线性单元）激活函数：
?如果输入是正数（正式员工），就直接通过，传递给下一层神经网络。
?如果输入是负数（闲杂人等），直接变成0，相当于拒绝进入。
优点：
?过滤掉无用信息（负数变成0，相当于屏蔽了一些干扰）。
?计算简单，速度快，不会引入复杂的计算。
问题：
?万一是一个优秀但没证件的实习生呢？他可能也被老张拦在门外了（ReLU会把所有负数信息直接清零）。
第三种情况：老张有点犹豫（Sigmoid激活函数）
有一天，老张觉得：“或许我不该这么绝对，可能有些游客也是未来的潜在客户，不该完全拒之门外。”
于是，他制定了一套打分系统：
?正式员工（高分）：直接进！
?游客（中等分）：可以进去看看，但不能随意走动。
?陌生人（低分）：抱歉，不能进！
这就像Sigmoid激活函数，它的输出介于0到1之间，相当于一种概率衡量：
?高于0.5的人（高分）：大概率被接受。
?低于0.5的人（低分）：大概率被拒绝。
重生后被亿万富豪逼婚，渣男傻眼 开局校花太太向我道歉，东京末日 银镜通古今，侯府真千金带崽开挂了！ 开局表白女神，一剑震撼万族 崩坏：从西琳开始捕获小小律者 穿越之异世奇遇迹 女将带球跑后，死对头一夜哭白头 盗墓：无故失忆后我直接发癫 神谕之十二生肖 叶尘：重生在赘婿逆袭之路 尸之仙 夺我灵根骂我狠？先天绝情圣体已成！ 玉孤 重回1978都市放牛 我是赵梦凡 海贼：洛克斯时代第一剑豪！ 吞天仙根 迷雾中的真相：侦探手记 穿越兽世，日日扶腰求放过 黑芒科技之途
异界召唤之千古群雄
这里有西楚霸王‘项羽’。这里有绝代杀神‘白起’。这里有千古奇人‘鬼谷子’。这里有西府赵王‘李元霸’。这里有盖世猛将‘吕布’。这是一个开挂的故事，生死看淡，不服就干！人呢？快进来扶扶朕（疯狂暗示加入书架），朕要拿传国玉玺，给读者老爷们砸核桃！什么？不吃核桃？没关系，拿朕的金箍棒来。给读者老爷们先剔剔牙，再随朕前往...
我的绝美御姐老婆
聚焦巅峰火爆畅销他是世界闻名的巅峰杀手，却被家族逼婚，与美女总裁住在了一起。彼此看不顺眼却又不得不同居，萧凡决定回学校散散心，可是...
君少心头宝，夫人哪里跑
从我身上下去。男人的声音透着几分无奈和隐忍。我不。少女摇头，双手死死抱住身下的男人。听话，你这样我没法睡。以前我都是趴你身上睡的。那不一样你现在是人。京城杀伐果断，残暴冷血的神秘大当家意外被只小奶猫所救，从此化身猫奴，跌了一众下属的下巴。然而当有一天睡醒发现怀里的小奶猫变成了俏生生的软萌小丫...
色间道
穷小子楚帅，先赚了一个极品级二奶，却原来是间谍精英，然后，一个大陆女警官凌小杰好有暗恋他，可是，穷小子还有一个比鸟齐飞的原配初恋，还有一个女朋友的死党小魔女蓝菲，还有几乎是后宫佳丽如云，不过，一个个美眉都有好神秘的身份，你中有我，我中有你...
都市寻艳录
身世坎坷历经沧桑人间情意究竟为何物？妈妈是什么？奶奶是什么？姑姑婶婶又是什么？也许，都是女人罢了。你们给了我们生活的必须，但是她们没有给我们家庭的温暖，因此从理智上我们应该感激你们的，可是感情上很多时候是会出现偏差的。我喜欢熟女喜欢年龄稍大的女人当然是女人我都会喜欢当然是那种好女人...
猎美玉龙
看书名就知道，我们的猪脚究竟要干什么！请耐心看下去，你不会失望的！京华市委书记的儿子荆天，16岁，仗着老子是京华市的一把手，在学校里是个问题学生，回到家却乖的不得了，这个两面少年，无意中从一枚祖传古戒中得到一种神奇的功法，从此之后，他的人生，发生了巨大的变化。学习成绩陡然上升，少女少妇看到他就美眸放光，将市委大院里的RQ收了之后，他便将魔爪伸向了校园，伸向了整个京华市的各个部门，只要他见到的美女，就想方设法归于自己麾下，邪恶而轻松的猎美之旅，充满着令人拍案的奇妙遭遇，是艳遇还是刻意追求？敬请期待...