手机浏览器扫描二维码访问
第583章 激活函数（第2页）
优点：
?可以平滑地过滤数据，避免“全进或全不进”这样极端的情况。
?适用于二分类问题（比如邮件是垃圾邮件还是正常邮件）。
问题：
?计算比较复杂，不像ReLU那么直接。
?当数据过大或过小时，变化很小，容易导致梯度消失（学习速度变慢）。
第四种情况：老张更加智能（Softmax激活函数）
有一天，老板告诉老张：“我们公司不仅有正式员工，还有不同的部门，比如工程部、市场部、财务部。你不能只区分‘进’或‘不进’，而是要把人分到不同的部门。”
于是，老张开发了一套更加高级的评分系统，不仅判断某人是否能进，还会计算他属于哪个部门的概率。
?如果一个人穿着工程师制服，90%可能属于工程部，10%可能属于市场部。
?如果一个人拿着营销资料，80%可能属于市场部，20%可能属于工程部。
?每个人都按照最高概率归类到相应部门。
这就像Softmax激活函数，它的作用是：
?把所有的可能性转换成概率分布（所有概率加起来是1）。
?适用于多分类问题（比如识别一张图片是“猫”、“狗”还是“兔子”）。
优点：
?适合多类别分类，可以告诉你**“最有可能”是哪一类**。
问题：
?计算量比ReLU大一点，但在分类任务中是最合适的。
总结：不同激活函数的角色
激活函数比喻适用场景优点问题
恒等函数（Identity）老张不筛选，所有人都能进线性回归简单直接不能处理复杂问题
ReLU老张只让正式员工进，其他人全拒深度学习、CNN计算简单，效率高负数全部变0，信息可能丢失
Sigmoid老张给每个人打分，决定能不能进二分类问题（垃圾邮件分类）平滑过渡，输出0-1概率容易梯度消失
Softmax老张不但决定谁进，还要分部门多分类问题（图像识别）适合多分类问题计算比ReLU复杂
结论：激活函数=智能筛选机制
?激活函数的作用就像门卫老张，决定哪些信息能进入下一层，哪些要被拒绝。
?不同的激活函数适用于不同的任务，ReLU、Sigmoid、Softmax各有千秋。
?深度学习的关键就是如何聪明地使用这些筛选机制，让神经网络学得更快、更准确！
你更喜欢哪个“门卫策略”呢？如果你是老张，你会怎么设计你的筛选规则？
喜欢职场小聪明请大家收藏：（）职场小聪明
夺我灵根骂我狠？先天绝情圣体已成！ 重回1978都市放牛 崩坏：从西琳开始捕获小小律者 黑芒科技之途 银镜通古今，侯府真千金带崽开挂了！ 女将带球跑后，死对头一夜哭白头 穿越兽世，日日扶腰求放过 叶尘：重生在赘婿逆袭之路 玉孤 海贼：洛克斯时代第一剑豪！ 神谕之十二生肖 我是赵梦凡 盗墓：无故失忆后我直接发癫 开局校花太太向我道歉，东京末日 迷雾中的真相：侦探手记 吞天仙根 穿越之异世奇遇迹 重生后被亿万富豪逼婚，渣男傻眼 尸之仙 开局表白女神，一剑震撼万族
异界召唤之千古群雄
这里有西楚霸王‘项羽’。这里有绝代杀神‘白起’。这里有千古奇人‘鬼谷子’。这里有西府赵王‘李元霸’。这里有盖世猛将‘吕布’。这是一个开挂的故事，生死看淡，不服就干！人呢？快进来扶扶朕（疯狂暗示加入书架），朕要拿传国玉玺，给读者老爷们砸核桃！什么？不吃核桃？没关系，拿朕的金箍棒来。给读者老爷们先剔剔牙，再随朕前往...
我的绝美御姐老婆
聚焦巅峰火爆畅销他是世界闻名的巅峰杀手，却被家族逼婚，与美女总裁住在了一起。彼此看不顺眼却又不得不同居，萧凡决定回学校散散心，可是...
君少心头宝，夫人哪里跑
从我身上下去。男人的声音透着几分无奈和隐忍。我不。少女摇头，双手死死抱住身下的男人。听话，你这样我没法睡。以前我都是趴你身上睡的。那不一样你现在是人。京城杀伐果断，残暴冷血的神秘大当家意外被只小奶猫所救，从此化身猫奴，跌了一众下属的下巴。然而当有一天睡醒发现怀里的小奶猫变成了俏生生的软萌小丫...
色间道
穷小子楚帅，先赚了一个极品级二奶，却原来是间谍精英，然后，一个大陆女警官凌小杰好有暗恋他，可是，穷小子还有一个比鸟齐飞的原配初恋，还有一个女朋友的死党小魔女蓝菲，还有几乎是后宫佳丽如云，不过，一个个美眉都有好神秘的身份，你中有我，我中有你...
都市寻艳录
身世坎坷历经沧桑人间情意究竟为何物？妈妈是什么？奶奶是什么？姑姑婶婶又是什么？也许，都是女人罢了。你们给了我们生活的必须，但是她们没有给我们家庭的温暖，因此从理智上我们应该感激你们的，可是感情上很多时候是会出现偏差的。我喜欢熟女喜欢年龄稍大的女人当然是女人我都会喜欢当然是那种好女人...
猎美玉龙
看书名就知道，我们的猪脚究竟要干什么！请耐心看下去，你不会失望的！京华市委书记的儿子荆天，16岁，仗着老子是京华市的一把手，在学校里是个问题学生，回到家却乖的不得了，这个两面少年，无意中从一枚祖传古戒中得到一种神奇的功法，从此之后，他的人生，发生了巨大的变化。学习成绩陡然上升，少女少妇看到他就美眸放光，将市委大院里的RQ收了之后，他便将魔爪伸向了校园，伸向了整个京华市的各个部门，只要他见到的美女，就想方设法归于自己麾下，邪恶而轻松的猎美之旅，充满着令人拍案的奇妙遭遇，是艳遇还是刻意追求？敬请期待...