手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
黑芒科技之途 神谕之十二生肖 重生后被亿万富豪逼婚，渣男傻眼 尸之仙 开局表白女神，一剑震撼万族 穿越兽世，日日扶腰求放过 吞天仙根 银镜通古今，侯府真千金带崽开挂了！ 叶尘：重生在赘婿逆袭之路 崩坏：从西琳开始捕获小小律者 迷雾中的真相：侦探手记 玉孤 女将带球跑后，死对头一夜哭白头 夺我灵根骂我狠？先天绝情圣体已成！ 盗墓：无故失忆后我直接发癫 我是赵梦凡 开局校花太太向我道歉，东京末日 穿越之异世奇遇迹 海贼：洛克斯时代第一剑豪！ 重回1978都市放牛
兵王传说
一场人质救援行动中，因为救援失败而一蹶不振的龙牙队员张正选择退役归隐，此后国家神秘的龙牙小组真正意义上失去了最尖锐的兵器。几年后的张正再次出现势必要将这世界搅动得天翻地覆。...
蜀山魔门正宗
蜀山有玄门正宗，一家独大。主角修炼的是魔门正宗。群号紫云宫22117110。...
苏狂
下载客户端，查看完整作品简介。...
极品仙师
市一高新丁黄景耀因得罪骨干教师被恶意针对，不堪受辱辞职后意外得到仙家至宝。重新执教县一高，左手录运簿册掌天下文章，可查看每一个学生学习天赋，提升天赋。右手文昌大印掌考场气运，财富官运。教师以教育水平和升学率为本，黄景耀渐渐发现他的本钱雄厚的有些令人发指，一次次撼动整个教育界，又远不止单一的教育界。...
我的绝美御姐老婆
聚焦巅峰火爆畅销他是世界闻名的巅峰杀手，却被家族逼婚，与美女总裁住在了一起。彼此看不顺眼却又不得不同居，萧凡决定回学校散散心，可是...
1号新妻：老公，宠上瘾！
被继母逼迫，她走投无路，和神秘富豪签定协议嫁进豪门。婚后三年，富豪老公把她宠上天。只除了没有生下继承人。豪华别墅里，裴七七气愤地将报纸砸在男人身上这上面说我是不下蛋的母鸡，唐煜，明明就是你的问题。男人放下报纸，一本正经地赞同小妻子的话怎么能乱写呢，你分明属猪！唐！煜！她气得跳脚！男人轻笑有没有孩...