就爱你小说

手机浏览器扫描二维码访问

第827章 没经过标注学习的大模型直接拿训练结果会不完整(第2页)

导致“结构性不完整”。

?

2.

任务映射角度:无标注训练难以学得任务映射规则

?

自监督语言模型训练的本质是“概率语言建模”,不是“任务解答”;

?

所以它并不知道“题目是什么、目的是什么”,而是推测“在这种上下文中,最可能出现的词或句子是什么”;

?

比如:它可以写诗、写代码,但并不能天然知道“这个代码是否安全”“这首诗是否表达了想表达的情绪”。

结论:任务导向的“目标函数”缺失

无法学会“为什么做”。

?

3.

可解释性角度:非标注训练缺乏因果结构建模

?

人类通过监督学习明确学习“因果—目的—手段”结构;

?

但大语言模型更像是“相关性结构模拟器”;

?

它可以“预测一个合理的答案”,但不能清晰解释“为什么这个是对的”,这导致它常常幻觉(hal露cination),即信心满满地说错话。

结论:缺乏标注训练导致“因果推理能力弱化”,解释力不足。

?

三、类比视角:大模型

vs

人类学习

我们可以做几个有趣的类比来更好理解:

模型机制

类比人类

结果

自监督训练

看大量书籍和对话,但没人教你正确答案

可形成语言风格、思维路径,但很难准确判断对错

监督训练

海贼:洛克斯时代第一剑豪!  重回1978都市放牛  神谕之十二生肖  开局校花太太向我道歉,东京末日  玉孤  夺我灵根骂我狠?先天绝情圣体已成!  穿越兽世,日日扶腰求放过  黑芒科技之途  崩坏:从西琳开始捕获小小律者  盗墓:无故失忆后我直接发癫  银镜通古今,侯府真千金带崽开挂了!  穿越之异世奇遇迹  迷雾中的真相:侦探手记  吞天仙根  叶尘:重生在赘婿逆袭之路  重生后被亿万富豪逼婚,渣男傻眼  我是赵梦凡  开局表白女神,一剑震撼万族  尸之仙  女将带球跑后,死对头一夜哭白头  

热门小说推荐
种田山里汉:神医美娇娘

种田山里汉:神医美娇娘

已完结,新书求支持!小神医魂穿女尊王朝,原主臭名昭著,残暴不仁,身后留下一堆烂摊子。家徒四壁,茅屋漏雨,粮缸又已见了底。面对美貌的夫君,又瞅瞅丑不拉叽的自己,她狂奔在一条通往钢牙小白兔的康庄大道上!敢觊觎她夫君?揍,没有拳头解决不了的事情!如果有,那就接着揍!穷?医术,香粉,布艺,美食,酒庄,生意做起来,铺子开...

阴娘

阴娘

18岁那年,我娘被我爹打死,然后我爹娶了个和我一样大的后娘进门。7天后,我娘爬出棺材,敲开了我父亲的门欢迎关注我的微博大家看的时候记得先登陆(QQ号直接登陆就可以了!)然后点一下封面下面的推荐按钮!加更规则200个钻石加一更!单独打赏两个玉佩加一更!一个皇冠加五更!关键词阴娘最新章节阴娘小说阴娘全文阅读...

从超神学院开始的穿越日常

从超神学院开始的穿越日常

作为普通人的许易穿越到神学院的世界,表示压力山大!然而许易意外激活身体里的无限系统,得而穿越各种不同的幻想世界,影视,动漫,小说一切应有尽有。许易面色淡漠,仰视苍天,忽然开口我要这天,再遮不住我眼。我要这地,再埋不了我心。要这众生,都明白我意。要那诸佛,全都烟消云散。苍天mdzz,老子招你惹你啦!...

穿越大周(武唐风流)

穿越大周(武唐风流)

李逸飞,大唐前太子李贤之子,因其父被武则天毒害,从小就被逍遥老人收养,十年之后,学艺有成的李逸飞下山报仇,最后经过与武则天的一番较量终于将女皇降服,成功光复李唐江山,揽江山美人于一身,享受人间帝王之风流。...

发个微信去天庭

发个微信去天庭

当秦奋手机微信摇出了天庭朋友圈,他发现自己的人生变了,但天庭的变化更惊悚。想要金点子,行,拿东西来换,我不挑食。超市,串串香,等一系列熟悉的东西对原有的天庭造成了冲击。秦奋看着天庭的物产,发现自己似乎要发了。种田,数钱,好多事要做。我是先吃蟠桃呢,还是九转金丹。签已过,人品嘛,我很有节操可以吗?求点求收求票票,求包...

每日热搜小说推荐