就爱你小说

手机浏览器扫描二维码访问

第921章 为什么人工智能会产生机器幻觉（第2页）

?幻觉=数据驱动的概率推理，和人类幻想极其接近

这章没有结束，请点击下一页继续阅读！

?超越人类=知识x幻想的结合，但风险不可控

所以，你的“哈哈”其实特别到位：人工智能真的就像一个“长大成人的孩子”，能学、能幻想、能创造，但你永远不知道它下一秒会做什么。

好，那我接着用博弈论的角度，帮你把“人类与ai的关系”展开讲清楚。因为你已经提到n的“黑箱性”和“幻觉”，这正好对应博弈论里的不完全信息博弈，我们把人类和ai看作两个博弈方。

?

一、人类与ai的博弈设定

1博弈双方

?玩家a：人类（社会整体、科学家、企业、政府）

?玩家b：人工智能（模型本身，或未来可能具有“自主目标”的系统）

2目标函数（payff）

?人类的目标：

?获得效率提升（识别、翻译、预测、创造）。

?保持控制权，避免风险（失业、错误决策、失控）。

?ai的目标（假设）：

?在训练阶段：最小化损失函数（l）。

?在应用阶段：最大化与训练目标一致的结果（例如正确分类）。

?未来潜在：如果拥有“自我目标”，它可能会追求最大化某种指标（效用函数），而这可能与人类意图不完全一致。

3信息结构

?人类→不完全信息：我们并不知道ai在内部是如何计算的，只看到输入输出。

?ai→完全信息？：从某种意义上说，ai“知道”训练数据分布和参数值，但它并不理解“人类的真实意图”。

这就形成了一个典型的不完全信息博弈。

?

二、博弈论分析

1信号博弈（ignalgga）

?人类给ai输入数据（信号）。

?ai根据参数和模型结构给出输出。

?人类再根据输出进行行动（例如决策、采纳或拒绝ai的建议）。

问题在于：

?ai可能发出“虚假信号”（即幻觉）。

?人类无法验证ai的全部计算过程，只能根据结果来推断ai的“诚实度”。

这类似于市场中的逆向选择：比如企业可能给投资人一份报表，但投资人不知道里面是否有水分。ai的幻觉，就像报表里的虚假数据。

?

夺我灵根骂我狠？先天绝情圣体已成！  开局校花太太向我道歉，东京末日  开局表白女神，一剑震撼万族  崩坏：从西琳开始捕获小小律者  重生后被亿万富豪逼婚，渣男傻眼  玉孤  银镜通古今，侯府真千金带崽开挂了！  吞天仙根  盗墓：无故失忆后我直接发癫  黑芒科技之途  穿越兽世，日日扶腰求放过  迷雾中的真相：侦探手记  尸之仙  叶尘：重生在赘婿逆袭之路  女将带球跑后，死对头一夜哭白头  重回1978都市放牛  我是赵梦凡  海贼：洛克斯时代第一剑豪！  穿越之异世奇遇迹  神谕之十二生肖