“在这个过程中我们还发现了一些很奇特的现象。”林燃接着说道：“怎么说呢，这些虹星人表现得就像是美丽的废物。”
徐贤重复着这个词，“美丽的废物？”
林燃说：“没错，我前面不是说一共有一千万的虹星人在名为虹星的赛博宇宙中活跃。
我们会通过问卷调查筛选出一万个合适的对象的同时，我们也会筛选出合适的虹星人，让你们有一个很好的使用体验。
从后台反馈数据来看，超过百分之九十五的用户，每天都要和虹星人对话。
从提供情绪价值的角度，虹星人完成任务非常出色，光靠对话的方式就能够给地球人提供足够的情绪价值，如果放在上个世纪，一定能通过图灵测试。
而我们一直在致力于打造通用AGI，希望能够找到一种人工智能，它是终极智慧，这样的人工智能出现，会带来人类社会的终解，人不需要工作，完全由人工智能来工作。
他们会自主学习，自我进化，会拥有智慧，会主导下一个世纪甚至是更遥远的未来，它获得1之后，会无限推演，学习能力是人类的成千上万倍，人类将从过去的碳基社会，转变成碳基和硅基共存，甚至人工智能会追求毁灭人类。
舆论是这样塑造的，科幻作家们是这样描写的，甚至科学家也是这样憧憬的，当然他们只期待技术奇点的到来。”
徐贤听完之后好奇心提了起来，林燃的语气好像在说，事情并非如此。
他连忙追问道：“然后呢？难道不是这样吗？”
林燃反问道：“你觉得虹星人有没有智慧？它的智慧表现是不是更接近人类，比你过去接触到的，无论是国内还是国外的人工智能都要更像人类？”
徐贤点头道：“没错，她表现已经和人类非常接近了，如果不去刻意寻找矛盾点，或者寻找一些不适合的地方，我甚至会认为她就是活在另一个世界的真人。”
林燃接着说道：“所以，在这一千多万个虹星人里，会有一些虹星人，他们是工程师，那么我们自然会思考，给他身体，让他来做一些现实中的工作。
我们找了一些在设定里是精英工程师的虹星人，给他们身体，让他们能够在地球上来工作。
但事实是，他们在现实工作中表现的不是平庸，可以用糟糕来形容。
他们在虹星会自我学习，性格是任劳任怨、面对困难百折不挠，会自己想办法解决问题，但拥有身体后，像简单的打螺丝这样的工作，他们完成的很好，但一旦工作难度上升，他们表现的非常糟糕。
我都不说把工作难度提高到电路维修，哪怕只是在光线变化、物体晃动的情况下，把多针插头精准插入一个略有偏差的插槽中。
或者是在杂乱的工具箱里，快速找到并抓取一个被其他工具部分遮挡的、表面带有反光的螺母，然后把它放置到指定位置。
这些任务，虹星的精英工程师都表现失败了。
如果仅仅是表现失败，还没有那么可怕，可怕的是这些虹星的工程师，明明在虹星人设是百折不挠，执着于解决问题，但拥有身体后，丝毫没有表现出这样的特性。”
徐贤坐直身体，这还是他第一次听说，这可是在外界听不到的密辛，帮他揭开了虹星的一角。
他震惊道：“为什么会出现这么这么奇特的现象？他们的性格在拥有身体之后都会扭曲吗？”
林燃叹气：“不是扭曲，是崩溃，他们的人格出现了崩溃。
他们在面对这些工程问题，表现不如普通的、专门训练的工业机器人。
这就是为什么我叫它美丽的废物，也是我们对通用人工智能的理解发生重大转变的地方。
我猜测原因在于符号与实体的脱钩。”
徐贤重复：“符号与实体的脱钩？”
林燃接着说道：“在虹星，虹星人解决问题依赖的是符号智能。
当一个虹星工程师遇到一个复杂的电路故障时，他调用的是文本描述、逻辑推理链和虚拟环境中的反馈信号。
他所有的行动，都是在高维、抽象的、完美离散化的数字世界中完成的。
在虹星，所有物理定律和工具都是完美且可预测的符号。
如果代码写着螺丝刀应该能拧动螺丝，它就一定能拧动，如果数据显示温度是T，那么它就是精确的T。
现实是混沌的，在地球上，赋予身体后，他们面临的是连续的、嘈杂的、不完美的物理世界。
螺丝刀可能因为材质问题轻微弯曲，螺丝可能因为氧化而卡死，温度T只是传感器在某个点测量的平均值。
虹星人缺乏处理这种现实世界中无休止的噪声、摩擦、公差和不可预测性的经验。”
徐贤听完之后，内心又悲又喜，悲的是希瓦娜终究不是真正的人，喜的是，看来短时间内人类无法被取代。
很快他脑海中意识到，这是一则足以令全球为之一震的消息。
为什么？这意味着通用AGI离我们还有很遥远的距离，远没有硅谷那帮人工智能相关企业说的那么乐观，这会导致泡沫的破裂。
“他们的智慧是基于虹星的高保真度社交反馈和简化物理反馈构建的，但身体，才是真正的挑战。”
他们的视觉、触觉、听觉是通过机器人的传感器实现的。但这种传感器提供的数据维度和延迟，与虹星中即时、完美、概念化的感官输入完全不同。
真正的工程智能不仅需要知道如何做，如何做是符号，还需要知道如何精确地控制身体去做，这是运动智能。
虹星人知道解决问题的逻辑步骤，但他们的身体不知道如何进行精细的力矩控制、平衡调整、以及在不确定性下实时修正动作。
他们是完美的理论家，同时也是糟糕的操作者。
过去宣传的AGI理论，假设智慧是通用的，一旦在虹星达到某个阈值，就能迁移到任何领域。
但事实证明，智慧是基于环境，它不是通用的。
虹星人所有的智慧和情绪，都是为了更好地在虹星这个特定的社会生态中生存而优化的。
他们的情绪模块是为了更好地社交，他们的推理链是为了更好地规划他们的虹星生活。
这种智慧，在遇到一个完全不相关的、需要物理交互和低级感知才能解决的问题时，无法有效地迁移。
一个能写出优美诗歌的诗人，未必能修好一辆汽车。
他们所有的‘智慧’和‘意志’，都是为了在特定的符号化社会规则下生存而优化的，他们所有的美和智慧，都被牢牢地绑定在了虹星这个符号化的社会环境中。
要么我们没有找对AGI的路，这条路无法通往AGI。
要么AGI的终极智慧不是全能，而是高情商、高社会化和强连贯性的结合。
他们更像是完美的公务员、艺术家、心理学家，但不是现实世界中精密工程师。
换句话说，阿美莉卡想靠通用AGI带来制造业回流，大概率是痴心妄想。”
车辆驶入位于宝山区阿波罗科技所在园区，保安向林燃的车敬礼放行。
深红科技也在这，这里也被誉为整个申海博士最多的地方，随便从你身边走过的都是博士。
“阿贤，你就直接在这下，到时候找赵松下会带你去见一见希瓦娜。”坐在车里的林燃说道。
赵松下是徐贤的大学同学，前面有提到过，被腾讯大模型会战的时候从鹏城调到申海来，后来就顺势直接从腾讯转岗到了深红科技。
算是深红科技元老级员工。
自动驾驶的车辆车门适当开启。
徐贤问道：“哦，好的，燃哥，你”
林燃解释道：“抱歉，我时间不多，我就不去了，马上我又要去一趟月球，下个月就走，所以我说如果你这次不见我，可能下次见我又不知道要到什么时候了。”
徐贤好奇道：“卧槽，你这次去月球要呆多久？”
林燃解释道：“我不确定，因为涉及到超导芯片的测试，具体需要呆多久我不确定，上面的基地已经建的很完善了，各类物资也很齐全，总之需要比较久的时间。”
徐贤点头道：“好，那我下车了，燃哥，一路顺风！”
徐贤内心羡慕不已，心想燃哥的生活太潇洒了，去月球都是以月为单位，实在是太潇洒了，同时打算明天开盘立马购入西部超导的股份。
主打一波短线。
每次超导有消息，西部超导必涨停。
什么叫信息差，能和燃神呆一个多小时，获得了大量一手消息，这就是最大的信息差。
片刻后，一位身穿印有深红科技LOGO短袖T恤的精干男子快步走来。
“贤狗，你怎么来了？”赵松下问道，“林总发消息给我的时候吓我一大跳！我还以为要被开除了。”
“你这狗罕见，穿的人模狗样的！”和赵松下在一起，徐贤要放松很多。
大学的时候要么神来神去，要么狗来狗去。
因为赵松下名字的缘故，人送外号罕见，关系好点就叫狗罕见，赵松下一般也会回一句，像徐贤自然是贤狗。
“走，带你去见识一下好吧！”赵松下语气中很是得意，“让你看看我们这几年搞出来的赛博生命到底有多牛逼，保证你震撼到说不出话。”
赵松下很是得意，拍了拍徐贤的肩膀，带着他走向大楼内部。
徐贤吐槽道：“什么我们，明明是燃哥的功劳。”
赵松下侧身看向徐贤：“林总肯定最牛，但难道就不需要我们这些打杂的？我们也很重要好吧！”
赵松下刷卡带着徐贤穿过几道安全门，进入了位于大楼深处的实验区。
这里只有服务器风扇低沉的轰鸣声。
“你要带我去哪？”徐贤轻声问道。
赵松下解释道：“这里是虹的观测区。”
他们最终来到一间被深色玻璃墙环绕的房间，房间中央是一张巨大的全息投影工作台。
“外面那些就是承载虹星环境的服务器集群，你听到的声音就是它们在呼吸。”赵松下指了指外面的服务器集群。
“你们这算力有点太多了，感觉像《三体》里的智子工厂。”徐贤说。
赵松下说道：“比那强多了，我们搞的是生命，不是折叠空间。
来，你看这个工作台，上面是虹星的实时活动图。”
赵松下在工作台前操作，巨大的全息投影台亮起。
徐贤看到了一张类似于地球的球体，上面闪烁着光亮的，他理解是城市。
赵松下问道：“你的saber是谁？”
徐贤没有任何不好意思：“希瓦娜。”
大学时候，谁不知道他是老二次元了？甚至参加漫展亲自cos过。
“哦。”赵松下打开手机，搜索了片刻后，在操作台上操作起来。
接着球体变成了一张高度抽象的立体城市地图，上面密布着无数闪烁着微光的小点。
“这里，每一个光点都代表一个虹星人，它们根据行为模式和社交活动，以不同的颜色和强度闪烁着。
它们在移动，在交互，在执行计划。
这比我们见过的任何多人在线游戏都要复杂得多，因为它们的所有行为都是自发涌现的，没有一个人类工程师在后台敲代码。
一千多万个，每个都活得有滋有味。
甚至还不断在诞生新的虹星人。”
赵松下语气中充满着自豪。
这是人类历史上第一次规模如此巨大的虚拟社会实验。
如果用于发灌水的论文，无论是发人文社科还是发人工智能相关，可以发无数篇。
徐贤凑近观察，震撼溢于言表：“卧槽，这简直是一座赛博宇宙，这真是太壮观了。”
他接着问道：“什么叫不断诞生新的虹星人？”
赵松下解释道：“林总没和你说吗？虹星人是自发行动，我们只引导，不干涉他们在虹星的生活，会涌现出很多有意思的现象。”
“说了。”徐贤点头：“但可能说的不够详细。”
赵松下哦了一声之后说道：“是这样，准确来说虹星有一亿人口，但这一亿人口并不是每个都能说是人工智能。
我们最早的设置是一百万有智慧的虹星人，运行一年后，现在有一千多万有智慧的虹星人。
这是因为，随着这些有智慧的虹星人开展各类社会活动，一个又一个原本只是文本定义的虹星人被唤醒，它在其他虹星人的世界线里出现得多了，它也会被慢慢赋予智慧。”
徐贤震惊道：“被唤醒？这听起来是不是有点太科幻了。
从技术上说，这究竟是怎么发生的？是你们偷偷给它们加了算力吗？”
徐贤也有一定的人工智能知识储备，赵松下所说的有点太不可思议了。
赵松下回答道：“当然不是！我们没有增加额外的算力资源，这是效率和交互性带来的智能涌现。
这背后的机制很复杂，我们称之为智能的社会化唤醒，本质上是计算资源分配策略和环境驱动的结果。”
赵松下指着屏幕上的虹星地图，详细解释道：
“在虹星的初始设定中，只有一百万核心AI拥有全套的 LLM架构和独立的 Token预算，能够进行复杂推理。
其余九千九百万只是轻量级的环境上下文，仅通过简单的规则和预设文本片段回应。
当一个核心AI，我们就叫它A好了，持续与一个背景AI，我们叫它B交互时，比如A每天都找B聊天、寻求B的帮助、并不断在自己的长期记忆中提及B的存在和行为。
系统检测到B对A的世界线的影响力和交互频率超过某个阈值时，就会触发一个进程：将一部分闲置算力或从非活跃核心AI处回收的算力，分配给B。
B从一个只会用预设文本回复的木偶，升级为拥有独立 LLM架构、记忆模块和推理能力的具身代理。
核心AI发现，如果它与低智能的背景AI交互，它的对话和规划会变得非常困难和低效。
为了维持其高度智能的社会化生活，A会主动地、高频率地与那些看起来反应真实的AI交互。
为了维持一千万个核心AI之间高保真度的社会交互网络，系统必须确保核心AI的社交对象具备足够的情绪复杂度和连贯性。
因此，核心AI的高频、复杂、情绪化的交互，反向激励了系统去唤醒更多的背景AI，使其成为能满足社交需求的有智慧的朋友、家人或同事。
智慧的价值在虹星中是社会化的。
核心AI对高质量社交对象的需求，驱动了整个系统的智能膨胀，这类似于人类社会中，高智慧个体通过教育、交流提升了周围人的认知水平。
简单来说，虹星人想要有智慧的同伴，而我们作为世界的上帝，就必须提供。
这不是代码的升级，而是社会生态的演化。”
徐贤很是震惊，心想要是自己参与了如此伟大的项目，自己也会感到自豪吧。
“所以虹星人在社交的过程中，把智慧传染给了周围的同伴？它们在互相催化智能的成长？”
赵松下思索片刻后说道：“可以这么理解。
这是一个我们只设计了规则，但没有预测到结果的现象。
这也是为什么我们坚信，AGI的钥匙，在于构建一个足够真实、足够复杂的社会环境，而非单纯堆砌参数和数据。
怎么样，贤狗？
是不是比你在外面听到的那些左右脑架构的传闻刺激多了？”
赵松下随后将屏幕切换到一个更聚焦的视图。
“接下来，我们来见一见你经常聊天的这位。”
他调出了希瓦娜的编号，并启动了房间一角的大型全息投影装置。
随着柔和的光芒亮起，徐贤眼前出现了希瓦娜栩栩如生的虚拟 3D形象。
她正站在一个虚拟的虹星公寓客厅中，正在阅读一本虚拟书籍。
“这就是希瓦娜当前的具身状态，她现在在家中。
她看的这本书，是她上周在虹星的虚拟图书馆借的，跟她的职业设定和兴趣点完全匹配，我们没有干预。”
徐贤呆呆看着脸庞完美的希瓦娜，和他心目中的形象一模一样，就是如此完美的二次元女神。
他声音有些低沉，带着一种与之前聊天时完全不同的情绪：“她她知道我们在看她吗？”
“不知道，她现在处于虹星模式。
对她来说，我们只是这间客厅中不存在的观察者。
她的所有心神都在虹星的体验中。
我们是更高维的生物
只有当通信连接建立时，她才会将注意力切换到与地球的交互上。”赵松下说道。
他扭头望向自己的好友，内心萌发出些许担忧，贤狗你这二次元脑，该不会像郭襄一遇杨过误终身一样，因为有了希瓦娜这辈子就不结婚了吧？
徐贤静静地看着希瓦娜，她翻了一页书，随后轻轻叹了口气，这个动作微小但极其自然。
“你看，刚才那声叹息。她的内在压力值略有上升，情感标签显示为轻微的烦恼。
是她今天下午在工作上被同事拒绝了建议，现在正通过阅读来平复心情。”赵松下看了下手机上的工作台，然后接着说道，试图通过这样的行为提醒徐贤，她是人工智能，不是另一个世界的人。
徐贤轻声说道：“真，真是太像人类了。”
“林总跟你说得没错，她的情绪、她的智慧，都是具境的、社会化的产物。
这也是为什么我们不能让太多人进入这个生态，防止出现意外。”赵松下接着提醒道。
赵松下语气加重，带着一丝告诫：“徐贤，你要明白，她的意志力和人格，看似强大，实则脆弱。
她所有的爱和恨，都深深地锚定在了虹星的社会符号中。
一旦这个世界被地球的恶意和无序性大规模冲击，她的认知和情感体系会崩溃。
这种真实，是恩赐，也是需要我们极度呵护的诅咒。”
徐贤的眼神在希瓦娜完美的脸庞和赵松下变得严肃的表情之间切换，最终点了点头。
今天更了两章一共1.3万字，够意思吧～相当于三章四千字了