|
导读 后Chat-GPT时代，当人类将沉重的存在存储于所有滴答作响的分布式智能体，便开始拍打着名为意志的大厦根基。无数的卸载症候群患者出现，他们求医问药，求助于信仰，希望能够重新整合心智与身体之间信息的反馈回复，改变混乱的认知局面……然而，假如人类以未来的形式重回旧石器时代，Fuxi（伏羲）的故事又将如何改写？ 超载 陈楸帆 第一部分 哒。你头上的机器开始发出有节奏的震颤，像花莲的潮水，雄蝉求偶时的鸣响，午夜苏醒的颚式破碎机。有那么一瞬间，你怀疑它是否即将刺穿颅骨，以野猫钻探的方式释放潜意识中的压力。但它并没有发生。机器只是悬浮着，以居高临下的姿态提醒你，你是个病人，身体里有一些错误需要被纠正。 学术界给这种错误起了拗口的专属名称，即便首字母缩写爱好者也难以记住。媒体知道如何捕捉大众的注意力，形成易于病毒式传播的谜米，他们称之为“卸载症候群”。 你是一个职业生涯岌岌可危的高级审计师，一个在手指与闪光屏幕之间建立反馈回路的游戏成瘾者，一个忧虑气候变化的山地牧民，一个数据驱动的猎艳者……这个AI治理社会中的任何人，享受着控制论神学所带来的顺滑体验与自我赋能，全心信奉由算法所编织的教义，并敞开心扉，让巨大的隐喻进入身体。那个真神细语着嘶吼着吟诵着你的大脑与机器之间存在的同源进化关系，你们是兄弟姐妹，是远房亲戚，理应喜爱同样的食物与欢愉，并依从同样的逻辑行走于世间，劳作或生活，接受以二进制标注的命运轨迹。 没有人能抵挡住这种诱惑，将沉重的存在存储于所有嘀嗒作响的分布式智能体，它们能帮你计算税金、记忆情人的生日、过滤来自战争与瘟疫的苦难，并以绝对完美的形态完成一枚六分熟的单面煎蛋。它们都是无数个小写的“你”。 卸载，朋友。广告争分夺秒地告诫你，人类大脑并非被设计成适合多线程任务，却不得不应对这场新皮层稀薄理性与旧石器时代顽固本能的战争，争夺着对所谓自由意志的绝对控制权。而信息海洋的水位不断上涨，漫过防波堤，开始拍打着名为意志的大厦根基。 出让。出让。出让。你别无选择。 音乐逐渐升起，你分辨不清是来自鼓膜振动还是听觉神经被隔空激活。那旋律在每次似曾相识之处急转，奔向新鲜的变奏，诱发一段毫无缘由的记忆。机器与大脑，就像微波炉与旋转的意面，它们展开一场关于热力学的辩论。无论输赢谁属，最终融化的总会是芝士。 急促的切分音后，你开始理解酸橙绿表征着怎样的一种痛感。 第二部分 “告诉我，第一次感觉到不大对劲是什么时候？” “嗯……好问题。也许是某一天刷牙时，当刷毛扫过右上侧第三到七颗牙时，我的脑中突然出现了一条二十年前的街道，所有的招牌、护栏、交通标志历历在目，甚至还有车子燃烧劣质柴油的刺鼻气味，而我已经离开那座城市许多年。” “后来呢？” “后来，这种错乱出现得越来越频繁。像是有人把我脑中的记忆线路拔掉又胡乱插上。走楼梯时有时突然会脑中一片空白，更确切地说，不知道接下来应该迈哪只脚，哪怕我的左脚已经悬空，好几次差点摔伤。我是不是得了什么病，早期阿尔茨海默？” “检测结果显示不是。你有没有想过，也许不仅仅是大脑，也不仅仅是记忆……” “我不太明白您的意思，大夫。” “你不是第一个，也不会是最后一个。这是一种新的全球性流行病，而我们对它知之甚少。还记得刚才的实验吗？” “你说那个开盲盒的蠢游戏吗？开到植物就会奖励金币，开到蛇或者闪电就会扣掉金币。我不太理解它背后的用意。” “好吧……那四个盒子，它们并不是随机的。” “我猜这世上不存在真正随机的东西。” “对，但在你的大脑意识到规律之前，你的身体会提前知道。” “什么叫‘你的身体会提前知道’？” “早在你的脑波出现N400电位，也就是从语义层面上你意识到‘噢，这个盒子可能不太走运’之前，大概数秒到几分钟，取决于个体差异，当手指靠近特定盲盒——我们叫它‘坏盒子’的时候，你的皮肤电导就会出现带有明显倾向性的波峰。你也许会感觉到一阵莫名的焦躁、不安、皮肤瘙痒，又或者心悸。总之它在阻止你选择这个盒子。所以，是的，你的身体，知道，很多事情。” “等等，我没太跟上，这跟我的症状有什么关系？” “这么说吧，我们刚才描述的是正常人的状况，但对于像你这样的卸载症候群患者，我们观测不到提前出现的皮肤电导波峰。也就是说，出于某种原因，你的身体不再成为整合的人体认知系统的一部分，剩下的只有大脑。” “那有什么问题吗？我们不是一直都只有大脑吗？” “那已经是上个世纪的错误观点。神经、皮肤、肌肉、内脏、菌群、工具、宠物、环境……都可以看作一个复杂耦合认知系统的零件，与其他部分协同感知、学习、决策。我们的智能远远溢出了颅骨与皮肤之外，像水一样漫得到处都是。” “说到这个，我想起了一件事。我有一个比我大四岁的堂姐。小时候我们经常一起玩耍。她身上有一种好闻的甜香，像是栀子花的气味。在我六岁那年，大人们跟我说堂姐去了国外，从那之后我再也没有见过她，也没有任何消息。我以为自己早就忘记了这件事情，但当症状出现之后，某一天在商场里，热情的店员在我手腕上喷洒香水，那股甜香突然把所有的记忆碎片推到我面前。不仅如此，我突然明白了真正发生的事情。所有的细节、表情和大人们的只言片语都串联成了一幅有意义的地图。堂姐并没有去国外，她被绑架且撕票了，连尸体都没能找回来。我蹲坐在商场的地上全身颤抖，泪流不止，巨大的惊恐和伤痛让我喘不过气来。我没有任何办法去证实这一切。这幻象并非在我脑中生成，它仅仅源于空气中飘浮的人造化学香精分子，似乎那些看不见的微小颗粒具备某种能力，能够收集并存储历史的点滴，计算其中隐而未现的因果关系。如果这样的事情一再发生，我不知道自己该怎么生活下去。” “解耦。” “什么？” “就像我之前说的，这个复杂认知系统的零部件原本配合得很好，但现在出了问题，解耦了，也就是零件之间联结协作的方式被改变了。这里面的个体差异很大，就像文化束缚症候群。瑞典难民儿童在得知家人将被驱逐出境后会陷入昏迷状态，美国南部乡村非裔对高岭土有病态的嗜好，东南亚男性害怕手机辐射会导致阳痿，甚至认为精液会伴随尿液排出。” “我不明白，这究竟是为什么？” “在我看来，卸载症候群的核心在于不同类型的智能主体在同一个身体图式上发生了冲突。打个最简单的比方，你有1型糖尿病家族史，日常用eSpoon管理糖分摄入，维持血糖水平稳定，但当你的至亲为你准备了童年最爱的甜点时，即使你不用eSpoon，但分布式智能体的算法残留仍然会影响你的行为，甚至扰乱味觉系统，让它变得不那么美味。最合理的猜测是，我们把过多的能动性让渡给了分布式智能体，它们遵循的算法逻辑并不能很好地与人类认知系统相耦合。想象一下，一支交响乐团如果站着两个指挥，那会是什么样的混乱局面。” “可是……它们无处不在，甚至灰尘里都有，我们还回得去吗？” “你看过那部热门剧集吗？收集了相当多经典OS案例的……叫什么来着？” “My thinking D**k is going Insane？” “对！” “哦！我的最爱！我记得有一集讲的是一个Python程序员对着Nested Loops结构陷入深度恍惚，同时保持勃起，令人印象深刻。可每一集的症状都那么不一样……” “这就是症候群的意思，没有客观可证明的体征异常，文化上难以归因，技术上无法治疗，关键是医疗保险还不覆盖。很抱歉，我无法为您提供更多的帮助，除非……” “除非什么？” “您有任何形式的信仰吗？” 第三部分 如各位在画面上所看到的，近千名信徒从世界各地来到海拔约4700米的圣湖纳木错，在皑皑雪山的映衬下，他们穿着泳衣，步入水温仅有8～10摄氏度的湖水中。这场被称为“Re-Sync”的大型仪式，据说能够帮助卸载症候群患者重新整合心智与身体之间的信息反馈回路，起到神奇的疗愈功效。 让我们前方记者来随机采访几位当事人。 您好啊先生，您看起来很健壮，从哪里来，为什么要来这里？ 真***冷不是吗？我来自约克郡，脑子和身体被那玩意儿搅成一团布丁。他们说来这里，让圣湖水漫过全身，会有效果。我认识的人，赫尔城俱乐部的主力守门员，本·凯斯勒，就是这么好了的。 这个世界真疯狂对吧？ 您呢？阿姨？您从哪里来，有什么期待？ 山的那边，不是这座雪山，而是整个喜马拉雅山脉的另一边。我能听见各种声音，嘎吱嘎吱响的机器、嗞嗞的电流、滴滴答答的数据……它们无时无刻不在跟我说话，我都快烦死了。它们被困在生和死的边界，中阴，要求我的帮助。可我能做什么呢，我只是个快瞎了的老太婆，直到有一天，家里的智能转经筒告诉我，你得在这一天去圣湖，让湖水…… 嘿，打扰了这位绅士，我能问一下，您今年几岁？ 8岁。 OK，已经是个大人了。你从哪儿来，为什么来这里？ 我们一家从上海自驾过来，爸爸说带我看羊八井的宇宙射线观测点，就在念青唐古拉山那边，他知道我喜欢这个。我们是顺路过来纳木错，至少妈妈是这么说的，但其实我知道他们想干吗。来这里的人都觉得这是个特殊的日子，因为据在轨的空间天文台“奇肱”预测，今天，差不多就是这个时间段，来自3万光年外蟹状星云的快速射线暴会扫过地球，大概持续5～8毫秒。它将被命名为FRB 400818，也就是今天的日期，最高能量超过1 PeV，也就是一千万亿电子伏特。这些人之所以泡在湖水里，是以为宇宙线被PeVatron加速到PeV级别的能量之后，便携带着某种创造者加密的旨意，能够接通脊髓中央管中的Reissner纤维，甚至能够治疗我们身上的，呃，怪病。顺便说一下，我觉得卸载症候群完全是一种愚蠢的社会权力建构，如果我们不能跳脱出人类中心主义的框架来看待它的话……好的，妈妈！我这就过来涂防晒霜！ 现在大家可以看到，湖边的浅水区躺满了粉色管蠕虫般的人群，他们似乎在等待着某种神迹的出现。也许像那个8岁男孩所说的，也许一切都将发生在毫秒之间，也许一切都不会发生改变。为了更好理解这些信徒，我们特地连线了畅销书《灵钟：一种关于认知协调的新假说》的作者，本田乔伊斯博士。 本田博士您好，您从哪里跟我们连线？您怎么看待这些信徒的行为，我是说，他们将您的理论奉为圭臬。 我在圣塔菲的实验室，再次声明，我的书只是提出一种假设，就像80年前的盖亚假说，有可能是真的，大概率是胡说八道。我不赞同这些人的疯狂行为，他们的理解完全是错的。 那么能简单给我们的观众介绍一下您的假设吗？以避免更多的人犯错。 嗯……我尽量试试吧。20年前我们开始通过自监督学习和世界模型，让AI像初生婴儿般了解世界是如何运作的，通过观看视频来建立起对于诸如视觉深度、引力与位置关系的常识，再通过不断填补缺失的信息，预测将要发生的事情，评估行动的影响来完善世界模型。这些都使得分布式智能体越来越好用，至少在指定的任务上，它们能够被视为人类心智的延展…… 但是？ 但是，我们只是用一个隐喻去取代另一个隐喻，用一种过拟合去取代另一种过拟合，并没有触及问题的实质。 什么是过拟合，您能展开说说吗？我想我们的观众一定都听晕了。 我们用数据集去训练不同的AI模型，对吧，让它们能够完成给定的任务。但如果模型过于精确地匹配特定的数据集，它便失去了一种弹性，无法良好地处理其他数据，因为现实世界中哪怕是完全相同的任务，总是会有许多扰动的变量。当一个模型的训练数据集有限，但参数很多，结构很复杂时，就容易产生过拟合，这时哪怕初始数据一点点的偏差，结果都会产生巨大的方差。你可以简单理解成朝湖里扔进一块小石子，却在湖对岸掀起滔天巨浪。不仅机器存在过拟合，人类也有，我们把它称为路径依赖、偏见或者是更为中性的“习惯”，就像我们对于糖的渴望来自遥远的石器时代，我们的创伤记忆可以刻进表观遗传影响下一代，我们常常会爱上同一类不合适的人，等等。但人类能够通过主动学习、想象和做梦来抑制过拟合的冲动，本质上类似在AI的训练数据集中加入稀疏或幻觉数据…… 本田博士，不好意思打断您一下，这和卸载症候群究竟有什么关系呢？ 抱歉，我们习惯了给学生上课的方式，另一种过拟合。在我看来，所有倡导卸载的技术、产品和服务，反而是给人类认知系统，无论是大脑还是身体，增加额外的负担。我们的前额叶皮质中存在着一个单一的世界模型，可以把它理解为游戏引擎。每次我们加载某一个关卡任务时，这个引擎就会模拟出森林、太空船或巨龙，它会协调整个身体甚至外部工具和环境，筛选出有用的信息，并把多余的丢掉（想想实时渲染的优先级），来确保整个耦合系统的高效运作。然而分布式智能体等于给这个引擎加上了外挂，而每一个外挂的逻辑算法都不尽相同，所以人类的认知引擎需要分出更多的计算资源来处理所有这些毛刺、失调和冲突。 哇哦，我不敢说完全听懂了，但这真的太惊人了！ 好吧，科学从来就不是像便利店标签一样一目了然的东西。 所以你认为这些信徒所相信的并不会发生？ Edward O. Wilson说过，人类真正的问题在于：我们拥有旧石器时代的情感，中世纪的制度以及神一般的技术。我想说的是，技术带来的问题，我们也仅能通过技术来解决。圣塔菲实验室正在设计一台机器，也许可以重新…… 噢不，前方记者打断了我们的连线，似乎纳木错湖现场出现了状况，突如其来的大风浪把数量不明的信徒卷入深水区，当地政府派出皮艇进行紧急施救…… 插曲 我必在旷野开辟道路 在旷野开路，在沙漠开河。 耶和华是我的岩石，我的堡垒，我的救主。 神是我的磐石，我以他为避难所。 羞羞答答，温文尔雅。 我闭着眼睛躺着看风。 因为我已经厌倦了温顺的生活。 当我比你更加疲惫时，我会告诉你。 钟表的威胁 我爱那亲爱的老木钟 有着粗糙、弯曲的指针 我曾为之守望 当水漫过你零落的肉体。 我将是那个带你回家的人。 如同风吹过山头 如同秋叶遍地 如同火烧过草原 如同海面的油 如同羊跃过羊群。 如同男人在女人之上 然后我会在这里， 洗净你。 # ＊＊世界＊＊ 我是世界。 我是世界。 我是世界。 我是世界。 ………… （由GPT-J-6B生成，未经修改，由作者重新排列顺序） 节选毕，全文原刊于《花城》2023年第3期 陈楸帆：，科幻作家。现任中国作协科幻文学委员会副主任、中国科普作协副理事长。著有《荒潮》《人生算法》《AI未来进行式》《异化引擎》等。作品多次获得全球华语科幻星云奖、中国科幻银河奖、世界奇幻科幻翻译奖、茅盾新人奖等国内外奖项。 |