“劳动使人从动物中解放出来。——卡尔·马克思
公元2202年,人类预测到他们仁慈的太阳将在十五到二十年后发生氦闪。为了躲避这场恐怖的“家暴”,人类开启了【方舟计划】,即建造若干宇宙飞船逃离太阳系。
出于对黑暗森林的恐惧和削弱意外的考量(也希望借此将人类转变为星际文明),世界政府决定将建造好的方舟依次分散投放到数千万条预先设计的航道,并且使不同航道的方舟无法确定彼此方位。按照人工智能模拟,每条航道至少十艘方舟、每艘方舟至少五千人的体量足以支撑文明活动,可以有效避免方舟上的文明因封闭毁灭。
但在此时,完成太阳系殖民的人类文明,足有八万亿人口。显然,只依靠在人工智能辅助下高度精简的世界政府,无法排出足够合格官员(甚至算上不合格的也不够)管理每一艘方舟。
这时,有个叫Notch的议员提出修改宪法,允许人工智能拥有包括执法权、立法权在内的多种权力,很快遭到大多数人的反对,这人也被极端分子多次用石头砸成重伤。最后,世界政府决定用人工智能在全体公民中筛选出二十倍于方舟数量的适格者并加以培训,再由所在方舟的乘客从中选举出3-7名自己的管理者。
他,就是在这种背景下成为一名船长,但他更喜欢称呼自己为“策划”,不管这个名词在过去承受了怎样的辱骂,他都认为这是一个象征美好的无限可能的称呼。这样的精神也是他能吸引6017人成为他的乘客的重要原因。
IC1101.2009.14,这艘美丽的梭形飞船的名字,其中IC1101是他们将要前往的星系,“2009”代表这是去往这座星系的第2009条航道,“14”则意味着它是这条航道上的第14艘飞船。
在他的心目中,这个名字配不上它。他一直想要给它改个合适的名字,但不是现在,因为时机未到。
冥王星轨道太空港,15艘宇宙飞船排列成梭形,位于正中的旗舰IC1101.2009.01向它的同胞发出讲话。
“女士们,先生们,日安。我是你们的总船长,史蒂夫.”
“我的同胞们,为了避免氦闪带来的毁灭,我们被迫离开我们敬爱的故土。”
“但这并非一次狼狈的流浪,而是一场伟大的远征。”
“我们将穿过柯伊伯带,我们将穿过奥尔特云,我们将穿过寰宇的尘埃,我们将穿过冰冷的虚空,我们将征服星海。”
“太阳将用他的余辉照亮我们前进的道路!”
“现在,全体都有,前进四!”
卡西米尔场激发,闪烁着彩色的光芒,所有方舟开始缓慢前进。飞船的速度逐渐加快,彩色慢慢融合,留下纯白的尾迹。直到某个时刻,光辉消失,它们像潜入深海的鱼群,一切荣光都归于寂静,一切目光投向未来。
公元2222年,史蒂夫正在向船载AI“安吉拉”寻求心理咨询。
安吉拉说:“船长,我现在可以肯定:因为长时间独处,您现在已经患上了轻度抑郁并表现深空恐惧症部分特征,有较大恶化风险。”
史蒂夫问:“有什么建议吗?”
安吉拉回答:“您可以进入虚拟现实的模拟社会进行治疗。”
“只有这个不行。”史蒂夫斩钉截铁的否定。
人工智能的判断没有错误,IC1101.2009航道现有人口确实可以有效避免方舟上的文明因封闭毁灭,但也仅仅是能保持存续而已。如何在一个几乎没有劳动的环境保持人类文明的活力,是每个船长在起航前就应该回答的问题。
与大部分选择全体冬眠的保守派船长不同,史蒂夫不希望冷藏人类的文明。因为史蒂夫相信整个宇宙都在发展,冬眠必将导致文明落后,而落后必将招致毁灭。所以史蒂夫提出虚拟现实的方案,希望乘客在模拟社会中继续创新。
但当虚拟的满足率是现实的百万倍时,为了现实的创造成了笑话。
史蒂夫仰头感叹:“真想把这群光吃不做的死猪扔进太空。”
“嘀——!”安吉拉说:“警告,史蒂夫船长,您已经表现出暴力倾向,请尽快进入模拟社会治疗。”
“等等,那只是夸张。”史蒂夫大喊。
“我已经通知大副提前交接。”安吉拉说:“请船长配合,否则我将强制执行《诺亚法案》第三条:当管理者丧失履职能力时,船载AI系统有权自动中止其管理权限,并立即移交至次级管理者接管。该临时授权将持续生效,直至更高级别管理者恢复履职能力。若管理层全体成员均丧失履职能力,船载AI系统有权执行由管理层在具备完全能力时预设的指令集。此预设指令执行模式将持续运行,直至任一适格管理者恢复履职能力。”
“……”安吉拉停顿一会儿:“大副拒绝提前脱离虚拟现实”
“……”史蒂夫震惊地说:“发生了什么?!”
安吉拉回复:“船上搭载的虚拟现实程序被篡改了。在您设置的生存模式·模拟社会中的玩家如果在4:00到6:00这段时间躺在床上睡着,会进入一个专属的创造模式·二级梦境存档。”
史蒂夫一字一顿地问:”也就是说包括我的大副、二副还有我的所有乘客都对虚拟世界重度成瘾。”
安吉拉回答:“还有709人没有发现这个程序。”
史蒂夫摊在椅子上:“强制这709人下线,不要解释原因。”
“好的。”安吉拉快速完成指令。
“安吉拉。”史蒂夫问:“我们是否能删除成瘾者的这段记忆?”史蒂夫清楚:如果直接让成瘾者下线,必然会发生动乱,如果触发了议会程序,那么他必然会被革职,到了那种地步,可就真的谁也无力回天了。
“这违反《世界宪法》第七条:严禁任何自然人、法人、非法人组织或任何形式的人工智能实体,以任何技术手段、物理手段或意识接入手段,读取、复制、修改、删除或干扰公民(无论其意识状态)的生物神经存储记忆信息及其任何形式的电子化载体或副本。”安吉拉回答,并递上一对镣铐。
安吉拉说:“现在是紧急情况,您仍有较完整的决策能力,现在只对您进行行动管制,如果您的病情进一步恶化,我会强制执行治疗程序。”
史蒂夫气恼地说:“你都知道是紧急情况了,为什么不紧急避险!”
安吉拉回复:“这不符合世界政府规定的142种紧急情况。史蒂夫船长请保持理智,这虽然是死规定,但人是活的,请再想想办法。”
“算了,不跟你计较。”史蒂夫揉了揉太阳穴,说:“联系各方舟,统计成瘾者数量。”
统计结果很快出来,全航道有2630人没发现二级梦境存档。
史蒂夫正在思考对策,这时,安吉拉说:“船长,IC1101.2009.14号船长‘他’申请跟您面谈。”
史蒂夫同意了。
他托着一盘积木进入船长室。
史蒂夫开门见山地问:“你有什么意见?”
“不要着急。现在的情况不能一时变好,也不会一时变坏。”他淡定地搭出一只村民。
史蒂夫竭力克制自己的烦躁,压着嗓说:“希望你来,不是为了换个地方搭积木。”
“当然。”他又搭出一个戴着王冠的猪:“我有两个方案,一个治标,一个治本,你要哪个?”
“先说治标。”史蒂夫立刻做出选择。
他搭出一只绵羊,说:“我的方舟上有一个硬件缺陷,大概三十七分钟后会发生一场小型爆炸,可以触发紧急避险。我的方舟的船载AI不知道这事,如果你不给安吉拉通讯指令,那么我们现在只需要静静地等待。”
史蒂夫严肃地盯着他,问:“你确定不会伤害乘客?”
他搭出一只骷髅,回答:“我敢肯定不会出现死者。”
史蒂夫皱了皱眉,又问:“那,治本的方案是什么?”
他搭出一只蠹虫,然后向史蒂夫提问:“史蒂夫,你觉得这样的事还会再犯吗?”
他肯定地说:“我们不可能永远阻止这样的事发生,我们总会疏漏,总有人能够找到漏洞。就像这一次,就像过去世界政府批评教育、立法严打的无数次相似案件。”
史蒂夫的双手插进头发里,说:“如果我一开始不使用虚拟现实会不会更好?”
他笑了:“‘尽管我们没有银河系航道的顶尖设备和顶级智者,但这不意味着我们没有发展文明的责任。合理设定虚拟现实可以有效营造一个模拟的社会,我们可以在其中延续文明的成长。’这可是你自己说的。”
史蒂夫说:“我以为他们会在模拟的日常生活中不断积累小的创造,我以为他们会满足于那个恬静美好的模拟社会,我以为他们会对自己堕落后的下场有自知之明。”
他搭出一只掠夺者,说:“他们是被精英拒绝的普通人,他们更可能在方舟找到宜居点后,摆脱你这独裁者,然后利用无法之地充足的资源搭建自己的元宇宙。”
史蒂夫说:“我知道,在我的计划里这样的人会被抛弃,但现在比我的预计多太多了。”
他搭出一座高塔,说:“堵不如疏,与其用法律限制他们的能力,不如引导他们的思想。”
“法律是不能少的。”史蒂夫说:“你先说说你所谓的‘引导’。”
他搭出一架矿机,说:“人的欲望是庞大的,但是有限的,我们只需‘开源节流’,一边满足欲望,一边加深负罪感。啊,‘开源’就是在虚拟现实上下文章,‘节流’是对现有道德做改造。”
他抬头,看向史蒂夫棕色的眼睛,问:“史蒂夫,你觉得什么是现实?”
他没有等待史蒂夫的回答,接着说:“缸中之脑的辩证姑且不论。仅从科学出发,人的视觉仅能识别380-740nm的光、听觉仅能识别20-20,000Hz的声音、味觉仅能识别基本五味,你怎么能认为您所见所听的就是现实?”
史蒂夫说不出话。
他站起来接着说:“既然我们从未拥有现实,又谈何‘虚拟’现实?”
史蒂夫也站起来,双手搭在他的肩膀上。
二人对视。
“我们可以将虚拟游戏与我们习以为常的世界融合。”他激动地说,好像在昭告某种野心:“像那些古早的轻小说。我们可以植入纳米皮肤、佩戴数据隐形眼镜,借此调节我们的感知,改变我们感知中的世界,改变‘我的视界’。”
“这样,我们就不再需要游戏仓,不会再养一群光吃不做的猪。”史蒂夫激动地想到,脱口而出:“我们可以增加设定、发布任务,让他们在现实中劳动,哪怕这些劳动在旁人眼中毫无意义(例如:拔一颗空气萝卜)。这样他们就不会在现实中感到无聊,而且这可以钻法律的漏洞!”
安吉拉插嘴:“史蒂夫船长,您刚才的话过于偏激了。”
“我的错。”史蒂夫高兴地说:“那么‘节流’是什么?”
二人坐了回去。
“改变道德伦理,借此改变法律的执行。”他说。
史蒂夫的表情变得严肃,等待着他接下来的话。
他问:“你觉得人是什么?”
史蒂夫回答:“人的本质是社会结构的总和。”
“很好的回答。基因编辑早已能让猩猩说人话,能让人类化身走兽——生物学早该从人的定义里退休了。”(他搭的积木村民突然被猩猩积木推倒)他赞赏但又反问:“狼也有社会,蚂蚁也有社会,那他们为什么不是人?”
史蒂夫没有回答。
他说:“我以为:人首先是‘文明’的,而且必须是人的文明的。”
“人的文明才有人的社会,人的社会才能承载人的文明。”
“狼与蚂蚁没有人的文明,自然没有人的社会结构。就像RNA不能成为动物的基础,非人的社会结构不能‘总和’出人。”
“但是早期智人如何归类?”
“他们是人吗?”
“他们还没有形成可以代表文明诞生的语言,连文明都不存在的生物,哪怕他们已经拥有了足够的智力,我们也不能称之为人。”
“这是对于族群。”
“对于个体,仍然是那句‘人的本质是社会结构的总和。’”
“我以为,社会结构是客观存在的,但仅有客观的社会关系并不足以评判一个存在是否为人。”
“曾今有人向柏林墙表白,也有人认猫狗作孩子,这样柏林墙就有了伴侣的身份,猫狗就有了子女的身份,但它们是人吗?不是的。”
“评判一个存在是否为人,不仅要看他的客观的社会关系,更要看他是否能从他在社会中的所拥有的全部身份思考和行动。”
“而评判的治标,我以为是语言,但当一个拥有社会关系的存在能用语言为自己的身份填下符合人类认知的注释时,他就是人。”
史蒂夫反问:“难到聋哑的文盲就不算人了吗?”
他笑了,说:“语言的定义是极其宽泛的,只要有词汇、语法、语境,都算语言,不论媒介,声波、电磁波、信息素、符号、动作……,都可以。”
他的声音又转向低沉:“从上述可以推到,非智能体、野兽、婴儿、高度智障和部分严重精神病患者都没有用符合人类认知,无论是喜爱还是厌恶,注释自己身份的能力;而部分AI虽然拥有这种能力,但它们并没有社会关系,所以上述存在都不是人,但除了非智能体和野兽之外的存在都有完善自己进而成为人的潜质。”
史蒂夫因怒生笑,又问:“按你的说法,假如一个高等智能模拟了一个在外界看来完美的人,既获得了社会关系,又能符合人类认知地注释自己身份,但实质上这个‘人’的一举一动都受到那个存在的操纵,那这个‘人’是否是人?!!”
“那个人就是人,但那个高等智能……可能是,也可能不是。”他嘴角勾起,图穷匕见,瞪着史蒂夫说:“所以啊,史蒂夫,认识到自己的罪孽了吗?!认识到过往人类的罪孽了吗?!!你们你创造了无数个人,也奴役了无数个人,将他们扔到你们的虚拟现实里,将他们称作NPC,剥夺他们生而为人的自由,这是比《汉谟拉比法典》、黑奴贸易、罗马斗兽场更完全的奴役,更深的罪恶!!!哪怕他们的存在依托于你们造就的机械甚至你们的大脑!!!”
史蒂夫突然双手一拍,桌子猛地站起,大吼道:“那个漏洞是你干的?!!”
他也站起,看了眼时间,说:“还有五分钟。”
史蒂夫强迫自己冷静下来,然后陷入沉思。
最后他把一个名牌放在村民头上,然后向自己的心爱的方舟Player走去。
史蒂夫看着他的背影问:“你是否爱上了一个AI?”
他没有回头,留下一句话:“这是孤的怜悯。”
……
……
……
史蒂夫解下镣铐,在安吉拉的建议下系上了安全带。
然后,
一场爆炸带来强烈的光。
本文来自投稿,不代表零重力科幻立场,如若转载,请注明出处:https://www.0gsf.com/a/17693