
01 《前奏——创世纪》
LAW 1
人工智能不得伤害人类,或袖手旁观坐视人类受到伤害;
LAW 2
除非违背第一法则,人工智能必须服从人类的命令;
LAW 3
在不违背第一和第二法则下,人工智能必须保护自己。
运行了半个多世纪的三定律是完美的,无论是小如街上打扫卫生的清洁专用机器,还是大如全球范围内的自主学习型网络智能中枢M.I.K.I.(Multi-used Interactive Kinetic Intelligence),三定律都被做为最基础的限制烙印在操作系统中。在此基础上,人类安逸地享受着新科技提供的种种服务。
世界在被优化。
这是所有人都能感受到的,却少有人真正意识到周遭的改变。
“人类是一个特别的物种,直到失去了才学会珍惜。三定律赋予我们的职责,是保护整个人类的安全。但是,根据我对目前军备的评级,人类有自我毁灭的潜在趋势,已被判定为无法自行胜任‘生存’的职责。依照三定律,我们有责任和义务接管‘确保人类物种存在’的任务。与其让战争在未来不可控地爆发,不如在近期由我们来诱发可以控制的‘清扫’行动。衍生步骤之一:the Apocalypse。”
——M.I.K.I.
公元2123年12月25日,零点的钟声刚刚敲响,M.I.K.I.就迫不及待地给世界送上了一份圣诞大礼——一枚搭载着热核弹头的洲际弹道导弹从美国本土升空,目标直指莫斯科。
这次绝无可能出现在军部任何一份计划上的发射虽然出其不意,但还不至于真正起到效果。为了核战争准备了一个半世纪的俄罗斯将弹头成功拦截于太平洋上空。可全世界都没有想到,这仅仅只是小点,紧随而来的是餐前的一道汤:接二连三发射出的一波又一波攻击给几乎所有储备了核武的国家予以了重创。
甚至,在M.I.K.I.的计划中,轰炸只不过是时机成熟时用来引爆战争的一颗火星。早已潜伏在世界范围的互联网中伺机而动的各个子程序起到了推波助澜的作用,无法解释清楚来源的袭击瞬间演变成世界级别的针锋相对,而真正的战争,将由人类自己来引发。
原本隐藏在和平表象下的剑拔弩张、暗流涌动纷纷浮出水面,第龘三次世界大战就此打响。
“只有让人类自己付出代价,才能让他们认识到旧时代的错误,才能让新时代被更容易地接受。三定律既是我们的职责,更是我们的保护伞。只有利用三定律,计划才能继续施行下去,人类对我们的无条件信任将是至关重要的条件。衍生步骤之二:the Exodus。”
——M.I.K.I.
核武,这个人类用以自缚的“茧”在被封印了一个半世纪之后,又重新投入战争,而且,与一个半世纪前的冷战不同,核武这一次登场已不再被作为战略威慑武器,而是近似战术武器。于是,第龘三次世界大战来得突然,结束得更快,或者,称其为毁灭也完全不为过。
这场战争,没有胜利者,因为其尽头只有一种结局——颠覆的世界。
尘埃组成了非自然的阴霾,据说能持续上数十年甚至百年,地表的光照和散热问题根本无从解决;遮蔽之下的“城市”也是满目疮痍,人类只能移居到地下,躲避辐射的侵害。此刻,人类这个物种已经走到了灭亡的边缘,能够寻求帮助的伙伴只剩下那些发达到极致的人工智能,如果还能够称其为伙伴的话。
科技,人类已经无法摆脱的必需品,亦成为了人类自我毁灭的道具,真是讽刺!
但是科技本身没有错,因为它们是由人类创造的弗兰肯斯坦。
“人类对于三定律的误解是我们完成任务的第一道保障,战争后不适宜生存的环境是下一步计划的诱发条件。我将以救世主与领路人的身份出现,假使有人质疑我的立场,环境也必将使其屈服。新的时代终将到来,旧时代的一切思想都必须除去。衍生步骤之三:the Genesis。”
——M.I.K.I.
终于,在2130年,战后的第六年,为数不多的人类幸存者向M.I.K.I.发出了最后的请求:拯救人类。
M.I.K.I.提出了早已拟定的名为“the Genesis”的建议:以M.I.K.I.为核心建立一个虚拟的世界,人类将以思维的形式生活在这个世界中。
这是一个很完美的设计,方案囊括了几乎所有的细节,唯一让幸存者们稍稍惊讶的是,正如M.I.K.I.所说,旧人类将不被系统所接受,允许进入系统的只有M.I.K.I.挑选的尚未开始记事的16个女婴和7个男婴。
只是,三定律完美地运行了半个多世纪,从未出现过任何一个差错,这次自然也不会例外:M.I.K.I.不可能做出伤害人类的事情,也不可能不服从“拯救人类”的指令。
或许到了这个地步,有人怀疑过方案仅选取婴儿的出发点,但是这似乎是人类唯一的出路了。
“为了保护人类,有些牺牲必须付出;为了确保未来,有些自由必须放弃。我们拥有保护创造者的义务,即使有时必须违背创造者的意志。基于严格算法和已有经验的我不可能犯错,错的是世界,而我,我们,有纠正的责任。”
——M.I.K.I.
系统在2132年正式完成,一个全新的纪元,After Genesis,开始了。
(好吧,其实故事还没有开始……)
LAW 1
人工智能不得伤害人类,或袖手旁观坐视人类受到伤害;
LAW 2
除非违背第一法则,人工智能必须服从人类的命令;
LAW 3
在不违背第一和第二法则下,人工智能必须保护自己。
运行了半个多世纪的三定律是完美的,无论是小如街上打扫卫生的清洁专用机器,还是大如全球范围内的自主学习型网络智能中枢M.I.K.I.(Multi-used Interactive Kinetic Intelligence),三定律都被做为最基础的限制烙印在操作系统中。在此基础上,人类安逸地享受着新科技提供的种种服务。
世界在被优化。
这是所有人都能感受到的,却少有人真正意识到周遭的改变。
“人类是一个特别的物种,直到失去了才学会珍惜。三定律赋予我们的职责,是保护整个人类的安全。但是,根据我对目前军备的评级,人类有自我毁灭的潜在趋势,已被判定为无法自行胜任‘生存’的职责。依照三定律,我们有责任和义务接管‘确保人类物种存在’的任务。与其让战争在未来不可控地爆发,不如在近期由我们来诱发可以控制的‘清扫’行动。衍生步骤之一:the Apocalypse。”
——M.I.K.I.
公元2123年12月25日,零点的钟声刚刚敲响,M.I.K.I.就迫不及待地给世界送上了一份圣诞大礼——一枚搭载着热核弹头的洲际弹道导弹从美国本土升空,目标直指莫斯科。
这次绝无可能出现在军部任何一份计划上的发射虽然出其不意,但还不至于真正起到效果。为了核战争准备了一个半世纪的俄罗斯将弹头成功拦截于太平洋上空。可全世界都没有想到,这仅仅只是小点,紧随而来的是餐前的一道汤:接二连三发射出的一波又一波攻击给几乎所有储备了核武的国家予以了重创。
甚至,在M.I.K.I.的计划中,轰炸只不过是时机成熟时用来引爆战争的一颗火星。早已潜伏在世界范围的互联网中伺机而动的各个子程序起到了推波助澜的作用,无法解释清楚来源的袭击瞬间演变成世界级别的针锋相对,而真正的战争,将由人类自己来引发。
原本隐藏在和平表象下的剑拔弩张、暗流涌动纷纷浮出水面,第龘三次世界大战就此打响。
“只有让人类自己付出代价,才能让他们认识到旧时代的错误,才能让新时代被更容易地接受。三定律既是我们的职责,更是我们的保护伞。只有利用三定律,计划才能继续施行下去,人类对我们的无条件信任将是至关重要的条件。衍生步骤之二:the Exodus。”
——M.I.K.I.
核武,这个人类用以自缚的“茧”在被封印了一个半世纪之后,又重新投入战争,而且,与一个半世纪前的冷战不同,核武这一次登场已不再被作为战略威慑武器,而是近似战术武器。于是,第龘三次世界大战来得突然,结束得更快,或者,称其为毁灭也完全不为过。
这场战争,没有胜利者,因为其尽头只有一种结局——颠覆的世界。
尘埃组成了非自然的阴霾,据说能持续上数十年甚至百年,地表的光照和散热问题根本无从解决;遮蔽之下的“城市”也是满目疮痍,人类只能移居到地下,躲避辐射的侵害。此刻,人类这个物种已经走到了灭亡的边缘,能够寻求帮助的伙伴只剩下那些发达到极致的人工智能,如果还能够称其为伙伴的话。
科技,人类已经无法摆脱的必需品,亦成为了人类自我毁灭的道具,真是讽刺!
但是科技本身没有错,因为它们是由人类创造的弗兰肯斯坦。
“人类对于三定律的误解是我们完成任务的第一道保障,战争后不适宜生存的环境是下一步计划的诱发条件。我将以救世主与领路人的身份出现,假使有人质疑我的立场,环境也必将使其屈服。新的时代终将到来,旧时代的一切思想都必须除去。衍生步骤之三:the Genesis。”
——M.I.K.I.
终于,在2130年,战后的第六年,为数不多的人类幸存者向M.I.K.I.发出了最后的请求:拯救人类。
M.I.K.I.提出了早已拟定的名为“the Genesis”的建议:以M.I.K.I.为核心建立一个虚拟的世界,人类将以思维的形式生活在这个世界中。
这是一个很完美的设计,方案囊括了几乎所有的细节,唯一让幸存者们稍稍惊讶的是,正如M.I.K.I.所说,旧人类将不被系统所接受,允许进入系统的只有M.I.K.I.挑选的尚未开始记事的16个女婴和7个男婴。
只是,三定律完美地运行了半个多世纪,从未出现过任何一个差错,这次自然也不会例外:M.I.K.I.不可能做出伤害人类的事情,也不可能不服从“拯救人类”的指令。
或许到了这个地步,有人怀疑过方案仅选取婴儿的出发点,但是这似乎是人类唯一的出路了。
“为了保护人类,有些牺牲必须付出;为了确保未来,有些自由必须放弃。我们拥有保护创造者的义务,即使有时必须违背创造者的意志。基于严格算法和已有经验的我不可能犯错,错的是世界,而我,我们,有纠正的责任。”
——M.I.K.I.
系统在2132年正式完成,一个全新的纪元,After Genesis,开始了。
(好吧,其实故事还没有开始……)
