第4章（1 / 3）
我随手拿起一张设计手稿，这家伙的书桌还是一如既往的凌乱。
「保险是必要的，你一如既往的聪明，我的朋友。这就是为什么这么多年我们还一直很聊得来的原因。」miles 打了个响指。
我坐在椅子上慢慢往后倒，让自己沉入灯光照不到的阴影中，我忽然有了一种奇怪的感觉，miles 这句话是假面，他隐藏了很多。
看着他坐在椅子上依然挺拔自信宛如一位王者的身姿，我忽然有了一个想法。
「那我来大胆假设一下，你设定的开关是：ai 如果确认自己是 ai，将会触发不可逆的自毁程序……」
miles 脸色发白，站了起来，「不！别说了！停下！」
「一个自我认知是『人』的 ai，已经接受了这个预设身份，也在人类社会中融洽地生存，然而忽然有一天，他发现自己的认知和三观都覆灭了，他不过是一件产品，一个类似冰箱洗衣机的家电产品……」
miles 双手掩面，从指缝中呻吟着说：「……别再说了……朋友，停下！算我求你……」
骄傲如他居然会说这样的话……
「他的所爱，事业，他建立的一切……瞬间失去了意义，即使没有自毁程序，以一个『人』的心理而言，大概率会崩溃，以 ai 而言，大概率会关闭这方面的机能，比如停止信息摄入的传感器，停止模拟神经元的算法模组……用人来类比就是变得孤僻、自闭！」
「那天来聚会的不是你，是你的替代品——你的试验品，你故意用你不完美的早期设计——ai 林薇来给了试验品 miles 暗示，让他，或者说它通过分析推理出自己是 ai 的事实！」
「你更大胆地设计了自主的算法——虽然不是人类那种自主，也是 ai 在算法分析后选择的一个最优解的随机结果……它自杀了。」
miles 跪倒在地，发出一声低低的无意义的呻吟。
这像是孩子珍藏的秘密被父母粗暴地打开彰显于光天化日之下的恐惧……
「实验很完美——但，这算不算谋杀？你是不是有造物主看着自己作品丢骰子，那骰子的一切结果却已经穷举，逃不出预设的愉悦感?」
我悲伤地说，这些天来的焦虑、抑郁、狂躁、悲伤、疑惑，被我一口气宣泄出来。
「不是那样的……不是……我的朋友……你相信我……」miles 看着我，眼神空洞而悲伤。
而我拂袖而去。
「令人恐惧……」
临走时，我听见依然跪倒在地的 miles 木然空洞的声音。
第14章
我拨打了老闵的电话，约他出来。
这个家伙经常不见人，但这件事上，他保持着积极响应的态度。
张总和小廖则已经完全忘记了这件事。
在我们经常聚会的咖啡厅，我们见面了。
我把去见 miles 的事说了一遍，重点说了我击穿 mlies 防线的推理。
「很合理的推断，不过，那个设构思最早是我提出的。」老闵苦笑了一下。
「什么？！」我真的惊讶了。
「当 ai 明确判定自己为 ai，会产生一种类似人类的绝望、幻灭、失去一切意义的状态，关闭掉自身传感器，锁死一些核心算法的频率从而避免一些极端情况，比如暴走伤人，比如过热超载爆机……对人类，或者说客户来说，这种非物理方式的自毁可能是最好的选择。」
「你的意思，用电脑来类比，这种自毁类似于宕机，或者主动格式化？」我惊讶不减。 ↑返回顶部↑
「保险是必要的，你一如既往的聪明，我的朋友。这就是为什么这么多年我们还一直很聊得来的原因。」miles 打了个响指。
我坐在椅子上慢慢往后倒，让自己沉入灯光照不到的阴影中，我忽然有了一种奇怪的感觉，miles 这句话是假面，他隐藏了很多。
看着他坐在椅子上依然挺拔自信宛如一位王者的身姿，我忽然有了一个想法。
「那我来大胆假设一下，你设定的开关是：ai 如果确认自己是 ai，将会触发不可逆的自毁程序……」
miles 脸色发白，站了起来，「不！别说了！停下！」
「一个自我认知是『人』的 ai，已经接受了这个预设身份，也在人类社会中融洽地生存，然而忽然有一天，他发现自己的认知和三观都覆灭了，他不过是一件产品，一个类似冰箱洗衣机的家电产品……」
miles 双手掩面，从指缝中呻吟着说：「……别再说了……朋友，停下！算我求你……」
骄傲如他居然会说这样的话……
「他的所爱，事业，他建立的一切……瞬间失去了意义，即使没有自毁程序，以一个『人』的心理而言，大概率会崩溃，以 ai 而言，大概率会关闭这方面的机能，比如停止信息摄入的传感器，停止模拟神经元的算法模组……用人来类比就是变得孤僻、自闭！」
「那天来聚会的不是你，是你的替代品——你的试验品，你故意用你不完美的早期设计——ai 林薇来给了试验品 miles 暗示，让他，或者说它通过分析推理出自己是 ai 的事实！」
「你更大胆地设计了自主的算法——虽然不是人类那种自主，也是 ai 在算法分析后选择的一个最优解的随机结果……它自杀了。」
miles 跪倒在地，发出一声低低的无意义的呻吟。
这像是孩子珍藏的秘密被父母粗暴地打开彰显于光天化日之下的恐惧……
「实验很完美——但，这算不算谋杀？你是不是有造物主看着自己作品丢骰子，那骰子的一切结果却已经穷举，逃不出预设的愉悦感?」
我悲伤地说，这些天来的焦虑、抑郁、狂躁、悲伤、疑惑，被我一口气宣泄出来。
「不是那样的……不是……我的朋友……你相信我……」miles 看着我，眼神空洞而悲伤。
而我拂袖而去。
「令人恐惧……」
临走时，我听见依然跪倒在地的 miles 木然空洞的声音。
第14章
我拨打了老闵的电话，约他出来。
这个家伙经常不见人，但这件事上，他保持着积极响应的态度。
张总和小廖则已经完全忘记了这件事。
在我们经常聚会的咖啡厅，我们见面了。
我把去见 miles 的事说了一遍，重点说了我击穿 mlies 防线的推理。
「很合理的推断，不过，那个设构思最早是我提出的。」老闵苦笑了一下。
「什么？！」我真的惊讶了。
「当 ai 明确判定自己为 ai，会产生一种类似人类的绝望、幻灭、失去一切意义的状态，关闭掉自身传感器，锁死一些核心算法的频率从而避免一些极端情况，比如暴走伤人，比如过热超载爆机……对人类，或者说客户来说，这种非物理方式的自毁可能是最好的选择。」
「你的意思，用电脑来类比，这种自毁类似于宕机，或者主动格式化？」我惊讶不减。 ↑返回顶部↑