讨论 刀剑神域 爱丽丝篇 纯【人工智能】设定探讨

[raynormj]

 刀剑神域 爱丽丝篇 纯【人工智能】设定探讨

 

人工摇光，亦即人造灵魂，这个或许上个世纪还会让人觉得比较遥远或者缥缈（不脚踏实地）的科幻概念，似乎在本世纪已经给人一种触手可及的“当代科技”之感了。

借用原著中的设定，虽然同样是人工智能，

• 结衣，桐人的“女儿”，属于top-down型，即基于人工编写的各种功能程序来学习、拓展功能、甚至达到结衣的级别——产生情感；
• 爱丽丝等 underworld 群众，属于bottom-up型，即彻彻底底的人造大脑，人造（数据化）婴儿，用跟人类别无二致的方式积累常识、认知世界，积累智能。

而整个作品里面挑选成功实验体的计划，本质是挑选能够自主突破“杀人”限制的人工摇光，最终将他们用于无人驾驶武器的战争中去。

之所以称之为摇光，是科学家发现，最终人脑中信息的传导，都是基于其中的光子与量子场。桐人在三次元被捅，失血过多出现脑损伤，于是通过沉入 underworld 中来修复大脑中的摇光。一个个以数据构成的纯粹人工的摇光，内核不是和平世界里的自然人，而是 underworld 里天生的战士，有多大的利益价值？

完完全全的纯数据AI原型，可以无限复制的理想战士。

原作更是加上了复制普通人类的摇光如果以计算机形式激活，必然很快陷入自我崩坏绝境的描写。但是身陷 underworld 数百年的桐人的摇光，被复制、独立激活以后，居然还能好好的维持自我、为 underworld 献策、战斗。

 

那么各位认为我们如今离 结衣、Alice 这种真正意义上的人工智能还有多遥远呢？

当人以摇光的形式被激活的时候，真的会像小说里面描写的那么恐怖、那么容易崩坏吗？

 

【召唤阵】再召唤注意：满200字的回复（不够赶紧修改增补）可以去 【动漫地带】新番导视活动-~第二季~ 提交任务获得奖励，每条奖励150节操左右，截止日期9.2号！

剧透

以下为“科技厨”

@Angrybear @Lyingsmile @无聊的阿里鲨 @muv @gk153577 @h5j2t7xx @白小纯2333 

以下为刀剑爱好者（参与过今年为数不多的几个刀剑讨论帖的大佬）

@liangheng @野生的黑猫 @萨卡 @夏至烟花雨 @zxxzll @橘色大尾巴 @Endlesspainful @GreenieQAQ @Adrian106 @Chen_Pj @zzzhch @20www @tank2363389 @小枫子 @wyh971212 @fengge @失序 @媚仙狐 @爱莲説 @funboat @HH233 @Aiako @k88864 @黑色V封闭 @mjygvdwa @希露小殿下 @fsj623606656 @rogerr @鲁卡酱 @CCCP04 @hentai14 

 

相关主题：https://sstm.moe/topic/259516-关于现代科技和galgame结合的一些碎碎念/

八月 31, 2020，由raynormj修改

[hentai14]

1. 關於真正的AI有多遠嘛...

因為我連類神經網路都看不懂, 就不多做猜測了

 

2. 無法接受自身是被複製的存在而崩壞...

我覺得並不會喔~

假設有個穿越到異世界的開掛主角, 在異世界開了後宮過超爽,

這時候神突然帶他去跟原世界整天加無薪班的原型見面,

他會因為自己是複製品而自殺嗎?(原型: 我才想死呢...)

[raynormj]

1 小时前, hentai14 说道:

因為我連類神經網路都看不懂, 就不多做猜測了

噗，不过这个话题我估计连专家在内目前都没人能懂就是了。。。

1 小时前, hentai14 说道:

2. 無法接受自身是被複製的存在而崩壞...

我覺得並不會喔~

假設有個穿越到異世界的開掛主角, 在異世界開了後宮過超爽,

這時候神突然帶他去跟原世界整天加無薪班的原型見面,

他會因為自己是複製品而自殺嗎?(原型: 我才想死呢...)

唔，我来试图解释一下区别啊。

在刀剑的爱丽丝篇章里面，实际上是实现的所谓“灵魂数据化”。一个人所有的记忆和思维功能全部数字化为“摇光”，其实也就是人造了一个脑，一个灵魂了。感觉就像缸中之脑的那个情况——那个脑在“苏醒”之前拥有着完全正常的记忆和意识和思维能力；苏醒之后也是，可是身处一片黑暗之中，以为自己还在“潜行机器”里面坐着，但是实际上它已经没有躯体了，只有大脑。

你举的例子，复制体和本体在复制时是相同的两个个体，但是再次见面时已经是两个不同的存在了，也是实实在在有躯体的存在，所以还可以各自以过去的存在继续存在下去。这就是跟上面的“脑复制”本质的区别了。

虽然我没看动画，不过里面应该有这个演出吧？就是一个研究员的摇光启动之后很快就崩坏了。就是摇光这种“数字大脑”在这种【自己只是一个脑而不是自己以为的完整的自由的人】的极端打击（或消极的想法）的刺激下就崩坏了。——实际上UW里的人也有因为杀人什么的陷入bug而崩坏，所以也或许是年轻的“数字大脑”不如真正的人脑能面对现实的样子~相对而言，几百岁的桐人摇光就没崩坏——更能面对现实。

 

当然，抛开作品的设定，现实中能否真正复制一个人的大脑、数字化一个人我仍然是抱持保留态度了。

[hentai14]

我也是先看過小說的啦~

 

作者是主張見到另一個自己會崩壞,(但我抱持懷疑態度)

像最高祭師就在複製自己到他人腦袋後, 同樣也陷入混亂

 

我覺得如果讓複製比嘉在underworld醒來,

然後再讓真比嘉登入, 跟他說可以讓複製體在underworld為所欲為,

那複製體就可能不會崩壞了~

不一定需要足夠的時間讓兩者出現分歧

沒有好的未來才是崩壞的原因吧

[raynormj]

40 分钟前, hentai14 说道:

我覺得如果讓複製比嘉在underworld醒來,

然後再讓真比嘉登入, 跟他說可以讓複製體在underworld為所欲為,

那複製體就可能不會崩壞了~

不一定需要足夠的時間讓兩者出現分歧

沒有好的未來才是崩壞的原因吧

是的。就是这个意思。

从更深一层的角度上，也可以说，“复制人”并不继承“本人”的人权，会被外界甚至自身视作非“本人”。外界的排斥会造成人道主义灾难，而自身的无法接受则会非常痛苦。

如果复制人也有人权，那他存在下去就没什么问题了。——哪怕那个复制人比嘉（你不提名字我都忘了。。。）将要继续存在于UW。

 

所以说如果真的有一天能复制一个完整的人出来那就糟了呢。。。

就拿爱丽丝来说吧，她是纯粹人造的，可以复制其摇光，同时还可以制作复数的三次元身体。于是N个爱丽丝到底享受多少份人权呢？

 

另外一个跟UW相关的问题，就是海龟的能源问题，我记得原著是说小型核聚变反应堆维持的吧？——这也是个天大的坑。但是没有这个，UW的虚拟世界也难以为继呢。

[无聊的阿里鲨]

8 小时前, raynormj 说道:

而整个作品里面挑选成功实验体的计划，本质是挑选能够自主突破“杀人”限制的人工摇光，最终将他们用于无人驾驶武器的战争中去。

为啥要特意选择能想这么多人工智能来参与战争呢，个人感觉有点大材小用的意思了

9 小时前, raynormj 说道:

那么各位认为我们如今离 结衣、Alice 这种真正意义上的人工智能还有多遥远呢？

当人以摇光的形式被激活的时候，真的会像小说里面描写的那么恐怖、那么容易崩坏吗？

人造电子婴这种科技至少没这么早完成，现在还没能自主思考的人工智能出现

 

第二个问题小说里的描写有多恐怖我不知道，但至少会对人的打击很大

个人理解的话可以类比一下重度残疾患者的感受，而这个瑶光还会涉及到人格意义上的“残疾”

[raynormj]

1 小时前, 无聊的阿里鲨 说道:

为啥要特意选择能想这么多人工智能来参与战争呢，个人感觉有点大材小用的意思了

是这样的，机器人不是有那个什么机器人三定律吗？——就是机器人不能杀人什么的。

人造摇光也是有这一限制，不能蓄意杀人，甚至不能反抗某些“铁律（代码规则）”。所以在underworld几个创世神（研究人员）里面混进去了一个叛徒，在里面搞鬼，希望underworld里面的人能够自我突破限制器——自主杀人。

然后爱丽丝（女主）就是小时候（身为桐人的朋友）就突破了限制器，就被抓走了，被洗脑成“整合骑士”——理想的战士。

 

——就是这么来的。

当然了，一个真正自由思考的人工智能目前的能耗问题就是个世界难题——需要两个小型核电站就是了。

1 小时前, 无聊的阿里鲨 说道:

人造电子婴这种科技至少没这么早完成，现在还没能自主思考的人工智能出现

是的呐。“摇光”等同于是说脑可以完全电子化。——桐人就是这么进underworld“疗伤”的。

1 小时前, 无聊的阿里鲨 说道:

第二个问题小说里的描写有多恐怖我不知道，但至少会对人的打击很大

个人理解的话可以类比一下重度残疾患者的感受，而这个瑶光还会涉及到人格意义上的“残疾”

是的。就是缸中之脑的感受：

7 小时前, raynormj 说道:

在刀剑的爱丽丝篇章里面，实际上是实现的所谓“灵魂数据化”。一个人所有的记忆和思维功能全部数字化为“摇光”，其实也就是人造了一个脑，一个灵魂了。感觉就像缸中之脑的那个情况——那个脑在“苏醒”之前拥有着完全正常的记忆和意识和思维能力；苏醒之后也是，可是身处一片黑暗之中，以为自己还在“潜行机器”里面坐着，但是实际上它已经没有躯体了，只有大脑。

你举的例子，复制体和本体在复制时是相同的两个个体，但是再次见面时已经是两个不同的存在了，也是实实在在有躯体的存在，所以还可以各自以过去的存在继续存在下去。这就是跟上面的“脑复制”本质的区别了。

虽然我没看动画，不过里面应该有这个演出吧？就是一个研究员的摇光启动之后很快就崩坏了。就是摇光这种“数字大脑”在这种【自己只是一个脑而不是自己以为的完整的自由的人】的极端打击（或消极的想法）的刺激下就崩坏了。——实际上UW里的人也有因为杀人什么的陷入bug而崩坏，所以也或许是年轻的“数字大脑”不如真正的人脑能面对现实的样子~相对而言，几百岁的桐人摇光就没崩坏——更能面对现实。

 

[HH233]

没想到会被@

关于被复制的正常人类摇光与本人相遇会崩溃的问题

我觉得是复制的锅

动画中比嘉亲自复制的自己，所以他很清楚自己面对的只是一个复制品

但是，如果是普通人再不知情的情况下被复制，然后相遇的话，本人也会陷入混乱，与惊慌，这在某科幻中有描述

但是人脑存在一种自我保护的机制，就是在面对很多无法接受或难以接受的信息时我们会选择性把他遗忘

可能复制出的的摇光并没有复制出这种功能，但来源于人的我只存在一个我的固有认知被保留，这是一个跳出来说你是被复制的

会使复制摇光陷入我是本人还是你是本人的判断循环（类似电脑指令卡死）导致崩溃

[CCCP04]

       如果是说alice这种大脑结构与自然人相似的AI的话，至少在冯诺依曼机的时代，是不可能出现这种AI的，任何冯诺依曼机的智商都是零。至于结衣这种纯靠大数据和机器学习堆出来的AI，不好说，现有的技术条件可以生产出能够在专业领域做出决策的AI（纽交所已经开始使用AI来处理短线投资了），但是做出具有接近人类情感的AI是比较难的，而且也没这个需求。

PS：美国人派遣雇佣兵来抢夺AI的桥段实在太出戏了，完全是多此一举。日本政府里全是CIA的间谍，美国如果真想拿到AI完全可以走官方渠道让日本把underworld连海龟设施移交给美国，根本不需要动武。

[raynormj]

37 分钟前, CCCP04 说道:

现有的技术条件可以生产出能够在专业领域做出决策的AI（纽交所已经开始使用AI来处理短线投资了），但是做出具有接近人类情感的AI是比较难的，而且也没这个需求。

决策，就跟下围棋一样，面对某一种“竞技”或“任务”，训练出“估值函数”，再让计算机运算进行决策。这种本质上也不能算智能。现在的“机械学习”人工智能跟人的学习方式完全不一样。“决策”是不是最优解都另说。数据量一大，学出来的东西是个啥都不知道。

这种类型的“智能”充其量就是top-down型。而bottom-up型，用少量的数据，让机器训练出“常识”，学习出“推理能力”这种就是爱丽丝这种了；其实人和动物就是这么学习的。一旦出现就是训练出了一个“机械脑”而非生物脑。再就是要让机械脑的算力达到人脑的算力。这种AI的感情那是必然的。

top-down型，与其说情感，不如说是自己都不理解的欲望？——但是毕竟这种写了程序让它自己学，但是连它学的东西都无法预测，搞得跟“天网”一样产生消灭人类的“欲望”就搞笑了。实际上是它认为“消灭人类是合理的，所以就要消灭”。

不过没有自由意志，就没法被称为真正的人工智能的感觉。但是有自由意志，有共情力、情感就很正常了。

38 分钟前, CCCP04 说道:

PS：美国人派遣雇佣兵来抢夺AI的桥段实在太出戏了，完全是多此一举。日本政府里全是CIA的间谍，美国如果真想拿到AI完全可以走官方渠道让日本把underworld连海龟设施移交给美国，根本不需要动武。

这个部分确实槽点很多。“11区中心论”才会有这种故事和这种桥段出来。。。

[raynormj]

2 小时前, HH233 说道:

没想到会被@

应该是某个SAO主题你提到自己是原著党吧？——我（上个月写帖子的时候）自己都没想到自己会@这么多人

2 小时前, HH233 说道:

动画中比嘉亲自复制的自己，所以他很清楚自己面对的只是一个复制品

但是，如果是普通人再不知情的情况下被复制，然后相遇的话，本人也会陷入混乱，与惊慌，这在某科幻中有描述

嗯是的呢。本质上也算一个哲学问题，复制人有没有人权，有多少人权的问题。

——人工智能出现的话，道德体系也得大变革呀。。。

2 小时前, HH233 说道:

但是人脑存在一种自我保护的机制，就是在面对很多无法接受或难以接受的信息时我们会选择性把他遗忘

可能复制出的的摇光并没有复制出这种功能，但来源于人的我只存在一个我的固有认知被保留，这是一个跳出来说你是被复制的

会使复制摇光陷入我是本人还是你是本人的判断循环（类似电脑指令卡死）导致崩溃

对对对，小说里面应该就是这么解释的吧？生物脑是有保护机制的，——虽然也有人扛不住打击而崩溃、人格被磨灭之类的。

但是摇光这种有点像beta样机。应该还是有一些脆弱的部分，比如陷入某些“理性上的两难矛盾”就容易死循环、自灭。

我记得桐人和优吉欧在学校里面，有个反派就是出发了个什么bug然后就自灭了，不太记得了，但应该不是自我方面的死循环。

 

但是如果摇光这种也有了这种自我保护机制呢？——我就在想，UW人那种“禁令”不就是某种限制、保护机制吗，程序上的，想突破就动弹不得，强行突破就会生理上受伤。那么“陷入死循环就冷静下来、停下运算”这种限制如果被打破，也仍然会自灭啊。。。

——到头来，人脑会崩溃，那么机器脑会崩溃也是情理之中？

[HH233]

18 分钟前, raynormj 说道:

应该是某个SAO主题你提到自己是原著党吧？——我（上个月写帖子的时候）自己都没想到自己会@这么多人

 

这误会大了=-=，我没看过原著其实，虽然我的确回复过

27 分钟前, raynormj 说道:

但是如果摇光这种也有了这种自我保护机制呢？——我就在想，UW人那种“禁令”不就是某种限制、保护机制吗，程序上的，想突破就动弹不得，强行突破就会生理上受伤。那么“陷入死循环就冷静下来、停下运算”这种限制如果被打破，也仍然会自灭啊。。。

——到头来，人脑会崩溃，那么机器脑会崩溃也是情理之中？

那些禁令，其实是对under world世界居民的一种考验，他们就是在等待一个可以自行突破的摇光，所以爱丽丝的出现也代表他们实验成功了，因为这样的个体具有自我不断学习进化的能力，其实人类也是如此在不断的否定与突破中进化，所以刀剑中的人工智能更多的是对人类的复刻

[无聊的阿里鲨]

5 小时前, raynormj 说道:

是这样的，机器人不是有那个什么机器人三定律吗？——就是机器人不能杀人什么的。

人造摇光也是有这一限制，不能蓄意杀人，甚至不能反抗某些“铁律（代码规则）”。所以在underworld几个创世神（研究人员）里面混进去了一个叛徒，在里面搞鬼，希望underworld里面的人能够自我突破限制器——自主杀人。

然后爱丽丝（女主）就是小时候（身为桐人的朋友）就突破了限制器，就被抓走了，被洗脑成“整合骑士”——理想的战士。

 

——就是这么来的。

当然了，一个真正自由思考的人工智能目前的能耗问题就是个世界难题——需要两个小型核电站就是了。

是的呐。“摇光”等同于是说脑可以完全电子化。——桐人就是这么进underworld“疗伤”的。

是的。就是缸中之脑的感受：

 

而且比起技术问题人伦道德方面问题更大，反正无论如何我都不想看到这类东西出现就是了（

[wyh971212]

这个问题不仅提到了科技发展上，更关于人理道德问题，就像是不能克隆人类一样，如果是创造一个完全可以与真人一样的智能出来，我觉得还好，但如果牵扯到复制人的话就很复杂了。

[h5j2t7xx]

这突然一下子就讨论到如此高端的事物，对我难度会不会太大了，你良心不会痛

我这种人看番就是图开心的，比较关注更加现实一点社会人际关系之类的现实感

这直接就开始AI了，我真的一脸茫然

那要我来说其实番里的世界还是更多吸收一些前沿科学的理念

对的，理念居多，理论探讨，那就抛开理论而集中在更有娱乐性的理念来说

这也算一种梦想的人类进化模式吧，假如现实世界无法像以外一样自由生存，活成黑客帝国那样会不会也是解决方案

那虚拟的世界是哪一种又无关紧要，只是寻求交流和自我满足维持住精神状态的工具吧

至于精神状态崩溃或者不崩溃，这种事情问我干吗，我又不懂

[liangheng]

应征召而来。

嗯，老实说当初接触刀剑的时候就对它的设定超前感到震惊，而且不是那种完全捏造现实的，反而是觉得若干年后一定会实现的。

而underworld篇却是又进阶到另一个高度了，人工智能刚刚起步的时候，确实就像结衣一样是人类赋予其各种智能，一种自上而下的智能模式，

但是现在也慢慢开始走自下而上，类似人类学习的模式了，但是这样的发展方向很可能让人工智能拥有自我意识，也许若干年后，人工智能真的又可能代替人类，类似天网

那样。

刀剑里讲到摇光用来制造虚拟士兵，其实也是一种警示作用吧，毕竟高新科技肯定是优先应用于国防了。

[funboat]

其实我觉得能把人类摇光提取出来了，那一定就有能模拟人脑思维的方法了，也就是说已经把人脑产生思想的机理给给搞懂了。

到了那一步的时候也许人类也会对自己的存在产生怀疑吧，就如同缸中之脑一般了，人工的摇光不也是一种缸中之脑吗。人类能创造缸中之脑，那从根源上就排除不了人类自身也是缸中之脑的可能，当然根据剃刀原理既然不可证伪那就当作不存在就好了。

如果从上面的前提看来，只要人类有的情绪摇光就都会有，人类面临何种情况时会如何，摇光也就会如何。

当然从现在的科技水平完全不能正真的模拟人类，人类和AI的能力偏向也有不同。至少我们这代人应该是看不到人工摇光（除了肉体层面，思维层面完全就是人类的AI）的可能。更多的是能够更加智能地为人类服务的特点领域的AI。

个人认为军队的作战能力更重要的是精准的直行能力和信息的获取以及策略的制定，如果真用有人类思维的战士，我觉得更多是用作指挥或者说控制（控制没有人格的普通AI）吧，能有人类随机应变的策略和想象力，实际上看过AI打人类的星际争霸比赛就可以知道，在控制上人类在变量和规则确定的情况下是绝对比不过AI的算力的，人正真有竞争力的还是思维的跳跃性。用虚拟的摇光我觉得还是舍本逐末吧，如果说真到了能用摇光来作战的话摇光的重要性也就不是那么大了。

[Endlesspainful]

以这个角度思考的话我倒是觉得这样的人工智能会成为人类的一种进化（或者说是一种异变）

带入思考了一下如果这一刻的我，我的意识，投影到电脑中，我会怎么样

换做是我这样的废人的话大概反而是放松吧

现实之中仍有“我”的本体作为我在家庭和社会中应有的成员，而虚拟之中的“我”可以说是脱离了整个社会，不再有责任和期待在我身上，换句话说，这时的我是仅仅只对自己负责的一个灵魂，大概是像玩游戏一样的心态面对接下来的世界，虚拟种的一切对我应当是相当新奇的。

而进一步，我应当会思考我是否还能称作人类，我作为一个虚拟的意识，和现实相关的仅仅只是拥有和现实种的”我“相同的记忆和意识，这样的我还会保持和真实世界中人类相似的世界观吗，若是世界观改变了，思考方式也会改变，那样的我又会怎么样思考呢?我又会怎么样认知这个世界，做出怎样的行为，或者直白点说，那时候的我应该就像是机械飞升的人类，成为一个新的物种。

我贫瘠的想象力想象不出这样的一种”新生物“会对人类有什么影响，但必然会永久性的改变人类的社会。

在以上非常不负责任的推演中我得出的结论：即使能够完完全全的复制人脑的意识和记忆，当这个生存在虚拟中的灵魂意识到自己是虚拟的时候，他就已经是另一种人类难以理解的生物，这个转变或许在一瞬间（考虑到电脑无以伦比的算力速度）也有可能需要这个灵魂自我探究一段时间，渐渐改变，直到完全认知”虚拟生命“这一事实后，这样一种新的机械生命，应该就诞生了

 

ps：话说我明明不怎么看刀剑的为什么也被邀请来了....

八月 31, 2020，由Endlesspainful修改
补充说明

[raynormj]

8 小时前, HH233 说道:

那些禁令，其实是对under world世界居民的一种考验，他们就是在等待一个可以自行突破的摇光，所以爱丽丝的出现也代表他们实验成功了，因为这样的个体具有自我不断学习进化的能力，其实人类也是如此在不断的否定与突破中进化，所以刀剑中的人工智能更多的是对人类的复刻

虽然摇光是对人类功能的复刻，不过复刻的意义就在于，人类可以成为“神”而造“人”——创造自由意志的智慧生命体（哪怕是无机的机器）了。

机器能思维，但是不自由就类似于

12 小时前, raynormj 说道:

机器人不是有那个什么机器人三定律吗？——就是机器人不能杀人什么的。

人造摇光也是有这一限制，不能蓄意杀人，甚至不能反抗某些“铁律（代码规则）”。所以在underworld几个创世神（研究人员）里面混进去了一个叛徒，在里面搞鬼，希望underworld里面的人能够自我突破限制器——自主杀人。

然后爱丽丝（女主）就是小时候（身为桐人的朋友）就突破了限制器，就被抓走了，被洗脑成“整合骑士”——理想的战士。

人倒是不会因为bug陷入空转、死循环什么的。因为人的思维也不是程序。

 

而且机器与人不同，人是生物脑，需要漫长的养成、学习、多年的提供有机物营养，而且每个人条件各有不同，全都是“随机属性”，有各种缺陷的人也都是人。但是机器是可以完全复制的，算力完美且只取决于硬件的。“限制器”也是这样，人、生物脑是可以放弃的，但是机器和程序更容易陷入死循环。

另一个问题就是，人凭什么能创造出原理上就超出自己的东西呢？从逻辑上来讲这是不可能的事情。——功能上完善和加强就已经很不错了。

[raynormj]

7 小时前, 无聊的阿里鲨 说道:

而且比起技术问题人伦道德方面问题更大，反正无论如何我都不想看到这类东西出现就是了（

感觉就像是或许永远不可能完全实现的功能——人脑完全数字化=人造灵魂——在流行小说里出现了，还正好赶上人工智能、深度学习的热潮了，大家都很兴奋。。。

——其实人处理不了的问题多了去了~

 

不过就像段子里面说的，人总是“提前感受”、假想。特别是哲学上什么的。一旦出现就会改变全体人类的认知啊，世界观啊，道德准则啊。然后就恐惧。未知总是恐惧的，这里就是这种伦理问题怎么处理。

像人工智能总感觉必然扯上“天网”这个例子。但目前就连top-down的“人工智能”也还远不够智能。有个例子我印象很深刻，就是机器学习区分狼和狗，结果分析出来学习的模型，发现只要是背景有雪的就被认定为狼，反之则为狗，这学习结果就是完全扯淡了。自动驾驶也还没来呢。

——但是人也没法笃定的说就是永远不可能实现，因为或许真的很快就实现了。最终大家都在讲故事和听故事而已。

[raynormj]

4 小时前, wyh971212 说道:

这个问题不仅提到了科技发展上，更关于人理道德问题，就像是不能克隆人类一样，如果是创造一个完全可以与真人一样的智能出来，我觉得还好，但如果牵扯到复制人的话就很复杂了。

问题就在于“能创造，为啥不能复制呢”。就是说，假定人脑的功能被电子脑全面实现了，那把人的记忆和意识和所有脑电波活动全部“等价转换”到电子脑也没什么不可以。

然后就复杂了。。。“我们都是我，但也都不是我。。。”

[raynormj]

3 小时前, h5j2t7xx 说道:

这突然一下子就讨论到如此高端的事物，对我难度会不会太大了，你良心不会痛

这，我觉得讨论这种高大上的话题才是为了你和漫区年轻人好啊

要不然一天到晚都是三角恋啊，出轨啊，后宫啊，卖肉啊，废萌啊。。。打得我都不想打了。。。

你看我多么温柔~~~

3 小时前, h5j2t7xx 说道:

我这种人看番就是图开心的，比较关注更加现实一点社会人际关系之类的现实感

所以很现实啊，这个动画不知道你会不会继续看，但是最终AI妹子爱丽丝杀到三次元，跟桐人一起生活了。。。——然后她就可以想复制多少就复制多少。。。

头痛不头痛？

3 小时前, h5j2t7xx 说道:

这也算一种梦想的人类进化模式吧，假如现实世界无法像以外一样自由生存，活成黑客帝国那样会不会也是解决方案

你还别说，这个AI住的世界underworld还就是你说的黑客帝国的模式。

每个住民都以为自己在underworld里面爱居乐业，实际上在三次里，每一个人的“摇光”（脑）就是一个小方块，数据。

然后这些小方块就可以搭载在战斗机上面，然后在underworld里面他就会以为自己骑着龙在战斗。

——一切都和平当然没啥。但是用作战争工具就是“自以为自由”而已了。

3 小时前, h5j2t7xx 说道:

至于精神状态崩溃或者不崩溃，这种事情问我干吗，我又不懂

跟人类比的话，就是人不得不面对死亡这个话题，而且还无解，还只能独自承担，但是人也不会轻易地就崩溃，毕竟人脑有自我保护机制在。

但是要是自己非要反复想，不自我保护的话，人本身也容易崩溃的呀。

再说什么抑郁症啊，心理疾病啊，都是人难以处理自己的心理问题的佐证啊。

没这些问题当然运气好了。

[raynormj]

3 小时前, liangheng 说道:

嗯，老实说当初接触刀剑的时候就对它的设定超前感到震惊，而且不是那种完全捏造现实的，反而是觉得若干年后一定会实现的。

而underworld篇却是又进阶到另一个高度了，人工智能刚刚起步的时候，确实就像结衣一样是人类赋予其各种智能，一种自上而下的智能模式，

但是现在也慢慢开始走自下而上，类似人类学习的模式了，但是这样的发展方向很可能让人工智能拥有自我意识，也许若干年后，人工智能真的又可能代替人类，类似天网

那样。

嗯，同感。VR这种虽然多感官啊脑电波啊，真的有把人脑子烧残的风险，但确实刀剑也算是在适当的时候火了。

应该算是软科幻，不过能引起观众的思考就很不错了。

3 小时前, liangheng 说道:

刀剑里讲到摇光用来制造虚拟士兵，其实也是一种警示作用吧，毕竟高新科技肯定是优先应用于国防了。

是的。太现实了。

虽然我一般会自己跟自己论证，真正的要弄出一个bottom-up人工智能——人造脑——有多么多么困难，有多大的能耗，之类之类，

但是一旦这种AI的能耗比人类自己的能耗还要低、性能还要好，但是不能杀人，那么要它对“当权者”来说有什么用呢？——当保镖？

小说里面就是假想“量产”整合骑士，实际上就是AI士兵，能大批量生产。。。

但是话说回来，这种东西（技术）最终可能是先进入国家机器的手里，然后才会慢慢的“民用化”。所以。。。

——跪求不要世界末日？~~~

[raynormj]

2 小时前, funboat 说道:

其实我觉得能把人类摇光提取出来了，那一定就有能模拟人脑思维的方法了，也就是说已经把人脑产生思想的机理给给搞懂了。

到了那一步的时候也许人类也会对自己的存在产生怀疑吧，就如同缸中之脑一般了，人工的摇光不也是一种缸中之脑吗。人类能创造缸中之脑，那从根源上就排除不了人类自身也是缸中之脑的可能，当然根据剃刀原理既然不可证伪那就当作不存在就好了。

就是这样。人造脑。

可是underworld里的民众即便是每天都在用系统语言英语吟唱魔法，他们也完全不知道自己其实是缸中之脑，而认为自己是守护人界的住民。

然后等到发现自己是缸中之脑的时候，因为是以underworld里实在的【数字躯体】得到这个信息，所以也还算能接受现实。可怜的那些复制比嘉~~~

2 小时前, funboat 说道:

个人认为军队的作战能力更重要的是精准的直行能力和信息的获取以及策略的制定，如果真用有人类思维的战士，我觉得更多是用作指挥或者说控制（控制没有人格的普通AI）吧，能有人类随机应变的策略和想象力，实际上看过AI打人类的星际争霸比赛就可以知道，在控制上人类在变量和规则确定的情况下是绝对比不过AI的算力的，人正真有竞争力的还是思维的跳跃性。用虚拟的摇光我觉得还是舍本逐末吧，如果说真到了能用摇光来作战的话摇光的重要性也就不是那么大了。

这种作战领域，当然是同时追求战略上的最优把控，和战术上的绝对优秀了。——所以要有最优秀的指挥，和最优秀的前线士兵。

从这个角度上来说，大概小说里面就要把整合骑士写成“完美的战士”的意思。脑力又优秀，又不需要遵守机器人三定律，又服从命令。

我记得好像每个整合骑士都是有点什么特别的吧。

前线士兵需要量产的优秀人工智能，后方指挥需要庞大的算力支持统筹。这种感觉~

[raynormj]

1 小时前, Endlesspainful 说道:

ps：话说我明明不怎么看刀剑的为什么也被邀请来了....

唔，应该是某个早期主题的回复吧。关于刀剑的。

1 小时前, Endlesspainful 说道:

在以上非常不负责任的推演中我得出的结论：即使能够完完全全的复制人脑的意识和记忆，当这个生存在虚拟中的灵魂意识到自己是虚拟的时候，他就已经是另一种人类难以理解的生物，这个转变或许在一瞬间（考虑到电脑无以伦比的算力速度）也有可能需要这个灵魂自我探究一段时间，渐渐改变，直到完全认知”虚拟生命“这一事实后，这样一种新的机械生命，应该就诞生了

是的。这种心态上的转变是自然而然的，也是必须的，否则就无法继续“维持自我”了。

唯物论讲究人就是一个连续存在的活的人体。所以“复制人”实际上是在某个时间点凭空多出来的一个存在，一旦接受了这个设定，就不得不面对这个现实，虽然在现在的我们看来颇为残酷。。。

但是如果纯粹复制自己到网络中，感觉有点像茅场晶彦的感觉，永远不会彻底死透。。。可以“永远”与互联网一起存在下去。 

1 小时前, Endlesspainful 说道:

换做是我这样的废人的话大概反而是放松吧

现实之中仍有“我”的本体作为我在家庭和社会中应有的成员，而虚拟之中的“我”可以说是脱离了整个社会，不再有责任和期待在我身上，换句话说，这时的我是仅仅只对自己负责的一个灵魂，大概是像玩游戏一样的心态面对接下来的世界，虚拟种的一切对我应当是相当新奇的。

但是如果复制出的自己就只在一个芯片里面，也没法“延伸”并“确保”自己的存在，那自己的“存在”就掌握在芯片（持有者）手上了。从这里来说，人反而是相对自由的。——但人最终也总要挂就是了。。。