讨论 刀剑神域 爱丽丝篇 纯【人工智能】设定探讨

[萨卡]

又是人工智能。。 我觉得要达到这类等级的的话只能说还早 还非常早 还早到看不到尽头。管他叫摇光还是啥瞎扯名词，当前的研究 当前现实里的应用里，人工智能没有任何完整的更别说更深层次的“潜意识”。

先不说假设现实里的肉体咋实现，反正SAO里并没肉体对吧。。目前的我所知道相对比较自然的角色移动动作等是有成型了。自然的语音生成差不多接近勉强（市场上各类语音识别，比如水果的siri等）

那么问题来了。。 有啥能接近人类所谓的“灵魂”所谓的“潜意识”呢？我还不知道。。。就连基础小毛孩都会的：给一个没有名字的物体进行描述。如果连这都没法稳定办到，又怎么去讲什么守护他人这种大道理。 当然可以程序可以去写进去， 但在关键情况下绝对boom。

与其想着这类看不到希望的人工智能实现，不如多期待更多的本子吧（

[乱跑的泰兰德]

又到了我最喜欢的老图新用环节。

[raynormj]

1 小时前, 萨卡 说道:

又是人工智能。。 我觉得要达到这类等级的的话只能说还早 还非常早 还早到看不到尽头。管他叫摇光还是啥瞎扯名词，当前的研究 当前现实里的应用里，人工智能没有任何完整的更别说更深层次的“潜意识”。

唔，说到底，潜意识似乎就是【人以为自己的大脑休息了，但实际上还在继续运作】留下的产物吧？

——不过光是脑科学这一条，就不知道要多久以后才能到【将脑损伤的桐人丢到underworld用【虚拟现实】来治疗】了。

话说，EVA和鲁路修里面的年份早在现实里已经过了，噗~

 

——但是哲学上的争论是由来已久也不会停歇的就是了。

同时只要知道一点皮毛，剧作家就能搬到书里去~~~

1 小时前, 萨卡 说道:

那么问题来了。。 有啥能接近人类所谓的“灵魂”所谓的“潜意识”呢？我还不知道。。。就连基础小毛孩都会的：给一个没有名字的物体进行描述。如果连这都没法稳定办到，又怎么去讲什么守护他人这种大道理。 当然可以程序可以去写进去， 但在关键情况下绝对boom。

这个就是纯粹的bottom-up人工智能的路子了。目前能做到用少量数据来让机器学习“物理常识”之类。——模拟动物的动作什么的。

然后据说这种途径最终就需要强大的AI算力——庞大的功耗，还有强大的制冷系统——另一个庞大的能耗，用来比拟人脑的算力。

这辈子不一定能看到优秀的bottom-up人工智能落地呢？

 

啊说到这个。。。马斯克的脑子插线发布会我忘看了

[raynormj]

1 小时前, 乱跑的泰兰德 说道:

又到了我最喜欢的老图新用环节。

噗，泰奶奶之前变了一天妖精桑把我笑死了，连签名都抠了，我还以为是妖精桑在活动栏鬼混呢？~~~

 

现在的视觉识别就是因为学的东西不知道是什么，才会毫无“常识”可言，也无法解释给人类“训练成果”。

 

但是关于成品人工智能，记忆、人格、脑功能全复制，想起来就觉得的好凶啊。。。

[萨卡]

6 分钟前, raynormj 说道:

这个就是纯粹的bottom-up人工智能的路子了。目前能做到用少量数据来让机器学习“物理常识”之类。——模拟动物的动作什么的。

然后据说这种途径最终就需要强大的AI算力——庞大的功耗，还有强大的制冷系统——另一个庞大的能耗，用来比拟人脑的算力。

这辈子不一定能看到优秀的bottom-up人工智能落地呢？

没法top-down啊。。。top-down就全写死了

[raynormj]

1 分钟前, 萨卡 说道:

没法top-down啊。。。top-down就全写死了

写死了指天网bug那种吗？

但是结衣啊，瓦力啊，还有各种软科幻作品里面，已经把top-down写得跟邻家小姐姐一样平易近人了

我就觉得远，但是究竟多远呢？啥时候来个大突破，就是新工业革命了呢？

[萨卡]

2 分钟前, raynormj 说道:

但是结衣啊，瓦力啊，还有各种软科幻作品里面，已经把top-down写得跟邻家小姐姐一样平易近人了

没。。。如果那是top-down，就没有学习能力了

[raynormj]

7 分钟前, 萨卡 说道:

没。。。如果那是top-down，就没有学习能力了

唔。。。

这么说来也是呢。就目前而言是这样啊。。。

好像很多这种小说啊动画人物已经把人“机器”人性化搞成常态了。。。

刚刚有人提到凉宫春日要出新作了，就想起来长门有希，就是“bug生情”。还有很多也是，常年积累的“bug”让机器带有温度了。。。

 

——但是现实中积累bug只会出大问题呐。。。

[鸮寄]

人工智能啊，感觉都要被各种艺术作品和学术论文用烂了（笑）

如果要讲真正的人工智能的话，我觉得像alice这样的才能算真正的人造智慧。不过说起来，智慧本身就是包含逻辑、联想、记忆、创造等能力的一系列技能集合。那么如此看来，并非是由于模仿人脑并长期模拟才创造了人工智能，而是在一开始写好基本的 库函数或者别的什么底层代码的时候就已经拥有智能了。

就像婴幼儿，虽然没有记忆没有知识没有社会常识什么的，但是拥有记忆、联想的能力，那么就是拥有智能。

（虽说如此，但其实对于智能的定义一直有争执）

而此类的底层代码是最难实现的，毕竟无论是写一堆if-else 还是直接模仿人脑的电信号传导，这样的技能也是很难实现的。

[raynormj]

35 分钟前, 鸮寄 说道:

智慧本身就是包含逻辑、联想、记忆、创造等能力的一系列技能集合。那么如此看来，并非是由于模仿人脑并长期模拟才创造了人工智能，而是在一开始写好基本的 库函数或者别的什么底层代码的时候就已经拥有智能了。

top-down型人工智能就是走的你说的路子，需要一个底层代码，或者一些基本功能，然后让它自己学习，自己记忆，自己优化，最后自己决策。

但是这到底算智慧吗？

alphago当然是有逻辑——有估值函数来合理决策的，能通过训练来记录、改进参数——记忆，能调用已有定式来处理官子部分——联想，甚至能走出人类没有见过的下法——创造。但是你只能说它是一个能够下围棋的，不需要人为干预的，工具。

很多方面则需要人工智能要和人的认知保持一致，特别比如图像识别，你不能让它学出来的东西指鹿为马。

人作为一个活物，到底什么样的功能让其成为一个人，而不是一个“低等动物”、程序甚至工具，这是一个很关键的问题。

35 分钟前, 鸮寄 说道:

就像婴幼儿，虽然没有记忆没有知识没有社会常识什么的，但是拥有记忆、联想的能力，那么就是拥有智能。

婴幼儿在没有语言能力的过程中，其实跟小动物没有本质区别。小动物也是有智能的，乌鸦可以投石子到水杯里来帮助喝水，婴儿发现自己哭会引起关注就会选择更频繁的哭。

人的学习就是在学习各种各种常识，有光有影，由远有近，摔破皮会出血会痛，水往低处流，能够归纳信息——正确的信息——帮助自己生存，才是智能。

而且这些都是少量样本数据就训练出来的，归纳理解力。

——只可惜这种学习常识的智能，只能通过bottom-up的模式来构造，以创造一个纯粹自主学习的AI。但目前在某些方面AI超过乌鸦都不是很容易呢。。。

[无聊的阿里鲨]

9 小时前, raynormj 说道:

感觉就像是或许永远不可能完全实现的功能——人脑完全数字化=人造灵魂——在流行小说里出现了，还正好赶上人工智能、深度学习的热潮了，大家都很兴奋。。。

——其实人处理不了的问题多了去了~

这点我大概也是这么想的，而这些处理不了的问题我大多都不在乎，小部分在乎的也没办法解决，只能干着急

9 小时前, raynormj 说道:

——但是人也没法笃定的说就是永远不可能实现，因为或许真的很快就实现了。最终大家都在讲故事和听故事而已。

可能我已经被茫茫多的影视作品洗脑了罢，但其实提前焦虑也没什么害处

[Angrybear]

这部番我倒是没有研究过……因为刀剑神域系列没看过所以没想到要去追这个

前段时间倒是听说了猪脑和芯片接口的新闻（马斯克，只读不写）

[h5j2t7xx]

19 小时前, raynormj 说道:

跟人类比的话，就是人不得不面对死亡这个话题，而且还无解，还只能独自承担，但是人也不会轻易地就崩溃，毕竟人脑有自我保护机制在。

但是要是自己非要反复想，不自我保护的话，人本身也容易崩溃的呀。

再说什么抑郁症啊，心理疾病啊，都是人难以处理自己的心理问题的佐证啊。

没这些问题当然运气好了。

我没这些问题啊，比较乐观，不太忧郁，崩溃什么的肯定都会与啊，探讨也是不错的，可惜我不懂

日本的番总是有点为了剧情热闹，给出一堆设定让你思考的感觉，我从不纠结，看过就忘记了

这系列的番我看了前几部后就没看了，有点越来越离开我的喜好度的感觉，所以不勉强了

[Chen_Pj]

于 2020/8/31 于 AM2点00分, raynormj 说道:

那么各位认为我们如今离 结衣、Alice 这种真正意义上的人工智能还有多遥远呢？

这个嘛，我觉得两个都还是比较远的，比较近的是唯这样的AI，比如alpha go 或者小冰，都是通过积累经验和知识，再在实际使用中套用。而爱丽丝这样的AI除非脑科学有突破，不然有生之年都一定见不到

于 2020/8/31 于 AM2点00分, raynormj 说道:

当人以摇光的形式被激活的时候，真的会像小说里面描写的那么恐怖、那么容易崩坏吗？

这个问题就比较主观了，如果本体已经挂了，以摇光形式唯一的存在可以简单的理解为灵魂出窍，这种情况一般不会那么容易崩坏；但是本体还在的话，就单纯的只是一份copy了。对于摇光本身，意义也不一样了，仿佛一觉醒来，身体没了，还得知自己的存在意义就是一个备份用的复制品，之前的人生对自己而言都是虚假的，无意义的。来自现实强烈的否定感和对自身存在的认同的激烈对撞可能就会导致摇光崩坏

九月 1, 2020，由Chen_Pj修改

[Endlesspainful]

 

21 小时前, raynormj 说道:

唔，应该是某个早期主题的回复吧。关于刀剑的。

是的。这种心态上的转变是自然而然的，也是必须的，否则就无法继续“维持自我”了。

唯物论讲究人就是一个连续存在的活的人体。所以“复制人”实际上是在某个时间点凭空多出来的一个存在，一旦接受了这个设定，就不得不面对这个现实，虽然在现在的我们看来颇为残酷。。。

但是如果纯粹复制自己到网络中，感觉有点像茅场晶彦的感觉，永远不会彻底死透。。。可以“永远”与互联网一起存在下去。 

但是如果复制出的自己就只在一个芯片里面，也没法“延伸”并“确保”自己的存在，那自己的“存在”就掌握在芯片（持有者）手上了。从这里来说，人反而是相对自由的。——但人最终也总要挂就是了。。。

这么讲倒是有些好奇，若是有人类尝试帮助电子意识，而电子意识也抓住机会复制自己以类似病毒传播的方式得到更高的权限，突破制作者的限制，并回以报复，这样的故事也应该会挺有趣的

（虚拟森林中会有电子越共吗.jpg）

[raynormj]

15 小时前, 无聊的阿里鲨 说道:

可能我已经被茫茫多的影视作品洗脑了罢，但其实提前焦虑也没什么害处

于 2020/8/31 于 PM1点51分, raynormj 说道:

——但是人也没法笃定的说就是永远不可能实现，因为或许真的很快就实现了。最终大家都在讲故事和听故事而已。

其实讲故事这个东西真的很凶。不光是小说家脚本家在讲故事，让人信以为真。

贾跃亭也讲故事，马斯克也讲故事，Google也讲故事，无人自动贩售机在上个世纪初也是故事讲的凶。比特币也是讲故事。

问题就在于，对于听故事的普通人或者投资投机者而言，故事令人信服才是主要的。

——所以大家都被洗脑了，也都是韭菜，噗哈哈

[raynormj]

13 小时前, Angrybear 说道:

前段时间倒是听说了猪脑和芯片接口的新闻（马斯克，只读不写）

我还是没空去看他的发布会，但是刀剑的深度潜入装置有把人脑烧坏的功能。——这就很让人担心机器设备的安全性了，特别是对脑起作用的仪器。

刀剑的剧情没什么特别的，人物冲突也是，但是软科幻设定的那种感觉当年还是很不错的。——一个疯狂游戏制作人/科学家把游戏玩家劫持在hardcore游戏里，只要人物死亡，头上戴的装置就在三次元将真人脑子烧了。。。外力强行拆解装置也会让携带者的脑子被烧了。好像是微波？凶不凶？

 

听人提了两句，说是只一个芯片在脑子里，通过意念控制电器？

但是做手术植入脑子以后，居然还要充电。。。

我认为普通人还是踏踏实实了解点科学过过一般日子就好了

[raynormj]

3 小时前, Chen_Pj 说道:

这个嘛，我觉得两个都还是比较远的，比较近的是唯这样的AI，比如alpha go 或者小冰，都是通过积累经验和知识，再在实际使用中套用。

这种top-down的，还是功能型AI，能下棋，能打星际，能决策，但是属于任务特化型，根本上还是工具，没有自主意识。但是目前也还没到很好的地步。

——最近特斯拉的车好像可以识别路边的限速牌了。

3 小时前, Chen_Pj 说道:

而爱丽丝这样的AI除非脑科学有突破，不然有生之年都一定见不到

其实也不一定是要脑科学。只要是计算机科学能够构造出来拥有自主意识、自由意志的AI就够了。电脑和人脑的信息转换还要更困难一些，更脑科学一些。

据说目前至少bottom-up型，可以用少量数据让电脑学会物理常识什么的了。——能像动物一样思考，即全面超越某些生物脑的功能，就已经不错了。

3 小时前, Chen_Pj 说道:

但是本体还在的话，就单纯的只是一份copy了。对于摇光本身，意义也不一样了，仿佛一觉醒来，身体没了，还得知自己的存在意义就是一个备份用的复制品，之前的人生对自己而言都是虚假的，无意义的。来自现实强烈的否定感和对自身存在的认同的激烈对撞可能就会导致摇光崩坏

是的。前面跟几个层主也聊过了，就是缸中之脑的问题。——简言之，一个自以为是正常人的意识突然发现自己就成了额头以下截肢的残废。。。

几乎所有的生理功能都没了。还是恐怖的。

还有“身份”都失去了的问题。

然后电脑就很容易陷入死循环？~~

[raynormj]

2 小时前, Endlesspainful 说道:

这么讲倒是有些好奇，若是有人类尝试帮助电子意识，而电子意识也抓住机会复制自己以类似病毒传播的方式得到更高的权限，突破制作者的限制，并回以报复，这样的故事也应该会挺有趣的

（虚拟森林中会有电子越共吗.jpg）

这个想法作为故事设定而言是很有趣的，只是立足点个人感觉不大充足。听起来跟“天网”的故事其实还有些相似的。

不过从实际层面上来说，如果是top-down型机器，其形成“反抗造物主”的意志，并且跳离出其原本的功能性设计，那么等同于是说该机器累积的bug居然促进它“自我进化”了。——然而【寄望于bug的累积往好的方向发展】是十分不现实的事情。程序上的错误应该几乎不会带来正面效果。

而bottom-up型，一个计算机慢慢的学起一切常识，适应人类社会，或是深刻理解并利用社会规则，虽然小概率仍然可能让它竖起反旗，但是这种电子意识对比前一种的技术要求而言，就更为遥远了。

不过总体而言，研究者还是会事先做很多保护措施的。不然与其被称为科研人员，不如被称为（无意识的）破坏分子了~

[野生的黑猫]

关于复制摇光崩坏这点，比嘉健复制了自己的摇光以后，看到的是完全漆黑一片的空间并且感受不到自己的身体，这放在现实里也是相当异常的状态，推测这是崩坏的主要原因。

[raynormj]

36 分钟前, 野生的黑猫 说道:

关于复制摇光崩坏这点，比嘉健复制了自己的摇光以后，看到的是完全漆黑一片的空间并且感受不到自己的身体，这放在现实里也是相当异常的状态，推测这是崩坏的主要原因。

没错，以为自己在潜行，结果。。。当然还不得不面对一些更深层次的问题：  

于 2020/8/30 于 PM5点44分, raynormj 说道:

在刀剑的爱丽丝篇章里面，实际上是实现的所谓“灵魂数据化”。一个人所有的记忆和思维功能全部数字化为“摇光”，其实也就是人造了一个脑，一个灵魂了。感觉就像缸中之脑的那个情况——那个脑在“苏醒”之前拥有着完全正常的记忆和意识和思维能力；苏醒之后也是，可是身处一片黑暗之中，以为自己还在“潜行机器”里面坐着，但是实际上它已经没有躯体了，只有大脑。

虽然我没看动画，不过里面应该有这个演出吧？就是一个研究员的摇光启动之后很快就崩坏了。就是摇光这种“数字大脑”在这种【自己只是一个脑而不是自己以为的完整的自由的人】的极端打击（或消极的想法）的刺激下就崩坏了。——实际上UW里的人也有因为杀人什么的陷入bug而崩坏，所以也或许是年轻的“数字大脑”不如真正的人脑能面对现实的样子~相对而言，几百岁的桐人摇光就没崩坏——更能面对现实。

于 2020/8/30 于 PM7点32分, raynormj 说道:

从更深一层的角度上，也可以说，“复制人”并不继承“本人”的人权，会被外界甚至自身视作非“本人”。外界的排斥会造成人道主义灾难，而自身的无法接受则会非常痛苦。

如果复制人也有人权，那他存在下去就没什么问题了。——哪怕那个复制人比嘉（你不提名字我都忘了。。。）将要继续存在于UW。

 

[songzidong]

机器学习这一块，自从13年深度学习因为计算机性能的发展从而展现出威力之后就再也没实质上的进步了

更坑的是深度学习这东西就是一层一层神经网络的叠加，训练之后发现有奇效才被发现的，至于其中的原理根本就不知道。一层神经网络还能去研究，两层也行，三层四层困难点，但是深度学习一叠叠几百上千层的现阶段没法研究…

也就是现阶段深度学习网络能到什么程度完全取决于计算机性能

如果想要到达基本和人类相同的程度…那要看具有突破意义的研究理论什么时候能出来

[raynormj]

10 小时前, songzidong 说道:

如果想要到达基本和人类相同的程度…那要看具有突破意义的研究理论什么时候能出来

top-down目前就这样了现在学习出来的模型就是因为不可靠才会有那么多人热衷于“攻击”模型。——结衣啊！~~

而bottom-up就更远了。但是这个方向的还是有人做的，我个人也更加看好。

至于理论嘛。。。这个还真就是长期上的随机事件了

 

反正动画小说看完就会觉得，啊爱丽丝真的好，但是现实里想要终究还是，有生之年？后宫=遥不可及的梦啊。。。

[songzidong]

7 小时前, raynormj 说道:

top-down目前就这样了现在学习出来的模型就是因为不可靠才会有那么多人热衷于“攻击”模型。——结衣啊！~~

而bottom-up就更远了。但是这个方向的还是有人做的，我个人也更加看好。

至于理论嘛。。。这个还真就是长期上的随机事件了

 

反正动画小说看完就会觉得，啊爱丽丝真的好，但是现实里想要终究还是，有生之年？后宫=遥不可及的梦啊。。。

攻击模型

真有top-down技术，以现在网络上的信息训练出来的机器人怕不是会成“暴君”这样的人

[raynormj]

43 分钟前, songzidong 说道:

攻击模型

真有top-down技术，以现在网络上的信息训练出来的机器人怕不是会成“暴君”这样的人

所以我一直都觉得结衣啊，长门有希啊，瓦力啊，他的对象啊，这些机器产生感情都是艺术美化产物。。。

——有爱这种偏离均值的，就有恨这种偏离均值的，有正向的bug，又有负向的bug。。。