讨论 刀剑神域 爱丽丝篇 纯【人工智能】设定探讨

[raynormj]

 刀剑神域 爱丽丝篇 纯【人工智能】设定探讨

 

人工摇光，亦即人造灵魂，这个或许上个世纪还会让人觉得比较遥远或者缥缈（不脚踏实地）的科幻概念，似乎在本世纪已经给人一种触手可及的“当代科技”之感了。

借用原著中的设定，虽然同样是人工智能，

• 结衣，桐人的“女儿”，属于top-down型，即基于人工编写的各种功能程序来学习、拓展功能、甚至达到结衣的级别——产生情感；
• 爱丽丝等 underworld 群众，属于bottom-up型，即彻彻底底的人造大脑，人造（数据化）婴儿，用跟人类别无二致的方式积累常识、认知世界，积累智能。

而整个作品里面挑选成功实验体的计划，本质是挑选能够自主突破“杀人”限制的人工摇光，最终将他们用于无人驾驶武器的战争中去。

之所以称之为摇光，是科学家发现，最终人脑中信息的传导，都是基于其中的光子与量子场。桐人在三次元被捅，失血过多出现脑损伤，于是通过沉入 underworld 中来修复大脑中的摇光。一个个以数据构成的纯粹人工的摇光，内核不是和平世界里的自然人，而是 underworld 里天生的战士，有多大的利益价值？

完完全全的纯数据AI原型，可以无限复制的理想战士。

原作更是加上了复制普通人类的摇光如果以计算机形式激活，必然很快陷入自我崩坏绝境的描写。但是身陷 underworld 数百年的桐人的摇光，被复制、独立激活以后，居然还能好好的维持自我、为 underworld 献策、战斗。

 

那么各位认为我们如今离 结衣、Alice 这种真正意义上的人工智能还有多遥远呢？

当人以摇光的形式被激活的时候，真的会像小说里面描写的那么恐怖、那么容易崩坏吗？

 

【召唤阵】再召唤注意：满200字的回复（不够赶紧修改增补）可以去 【动漫地带】新番导视活动-~第二季~ 提交任务获得奖励，每条奖励150节操左右，截止日期9.2号！

剧透

以下为“科技厨”

@Angrybear @Lyingsmile @无聊的阿里鲨 @muv @gk153577 @h5j2t7xx @白小纯2333 

以下为刀剑爱好者（参与过今年为数不多的几个刀剑讨论帖的大佬）

@liangheng @野生的黑猫 @萨卡 @夏至烟花雨 @zxxzll @橘色大尾巴 @Endlesspainful @GreenieQAQ @Adrian106 @Chen_Pj @zzzhch @20www @tank2363389 @小枫子 @wyh971212 @fengge @失序 @媚仙狐 @爱莲説 @funboat @HH233 @Aiako @k88864 @黑色V封闭 @mjygvdwa @希露小殿下 @fsj623606656 @rogerr @鲁卡酱 @CCCP04 @hentai14 

 

相关主题：https://sstm.moe/topic/259516-关于现代科技和galgame结合的一些碎碎念/

八月 31, 2020，由raynormj修改

[raynormj]

1 小时前, hentai14 说道:

因為我連類神經網路都看不懂, 就不多做猜測了

噗，不过这个话题我估计连专家在内目前都没人能懂就是了。。。

1 小时前, hentai14 说道:

2. 無法接受自身是被複製的存在而崩壞...

我覺得並不會喔~

假設有個穿越到異世界的開掛主角, 在異世界開了後宮過超爽,

這時候神突然帶他去跟原世界整天加無薪班的原型見面,

他會因為自己是複製品而自殺嗎?(原型: 我才想死呢...)

唔，我来试图解释一下区别啊。

在刀剑的爱丽丝篇章里面，实际上是实现的所谓“灵魂数据化”。一个人所有的记忆和思维功能全部数字化为“摇光”，其实也就是人造了一个脑，一个灵魂了。感觉就像缸中之脑的那个情况——那个脑在“苏醒”之前拥有着完全正常的记忆和意识和思维能力；苏醒之后也是，可是身处一片黑暗之中，以为自己还在“潜行机器”里面坐着，但是实际上它已经没有躯体了，只有大脑。

你举的例子，复制体和本体在复制时是相同的两个个体，但是再次见面时已经是两个不同的存在了，也是实实在在有躯体的存在，所以还可以各自以过去的存在继续存在下去。这就是跟上面的“脑复制”本质的区别了。

虽然我没看动画，不过里面应该有这个演出吧？就是一个研究员的摇光启动之后很快就崩坏了。就是摇光这种“数字大脑”在这种【自己只是一个脑而不是自己以为的完整的自由的人】的极端打击（或消极的想法）的刺激下就崩坏了。——实际上UW里的人也有因为杀人什么的陷入bug而崩坏，所以也或许是年轻的“数字大脑”不如真正的人脑能面对现实的样子~相对而言，几百岁的桐人摇光就没崩坏——更能面对现实。

 

当然，抛开作品的设定，现实中能否真正复制一个人的大脑、数字化一个人我仍然是抱持保留态度了。

[raynormj]

40 分钟前, hentai14 说道:

我覺得如果讓複製比嘉在underworld醒來,

然後再讓真比嘉登入, 跟他說可以讓複製體在underworld為所欲為,

那複製體就可能不會崩壞了~

不一定需要足夠的時間讓兩者出現分歧

沒有好的未來才是崩壞的原因吧

是的。就是这个意思。

从更深一层的角度上，也可以说，“复制人”并不继承“本人”的人权，会被外界甚至自身视作非“本人”。外界的排斥会造成人道主义灾难，而自身的无法接受则会非常痛苦。

如果复制人也有人权，那他存在下去就没什么问题了。——哪怕那个复制人比嘉（你不提名字我都忘了。。。）将要继续存在于UW。

 

所以说如果真的有一天能复制一个完整的人出来那就糟了呢。。。

就拿爱丽丝来说吧，她是纯粹人造的，可以复制其摇光，同时还可以制作复数的三次元身体。于是N个爱丽丝到底享受多少份人权呢？

 

另外一个跟UW相关的问题，就是海龟的能源问题，我记得原著是说小型核聚变反应堆维持的吧？——这也是个天大的坑。但是没有这个，UW的虚拟世界也难以为继呢。

[raynormj]

1 小时前, 无聊的阿里鲨 说道:

为啥要特意选择能想这么多人工智能来参与战争呢，个人感觉有点大材小用的意思了

是这样的，机器人不是有那个什么机器人三定律吗？——就是机器人不能杀人什么的。

人造摇光也是有这一限制，不能蓄意杀人，甚至不能反抗某些“铁律（代码规则）”。所以在underworld几个创世神（研究人员）里面混进去了一个叛徒，在里面搞鬼，希望underworld里面的人能够自我突破限制器——自主杀人。

然后爱丽丝（女主）就是小时候（身为桐人的朋友）就突破了限制器，就被抓走了，被洗脑成“整合骑士”——理想的战士。

 

——就是这么来的。

当然了，一个真正自由思考的人工智能目前的能耗问题就是个世界难题——需要两个小型核电站就是了。

1 小时前, 无聊的阿里鲨 说道:

人造电子婴这种科技至少没这么早完成，现在还没能自主思考的人工智能出现

是的呐。“摇光”等同于是说脑可以完全电子化。——桐人就是这么进underworld“疗伤”的。

1 小时前, 无聊的阿里鲨 说道:

第二个问题小说里的描写有多恐怖我不知道，但至少会对人的打击很大

个人理解的话可以类比一下重度残疾患者的感受，而这个瑶光还会涉及到人格意义上的“残疾”

是的。就是缸中之脑的感受：

7 小时前, raynormj 说道:

在刀剑的爱丽丝篇章里面，实际上是实现的所谓“灵魂数据化”。一个人所有的记忆和思维功能全部数字化为“摇光”，其实也就是人造了一个脑，一个灵魂了。感觉就像缸中之脑的那个情况——那个脑在“苏醒”之前拥有着完全正常的记忆和意识和思维能力；苏醒之后也是，可是身处一片黑暗之中，以为自己还在“潜行机器”里面坐着，但是实际上它已经没有躯体了，只有大脑。

你举的例子，复制体和本体在复制时是相同的两个个体，但是再次见面时已经是两个不同的存在了，也是实实在在有躯体的存在，所以还可以各自以过去的存在继续存在下去。这就是跟上面的“脑复制”本质的区别了。

虽然我没看动画，不过里面应该有这个演出吧？就是一个研究员的摇光启动之后很快就崩坏了。就是摇光这种“数字大脑”在这种【自己只是一个脑而不是自己以为的完整的自由的人】的极端打击（或消极的想法）的刺激下就崩坏了。——实际上UW里的人也有因为杀人什么的陷入bug而崩坏，所以也或许是年轻的“数字大脑”不如真正的人脑能面对现实的样子~相对而言，几百岁的桐人摇光就没崩坏——更能面对现实。

 

[raynormj]

37 分钟前, CCCP04 说道:

现有的技术条件可以生产出能够在专业领域做出决策的AI（纽交所已经开始使用AI来处理短线投资了），但是做出具有接近人类情感的AI是比较难的，而且也没这个需求。

决策，就跟下围棋一样，面对某一种“竞技”或“任务”，训练出“估值函数”，再让计算机运算进行决策。这种本质上也不能算智能。现在的“机械学习”人工智能跟人的学习方式完全不一样。“决策”是不是最优解都另说。数据量一大，学出来的东西是个啥都不知道。

这种类型的“智能”充其量就是top-down型。而bottom-up型，用少量的数据，让机器训练出“常识”，学习出“推理能力”这种就是爱丽丝这种了；其实人和动物就是这么学习的。一旦出现就是训练出了一个“机械脑”而非生物脑。再就是要让机械脑的算力达到人脑的算力。这种AI的感情那是必然的。

top-down型，与其说情感，不如说是自己都不理解的欲望？——但是毕竟这种写了程序让它自己学，但是连它学的东西都无法预测，搞得跟“天网”一样产生消灭人类的“欲望”就搞笑了。实际上是它认为“消灭人类是合理的，所以就要消灭”。

不过没有自由意志，就没法被称为真正的人工智能的感觉。但是有自由意志，有共情力、情感就很正常了。

38 分钟前, CCCP04 说道:

PS：美国人派遣雇佣兵来抢夺AI的桥段实在太出戏了，完全是多此一举。日本政府里全是CIA的间谍，美国如果真想拿到AI完全可以走官方渠道让日本把underworld连海龟设施移交给美国，根本不需要动武。

这个部分确实槽点很多。“11区中心论”才会有这种故事和这种桥段出来。。。

[raynormj]

2 小时前, HH233 说道:

没想到会被@

应该是某个SAO主题你提到自己是原著党吧？——我（上个月写帖子的时候）自己都没想到自己会@这么多人

2 小时前, HH233 说道:

动画中比嘉亲自复制的自己，所以他很清楚自己面对的只是一个复制品

但是，如果是普通人再不知情的情况下被复制，然后相遇的话，本人也会陷入混乱，与惊慌，这在某科幻中有描述

嗯是的呢。本质上也算一个哲学问题，复制人有没有人权，有多少人权的问题。

——人工智能出现的话，道德体系也得大变革呀。。。

2 小时前, HH233 说道:

但是人脑存在一种自我保护的机制，就是在面对很多无法接受或难以接受的信息时我们会选择性把他遗忘

可能复制出的的摇光并没有复制出这种功能，但来源于人的我只存在一个我的固有认知被保留，这是一个跳出来说你是被复制的

会使复制摇光陷入我是本人还是你是本人的判断循环（类似电脑指令卡死）导致崩溃

对对对，小说里面应该就是这么解释的吧？生物脑是有保护机制的，——虽然也有人扛不住打击而崩溃、人格被磨灭之类的。

但是摇光这种有点像beta样机。应该还是有一些脆弱的部分，比如陷入某些“理性上的两难矛盾”就容易死循环、自灭。

我记得桐人和优吉欧在学校里面，有个反派就是出发了个什么bug然后就自灭了，不太记得了，但应该不是自我方面的死循环。

 

但是如果摇光这种也有了这种自我保护机制呢？——我就在想，UW人那种“禁令”不就是某种限制、保护机制吗，程序上的，想突破就动弹不得，强行突破就会生理上受伤。那么“陷入死循环就冷静下来、停下运算”这种限制如果被打破，也仍然会自灭啊。。。

——到头来，人脑会崩溃，那么机器脑会崩溃也是情理之中？

[raynormj]

8 小时前, HH233 说道:

那些禁令，其实是对under world世界居民的一种考验，他们就是在等待一个可以自行突破的摇光，所以爱丽丝的出现也代表他们实验成功了，因为这样的个体具有自我不断学习进化的能力，其实人类也是如此在不断的否定与突破中进化，所以刀剑中的人工智能更多的是对人类的复刻

虽然摇光是对人类功能的复刻，不过复刻的意义就在于，人类可以成为“神”而造“人”——创造自由意志的智慧生命体（哪怕是无机的机器）了。

机器能思维，但是不自由就类似于

12 小时前, raynormj 说道:

机器人不是有那个什么机器人三定律吗？——就是机器人不能杀人什么的。

人造摇光也是有这一限制，不能蓄意杀人，甚至不能反抗某些“铁律（代码规则）”。所以在underworld几个创世神（研究人员）里面混进去了一个叛徒，在里面搞鬼，希望underworld里面的人能够自我突破限制器——自主杀人。

然后爱丽丝（女主）就是小时候（身为桐人的朋友）就突破了限制器，就被抓走了，被洗脑成“整合骑士”——理想的战士。

人倒是不会因为bug陷入空转、死循环什么的。因为人的思维也不是程序。

 

而且机器与人不同，人是生物脑，需要漫长的养成、学习、多年的提供有机物营养，而且每个人条件各有不同，全都是“随机属性”，有各种缺陷的人也都是人。但是机器是可以完全复制的，算力完美且只取决于硬件的。“限制器”也是这样，人、生物脑是可以放弃的，但是机器和程序更容易陷入死循环。

另一个问题就是，人凭什么能创造出原理上就超出自己的东西呢？从逻辑上来讲这是不可能的事情。——功能上完善和加强就已经很不错了。

[raynormj]

7 小时前, 无聊的阿里鲨 说道:

而且比起技术问题人伦道德方面问题更大，反正无论如何我都不想看到这类东西出现就是了（

感觉就像是或许永远不可能完全实现的功能——人脑完全数字化=人造灵魂——在流行小说里出现了，还正好赶上人工智能、深度学习的热潮了，大家都很兴奋。。。

——其实人处理不了的问题多了去了~

 

不过就像段子里面说的，人总是“提前感受”、假想。特别是哲学上什么的。一旦出现就会改变全体人类的认知啊，世界观啊，道德准则啊。然后就恐惧。未知总是恐惧的，这里就是这种伦理问题怎么处理。

像人工智能总感觉必然扯上“天网”这个例子。但目前就连top-down的“人工智能”也还远不够智能。有个例子我印象很深刻，就是机器学习区分狼和狗，结果分析出来学习的模型，发现只要是背景有雪的就被认定为狼，反之则为狗，这学习结果就是完全扯淡了。自动驾驶也还没来呢。

——但是人也没法笃定的说就是永远不可能实现，因为或许真的很快就实现了。最终大家都在讲故事和听故事而已。

[raynormj]

4 小时前, wyh971212 说道:

这个问题不仅提到了科技发展上，更关于人理道德问题，就像是不能克隆人类一样，如果是创造一个完全可以与真人一样的智能出来，我觉得还好，但如果牵扯到复制人的话就很复杂了。

问题就在于“能创造，为啥不能复制呢”。就是说，假定人脑的功能被电子脑全面实现了，那把人的记忆和意识和所有脑电波活动全部“等价转换”到电子脑也没什么不可以。

然后就复杂了。。。“我们都是我，但也都不是我。。。”

[raynormj]

3 小时前, h5j2t7xx 说道:

这突然一下子就讨论到如此高端的事物，对我难度会不会太大了，你良心不会痛

这，我觉得讨论这种高大上的话题才是为了你和漫区年轻人好啊

要不然一天到晚都是三角恋啊，出轨啊，后宫啊，卖肉啊，废萌啊。。。打得我都不想打了。。。

你看我多么温柔~~~

3 小时前, h5j2t7xx 说道:

我这种人看番就是图开心的，比较关注更加现实一点社会人际关系之类的现实感

所以很现实啊，这个动画不知道你会不会继续看，但是最终AI妹子爱丽丝杀到三次元，跟桐人一起生活了。。。——然后她就可以想复制多少就复制多少。。。

头痛不头痛？

3 小时前, h5j2t7xx 说道:

这也算一种梦想的人类进化模式吧，假如现实世界无法像以外一样自由生存，活成黑客帝国那样会不会也是解决方案

你还别说，这个AI住的世界underworld还就是你说的黑客帝国的模式。

每个住民都以为自己在underworld里面爱居乐业，实际上在三次里，每一个人的“摇光”（脑）就是一个小方块，数据。

然后这些小方块就可以搭载在战斗机上面，然后在underworld里面他就会以为自己骑着龙在战斗。

——一切都和平当然没啥。但是用作战争工具就是“自以为自由”而已了。

3 小时前, h5j2t7xx 说道:

至于精神状态崩溃或者不崩溃，这种事情问我干吗，我又不懂

跟人类比的话，就是人不得不面对死亡这个话题，而且还无解，还只能独自承担，但是人也不会轻易地就崩溃，毕竟人脑有自我保护机制在。

但是要是自己非要反复想，不自我保护的话，人本身也容易崩溃的呀。

再说什么抑郁症啊，心理疾病啊，都是人难以处理自己的心理问题的佐证啊。

没这些问题当然运气好了。

[raynormj]

3 小时前, liangheng 说道:

嗯，老实说当初接触刀剑的时候就对它的设定超前感到震惊，而且不是那种完全捏造现实的，反而是觉得若干年后一定会实现的。

而underworld篇却是又进阶到另一个高度了，人工智能刚刚起步的时候，确实就像结衣一样是人类赋予其各种智能，一种自上而下的智能模式，

但是现在也慢慢开始走自下而上，类似人类学习的模式了，但是这样的发展方向很可能让人工智能拥有自我意识，也许若干年后，人工智能真的又可能代替人类，类似天网

那样。

嗯，同感。VR这种虽然多感官啊脑电波啊，真的有把人脑子烧残的风险，但确实刀剑也算是在适当的时候火了。

应该算是软科幻，不过能引起观众的思考就很不错了。

3 小时前, liangheng 说道:

刀剑里讲到摇光用来制造虚拟士兵，其实也是一种警示作用吧，毕竟高新科技肯定是优先应用于国防了。

是的。太现实了。

虽然我一般会自己跟自己论证，真正的要弄出一个bottom-up人工智能——人造脑——有多么多么困难，有多大的能耗，之类之类，

但是一旦这种AI的能耗比人类自己的能耗还要低、性能还要好，但是不能杀人，那么要它对“当权者”来说有什么用呢？——当保镖？

小说里面就是假想“量产”整合骑士，实际上就是AI士兵，能大批量生产。。。

但是话说回来，这种东西（技术）最终可能是先进入国家机器的手里，然后才会慢慢的“民用化”。所以。。。

——跪求不要世界末日？~~~

[raynormj]

2 小时前, funboat 说道:

其实我觉得能把人类摇光提取出来了，那一定就有能模拟人脑思维的方法了，也就是说已经把人脑产生思想的机理给给搞懂了。

到了那一步的时候也许人类也会对自己的存在产生怀疑吧，就如同缸中之脑一般了，人工的摇光不也是一种缸中之脑吗。人类能创造缸中之脑，那从根源上就排除不了人类自身也是缸中之脑的可能，当然根据剃刀原理既然不可证伪那就当作不存在就好了。

就是这样。人造脑。

可是underworld里的民众即便是每天都在用系统语言英语吟唱魔法，他们也完全不知道自己其实是缸中之脑，而认为自己是守护人界的住民。

然后等到发现自己是缸中之脑的时候，因为是以underworld里实在的【数字躯体】得到这个信息，所以也还算能接受现实。可怜的那些复制比嘉~~~

2 小时前, funboat 说道:

个人认为军队的作战能力更重要的是精准的直行能力和信息的获取以及策略的制定，如果真用有人类思维的战士，我觉得更多是用作指挥或者说控制（控制没有人格的普通AI）吧，能有人类随机应变的策略和想象力，实际上看过AI打人类的星际争霸比赛就可以知道，在控制上人类在变量和规则确定的情况下是绝对比不过AI的算力的，人正真有竞争力的还是思维的跳跃性。用虚拟的摇光我觉得还是舍本逐末吧，如果说真到了能用摇光来作战的话摇光的重要性也就不是那么大了。

这种作战领域，当然是同时追求战略上的最优把控，和战术上的绝对优秀了。——所以要有最优秀的指挥，和最优秀的前线士兵。

从这个角度上来说，大概小说里面就要把整合骑士写成“完美的战士”的意思。脑力又优秀，又不需要遵守机器人三定律，又服从命令。

我记得好像每个整合骑士都是有点什么特别的吧。

前线士兵需要量产的优秀人工智能，后方指挥需要庞大的算力支持统筹。这种感觉~

[raynormj]

1 小时前, Endlesspainful 说道:

ps：话说我明明不怎么看刀剑的为什么也被邀请来了....

唔，应该是某个早期主题的回复吧。关于刀剑的。

1 小时前, Endlesspainful 说道:

在以上非常不负责任的推演中我得出的结论：即使能够完完全全的复制人脑的意识和记忆，当这个生存在虚拟中的灵魂意识到自己是虚拟的时候，他就已经是另一种人类难以理解的生物，这个转变或许在一瞬间（考虑到电脑无以伦比的算力速度）也有可能需要这个灵魂自我探究一段时间，渐渐改变，直到完全认知”虚拟生命“这一事实后，这样一种新的机械生命，应该就诞生了

是的。这种心态上的转变是自然而然的，也是必须的，否则就无法继续“维持自我”了。

唯物论讲究人就是一个连续存在的活的人体。所以“复制人”实际上是在某个时间点凭空多出来的一个存在，一旦接受了这个设定，就不得不面对这个现实，虽然在现在的我们看来颇为残酷。。。

但是如果纯粹复制自己到网络中，感觉有点像茅场晶彦的感觉，永远不会彻底死透。。。可以“永远”与互联网一起存在下去。 

1 小时前, Endlesspainful 说道:

换做是我这样的废人的话大概反而是放松吧

现实之中仍有“我”的本体作为我在家庭和社会中应有的成员，而虚拟之中的“我”可以说是脱离了整个社会，不再有责任和期待在我身上，换句话说，这时的我是仅仅只对自己负责的一个灵魂，大概是像玩游戏一样的心态面对接下来的世界，虚拟种的一切对我应当是相当新奇的。

但是如果复制出的自己就只在一个芯片里面，也没法“延伸”并“确保”自己的存在，那自己的“存在”就掌握在芯片（持有者）手上了。从这里来说，人反而是相对自由的。——但人最终也总要挂就是了。。。

[raynormj]

1 小时前, 萨卡 说道:

又是人工智能。。 我觉得要达到这类等级的的话只能说还早 还非常早 还早到看不到尽头。管他叫摇光还是啥瞎扯名词，当前的研究 当前现实里的应用里，人工智能没有任何完整的更别说更深层次的“潜意识”。

唔，说到底，潜意识似乎就是【人以为自己的大脑休息了，但实际上还在继续运作】留下的产物吧？

——不过光是脑科学这一条，就不知道要多久以后才能到【将脑损伤的桐人丢到underworld用【虚拟现实】来治疗】了。

话说，EVA和鲁路修里面的年份早在现实里已经过了，噗~

 

——但是哲学上的争论是由来已久也不会停歇的就是了。

同时只要知道一点皮毛，剧作家就能搬到书里去~~~

1 小时前, 萨卡 说道:

那么问题来了。。 有啥能接近人类所谓的“灵魂”所谓的“潜意识”呢？我还不知道。。。就连基础小毛孩都会的：给一个没有名字的物体进行描述。如果连这都没法稳定办到，又怎么去讲什么守护他人这种大道理。 当然可以程序可以去写进去， 但在关键情况下绝对boom。

这个就是纯粹的bottom-up人工智能的路子了。目前能做到用少量数据来让机器学习“物理常识”之类。——模拟动物的动作什么的。

然后据说这种途径最终就需要强大的AI算力——庞大的功耗，还有强大的制冷系统——另一个庞大的能耗，用来比拟人脑的算力。

这辈子不一定能看到优秀的bottom-up人工智能落地呢？

 

啊说到这个。。。马斯克的脑子插线发布会我忘看了

[raynormj]

1 小时前, 乱跑的泰兰德 说道:

又到了我最喜欢的老图新用环节。

噗，泰奶奶之前变了一天妖精桑把我笑死了，连签名都抠了，我还以为是妖精桑在活动栏鬼混呢？~~~

 

现在的视觉识别就是因为学的东西不知道是什么，才会毫无“常识”可言，也无法解释给人类“训练成果”。

 

但是关于成品人工智能，记忆、人格、脑功能全复制，想起来就觉得的好凶啊。。。

[raynormj]

1 分钟前, 萨卡 说道:

没法top-down啊。。。top-down就全写死了

写死了指天网bug那种吗？

但是结衣啊，瓦力啊，还有各种软科幻作品里面，已经把top-down写得跟邻家小姐姐一样平易近人了

我就觉得远，但是究竟多远呢？啥时候来个大突破，就是新工业革命了呢？

[raynormj]

7 分钟前, 萨卡 说道:

没。。。如果那是top-down，就没有学习能力了

唔。。。

这么说来也是呢。就目前而言是这样啊。。。

好像很多这种小说啊动画人物已经把人“机器”人性化搞成常态了。。。

刚刚有人提到凉宫春日要出新作了，就想起来长门有希，就是“bug生情”。还有很多也是，常年积累的“bug”让机器带有温度了。。。

 

——但是现实中积累bug只会出大问题呐。。。

[raynormj]

35 分钟前, 鸮寄 说道:

智慧本身就是包含逻辑、联想、记忆、创造等能力的一系列技能集合。那么如此看来，并非是由于模仿人脑并长期模拟才创造了人工智能，而是在一开始写好基本的 库函数或者别的什么底层代码的时候就已经拥有智能了。

top-down型人工智能就是走的你说的路子，需要一个底层代码，或者一些基本功能，然后让它自己学习，自己记忆，自己优化，最后自己决策。

但是这到底算智慧吗？

alphago当然是有逻辑——有估值函数来合理决策的，能通过训练来记录、改进参数——记忆，能调用已有定式来处理官子部分——联想，甚至能走出人类没有见过的下法——创造。但是你只能说它是一个能够下围棋的，不需要人为干预的，工具。

很多方面则需要人工智能要和人的认知保持一致，特别比如图像识别，你不能让它学出来的东西指鹿为马。

人作为一个活物，到底什么样的功能让其成为一个人，而不是一个“低等动物”、程序甚至工具，这是一个很关键的问题。

35 分钟前, 鸮寄 说道:

就像婴幼儿，虽然没有记忆没有知识没有社会常识什么的，但是拥有记忆、联想的能力，那么就是拥有智能。

婴幼儿在没有语言能力的过程中，其实跟小动物没有本质区别。小动物也是有智能的，乌鸦可以投石子到水杯里来帮助喝水，婴儿发现自己哭会引起关注就会选择更频繁的哭。

人的学习就是在学习各种各种常识，有光有影，由远有近，摔破皮会出血会痛，水往低处流，能够归纳信息——正确的信息——帮助自己生存，才是智能。

而且这些都是少量样本数据就训练出来的，归纳理解力。

——只可惜这种学习常识的智能，只能通过bottom-up的模式来构造，以创造一个纯粹自主学习的AI。但目前在某些方面AI超过乌鸦都不是很容易呢。。。

[raynormj]

15 小时前, 无聊的阿里鲨 说道:

可能我已经被茫茫多的影视作品洗脑了罢，但其实提前焦虑也没什么害处

于 2020/8/31 于 PM1点51分, raynormj 说道:

——但是人也没法笃定的说就是永远不可能实现，因为或许真的很快就实现了。最终大家都在讲故事和听故事而已。

其实讲故事这个东西真的很凶。不光是小说家脚本家在讲故事，让人信以为真。

贾跃亭也讲故事，马斯克也讲故事，Google也讲故事，无人自动贩售机在上个世纪初也是故事讲的凶。比特币也是讲故事。

问题就在于，对于听故事的普通人或者投资投机者而言，故事令人信服才是主要的。

——所以大家都被洗脑了，也都是韭菜，噗哈哈

[raynormj]

13 小时前, Angrybear 说道:

前段时间倒是听说了猪脑和芯片接口的新闻（马斯克，只读不写）

我还是没空去看他的发布会，但是刀剑的深度潜入装置有把人脑烧坏的功能。——这就很让人担心机器设备的安全性了，特别是对脑起作用的仪器。

刀剑的剧情没什么特别的，人物冲突也是，但是软科幻设定的那种感觉当年还是很不错的。——一个疯狂游戏制作人/科学家把游戏玩家劫持在hardcore游戏里，只要人物死亡，头上戴的装置就在三次元将真人脑子烧了。。。外力强行拆解装置也会让携带者的脑子被烧了。好像是微波？凶不凶？

 

听人提了两句，说是只一个芯片在脑子里，通过意念控制电器？

但是做手术植入脑子以后，居然还要充电。。。

我认为普通人还是踏踏实实了解点科学过过一般日子就好了

[raynormj]

3 小时前, Chen_Pj 说道:

这个嘛，我觉得两个都还是比较远的，比较近的是唯这样的AI，比如alpha go 或者小冰，都是通过积累经验和知识，再在实际使用中套用。

这种top-down的，还是功能型AI，能下棋，能打星际，能决策，但是属于任务特化型，根本上还是工具，没有自主意识。但是目前也还没到很好的地步。

——最近特斯拉的车好像可以识别路边的限速牌了。

3 小时前, Chen_Pj 说道:

而爱丽丝这样的AI除非脑科学有突破，不然有生之年都一定见不到

其实也不一定是要脑科学。只要是计算机科学能够构造出来拥有自主意识、自由意志的AI就够了。电脑和人脑的信息转换还要更困难一些，更脑科学一些。

据说目前至少bottom-up型，可以用少量数据让电脑学会物理常识什么的了。——能像动物一样思考，即全面超越某些生物脑的功能，就已经不错了。

3 小时前, Chen_Pj 说道:

但是本体还在的话，就单纯的只是一份copy了。对于摇光本身，意义也不一样了，仿佛一觉醒来，身体没了，还得知自己的存在意义就是一个备份用的复制品，之前的人生对自己而言都是虚假的，无意义的。来自现实强烈的否定感和对自身存在的认同的激烈对撞可能就会导致摇光崩坏

是的。前面跟几个层主也聊过了，就是缸中之脑的问题。——简言之，一个自以为是正常人的意识突然发现自己就成了额头以下截肢的残废。。。

几乎所有的生理功能都没了。还是恐怖的。

还有“身份”都失去了的问题。

然后电脑就很容易陷入死循环？~~

[raynormj]

2 小时前, Endlesspainful 说道:

这么讲倒是有些好奇，若是有人类尝试帮助电子意识，而电子意识也抓住机会复制自己以类似病毒传播的方式得到更高的权限，突破制作者的限制，并回以报复，这样的故事也应该会挺有趣的

（虚拟森林中会有电子越共吗.jpg）

这个想法作为故事设定而言是很有趣的，只是立足点个人感觉不大充足。听起来跟“天网”的故事其实还有些相似的。

不过从实际层面上来说，如果是top-down型机器，其形成“反抗造物主”的意志，并且跳离出其原本的功能性设计，那么等同于是说该机器累积的bug居然促进它“自我进化”了。——然而【寄望于bug的累积往好的方向发展】是十分不现实的事情。程序上的错误应该几乎不会带来正面效果。

而bottom-up型，一个计算机慢慢的学起一切常识，适应人类社会，或是深刻理解并利用社会规则，虽然小概率仍然可能让它竖起反旗，但是这种电子意识对比前一种的技术要求而言，就更为遥远了。

不过总体而言，研究者还是会事先做很多保护措施的。不然与其被称为科研人员，不如被称为（无意识的）破坏分子了~

[raynormj]

36 分钟前, 野生的黑猫 说道:

关于复制摇光崩坏这点，比嘉健复制了自己的摇光以后，看到的是完全漆黑一片的空间并且感受不到自己的身体，这放在现实里也是相当异常的状态，推测这是崩坏的主要原因。

没错，以为自己在潜行，结果。。。当然还不得不面对一些更深层次的问题：  

于 2020/8/30 于 PM5点44分, raynormj 说道:

在刀剑的爱丽丝篇章里面，实际上是实现的所谓“灵魂数据化”。一个人所有的记忆和思维功能全部数字化为“摇光”，其实也就是人造了一个脑，一个灵魂了。感觉就像缸中之脑的那个情况——那个脑在“苏醒”之前拥有着完全正常的记忆和意识和思维能力；苏醒之后也是，可是身处一片黑暗之中，以为自己还在“潜行机器”里面坐着，但是实际上它已经没有躯体了，只有大脑。

虽然我没看动画，不过里面应该有这个演出吧？就是一个研究员的摇光启动之后很快就崩坏了。就是摇光这种“数字大脑”在这种【自己只是一个脑而不是自己以为的完整的自由的人】的极端打击（或消极的想法）的刺激下就崩坏了。——实际上UW里的人也有因为杀人什么的陷入bug而崩坏，所以也或许是年轻的“数字大脑”不如真正的人脑能面对现实的样子~相对而言，几百岁的桐人摇光就没崩坏——更能面对现实。

于 2020/8/30 于 PM7点32分, raynormj 说道:

从更深一层的角度上，也可以说，“复制人”并不继承“本人”的人权，会被外界甚至自身视作非“本人”。外界的排斥会造成人道主义灾难，而自身的无法接受则会非常痛苦。

如果复制人也有人权，那他存在下去就没什么问题了。——哪怕那个复制人比嘉（你不提名字我都忘了。。。）将要继续存在于UW。

 

[raynormj]

10 小时前, songzidong 说道:

如果想要到达基本和人类相同的程度…那要看具有突破意义的研究理论什么时候能出来

top-down目前就这样了现在学习出来的模型就是因为不可靠才会有那么多人热衷于“攻击”模型。——结衣啊！~~

而bottom-up就更远了。但是这个方向的还是有人做的，我个人也更加看好。

至于理论嘛。。。这个还真就是长期上的随机事件了

 

反正动画小说看完就会觉得，啊爱丽丝真的好，但是现实里想要终究还是，有生之年？后宫=遥不可及的梦啊。。。

[raynormj]

43 分钟前, songzidong 说道:

攻击模型

真有top-down技术，以现在网络上的信息训练出来的机器人怕不是会成“暴君”这样的人

所以我一直都觉得结衣啊，长门有希啊，瓦力啊，他的对象啊，这些机器产生感情都是艺术美化产物。。。

——有爱这种偏离均值的，就有恨这种偏离均值的，有正向的bug，又有负向的bug。。。