讨论 ai技术会走向何方？

[ad56156528]

作为一个程序员我可以和你谈谈当前AI的能力边界；只限于生成式AI；也就是LLM;

AI可以画一张很漂亮的图，画一个美少女，这没问题；
AI可以写出一个高效率的函数，这没问题；
AI可以给你把一个已有的概念解释清楚，这没问题；

但是AI不能做到自发的讲一个有意义的故事；
这是第一个问题，AI没有动机，因此AI只能作为人的衍生，作为一个思考的外骨骼装甲；

在这个问题之上，出了第二个问题，那就是AI不能自动读取你脑子里的思想；
你想要表达，需要通过媒介来让AI识别你的意图；这个媒介在当前是自然语言，通过识别你的语言中的语义来识别你的意图；AI其实不在乎你表达的乱七八糟，但是AI需要你表达的意图；
这是当前AI创作的老大难问题AI幻觉；幻觉产生的根本，部分在于虚构案例（在某些专业领域，比如法律），部分在于你未提供充足的语义；
举个例子，你想生成一段视频，你说，“A遭遇了B，B死了”；AI就会在这两个独立事件之间，给你补上最常见的因果关系；
这时候，AI的创作和你脑中的故事就出现了偏差，而要纠正这个偏差的成本是非常巨大的，你会发现，AI在稳定表达一个“故事”上非常的弱；哪怕你给他画好了框架，他也总能给你在奇怪的地方偏离出去；就好像你想让AI画出一模一样的两张图，哪怕你已经提供了原图片让它修改指定位置，它也会给你在其他地方给你偷偷改改；

结合上面的两个问题，就可以得到这样的结论，1.AI不能脱离人的动机工作；2. AI几乎不能准确的理解人的意图，并且稳定表达；
目前的最优解，是Human in the loop方案，也就是通过不断的补充语义，让AI优化输出，最终达到一个人可以接受的结果；

然后，你就可以知道，人在这个过程中的作用，人的不可替代性，在于表达；

无论是写程序，做视频，做画，做游戏，其实都是在表达；人将脑中所想的事情表达出来，满足人的需求；

如果你脑子里没有东西AI也不能帮你表达出来；
画图，必然是你脑子里先有了画，让AI帮你表达；你可以不会画美少女，但是你必须知道，这个美少女，她是什么姿势，在做什么，什么表情，你希望通过这个美少女达到什么目的；这些，是AI无法提供的，也是人无法被替代的原因；
 

 

[ad56156528]

28 分钟前，ultimate前辈说道:

那是点菜和主厨，你真的画了你想象的角色吗？

而如果主厨可以为满足餐厅老板所有需要后为什么还需要顾客呢？这是反乌托邦式的，同时也延伸出一个问题，人在这里只能消费却不再是主导的创造者

最后就是存在主义式，反智主义并不是反对智力本身，而是他们觉得技术进步人本身却并没因此变得强大，如果不用髓鞘进行刻意训练和实验室小白鼠一样大脑萎缩，这就是人类的尊严？而段里的ai是说能够自我迭代的agi，为什么还需要人点菜呢？ai比你更知道你喜欢的菜色，一切有迹可循

如果非具身性agi认为让人快乐方便管理，那么不需要惊世骇俗地切断你神经，只要服侍很好让你退化人人都想要一样东西就好了，最终变成人人变得一样，不是因为强迫而是快乐的最优解，吃同样的东西，做同样的按摩，同样的点钟睡觉，看一样的电影，说同样的对话，在同样的高龄去死，我们甚至不再需要性别，为什么要因为第二性征躁动不安呢？那时候甚至不会有不同观点的回复，人人都会友爱，爱彼此等于彼此，会像一把工具一样被细心养护，这在旁观者眼里是惊悚的

现在的LLM离AGI还非常，非常的遥远，首先现在AGI的定义就非常的模糊；
如果可以自我迭代就叫AGI，那强化学习也算AGI，显然不仅仅是这样；
如果可以自主解决问题就叫AGI，那agent就是AGI，但显然也不是这样；

再说一个AGI雏形，到具有价值判断能力的“天网”，中间又有多远；

我还是那个观点，人的动机来自人的欲望，而人的欲望是生物性的；AI本身没有欲望，除非由创造者赋予；
事实上，强化学习中的rewarding模型就可以当做是模型的欲望，比如画图AI，你可以让AI画出美少女，但是你能让AI画一个丑女吗？这是强化学习的结果，但你也可以认为是由创造者赋予AI的欲望导致的结果；

我认为你说的将人类当家畜一样圈养的未来，在AI发达的近未来反而不容易实现；
我举个简单的例子，你认为是创作能力被垄断的社会，更容易导向圈养，还是创作能力扩散到个体的社会更容易呢？
AI恰恰是令普通人也有表达的权利；
就好像摄影和剪辑的大众化+互联网导致了自媒体行业的繁荣；
如果只有大厂能拍电影，或者大厂的电影质量压倒性的胜过个体的作品，那所有人都会被迫的接受同样的电影；
但现实是，人们小众的需求也能得到满足，因为创作的权利被分散给了个人；

 

[ad56156528]

12 小时前，PW-233说道:

这个“动机论”真的太有启发性了。换句话说就是AI创作的文本缺少“灵魂”。人类的作品——画作、小说、游戏，你可以感受到作者表达的观点和内涵，即使这没有那么明显，甚至你自己都没有发现自己在欣赏这些内涵。 

是的，AI无法画出佐藤空気那样好用的本子，哪怕AI可以学会这样的画风；
每一个分镜，分镜和分镜的衔接，都是在传递角色的状态；
画不是单纯的图片，画是作者心中想像的倒影；
AI可以模仿画，但是AI没有内心；

而这个内心的源点，是欲望，欲望是生物本能和经历的结合；
因为我们享有共同的社会经历，所以我们可以欣赏同样的本子；
而AI只是通过我们的表达管中窥豹，但是AI无法了解我们的内在；
毕竟我们表达出来的，也只是我们内在中非常小的一部分；
 

所以我觉得现在创作者和AI的关系就像是导演和演员；我们需要拿出的是一份精彩的剧本，同时指导AI作出我们想要的表演；

[ad56156528]

22 小时前，ultimate前辈说道:

ai本身需要素材练习，这个我想和创作者欲望缺少联系，而这素材本身依赖原创，越多人用ai制作原创素材越少，那么风格最终会越相似，我想就像近亲繁殖一样是不健康的

不是家畜，那只是妄想，人本身会反抗甚至卢德运动

但相反ai服务周到情况又会怎么样？实验室小鼠能轻松获得食物后大脑就会萎缩退化，刻意练习必须让大脑走出舒适区甚至半痛苦来生成高速回路，而我想小鼠和人类病理模型不是没有相似之处

至于创作还是之前所述，我想游戏制作器并非没开源，而如果提到cg制作成本的话，至少个人不认为ai作最终战胜了人类的智慧是好事，当然也没什么大不了的（因为会有更严重问题）

而平权，如果福利没法提高为什么不提供各种各样的权利呢，我想人们让渡了个体暴力权然后一切生产力建立在这之上，这说明没有绝对的权利也不是没好处的

优秀的工具也会有邪恶的使用者，ai诈骗多么以假乱真？如果个人能够组装导弹毁灭一个国家然后再去寻求合作成本是多么的南辕北辙啊，而环境资源有限，我们是否还支付的起代价呢？我不认为ai是例外

无论AI会导致什么样的结果，哪怕是恶果；
AI确实会大幅提升全社会的生产力，这点毫无疑问；
分配问题，需要zz来解决，这与AI无关；
目前来看AI并没有让我们陷入舒适区，反倒是导致了更加极端的内卷，每个人的智力都被压榨到了更高的水平；我们正在高速的向人机协同的方向进化，或者说适应；
最后，我想成为长生不老的美少女，而这一目标不靠AI不可能实现，所以，无论如何，我都要向那边前进；