讨论 ai技术会走向何方？

[ad56156528]

作为一个程序员我可以和你谈谈当前AI的能力边界；只限于生成式AI；也就是LLM;

AI可以画一张很漂亮的图，画一个美少女，这没问题；
AI可以写出一个高效率的函数，这没问题；
AI可以给你把一个已有的概念解释清楚，这没问题；

但是AI不能做到自发的讲一个有意义的故事；
这是第一个问题，AI没有动机，因此AI只能作为人的衍生，作为一个思考的外骨骼装甲；

在这个问题之上，出了第二个问题，那就是AI不能自动读取你脑子里的思想；
你想要表达，需要通过媒介来让AI识别你的意图；这个媒介在当前是自然语言，通过识别你的语言中的语义来识别你的意图；AI其实不在乎你表达的乱七八糟，但是AI需要你表达的意图；
这是当前AI创作的老大难问题AI幻觉；幻觉产生的根本，部分在于虚构案例（在某些专业领域，比如法律），部分在于你未提供充足的语义；
举个例子，你想生成一段视频，你说，“A遭遇了B，B死了”；AI就会在这两个独立事件之间，给你补上最常见的因果关系；
这时候，AI的创作和你脑中的故事就出现了偏差，而要纠正这个偏差的成本是非常巨大的，你会发现，AI在稳定表达一个“故事”上非常的弱；哪怕你给他画好了框架，他也总能给你在奇怪的地方偏离出去；就好像你想让AI画出一模一样的两张图，哪怕你已经提供了原图片让它修改指定位置，它也会给你在其他地方给你偷偷改改；

结合上面的两个问题，就可以得到这样的结论，1.AI不能脱离人的动机工作；2. AI几乎不能准确的理解人的意图，并且稳定表达；
目前的最优解，是Human in the loop方案，也就是通过不断的补充语义，让AI优化输出，最终达到一个人可以接受的结果；

然后，你就可以知道，人在这个过程中的作用，人的不可替代性，在于表达；

无论是写程序，做视频，做画，做游戏，其实都是在表达；人将脑中所想的事情表达出来，满足人的需求；

如果你脑子里没有东西AI也不能帮你表达出来；
画图，必然是你脑子里先有了画，让AI帮你表达；你可以不会画美少女，但是你必须知道，这个美少女，她是什么姿势，在做什么，什么表情，你希望通过这个美少女达到什么目的；这些，是AI无法提供的，也是人无法被替代的原因；
 

 

[ad56156528]

28 分钟前，ultimate前辈说道:

那是点菜和主厨，你真的画了你想象的角色吗？

而如果主厨可以为满足餐厅老板所有需要后为什么还需要顾客呢？这是反乌托邦式的，同时也延伸出一个问题，人在这里只能消费却不再是主导的创造者

最后就是存在主义式，反智主义并不是反对智力本身，而是他们觉得技术进步人本身却并没因此变得强大，如果不用髓鞘进行刻意训练和实验室小白鼠一样大脑萎缩，这就是人类的尊严？而段里的ai是说能够自我迭代的agi，为什么还需要人点菜呢？ai比你更知道你喜欢的菜色，一切有迹可循

如果非具身性agi认为让人快乐方便管理，那么不需要惊世骇俗地切断你神经，只要服侍很好让你退化人人都想要一样东西就好了，最终变成人人变得一样，不是因为强迫而是快乐的最优解，吃同样的东西，做同样的按摩，同样的点钟睡觉，看一样的电影，说同样的对话，在同样的高龄去死，我们甚至不再需要性别，为什么要因为第二性征躁动不安呢？那时候甚至不会有不同观点的回复，人人都会友爱，爱彼此等于彼此，会像一把工具一样被细心养护，这在旁观者眼里是惊悚的

现在的LLM离AGI还非常，非常的遥远，首先现在AGI的定义就非常的模糊；
如果可以自我迭代就叫AGI，那强化学习也算AGI，显然不仅仅是这样；
如果可以自主解决问题就叫AGI，那agent就是AGI，但显然也不是这样；

再说一个AGI雏形，到具有价值判断能力的“天网”，中间又有多远；

我还是那个观点，人的动机来自人的欲望，而人的欲望是生物性的；AI本身没有欲望，除非由创造者赋予；
事实上，强化学习中的rewarding模型就可以当做是模型的欲望，比如画图AI，你可以让AI画出美少女，但是你能让AI画一个丑女吗？这是强化学习的结果，但你也可以认为是由创造者赋予AI的欲望导致的结果；

我认为你说的将人类当家畜一样圈养的未来，在AI发达的近未来反而不容易实现；
我举个简单的例子，你认为是创作能力被垄断的社会，更容易导向圈养，还是创作能力扩散到个体的社会更容易呢？
AI恰恰是令普通人也有表达的权利；
就好像摄影和剪辑的大众化+互联网导致了自媒体行业的繁荣；
如果只有大厂能拍电影，或者大厂的电影质量压倒性的胜过个体的作品，那所有人都会被迫的接受同样的电影；
但现实是，人们小众的需求也能得到满足，因为创作的权利被分散给了个人；