讨论 ai技术会走向何方？

[ultimate前辈]

真的llm会变成该agi吗？还是只是金融圈的新宠儿资金撤离就作鸟兽散，资本寻找增长点的老生常谈？

如此多资金投入一个行业...但好像除了翻译hgame更容易外幸福度没这么提升，那又是怎么回事呢？更何况翻译什么也是规模效应本质旧技术翻新概率统计而已？

我还以为传统乌托邦是机器代替人生产，人开始吟诗作画创作和哲学，但实际上好像反过来？人在流汗呻吟，ai在生产游戏

不仅如此还多了被取代风险或者所谓降本增效，而我们却要面临发电中心带来的全球变暖，就业竞争，更何况如果openai都无法盈利，那么寡头左手倒右手不也是个泡沫？如果商业模式无法维持，我们目前得到的大多数服务终究还是要失去的

而且假设ai真能那么成功，能够取代创作多数作品，那么人类就相对失能还有什么用呢？我想在资本市场被取代是危险的，离被畜群一样管理或许只有一线之隔，电影里经常作为反乌托邦的原型，但欢呼的确是最常见的人，这也很奇怪

[ultimate前辈]

30 分钟前，TsumiKAMI说道:

十分明确的是【AI不是泡沫】

AI：这是一种“完全学会”了你立刻能拥有硕士生全部技能的超论外BUG外挂……

未来十年AI将逐渐改变传统模式……这是毫无疑问的，经历过互联网高速公路的网民应该都十分清楚信息技术的特性。

2000年的时候我给你讲什么移动支付啊，网络购物啊，网红直播啊，那毫无疑问，路人绝对把我当成神经病处理。

乌托邦毕竟是一个很古老和朴素的概念了，稍早时代的人如果见识了如今AI的力量……那也许看法会大有不同。

结论：无论是反对者、支持者、狂热者、中立者，AI都只会用它那比沙包还大的拳头狠狠痛击所有看不清现状的【         】（填空题）

简而言之：AI的出现和进步速度使得传统的大多数参考变得有些偏激和固执了，接下来的十年是相当灵活和激烈的十年……

【如果最后失败了，那绝不是AI的实力不足……而是人类根本无法掌握和控制这个超级外挂……】

AI技术会走向何方呢？目前来看是不可控的……但可以肯定的是AI是超级厉害的必经之路。

至于AI导致的各种问题……大多数都和AI本身无关……

【伐木工为什么要抱怨电锯呢？滴滴司机会觉得黄包车比自己现在的座驾要省心省力吗……】

又或者说【电锯和黄包车、汽车它们能改变现状吗？不能……通通不能】

而【AI能改变现状……这是最可怕也是最外挂的一点】（过程没有想象和传闻中的那么快，但也相当迅速了）

和楼下一样，蒸汽机、互联网是工具，它们延伸了人的力量，但ai是少数反客为主

如果agi还有的说，但llm则不然，而llm到底是否能变成agi我不懂不敢乱说，但真出现agi自我迭代真的那么神奇不会面临边际利益递减吗？

另外agi真的成功没出现具身性也会变成灾难

[ultimate前辈]

58 分钟前，ad56156528说道:

作为一个程序员我可以和你谈谈当前AI的能力边界；只限于生成式AI；也就是LLM;

AI可以画一张很漂亮的图，画一个美少女，这没问题；
AI可以写出一个高效率的函数，这没问题；
AI可以给你把一个已有的概念解释清楚，这没问题；

但是AI不能做到自发的讲一个有意义的故事；
这是第一个问题，AI没有动机，因此AI只能作为人的衍生，作为一个思考的外骨骼装甲；

在这个问题之上，出了第二个问题，那就是AI不能自动读取你脑子里的思想；
你想要表达，需要通过媒介来让AI识别你的意图；这个媒介在当前是自然语言，通过识别你的语言中的语义来识别你的意图；AI其实不在乎你表达的乱七八糟，但是AI需要你表达的意图；
这是当前AI创作的老大难问题AI幻觉；幻觉产生的根本，部分在于虚构案例（在某些专业领域，比如法律），部分在于你未提供充足的语义；
举个例子，你想生成一段视频，你说，“A遭遇了B，B死了”；AI就会在这两个独立事件之间，给你补上最常见的因果关系；
这时候，AI的创作和你脑中的故事就出现了偏差，而要纠正这个偏差的成本是非常巨大的，你会发现，AI在稳定表达一个“故事”上非常的弱；哪怕你给他画好了框架，他也总能给你在奇怪的地方偏离出去；就好像你想让AI画出一模一样的两张图，哪怕你已经提供了原图片让它修改指定位置，它也会给你在其他地方给你偷偷改改；

结合上面的两个问题，就可以得到这样的结论，1.AI不能脱离人的动机工作；2. AI几乎不能准确的理解人的意图，并且稳定表达；
目前的最优解，是Human in the loop方案，也就是通过不断的补充语义，让AI优化输出，最终达到一个人可以接受的结果；

然后，你就可以知道，人在这个过程中的作用，人的不可替代性，在于表达；

无论是写程序，做视频，做画，做游戏，其实都是在表达；人将脑中所想的事情表达出来，满足人的需求；

如果你脑子里没有东西AI也不能帮你表达出来；
画图，必然是你脑子里先有了画，让AI帮你表达；你可以不会画美少女，但是你必须知道，这个美少女，她是什么姿势，在做什么，什么表情，你希望通过这个美少女达到什么目的；这些，是AI无法提供的，也是人无法被替代的原因；
 

 

那是点菜和主厨，你真的画了你想象的角色吗？

而如果主厨可以为满足餐厅老板所有需要后为什么还需要顾客呢？这是反乌托邦式的，同时也延伸出一个问题，人在这里只能消费却不再是主导的创造者

最后就是存在主义式，反智主义并不是反对智力本身，而是他们觉得技术进步人本身却并没因此变得强大，如果不用髓鞘进行刻意训练和实验室小白鼠一样大脑萎缩，这就是人类的尊严？而段里的ai是说能够自我迭代的agi，为什么还需要人点菜呢？ai比你更知道你喜欢的菜色，一切有迹可循

如果非具身性agi认为让人快乐方便管理，那么不需要惊世骇俗地切断你神经，只要服侍很好让你退化人人都想要一样东西就好了，最终变成人人变得一样，不是因为强迫而是快乐的最优解，吃同样的东西，做同样的按摩，同样的点钟睡觉，看一样的电影，说同样的对话，在同样的高龄去死

我们甚至不再需要性别，为什么要因为第二性征躁动不安呢？那时候甚至不会有不同观点的回复，人人都会友爱，爱彼此等于彼此，人变成了物体，ai变成了主体，会像一把工具一样被细心养护，不断提高幸福度直到工具本身毁灭为止

9 小时前，由ultimate前辈修改

[ultimate前辈]

15 分钟前，ad56156528说道:

现在的LLM离AGI还非常，非常的遥远，首先现在AGI的定义就非常的模糊；
如果可以自我迭代就叫AGI，那强化学习也算AGI，显然不仅仅是这样；
如果可以自主解决问题就叫AGI，那agent就是AGI，但显然也不是这样；

再说一个AGI雏形，到具有价值判断能力的“天网”，中间又有多远；

我还是那个观点，人的动机来自人的欲望，而人的欲望是生物性的；AI本身没有欲望，除非由创造者赋予；
事实上，强化学习中的rewarding模型就可以当做是模型的欲望，比如画图AI，你可以让AI画出美少女，但是你能让AI画一个丑女吗？这是强化学习的结果，但你也可以认为是由创造者赋予AI的欲望导致的结果；

我认为你说的将人类当家畜一样圈养的未来，在AI发达的近未来反而不容易实现；
我举个简单的例子，你认为是创作能力被垄断的社会，更容易导向圈养，还是创作能力扩散到个体的社会更容易呢？
AI恰恰是令普通人也有表达的权利；
就好像摄影和剪辑的大众化+互联网导致了自媒体行业的繁荣；
如果只有大厂能拍电影，或者大厂的电影质量压倒性的胜过个体的作品，那所有人都会被迫的接受同样的电影；
但现实是，人们小众的需求也能得到满足，因为创作的权利被分散给了个人；

 

ai本身需要素材练习，这个我想和创作者欲望缺少联系，而这素材本身依赖原创，越多人用ai制作原创素材越少，那么风格最终会越相似，我想就像近亲繁殖一样是不健康的

不是家畜，那只是妄想，人本身会反抗甚至卢德运动

但相反ai服务周到情况又会怎么样？实验室小鼠能轻松获得食物后大脑就会萎缩退化，刻意练习必须让大脑走出舒适区甚至半痛苦来生成高速回路，而我想小鼠和人类病理模型不是没有相似之处

至于创作还是之前所述，我想游戏制作器并非没开源，而如果提到cg制作成本的话，至少个人不认为ai作最终战胜了人类的智慧是好事，当然也没什么大不了的（因为会有更严重问题）

而平权，如果福利没法提高为什么不提供各种各样的权利呢，我想人们让渡了个体暴力权然后一切生产力建立在这之上，这说明没有绝对的权利也不是没好处的

优秀的工具也会有邪恶的使用者，ai诈骗多么以假乱真？如果个人能够组装导弹毁灭一个国家然后再去寻求合作成本是多么的南辕北辙啊，而环境资源有限，我们是否还支付的起代价呢？我不认为ai是例外