PW-233 发布于周四 02:06 发布于周四 02:06 15 小时前，TsumiKAMI说道: 十分明确的是【AI不是泡沫】 AI：这是一种“完全学会”了你立刻能拥有硕士生全部技能的超论外BUG外挂…… 未来十年AI将逐渐改变传统模式……这是毫无疑问的，经历过互联网高速公路的网民应该都十分清楚信息技术的特性。 2000年的时候我给你讲什么移动支付啊，网络购物啊，网红直播啊，那毫无疑问，路人绝对把我当成神经病处理。 乌托邦毕竟是一个很古老和朴素的概念了，稍早时代的人如果见识了如今AI的力量……那也许看法会大有不同。 结论：无论是反对者、支持者、狂热者、中立者，AI都只会用它那比沙包还大的拳头狠狠痛击所有看不清现状的【 】（填空题） 简而言之：AI的出现和进步速度使得传统的大多数参考变得有些偏激和固执了，接下来的十年是相当灵活和激烈的十年…… 【如果最后失败了，那绝不是AI的实力不足……而是人类根本无法掌握和控制这个超级外挂……】 AI技术会走向何方呢？目前来看是不可控的……但可以肯定的是AI是超级厉害的必经之路。 至于AI导致的各种问题……大多数都和AI本身无关…… 【伐木工为什么要抱怨电锯呢？滴滴司机会觉得黄包车比自己现在的座驾要省心省力吗……】 又或者说【电锯和黄包车、汽车它们能改变现状吗？不能……通通不能】 而【AI能改变现状……这是最可怕也是最外挂的一点】（过程没有想象和传闻中的那么快，但也相当迅速了） 盟友还是太乐观。现在的AI没有独立完成任务的能力，更别说改变世界了。 姑且把AGI定义为独立完成任务，不需要人类中途干预的系统。 1. 现状是人类的大多数任务仍然需要亲力亲为，AI只能作为其中的一个环节输入和输出基于文本的内容。 2. 即使利用AI搭建工作流，其中的每一个环节之间的衔接仍然需要人类干预。人类需要关系各个环节之间的范式是否对应、如何调试…… 3. 近几年AI的“全能”来自参数量的飙升，即所谓的“涌现”。但参数量的提升不是无限的，摩尔定律正在失效。 在可见的几十年内，AGI都不会出现。
PW-233 发布于周四 02:09 发布于周四 02:09 12 小时前，ad56156528说道: 作为一个程序员我可以和你谈谈当前AI的能力边界；只限于生成式AI；也就是LLM; AI可以画一张很漂亮的图，画一个美少女，这没问题； AI可以写出一个高效率的函数，这没问题； AI可以给你把一个已有的概念解释清楚，这没问题； 但是AI不能做到自发的讲一个有意义的故事； 这是第一个问题，AI没有动机，因此AI只能作为人的衍生，作为一个思考的外骨骼装甲； 在这个问题之上，出了第二个问题，那就是AI不能自动读取你脑子里的思想； 你想要表达，需要通过媒介来让AI识别你的意图；这个媒介在当前是自然语言，通过识别你的语言中的语义来识别你的意图；AI其实不在乎你表达的乱七八糟，但是AI需要你表达的意图； 这是当前AI创作的老大难问题AI幻觉；幻觉产生的根本，部分在于虚构案例（在某些专业领域，比如法律），部分在于你未提供充足的语义； 举个例子，你想生成一段视频，你说，“A遭遇了B，B死了”；AI就会在这两个独立事件之间，给你补上最常见的因果关系； 这时候，AI的创作和你脑中的故事就出现了偏差，而要纠正这个偏差的成本是非常巨大的，你会发现，AI在稳定表达一个“故事”上非常的弱；哪怕你给他画好了框架，他也总能给你在奇怪的地方偏离出去；就好像你想让AI画出一模一样的两张图，哪怕你已经提供了原图片让它修改指定位置，它也会给你在其他地方给你偷偷改改； 结合上面的两个问题，就可以得到这样的结论，1.AI不能脱离人的动机工作；2. AI几乎不能准确的理解人的意图，并且稳定表达； 目前的最优解，是Human in the loop方案，也就是通过不断的补充语义，让AI优化输出，最终达到一个人可以接受的结果； 然后，你就可以知道，人在这个过程中的作用，人的不可替代性，在于表达； 无论是写程序，做视频，做画，做游戏，其实都是在表达；人将脑中所想的事情表达出来，满足人的需求； 如果你脑子里没有东西AI也不能帮你表达出来； 画图，必然是你脑子里先有了画，让AI帮你表达；你可以不会画美少女，但是你必须知道，这个美少女，她是什么姿势，在做什么，什么表情，你希望通过这个美少女达到什么目的；这些，是AI无法提供的，也是人无法被替代的原因； 这个“动机论”真的太有启发性了。换句话说就是AI创作的文本缺少“灵魂”。人类的作品——画作、小说、游戏，你可以感受到作者表达的观点和内涵，即使这没有那么明显，甚至你自己都没有发现自己在欣赏这些内涵。
推荐贴