现在的LLM离AGI还非常,非常的遥远,首先现在AGI的定义就非常的模糊;
如果可以自我迭代就叫AGI,那强化学习也算AGI,显然不仅仅是这样;
如果可以自主解决问题就叫AGI,那agent就是AGI,但显然也不是这样;
再说一个AGI雏形,到具有价值判断能力的“天网”,中间又有多远;
我还是那个观点,人的动机来自人的欲望,而人的欲望是生物性的;AI本身没有欲望,除非由创造者赋予;
事实上,强化学习中的rewarding模型就可以当做是模型的欲望,比如画图AI,你可以让AI画出美少女,但是你能让AI画一个丑女吗?这是强化学习的结果,但你也可以认为是由创造者赋予AI的欲望导致的结果;
我认为你说的将人类当家畜一样圈养的未来,在AI发达的近未来反而不容易实现;
我举个简单的例子,你认为是创作能力被垄断的社会,更容易导向圈养,还是创作能力扩散到个体的社会更容易呢?
AI恰恰是令普通人也有表达的权利;
就好像摄影和剪辑的大众化+互联网导致了自媒体行业的繁荣;
如果只有大厂能拍电影,或者大厂的电影质量压倒性的胜过个体的作品,那所有人都会被迫的接受同样的电影;
但现实是,人们小众的需求也能得到满足,因为创作的权利被分散给了个人;