Scaling Law再遭质疑:“退化式AI”竟成终局?

研究质疑ScalingLaw有效性,指出暴力数据扩展或导致“退化式AI”——错误灾难性积累。LLM核心机制引发信息灾难风险,当前扩展指数微正但收益递减显著。避免路径是结合物理规律、问题导向小型网络,替代盲目规模扩张。退化式AI风险:暴力扩展数据规模可能引发错误灾难性积累。扩展指数低迷:LLM规模增长难提升科学......