大模型小型化趋势

甲、

2024第十届WWEC教育者大会上，陈润生院士指出大模型两大变革：自然语言识别突破与多模态融合。未来或现涌现、幻觉等现象，但计算机难现“顿悟”。

乙、

当前大模型仅在某些领域达人类智能水平，离智慧水平尚远。大模型助力科研，但数据处理需人工把关。我国已有180多个大模型提供服务，发展迅猛，但需关注耗能、伦理等问题。

丙、

加里马库斯认为GPT-4后无质变，萨姆奥尔特曼称GPT-4训练成本至少1亿美元，未来或达1000亿。剑桥研究显示模型部署需时日。

丁、

李开复提出大模型小型化以实现高效决策。微软与英伟达推出SLM（小模型），性能可媲美大模型。克莱姆德兰格预测99%场景可用SLM解决，2024年为SLM之年。（2024-8-26老邓）