AI大模型还没有到卷长文的时候

#媒体热点# 2024-6-11 08:16 211人围观媒体热点

来源：数科社
AI风口上，国内大模型技术突飞猛进，很多人都沉浸在用AI来辅助办公，辅助学习等等工具化应用落地，但也有趁着风口想大赚一笔，为了估值什么都敢说的。
前几天，Kimi对外宣称自己的技术狂飙到能读200万字甚至1000万字的长文，至于是否能真的理解和分析这么多字我在这里先打一个大大的问号，毕竟在我让Kimi帮我计算一下从2023年12月10日到2024年6月5日一共过了多少天的时候，它说有198天，最后反复计算又是179 ，主打一个已读乱回。

有人说了，可是他真的能给你总结出红楼梦的相关内容和人物情节，注意这不是Kimi在读红楼，它本身的技术根本做不到。因为Transformer架构下的大模型在本质上决定了它在处理上下文时候是天然具有限制的。每一个新的token在计算的时候，需要跟之前的每一个分词进行一次交互，就像一场聚会上，你要和每个参加活动的人都握手，人越多握手次数越多，可以说是指数级增长。
因此，上下文越长，需要交互的次数和计算的量级越大，200万的上下文长度意味着要投入更多的算力，买更多GPU。但现在面对美国的制裁，全球算力都很昂贵，创业公司谁敢这么干？
还有个方法叫做滑动窗口技术，把200万字的文本截成一段一段，每一段都用一些语言去总结，然后再标记下一段，用更简单的语言去总结。但这么做一定会有信息的丢失，不是完整的理解，对技术要求非常高。很早之前的ChatGPT和Copilot是这么做的，但也没有鼓吹。
而Kimi之所以能快速给你反馈红楼梦的一些信息，是它用了rag检索增强模式，就是通过外部文档的搜索和向量搜索来辅助大模型理解，把各个网络渠道关于红楼梦的解读、评论等等信息总结收集给你而已，省时省力省钱，他没有在读，更何谈理解分析。
当然，舆论说他割韭菜也不仅仅是因为这个，最近关于Kimi母公司月之暗面创始人减持套现的消息也一度让圈内炸开了锅，AI 大模型，一个正在烧钱造梦的产业，创始人在这个阶段选择套现，难道他们的产品是虚假泡沫，要弃船逃生？一个初创公司，成立一年就套现了几个亿的小目标，实属罕见。不过，公司后来否认了这一消息。
Kimi虽然在基础模型的理解生成逻辑等硬性指标上和第一梯队无法相比，但也借此机会火了一把，对于一家初创公司，靠着这把火，又可以融资到很多钱了。就在5月底，阿里巴巴投资了Kimi母公司月之暗面，一笔投资就高达8亿美元，大约59亿人民币，获取月之暗面36%的股权。对于此次阿里投资Kimi，市场纷纷怀疑阿里投资能力，毕竟投资的大润发、苏宁纷纷以巨亏收场······
“他们（月之暗面）在国内大模型上领先，但长远还是要证明自己的价值，至少能追上美国开源。如果能超过开源，他这个团队是真的有价值了。”据每日经济新闻报道，在今年的一次媒体采访中，金沙江创投主管合伙人朱啸虎在肯定杨植麟团队在大模型领域上的技术能力时，对其商业化能力持保留态度。
还是那句话，AI是个很硬核的行业，讲情怀讲噱头甚至偷换概念空喊口号的公司，最后难免“泡沫”的结局。

文章来源:“数科社”，未经允许不得转载。

文章代表作者观点，版权归原作者所有，热传平台仅提供信息存储空间服务。