麦肯锡的 Lilli 案例为企业 AI 市场提供了哪些发展思路?
撰文:Haotian
麦肯锡的 Lilli 案例为企业 AI 市场提供了关键发展思路:边缘计算 + 小模型潜在的市场机会。这个整合了 10 万份内部文档的 AI 助手,不仅获得了 70% 员工的采用率,而且平均每周使用 17 次,这种产品粘性在企业工具中实属罕见。以下,谈谈我的思考:
1)企业数据安全是痛点:麦肯锡 100 年积累的核心知识资产以及一些中小企业积累的特定数据都有极强数据敏感性,都不是和在公共云上处理。如何探索一种“数据不出本地,AI 能力不打折”的平衡状态,就是实际市场刚需。边缘计算是个探索方向;
2)专业小模型会取代通用大模型:企业用户需要的不是"百亿参数、全能型"的通用模型,而是能精准解答特定领域问题的专业助手。相比之下,大模型的通用性与专业深度之间存在天然矛盾,企业场景下往往更看重小模型;
3)自建 AI infra 和 API 调用的成本平衡:尽管边缘计算和小模型的组合虽然前期投入较大,但长期运营成本显著降低。试想若 45000 名员工高频使用的 AI 大模型来自于 API 调用,这产生的依赖,使用规模和品论的增加都会使得自建 AI infra 成为大中型企业的理性选择;
4)边缘硬件市场的新机会:大模型训练离不开高端 GPU,但边缘推理对硬件的要求则完全不同。高通、联发科等芯片厂商针对边缘 AI 优化的处理器正迎来市场良机。当每个企业都想打造自己的"Lilli",专为低功耗、高效率设计的边缘 AI 芯片将成为基础设施的必需品;
5)去中心化 web3 AI 市场也同步增强:一旦企业在小模型上的算力、微调、算法等需求被带动起来,如何平衡资源调度就会成为问题,传统的中心化的资源调度会成为难题,这直接会给 web3AI 去中心化小模型微调网络,去中心化算力服务平台等等带来很大的市场需求;
当市场还在讨论 AGI 的通用能力边界时,更喜闻乐见看到很多企业端用户已经在挖掘 AI 的实用价值。显然,相比过去比拼算力、算法的资源垄断式跃进,当市场把重心放到边缘计算 + 小模型方式时,会带来更大的市场活力。
(责任编辑:经济数据)
-
信而富在招股书中表示,该公司已经聘用了摩根士丹利、瑞士信贷集团和杰富瑞集团担任此次IPO交易的承销商...[详细]
-
毕胜以前也是这么想的,认为只要规模做得足够大,物流成本、仓储成本、市场成本都可以得到平摊,留下一定的利润空间。...[详细]
-
企业都唯恐错过这场“眼球经济”的盛宴。...[详细]
-
B2C互联网是这样,B2B也是一样。...[详细]
-
之后是触目惊心的雪崩,PC互联网泡沫破裂。...[详细]
-
这种方法需要将网站中的内容整合起来并作实际决策。...[详细]
-
这里面有很多服务的成分在里面。...[详细]
-
但在一个多月前,不少用户发现:友友用车强制收取1000元押金,否则无法用车。...[详细]
-
更多好处请关注坤鹏论公众号:kunpenglun,回复“投稿”查看。...[详细]
-
以下是钛牛现场发言实录: 一、湘情难忘,分享是最好的礼物 1、各位湖南的老乡们,大家下午好!昨晚你们看《最强大脑》了吗? 我是《最强大脑》余彬晶,也是创蓝253CEO钛牛,生在湖南株洲,创业在上...[详细]