麦肯锡的 Lilli 案例为企业 AI 市场提供了哪些发展思路?
撰文:Haotian
麦肯锡的 Lilli 案例为企业 AI 市场提供了关键发展思路:边缘计算 + 小模型潜在的市场机会。这个整合了 10 万份内部文档的 AI 助手,不仅获得了 70% 员工的采用率,而且平均每周使用 17 次,这种产品粘性在企业工具中实属罕见。以下,谈谈我的思考:
1)企业数据安全是痛点:麦肯锡 100 年积累的核心知识资产以及一些中小企业积累的特定数据都有极强数据敏感性,都不是和在公共云上处理。如何探索一种“数据不出本地,AI 能力不打折”的平衡状态,就是实际市场刚需。边缘计算是个探索方向;
2)专业小模型会取代通用大模型:企业用户需要的不是"百亿参数、全能型"的通用模型,而是能精准解答特定领域问题的专业助手。相比之下,大模型的通用性与专业深度之间存在天然矛盾,企业场景下往往更看重小模型;
3)自建 AI infra 和 API 调用的成本平衡:尽管边缘计算和小模型的组合虽然前期投入较大,但长期运营成本显著降低。试想若 45000 名员工高频使用的 AI 大模型来自于 API 调用,这产生的依赖,使用规模和品论的增加都会使得自建 AI infra 成为大中型企业的理性选择;
4)边缘硬件市场的新机会:大模型训练离不开高端 GPU,但边缘推理对硬件的要求则完全不同。高通、联发科等芯片厂商针对边缘 AI 优化的处理器正迎来市场良机。当每个企业都想打造自己的"Lilli",专为低功耗、高效率设计的边缘 AI 芯片将成为基础设施的必需品;
5)去中心化 web3 AI 市场也同步增强:一旦企业在小模型上的算力、微调、算法等需求被带动起来,如何平衡资源调度就会成为问题,传统的中心化的资源调度会成为难题,这直接会给 web3AI 去中心化小模型微调网络,去中心化算力服务平台等等带来很大的市场需求;
当市场还在讨论 AGI 的通用能力边界时,更喜闻乐见看到很多企业端用户已经在挖掘 AI 的实用价值。显然,相比过去比拼算力、算法的资源垄断式跃进,当市场把重心放到边缘计算 + 小模型方式时,会带来更大的市场活力。
(责任编辑:现货银)
-
诸多人士纷纷发布“知乎大V攻略”。...[详细]
-
世界读书日 4月23日 宜:购物就送书,给每件产品选本配套书籍,单日购买该产品就送书籍。...[详细]
-
最终他们做出了选择,但其实做出选择的并不是他们,而是用户,他们唯一需要选择的,就是到底是跟着用户的需求走,还是要强行改变用户的习惯来适应他们,最终他们选择了第一种,并且在后来的无数次的选择当中,都坚持...[详细]
-
如果这真是创业者,小财女或许还会扫一下,可他们并不是。...[详细]
-
British fintech giant Revolut reportedly plans to launch its own stablecoin
2016年以来,影视资产估值大幅下跌,很多“赌上市”的影视投资人亦陷入尴尬境地。...[详细]
-
在天猫平台,我们只能靠平台的推广工具去推广,完全不知道什么叫投入产出比的我就开起了直通车和钻展。...[详细]
-
没有尽头…… 很多时候,我希望有个人能来安慰我,告诉我:“不要哭,一切都会好起来的。...[详细]
-
当然,我们不能确定这次事件的两名女孩扫码扫出来的是微商直销还是创业,我们只能确定,这种行为对地铁乘客已经构成了骚扰。...[详细]
-
但是,包括二更、Papi酱在内,曾经以一个大号打下天下的短视频网红们也纷纷赶往MCN的战场,在规模和领域上试图进一步扩张商业的边界。...[详细]
-
北半球的短视频品牌叫骚客,内容是围绕赛事、球员及热点做盘点或娱乐化解读,已经栏目化的节目有《西布朗goal》、《罗拉毁新闻》等。...[详细]