生成式AI趋势

企业构建和购买生成式AI方式的16个变化

概要

  • 企业构建和购买生成式AI方式的16个变化

  • 生成式AI在 2023 年席卷了消费者领域，消费者支出超过10亿美元。到2024年，我们相信企业支出将增加数倍。

  • 尽管企业领导者仍然对部署生成式AI持保留态度，但也将预算增加了近两倍，扩大了部署在较小开源模型上的应用的数量，并将更多工作从早期实验转移到生产中。

  • 我们相信，如果为企业以生成式AI为中心的战略计划构建工具，同时预测他们的痛点，以及 从以服务为主的方法转向构建可扩展的产品，人工智能初创公司将抓住新一轮投资浪潮并开拓可观的市场份额。

主要内容

企业预算正在急剧增长

  • 生成式AI的企业预算正在飙升

  • 企业领导者开始将人工智能投资重新分配给经常性的软件预算项目。

  • 衡量投资回报率仍然是一门艺术和一门科学。

  • 实施和扩展生成式AI需要合适的技术人才，而目前许多企业内部并不具备这些人才。

    • 由于在企业中很难找到合适的生成式AI人才，因此提供工具以帮助企业更轻松地将生成式AI开发引入内部开发的初创公司市场机会可能更大。

企业正朝着多模型、开源的方向发展

  • 多模型的未来

    • 根据性能、规模和成本选择模型，开发应用
    • 避免锁定单一模型
    • 快速利用飞速发展的模型领域的进步
    • 因为模型排行榜是动态的，公司很高兴能够同时结合当前最先进的模型和开源模型以获得最佳结果，所以不会将应用锁定到单一商业模型上。

  • 开源正在蓬勃发展

    • 46%的受访者提到:更喜欢或非常喜欢在2024年采用开源模型

  • 虽然成本因素影响了开源的吸引力，但它作为关键的选择标准排在控制和定制之下

    • 控制（专有数据的安全性和理解模型产生某些输出的原因）和定制（针对给定用例进行有效微调的能力）远远超过成本，这是采用开源的主要原因

  • 对控制的渴望源于敏感的用例和企业数据安全问题。

    • 出于监管或数据安全方面的考虑，企业仍然不愿意与闭源模型提供商共享其专有数据

  • 领导者通常通过微调来定制模型，而不是从头开始构建模型

  • 云在模型购买决策中仍然具有很大影响力。

  • 客户仍然关心早期上市的模型的功能

    • 虽然领导者将推理能力、可靠性和易用性（例如，在他们的 CSP 上）作为采用模型的主要原因，但领导者也倾向于具有其他差异化特征的模型。例如，多位领导者将之前的 200K 上下文窗口作为采用 Anthropic 的关键原因，而其他人则采用 Cohere，因为Cohere是上市较早的且易于使用的微调产品。

  • 大多数企业认为模型性能正在趋同。

    • 尽管闭源模型通常在外部基准测试中表现更好，但企业领导者仍然为开源模型提供了相对较高的 NPS（在某些情况下甚至更高），因为它们更容易针对特定用例进行微调。一家公司发现，“经过微调，Mistral 和 Llama 的性能几乎与 OpenAI 一样好，但成本要低得多。

针对可选性进行优化

  • 云时代吸取的惨痛教训:要减少对单一供应商的依赖，市场发展如此之快，采用单一供应商是不明智的。

更多生成式AI应用迁移到生产环境

  • 目前，企业正在构建自己的生成式AI应用程序，而不是直接购买第三方生成式AI应用程序。

  • 企业对自己构建生成式AI应用感到兴奋，但对第三方的应用程序仍然更加谨慎。

    • 提供帮助企业构建生成式AI应用的工具的初创公司机会更大。

  • 总机会规模：庞大且快速增长

    • 预计到2024年底，模型API和微调的总支出将增长到50亿美元以上，而企业支出将成为其重要组成部分。

总结

1.生成式AI的总支出会大幅增长，企业支出会成为重要组成部分。 2.提供构建生成式AI应用的工具前景比较好。 3.开源模型机会比较多。

从AI独角兽竹间停工--看LLM在B端落地5大殇和潜在解决方案

概述

大模型2B应用落地难的5大原因

  • 数据安全之殇-企业数据安全需求，要求本地和私有化
  • 算力成本之殇-大模型要本地化和私有化，基础算力成本极高
  • 数据质量之殇-训练or微调大模型对知识和语料质量要求极高
  • 应用成本之殇-大模型应用成本高，不适合在低价值场景中使用
  • 反馈准确之殇-大模型幻觉不符合企业对准确度的要求

思考和可能的落地方案:最最核心：大模型还没有找到最有价值的应用场景出现。AI原生应用还没有真的爆发

  • 大模型应用在企业中，还是一个没有需求爆发的产品。

    • 技术迭代太快，所以里面根本没有商业价值。技术还不成熟，场景还没有找到。

  • ToB 你要比客户慢， ToC 你要比用户快。

    • 客户的核心需求还是要真的有价值和效果。现阶段要满足客户的需求，还是基于成熟产品创造确定性价值，大模型做10%-20%的探索场景，去解决小模型无法解决的问题。

  • 大模型现在到底能不能代替代码？我觉得还完全不到时候，现在大模型的代码能力就跟知识能力一样，很难直接融入到应用场景中。

    • 现在大语言模型可以做很多不需要再用代码做的事情。未来代码量会越来越少，模型数会越来越多，「模型就是代码」。

  • 这个阶段，大模型最佳的落地场景的条件

    • 数据安全要求不高的行业或者一些数据安全要求不高的场景。
    • 准确度要求不高的场景。
    • 价值更高的场景。

  • 不合适的场景：

    • 直接代表企业对外服务客户或者承诺客户的场景，回复不当就是客户和直接的损失。
    • 严肃咨询场景，比如企业内部财务咨询，如果回答错了，涉及钱，会增加内部的沟通解释成本。

  • 有几个方向可以思考：

    • 面向2C，那些有趣>有用的场景，比如游戏、写作草稿等方向。
    • 如果是2B，就要是那些价值创造更为直接的场景，比如营销、销售方向上。

  • 最容易落地且立竿见影容易有收益的方式，还是直接做现有产品的升级。