比特派钱包|百模大战,不拼单项拼平台

原文来源:数智前线

作者:徐鑫

图片来源:由无界 AI生成

推荐阅读 1

“市场本来可以决定”

6小时前 2

Kraken 将暂停 USDT、DAI、WBTC、WETH 和 WAXL 在加拿大的交易

7小时前

产业智能化转型走进深水区,企业对AI能力的需求点在起变化。

越来越多大型企业的视野已不局限在单一智能应用上。在电力、金融等行业,大型企业正围绕着AI能力的生产、运用和管理全流程,对厂商的AI学习平台及平台性生产力工具提出需求,从而解决人才稀缺、数据稀缺、管理困难、资源复用率低等一系列痛点。

大模型热潮到来后,平台的比拼重点转移到了大模型开发和应用之上,厂商们积极将此前的AI平台解决方案和大模型结合。 在平台大比拼中,一些企业的优势已经凸显出来。国际分析机构Forrester近日发布报告显示,中国人工智能/机器学习平台竞争中,百度智能云表现亮眼,参与评选的AI平台在数据、推理、应用等6个大类,15个细项获得了最高分,位居领导者象限。

AI平台,正帮助企业快速构建符合业务需求的人工智能模型及应用,有效监控和优化模型效果。

一百个场景要建一百个模型的境况已经成为历史。

01 深度用AI,老炮们的困扰

产业正在进入深度用AI应用阶段,AI已不再遥不可及。不过也有越来越多企业发现,随着应用深入,这些企业智能化领域里的资深用户们正在遭遇新的困扰。

以能源行业为例,大型电力企业已经将AI模型用于电路巡检等多个场景。通常情况下,这类企业的相关需求,多由不同部门或分公司独立采购。随着AI应用变多,模型数量也在增持。管理大量模型,并让大量的零散模型能稳定、高效运行,正成为一项挑战。

许多大型企业都存在类似问题。一位资深人士告诉数智前线,他亲眼见过企业里A部门放5个人做A算法,B部门搞B小分队也放几个人做算法,这导致很难从公司层级进行统一的监控优化更新维护,同时企业内整体的AI资源复用率很低。

金融行业应用AI也走在前列,一些企业或机构早已将AI技术应用于信用卡发放资格审批和欺诈识别等多个环节,实现AI风控和精准营销。但金融行业对安全和合规的强调也在延伸到AI的应用过程。比如,银行内的技术团队非常重视合规因素,新建一个模型时,建设的委托和批准角色是谁,数据读取的审批由谁经手,数据撰写、模型生产、训练、落地和上线也都有层层流程保障。这类需求明显不是传统的智能应用建设。

一位云厂商资深行业解决方案人士告诉数智前线,一些大型央国企明确提出希望构建企业的智能中枢,培育自身的AI能力,这样企业里的数字化部门就能针对新场景,自己研发算法做全新应用。

业界也观察到这一趋势。百度智能云AI平台高级架构师靳伟告诉数智前线,这反映出,AI应用迈向深水区,企业的智能化转型的系统性日益凸显。企业不但要有愿景目标规划,也需要有很强的推进协调和监督机制,并且要有完备的工具,确保顺利推进实施。AI平台就是企业智能化转型的生产力工具。

行业上下已经意识到这一平台产品的重要性。日前,国际分析机构Forrester发布《The Forrester WaveTM:中国市场人工智能/机器学习平台厂商评测,Q42023》报告指出,中国的企业决策者们正进一步优先考虑采用AI技术,推动生产率提升和业务创新。过程中,企业需要人工智能平台产品,从而在各自的业务环境中支持复杂用例。

新的趋势对机器学习平台厂商的能力也提出了要求。Forrester认为,领先的平台既要能提供跨数据管理、模型培训和人工智能应用程序构建的综合工具;也要贴合产业场景,帮助一些缺乏AI人才和数据科学家的企业基于自身业务需求来获得AI能力;另外,还能通过工具、技术和实践帮助企业可以规模化开发部署模型。

Forrester对中国14家主流机器学习平台厂商从产品能力、战略布局、市场表现3大维度,进行了25项细分标准的评估。数据显示,目前百度智能云获评该报告的领导者阵营,在数据、训练、预测推理、应用等9项细分评分均获第一。

靳伟介绍,百度在AI平台的产品能力领先经历了长期的增持和打磨。AI平台的初衷是希望打造一款生产力软件,让不同类型的企业用户能够多快好省地建设AI应用,同时做到平台上算法多、工具多、运行快、效果好,帮助客户节省服务器和人力。

目前能源、金融行业的一些大型企业里已经在深度使用。基于AI平台,企业不仅可以快速构建符合业务需求的人工智能模型及应用,还能有效监控和优化模型效果。此外,管理和协调数据、算力、人员、流程等资源时也更便捷、高效。

例如,电力行业,百度智能云AI平台正帮助大型集团解决业务痛点。一方面,模型和数据能在不同子公司分享,避免重复造轮子。同时一些已有的安全生产相关模型使用这款产品,可由国网直接统一分发到省网或市网,能高效利用AI资源,质量一致。另外,AI平台还能助力企业创新,比如研发出的电力调度新算法,用上了百度的强化学习框架,可实现不用大量专家的人工经验调参数,AI自动完成调度参数校准。

金融行业里,百度智能云的AI平台解决方案也帮助许多金融机构构建了大的模型风险管理模块,保障AI应用到金融场景里流程合规和可信安全。

02 大模型时代,如何量体裁衣

今年以来,大模型和生成式AI浪潮推动了产业界进一步深度应用AI,机器学习平台也在迎来新的发展机会。

资深人士介绍,大语言模型到来后,机器学习平台的变化体现在三个层面。最典型的一个变化在操作界面上,NLP之前复杂的操作界面变简单了,企业应用语言类AI的门槛在降低。同时,模型的自动化能力提升,数据处理、模型选择、自动报告生成等任务都可以自动化完成。另外,AI原生的创新应用空间也随之打开。

在这一背景下,许多企业已经把大模型当作了一道必答题,各平台厂商也摩拳擦掌,加足马力,推出各类产品和平台来加速大模型技术的应用落地。以百度为例,今年3月推出了百度智能云千帆大模型平台,将大模型开发和应用的关键能力与AI平台深度整合,打造大模型服务的“超级工厂”。

为方便企业轻松使用和开发大模型应用,目前百度千帆上既提供包括百度自研的文心大模型和第三方大模型,还提供了各种AI开发工具和整套开发环境,助力各行业的生成式AI产业落地。

具体而言,百度将产业界对大模型的需求总结为五种类型,无论是只有算力需求的客户,还是希望直接调用大模型API或基于现有大模型做二次开发的企业,以及想要基于大模型去开发AI原生应用或者直接使用已开发好应用的公司,百度千帆平台都能提供有针对性的服务。

对只有算力需求的企业,百度千帆平台可提供极具高效和性价比的异构算力服务。靳伟透露,要做到这一点,百度智能云AI平台的技术团队花几年时间做了大量Dirty Work。例如兼容国内外主流AI芯片,需要从框架层、核心算法及网络、芯片型号、操作系统四个层级做适配。“PyTorch写的和TensorFlow写的不一样,操作系统用Windows、Linux或者单片机,要做的工作也有差别。四层组合做了四万种适配,才能保证各种模型顺利运转。”靳伟说。

想直接调用大模型API的用户关心模型能力的丰富性,目前千帆大模型平台既接入了文心大模型4.0,还纳管了44个第三方的国内外主流大模型,数量上是国内平台里最多。

有些企业希望对现有大模型进行二次开发,这需要丰富的工具链和大量的数据集支持。千帆平台目前有覆盖大模型再训练、微调、评估和部署等全生命周期的完善工具链和大量高质量数据集,能针对场景快速优化模型效果,进一步提升企业的大模型用户体验。

大模型对数据标注环节带来新变化,许多标注任务可通过模型完成。目前千帆平台支持业务数据回流和高度自动化的数据标注。比如目标检测场景里,千帆直接提供预训练能力,通过点按纽标注少部分,剩下的让模型学习人类标注风格自动标注,可为企业节省70%~90%的人力。

也有许多企业想基于大模型来开发AI原生应用。本月中旬,百度智能云发布“千帆AI原生应用开发工作台”,其中包含大模型应用开发的常见应用组件、应用框架两层服务,正是针对开发AI原生应用需求。

以应用组件为例,千帆平台包含了多种类型的能力,如问答、思维链等大语言模型组件和文生图、语音识别等多模态组件以及向量数据库、对象存储等传统云服务能力等。

而应用框架能将组件有机串联起来,完成特定场景的完整任务。千帆平台已经提供市面上常用的检索增强生成(RAG)、智能体(Agent)等框架服务,先锋企业如三一重工已经应用这些框架,快速开发自己的知识问答应用。

Prompt工程是大模型出现之后诞生的新领域。这与大模型的特性有关,稍微改变一下指令,它的输出或行为会发生巨大变化。目前,各家厂商都在强调Prompt工程工具。百度千帆平台也提供了覆盖对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景,共226个模版。据介绍,这是国内主流平台里数量最多的Prompt模板库。开发者和企业还能使用平台提供的各类自动化及批量工具,高效完成prompt环节。

靳伟认为,过去几个月里百度智能云千帆大模型平台夯实了基础,为百模大战,助力企业规模化应用AI做好了准备。

03 AI平台,下一站拼什么?

AI并不只是大企业专属。目前机器学习平台厂商们都重视对大型企业、中小型客户和开发者市场的全面覆盖,百度智能云的AI平台解决方案也有针对性地服务不同群体。

靳伟告诉数智前线,百度AI平台解决方案是多个产品的总称,包含了全功能AI开发平台BML、零门槛AI开发平台EasyDL及百度智能云千帆大模型平台等产品。针对不同领域或不同客户偏好,AI平台都有对应的产品适配。例如,数据处理能力被打包成EasyData产品,零代码建模能力也被抽出来做了EasyDL产品,能帮助用户实现用高性能预训练模型完成零代码建模,而大模型的能力则由百度智能云千帆平台承载。

在公有云上,客户类型以偏中小的企业居多,AI平台的模块被重新打散组合,以全功能AI开发平台BML和EasyDL产品为主要代表来适应需求。针对大型客户的私有化部署需求,各类产品又会被打包成超大产品去完成交付。

此次Forrester报告显示,百度智能云AI平台的产品能力在数据处理、模型训练、预测推理、应用、架构等五大领域都表现优异。

靳伟介绍了不同领域里的独特能力优势。以数据领域的特征工程为例,靳伟介绍,百度AI平台集成了非常优异的特征库管理能力,能力上达到了专业级水平。可以提供特征的增删改查,特征生产、共享、版本管理、数据验证等功能,支持批示流式不同形式的数据用于预测服务,还能保证模型训练时用的特征和最终预测时候的特征一致。“如果训练的时候特征分布上,比如男人占50%,女人50%,而预测的时候男人占60%、女人40%,那你不可能指望这个模型特别准”,靳伟说,这对模型的准确性非常关键。

又比如模型训练领域,百度AI平台可支持包含图像、视频、文本、语音以及结构化数据等多种数据类型的建模和训练。在建模方式上,为愿意写代码的人提供了NoteBook工具支持,不喜欢写代码的人能拖拉拽甚至点一下集成式一站式按纽就能建模。针对大量的场景比如图像分类,单标签多标签,物体检测等CV场景,都由飞桨算法团队基于Paddle算子进行了深度优化,性能和效果表现会更优异。

产品性能上的独特优势点,离不开长期的技术投入和对新技术趋势的关注。百度AI平台研发团队介绍,他们非常关注新的技术趋势,比如三年前业界就在探讨模型可解释性问题,不知道模型怎么做决策的,就会影响模型在安全合规要求比较高的场景里使用。一般而言,深度学习模型参数量上比传统的机器学习模型大很多,黑盒问题会更加严重。

经过长期的准备,百度AI平台团队最终攻克了常规机器学习领域下的模型可解释性算法,集成了五个常见的机器学习的原理白盒化,同时还攻克了部分深度学习可解释性问题。“弄清模型在什么场合下做出决策,是数据引发还是算法引发,都可以归因,这些成果推动了AI平台相关产品在金融决策等特殊行业场景里的应用。”靳伟介绍。

当下业界把大模型的发展范式分五层,大模型本身、prompt工程、Chain工具链和行动链、Agency与Multiagency。百度智能云千帆平台此前主要的工作重心在第一、二层走得非常扎实,后面三层包括工具链、Agent和Multiagency能力也处于重点建设阶段。靳伟介绍,千帆大模型平台将持续完善升级,让大模型自主发挥主观能动性,具备解决复杂问题的能力。同时,未来不排除有出海计划。

总体而言,企业智能化建设下,企业应用AI深度升级,AI平台领域的竞争也日趋激烈。要在这一领域持续保持领先,迎接合规性和技术复杂度变化等带来的长期挑战,厂商们还需要技术投入。靳伟认为,厂商需要坚持技术创新、在客户满意度、安全性、合规性上提升来适应这个不断变化的市场。

分享 :
author

Bitpie wallet

Bitpie是全球最大的数字货币钱包,支持包括BTC, ETH, BSC, TRON, Aptos, Polygon, Solana, OKExChain, Polkadot, Kusama, EOS等在内的所有主流公链及Layer 2,已为全球近千万用户提供可信赖的数字货币资产管理服务,也是当前DeFi用户必备的工具钱包。

相关新闻

比特派钱包安卓下载|GBTC 销量下跌,加密货币开始上涨
01-27-2024
比特派钱包安卓下载|GBTC 销量下跌,加密货币开始上涨

Grayscale的比特币ETF产品GBTC的资金流出对加密的表现产生了不良影响。 加密货币尤其是比特币呈现复苏趋势,小幅上涨。 根据 CoinMarketCap 数据,除稳定币外,前 10 名加密货币在过去 2...

比特派最新钱包|OKX iOS用户因钱包漏洞被敦促升级应用
12-24-2023
比特派最新钱包|OKX iOS用户因钱包漏洞被敦促升级应用

OKX Certik iOS OKX OKX CertiK OKX iOS 12 19 CertiK OKX CertiK Twitter OKX iOS RCE RCE OKX CertiK iOS 6.45.0 CertiK MetaMask Tay Monahan OKX [OKXs] [vulnerability] CertiK 12 19 iOS App Store 6.46.0 OKX 12 11 6.45.0...