120.商用闭源AI中台
为什么老板们宁愿花大价钱也要用商用闭源AI中台？
说实话，我见过太多企业在AI这件事上走了弯路。
最初的时候, 满怀十足信心, 宣称要着手开展大模型相关工作, 要进行自主研发, 要拿出全部的开源方案。然而, 最终的情况是怎样的呢? 在半年的时间过去之后, 项目陷入停滞状态, 资金耗费了将近大半部分, 团队也已然解散了。
这真不是什么新鲜故事。
我结识了一位从事零售行业的友人, 去年满怀壮志地打算自行构建一套推荐系统。他寻觅了三位算法工程师, 购置了 GPU 服务器, 历经小半年的折腾。最终模型勉强能够投入使用, 然而每次模型进行更新时都需要再度训练、重新部署, 其运维成本高得令人咋舌。
后来他咬牙换了商用闭源AI中台，两周上线，效果还更好。
这就是为什么越来越多人开始转向商用闭源路线。
闭源和开源，到底差在哪？
这个问题值得认真聊聊。
不少人针对闭源存在着误解, 认为“闭源等同于被卡脖子”, 还认为“闭源意味着没有自主权”。
但我想说，这种想法太天真了。
开动脑筋去思索, 开源模型的确是免费的, 然而, 促使一个能够投入使用的大模型形成, 所需耗费的资金数额究竟是多少? 几百万的金额在其中还算是较少的部分了, 并且, 还需要长期供养一群具备博士学历水平的工程师, 除此之外, 还得购置价格高昂的算力设备。
那闭源中台情况如何呢? 为你所作阐述的是, 你所支付的乃是API调用费, 或者是按月进行订阅。是按照用量来支付费用, 使用多少便支付多少, 并不存在预先支付一大笔投入的那种风险。
更加关键的是, 实行闭源的服务商会不间断地去更新模型, 会持续地修复当中出现的漏洞, 并且不断优化性能等方面。你完全没有必要自己去操心这些相关事宜, 仅仅躺着不动就能够尽情享受到源于技术进步所带来的红利。
当然, 闭源存在着一些缺点, 其一为定制能力受到限制, 其二是数据隐私需谨慎处理, 其三是存在供应商锁定风险。
但这些都不是不能解决的问题。
关键是，你要搞清楚你的业务到底需不需要深度定制。
若是你的需求属于标准化的文本分类, 还有问答、翻译、摘要, 这种情况下闭源是完全能够满足使用需求范畴的。甚至, 闭源所达成的效果比你依靠自身实力努力去做的要好出许多。
只有在你存在针对特定领域去进行深度微调的需求时, 开源私有化部署才是更优选择, 或者, 只有当你对于数据隐私有着极端要求之际, 开源私有化部署才为更优选择。
大多数企业，其实根本不需要走到那一步。
商用闭源AI中台适合谁？
我接触过不少企业，有的适合闭源，有的不适合，差别非常大。
要是处于你的业务规模并非很大的状况下, 并且研发团队同样存在着受限的情况, 那么闭源AI中台大概就是能够供你进行选择的唯一对象了。这是由于针对维护一套具备复杂性的开源系统, 你根本就不存在相应的精力去开展此项工作。
假设你的需求倾向于应用层, 像是客服机器人、内容生成、智能审核, 在这样的场景之下, 闭源平台的预训练模型已然足够方便使用了。
再说说那些真正需要闭源的企业。
我遭遇过一家投身跨境电商的单位, 其每日得处置数目达几万之众的商品描摹, 还需开展自动生成文案之事、进行翻译工作以及开展SEO优化操作, 要是采用开源举措, 就得雇请一个团队专门去维护多语言模型, 成本高昂, 实在难以承受。
其后, 他们运用了商用闭源的 AI 中台, 按照所调用的量来支付费用, 每个月的成本呈现出固定且能够被控制的状态, 而最终所产生的效果还格外出色。
这就是闭源的价值——把复杂留给自己，把简单留给客户。
但我也见过一些企业，不适合用闭源。
像金融单位的风险管控模型, 以及医疗范畴的诊断辅助作用, 这些情况下对于数据隐私以及合规需要极为高远, 在这种时刻, 私有化布置的开源办法才是正确答案。
所以，别盲目跟风。想清楚自己的业务场景，再决定用什么工具。
成本到底怎么算？
这是老板们最关心的问题。
我来给你算笔账。
若假定你在一个月之中总共需要调用达到一千万如此之多的API。那种闭源平台所规定的单价范围, 差不多是处于千分之几至百分之几这个区间之内, 并且是按照月份来进行结算的。
听闻起来并非价格低廉? 然而你仔细思索一番, 要是你自行去搞开源方面的方案, 所要购买的那些 GPU 究竟数量是多少? 还要去聘请数量多少的运维人员? 每年光是电费、机房费用以及升级维护费用又将会要花费多少金额?
实际上，闭源方案的整体成本往往更低。
并且, 那闭源方案的隐性成本可就少了好多。譬如, 你无需去担忧模型会出现过期的状况, 无需去担忧存在安全方面的漏洞, 无需去担忧供应商会走向倒闭——这些可都是切切实实的风险。
当然，你要警惕那些"免费"的开源方案。免费往往是最贵的。
选型要注意什么？
选对了供应商，比选对技术更重要。
于我而言, 目睹过多企业, 起初单一关注模型效果, 进而挑选了一家技术颇为强大然而服务糟糕透顶的供应商, 后来出现问题之际, 寻找不到相关人员, 投诉陷入毫无门路的境地。
所以，选型时要看这几样东西：
能够提供服务的能力, 是否存在专门针对技术展开支撑的团队, 对于响应的速度处于怎样的水准, 在遇见问题的情况下可不可以火速进行解决?
稳定性。SLA承诺是多少？历史故障记录怎么样？
价格透明度。有没有隐藏费用？计费方式是否清晰？
数据隐私。你的数据会被用来训练模型吗？有没有合规认证？
是否存在多模型支持的情况, 供应商对于多家模型的支持状况又是怎样的, 如此这般你能够随时进行切换, 而不会处于被绑定的状态。
最后一点最重要——别把所有鸡蛋放在一个篮子里。
有智慧的企业会采用多个封闭源代码平台, 依据场景挑选最适宜的模型, 如此一来, 既能够削减成本, 又能够防止被单个供应商束缚。
最后想说几句
这篇文章写到这里，我突然想到一个问题。
为什么有些人明明知道闭源更适合自己，却还是硬要搞开源？
我想，大概是面子问题。
觉得用闭源就是"没技术"、"靠别人"。但其实呢？
能把事做成，才是真本事。
企业用AI，最终目的是创造价值，不是证明自己有多厉害。
闭源不是妥协，是务实。
是明白自己的边界在哪里，然后把精力放在真正重要的地方。
仅就我的建议而言, 其程度简单得很, 假若你的业务实际的确是需要人工智能, 然而又不愿意被技术方面的细节给羁绊住前行的脚步, 这种情况下, 闭源的人工智能中台是值得你认真去加以思量考虑的。
别被概念迷惑，别被情绪左右。
问问自己：你到底想要什么？
想清楚了，答案自然就有了。
最新评论