当开发人员需要解决特定任务时,人工智能并非简单地将大型语言模型(LLM)指向数据即可。还需考虑成本、速度和准确性,这些平衡的实现尤其具有挑战性,特别是在不断有新模型上线的情况下。
这正是Unify的用武之地。这家英国初创公司由帝国理工学院的校友创立,开发了一种路由工具,让开发人员可以输入参数并找到最适合其需求的LLM。周三,该公司宣布获得800万美元投资。
“Unify的主要目标是通过客观基准和仪表盘来比较不同提供商的模型,找出最适合任务的模型,”公司创始人兼CEO Daniel Lenton在接受TechCrunch采访时表示。
“路由器实际上是这个过程的自然延伸,特别是当公司开始大规模部署时,速度和成本变得更加重要。因此,我们真正想做的是让人们对LLM应用的质量、成本和速度有更多的控制,”Lenton说道。
毫不奇怪,Unify使用AI运行核心路由应用程序。“我们的路由器本身是一个学习型神经网络,它学习哪些模型最适合执行哪些任务,”他说。公司通过对每个新模型在所有这些任务上进行详尽的基准测试,并使用GPT Pro作为评判,从中系统学习这些模型在其训练集上执行特定任务的表现。
“因此,基本上一两天后,任何新的模型提供商都能被路由器支持,”他说。
Lenton表示,路由器及其独特的训练模型本身就是保护其初创公司免受大型企业侵蚀的一种方式,同时他们保持中立,而超大规模公司可能不会。
他说,通常客户只是试验不同的模型,并没有工具来跟踪哪个模型最好。
“有些人有急需解决的问题,愿意尝试现有的解决方案。所以这就是我们能进入市场的方式,”他说。
虽然市场上有Martian Router、OpenRouter和Portkey等竞争对手,Lenton表示,他的公司是唯一一个同时优化质量、成本和速度的公司。
目前公司规模较小,只有七名员工,他有意保持精简,同时致力于将完全货币化的产品推向市场。计划今年再增加三名员工。
他报告称,目前已有约3000人注册,其中有几百名常规用户。他们计划通过为公司定制基准测试收费来赚钱。每家公司可以用50美元的信用额度开始使用该工具。
这笔800万美元的投资来自包括SignalFire、M12、J12、Essence VC、A. Capital、Lunar VC、Y Combinator以及一些知名行业天使投资人在内的一系列投资者。