俄罗斯数学家教会AI模型无需语言即可相互交流
mostik的新方法使ai模型能够通过数学值相互交互,提高效率和性能。这可能有助于开源模型与专有模型竞争。
由数学家创立的俄罗斯初创公司 Mostik 开发了一种技术,使 AI 模型能够在不产生文本输出的情况下相互交互。通过使用模型权重的数学值,他们可以组合功能并提高性能。例如,他们将一个 7530 亿参数的 GLM 模型与一个 40 亿参数的 QWen 模型连接起来,实现了两者之间的半程性能,成本仅为原来的二十分之一。这种方法可以增加开放权重模型的价值,使它们能够更好地与 Frontier Labs 的专有模型竞争。Mostik 的方法还可能实现将 Frontier 模型与特定领域模型配对,从而训练出更专业的模型。