Alex Atallah，OpenRouter的创始人，曾因共同创立NFT交易平台OpenSea而广为人知。2020年，NFT热潮席卷全球，OpenSea的服务器、搜索索引和团队容量一度全面告急。这段经历让Alex深刻认识到，当需求以十倍速度增长时，系统的稳定性和扩容能力才是决定一家基础设施公司生死的关键。如今，他将这一经验带到了OpenRouter，致力于在快速分裂的模型生态中扮演“总路由器”的角色，连接不同模型与推理服务商，实时比较价格、速度和质量，并将流量导向更合适的供给方。
在与20VC创始人Harry Stebbings的深入对话中，Alex分享了他对多模型竞争、开放权重生态与下一代Agent架构的独到见解。他坚信，AI领域不会只剩下一个赢家。训练数据、方法和模型“性格”的差异本身就是价值所在，多模型并用将成为企业和个人的长期常态。推理服务也并非没有差异的卖铲子生意，同一个模型交给不同服务商部署，速度、成本乃至输出质量都可能大相径庭。
Alex指出，路由真正出售的不是技术，而是选择权。它让开发者能够随时接入最新模型，降低对单一实验室和云厂商的依赖。同时，模型降价未必会让市场缩水，反而可能制造更大的需求。OpenRouter上的一个案例显示，模型价格下降10倍后，使用量竟然增长了13倍。这一现象与杰文斯悖论不谋而合，即价格下降会导致需求量以更大的比例增长。
对于企业自研模型的趋势，Alex认为这并不会终结多模型生态。专有模型适合承载企业的核心能力和品牌护城河，而外部模型则会持续提供新数据、新能力与成本优势。他观察到，企业真正忌惮的可能不是中国模型，而是前沿模型公司。这些公司既掌握企业数据，又可能随时进入应用公司的市场，构成双重威胁。
在推理服务商的选择上，Alex认为当前市场仍处于严重供给受限的状态，且这种状态可能持续一段时间。他看好两类推理服务商：一类拥有定制硬件和深度底层优化，另一类能让定制变得更容易。对于未来，他预计模型和推理服务商的优化将不断改变用户体验，而OpenRouter将帮助用户发现更好的服务商。
在专有模型对企业的影响方面，Alex认为企业会把自己的专有模型放在核心工作流里，同时使用其他模型完成模型选择和补充任务。因为周围所有公司都在用新数据训练新模型，其中有些数据和能力对企业有价值。无论是提升生产率、合并能力以获得更好表现、降低成本、改善利润率还是扩大公司规模，企业都有动力不断试用生态里出现的新模型。
对于路由层的商品化问题，Alex认为很多公司因为路由“很时髦”而去做网关或看见这个领域的增长，但这会让公司落入模仿的心态。他强调，给用户和开发者更多模型选择就是让他们能利用AI里发生的全部创新，也降低对任何单一提供方的依赖。一个不能覆盖完整市场、没有足够灵活性和可定制性的网关，实际上会把用户从一些所需能力中排除出去。
面对企业数据安全顾虑的问题，Alex承认企业通常更害怕前沿模型而非中国模型。因为企业往往不清楚自己发送的提示词会怎样被处理、存到哪里、由谁查看。对于OpenRouter可能把企业路由到中国模型而引发的数据安全与供应链信任问题，他表示公司有责任让用户安全访问所有模型，并会遵循美国的最佳实践确保不做不负责任的事。
在开放权重模型的快速迭代与竞争方面，Alex预计未来一到三年前沿模型和开放模型的发布速度仍会很快。仅在7月，OpenRouter就上线了70个模型，平均大约每10小时一个。他认为推动这件事的力量来自多方面，包括希望促进竞争和多样性的GPU厂商、OpenRouter、愿意押注新方法的投资人以及仍想通过不同训练路径提升智能的创始人。
对于记忆在模型选择中的作用，Alex认为记忆当然能带来留存，但关键在于它放在哪里。未来可能是多层记忆的组合，比如同时使用模型层、基础设施层和应用层的记忆。他还指出Harness不是另一个App，而是更可组合的工作界面。一个Harness可以调用另一个Harness，也可以在云端沙箱里启动另一个Harness。
在推动开放权重生态提升竞争力方面，Alex表示会先多和实验室沟通，弄清楚它们蒸馏先进开放权重模型的实际效果。他认为蒸馏是一种构建模型的技术，市场会同时容纳允许和不允许蒸馏的公司。对于未来，他预计大约50%的新模型实验室会发生整合或被收购，但不同意70%的新模型实验室都会消失的观点。
在对话的最后，Alex表达了对罕见病研究和众包式改善城市乡村生活的兴奋之情。他认为AI能够审阅此前无法处理的大量数据，为这些领域带来革命性的变化。同时，他也强调了生态里需要有人对未来极度警觉，以保持“神经多样性地图”的完整性。
