OpenRouter 是一層位於你的應用與各家 AI 模型供應商之間的基礎設施。它對自己的定位很凝練:面向所有模型的統一介面,並承諾更好的價格、更好的可用性,且無需訂閱。落到實處就是:你只整合一次、只對接一個端點,就能取得一個原本需要數十個獨立廠商帳戶、SDK、結算關係與故障處理分支才能涵蓋的模型目錄。
官方文件把價值主張寫得不加修飾:透過單一 API 端點存取數百個 AI 模型,並自動處理回退,同時為每個請求挑選性價比更優的選項。這兩句話就是產品的全部:聚合,加上「該用哪個模型、走哪個供應商」的判斷力。
有必要把讀者身分直說,因為 OpenRouter 經常被歸錯類。網站確實帶有一個瀏覽器聊天介面,這導致一些導覽站把它與面向消費者的 AI 對話產品並列。這是誤讀。那個聊天頁存在的目的,是讓開發者試模型、調提示詞;產品主體是一層帶計費、路由與可觀測性的 API。如果你不寫程式、也不設定應用去呼叫 API,這不是一款你會直接使用的工具。而如果你會,它解決的是一個很快就會變得棘手的問題:每家模型供應商都有自己的 SDK、自己的驗證、自己的速率限制和自己的當機。
服務由 OpenRouter, Inc. 營運,註冊地址在紐約麥迪遜大道 169 號,條款適用紐約州法律。創辦人 Alex Atallah 此前創辦過 OpenSea,投資方文章把這套主張概括為「一個 API、一套集中帳單」。後半句抓住了價值的另一半:把分散在多家供應商的支出合併到一個帳戶,而不是去對一堆發票。
設想直接對接五家模型供應商意味著什麼:五套 API 金鑰要輪換、五個 SDK 要跟版本、五個定價頁要盯、五個狀態頁要看,再加上一家降級時自行撰寫的故障切換邏輯。把這些乘以新模型出現的速度,整合維護就成了一項常駐的工程成本。OpenRouter 把這項反覆發生的成本,換成了一個相依項。這筆交換划不划算,才是真正的評估問題,後文的限制章節會正面回答。
最具辨識度的功能是自動選模型,而它的機制特別到值得講清楚。路由器首先會把每條提示詞歸入約 30 種細分任務類型之一——比如程式碼除錯、多步智慧代理規劃、知識問答、數學或客服。分類在請求過程中線上完成,依文件說明不需要保留提示詞。
第二步才是它與常規路由分道揚鑣的地方。它不依賴一份固定的品質排行,而是去看社群在該任務類型上真金白銀花在了哪些模型上,統計窗口為過去七天。官方把這比作一個市場指數:當用量轉向某個在除錯任務上表現更好的新模型時,路由會自動跟著支出走。運行這套系統的有兩個識別碼:穩定通道 openrouter/auto 與早期通道 openrouter/auto-beta。
選定模型只解決了一半問題,因為同一個模型往往由多家供應商承載,而它們在價格、速度與可靠性上並不相同。預設情況下,請求會在頭部供應商之間做負載平衡以最大化可用性。在這個預設之上,路由可透過請求體中的 provider 物件做大量設定,欄位涵蓋供應商順序、是否允許回退、是否要求支援全部參數、資料收集政策、零保留限制、允許與忽略名單、量化等級過濾與價格上限。
對工程團隊而言,排序與門檻控制最為關鍵。你可以按價格、吞吐量或延遲對供應商排序,還能設定偏好的最低吞吐或最高延遲(支援按分位數設門檻),以及本次請求可接受的最高價格。這把「便宜但別太慢」這種含糊偏好,變成了一個明確且可強制執行的請求參數。
可靠性往往是決定是否採用的那個論據。文件描述得毫不含糊:若某個供應商回傳錯誤,平台會自動回退到下一個供應商。這個過程對應用透明,意味著你不必自行撰寫重試與改道邏輯。對於「單家供應商當機就會造成使用者可見故障」的生產系統來說,這正是讓這個相依項站得住腳的功能。
平台提供的是:可在任意語言中取得完全控制權的原始 API、型別安全的用戶端 SDK,以及面向工具呼叫、迴圈與狀態管理的 Agent SDK。這個分層是合理的:用 curl 打端點的指令碼什麼都不用裝;帶型別的應用能從 SDK 獲益;而具備工具呼叫與狀態管理的智慧代理系統,拿到的是一層專門建構的能力,而不必手工拼裝編排邏輯。
功能面遠不止選模型。文件涵蓋回應快取、提示詞快取、工具呼叫、結構化輸出、訊息轉換、串流回傳、批次處理、自訂分類器、護欄、服務檔位、預設集與零補全保險。團隊側則有帶預算的工作區、單一登入、SCIM 群組對應與分析面板。這正是「業餘代理層」與「組織可以標準化依賴之物」之間的差別。
最主要的用法很直接:你在做一個要呼叫大模型的產品,但不想不可逆地押注一家供應商。透過 OpenRouter 整合,意味著換模型是改一個字串,而不是一次重構。當更好或更便宜的模型上線時,你可以先評估,而不必先立一個整合專案。
不同任務配得上不同模型,為簡單的分類任務支付前沿模型的價格是純粹的浪費。由於價格原樣透傳,且供應商可按價格排序、每次請求還能設價格上限,團隊可以把廉價任務路由到廉價模型,把昂貴模型留給真正需要它的工作——而這一切都在同一個結算關係裡完成。
對於模型呼叫處在使用者關鍵路徑上的應用,跨供應商的自動回退把一個硬相依變成了軟相依。再配合吞吐與延遲偏好,就能在不自建路由層的情況下支撐有意義的服務水準目標。
需要為特定任務比較模型的團隊,可以透過一個介面把同一批提示詞跑在多個模型上。公開排行榜與應用榜單還提供了第二重訊號:其他開發者在可比工作上實際用的是什麼。
智慧代理類負載會放大單一供應商方案的每一個弱點——它們發起大量呼叫、需要工具呼叫,而且中途失敗會浪費整條執行軌跡。Agent SDK 加自動回退,針對的正是這種形態的工作。
對受監管的組織,平台為企業客戶提供歐盟與美國的區域內路由,再加上零保留端點限制與供應商級資料政策控制。這組能力讓合規要求可以表達為請求設定,而不必依賴與廠商逐條談判。
用量基於預付點數運行。新帳戶會取得少量免費額度用於測試,進入生產使用前需要先在平台購買點數。
在控制台建立金鑰。由於單個金鑰就能觸及目錄裡的每一個模型,金鑰管理值得按高權限憑證的標準對待——條款也載明,你需自行負責帳戶憑證的保密。
這通常是最短的一步。API 實作了 OpenAI 規範,你只需向 /api/v1/chat/completions 端點發送標準 HTTP 請求;多數情況下,在既有的 OpenAI SDK 整合裡改一個 base URL 和一個金鑰就夠了。
決定是點名指定某個模型,還是交給自動路由器。指定模型帶來確定性;自動路由則帶來隨模型格局變化而自我調整的能力。很多團隊兩者並用——對輸出敏感的路徑固定模型,通用工作走自動路由。
如果你有約束條件,請顯式表達出來,而不是接受預設值。為成本控制設價格上限,為使用者可見路徑設延遲或吞吐門檻,在合規要求下設資料收集或零保留限制。這些都是逐請求參數,因此不同程式碼路徑可以攜帶不同策略。
請驗證在你的設定下回退行為是否符合預期,尤其是當你收窄了供應商名單時。過度限制供應商會縮小可供回退的池子,這會悄悄削弱你當初採用該平台所看重的可靠性收益。
用控制台的分析面板按模型與應用追蹤消耗。由於目錄內各模型的單 token 成本相差數個數量級,一次路由變更就可能顯著改變支出,因此請把監控當作整合的一部分,而不是事後補的動作。
為每次請求設定最高價格。 max_price 參數是防止意外選中昂貴模型的最簡單護欄。尤其在自動路由的路徑上,它把一筆開放式成本變成了有界成本。
讓路由策略符合程式碼路徑。 在輸出一致性重要的地方固定模型——針對某個模型調好的提示詞,換到另一個模型上表現可能不同。在任務通用、且「跟上變動的市場」比確定性更值錢的地方,用自動路由。
不要過度收窄供應商名單。 把範圍縮到單一偏好供應商,等於重新製造了你本想擺脫的單點故障。除非有明確的合規規則禁止,否則請允許回退。
把資料政策寫進程式碼,而不是寫進文件。 如果你的負載必須避免保留,就在請求上設定零保留限制與資料收集政策。設定好的約束是可強制執行的,寫下來的意願不是。
免費模型用於評估,不要用於生產。 文件明確說明免費模型速率限制低,且通常不適合生產使用。它們是測試時的便利,僅此而已。
設定自動路由時請核對外掛 ID。 發到另一個識別碼的外掛 ID 下的設定會被接受但靜默忽略——這種失敗模式不報任何錯,而你的模型限制與成本檔位卻悄悄失效了。
如果需要曝光,就給應用加歸屬標識。 可選的歸屬請求標頭會把你的應用放上公開排行榜,如果你在做面向大眾的產品,這對被發現有幫助。
先做預算,再談擴量。 工作區預算與分析面板之所以存在,是因為 token 支出會隨用量非線性成長。請在流量高峰之前設定好上限,而不是在收到帳單之後。
整合大模型的應用開發者是核心受眾——也就是那些否則就要針對多個模型 API 撰寫並維護整合的人。
在做推理成本最佳化的團隊受益於「價格透傳 + 路由控制」的組合,兩者疊加讓成本與品質的取捨可以逐請求決策,而不是全域做一次妥協。
負責生產可靠性的工程師得到的是跨供應商的自動回退,這件事自建起來既難做好又瑣碎。
智慧代理建構者由 Agent SDK 以及多步負載所需的韌性來服務。
有治理要求的企業透過工作區、單一登入、SCIM、區域路由與資料政策控制得到涵蓋。
AI 研究者與評測者可以在一個介面內比較眾多模型,而不必為每家單獨開戶。
不適合的人: 想找一個聊天助理的終端使用者。儘管網站上確有聊天介面,但這是開發者基礎設施,使用它意味著寫程式或設定應用。想要開箱即用消費級產品的人,應該去用消費級產品。已經與某家供應商簽訂企業合約、並完全押注其上的團隊,可能也會覺得這層路由帶來的增量有限。
OpenRouter 以 Web API 形式交付,因此真正的平台問題不是作業系統,而是整合面。API 在對話補全端點上實作了 OpenAI 規範,這意味著任何具備 HTTP 用戶端的語言都能使用它,而既有的 OpenAI SDK 程式碼通常改一個 base URL 就能跑通。
官方維護的整合路徑包括原始 API、型別化用戶端 SDK 與 Agent SDK。除此之外,文件還為主流開發框架逐一提供了專門指南:編排框架有 LangChain 與 Mastra,前端與應用側有 Vercel AI SDK 及 TanStack AI,型別化後端有 PydanticAI,可觀測性有 Langfuse,即時語音場景有 LiveKit,另有面向 OpenAI SDK 與 Anthropic Agent SDK 的遷移說明,以及 Replit、Xcode 與 Zapier 等開發與自動化環境的接入方式。這是個有用的訊號:它們是第一方記錄在案的整合,而非社群宣稱。
官網首頁公布的規模數字為每月 2000 億以上 token、1000 萬以上全球使用者、80 家以上供應商與 500 個以上模型。請把它們當作廠商自報且是某一時點的快照——來自另一時期的投資方文章給出的計數與之明顯不同,這恰恰說明這些數字變動很快,應該即時去查,而不是從任何文章裡照抄,包括本文。
團隊與企業能力包括帶預算的工作區、單一登入、SCIM 群組對應,以及面向企業客戶的歐盟與美國區域內路由。
定價模式是 OpenRouter 最常被誤解的部分,而它特殊到值得精確表述。
推理不加價。 文件寫得很明確:原樣透傳底層模型供應商的定價、不做任何加價,你支付的費率與直連供應商相同。因此單 token 成本就是供應商收多少。由於目錄裡數百個模型的費率差異極大、且會隨供應商自身調價而變動,本文不引用任何具體的單 token 數字——請到模型頁查當前費率。
收入來自點數購買。 費用在你購買點數時收取,而不是在你發起推理呼叫時收取。官方將其描述為一筆小額費用,並重申絕不對供應商價格加價。具體百分比在網站上以動態方式呈現,而非可抓取的頁面文字,因此請在付款環節核對當時的實際數值。
點數為預付制,並設有額度邊界。 單筆購買從最低 5 美元到最高 25,000 美元。Stripe 支付以美元結算,Coinbase 支付走加密錢包,另可設定餘額低於你指定門檻時自動儲值。
自帶金鑰有其自身的經濟帳。 如果你已與供應商簽有直接合約,BYOK 允許你在平台內使用它們。它帶有一份按訂閱方案分配的免費額度,且該額度以按目錄價計算的推理成本衡量,而非按請求次數——這個區別很重要,因為昂貴呼叫會比大量廉價呼叫更快耗盡額度。超出部分按比例收費,並從點數中扣除。
存在免費入口,但被刻意限制。 新帳戶取得少量免費額度,目錄中亦包含免費模型。它們每日請求上限很低,且文件說明通常不適合生產使用。值得注意的是,免費模型的速率上限會隨已購點數提高,因此付費帳戶能拿到更高的免費檔配額。
退款窗口很窄。 未使用點數可在交易後 24 小時內申請退款;超過該窗口,任何未使用點數都變為不可退。加密貨幣支付則完全不可退。請按你預期會用完的額度分批購買。
沒有訂閱制。 首頁關於「無需訂閱」的說法對標準產品是成立的——你為用量付費,而不是繳一筆週期性平台費,企業方案則另行安排。
參照系取決於你要替換的是這層價值中的哪一部分。
誠實的結論是:OpenRouter 競爭的是目錄廣度、路由精細度與不加價的定價結構。如果你會永遠只用一家供應商的一個模型,直連更省事;如果模型選擇是一件持續要做的決策,這一層就配得上它的位置。
你在關鍵路徑上新增了一個相依。 每一次推理呼叫都會經過一個第三方。這買來的是對單家供應商當機的韌性,但也把平台自身引入為潛在故障點。對於模型呼叫承重的應用,這筆交換應當是一項經過深思的架構決策。
多一跳延遲無法避免。 相比直連供應商,經中間層路由會增加網路開銷。官方在努力壓低它,也提供了延遲偏好控制,但這一跳是真實存在的,對緊湊的互動迴圈有影響。
點數為預付且退款窗口很短。 未使用點數在 24 小時後變為不可退,加密支付永遠不可退,條款還載明點數不是法定貨幣。刪除帳戶會導致未使用點數作廢。
存在靜默的設定失效。 自動路由的外掛 ID 錯配就是最典型的例子:錯誤的設定會被接受但靜默忽略,於是模型限制與成本檔位可能根本沒生效,卻不會報錯。請驗證設定是否真的起了作用,而不是假定它已生效。
免費模型不是一個生產檔位。 低速率上限,加上文件明說不適合生產,意味著免費目錄只適用於評估。
資料處理是可設定的,也就意味著責任在你。 資料收集政策的預設值是允許可能保留資料的供應商。零保留路由與政策限制都可用,但必須由你去設定。一個預設假定「嚴格處理」的團隊,很可能對自己的實際狀態判斷有誤。
使用規則是可強制執行的合約條款。 條款禁止非法使用、身分不實陳述、爬取、繞過安全機制以及未經授權對模型進行紅隊測試。計劃做對抗性測試的研究團隊,應在動手前先讀這一條。
廠商自報指標因來源而異。 模型數、供應商數與 token 用量在官網與不同時期的第三方文章之間並不一致。請把任何具體數字都當作有時效性的。
模型行為並不統一。 為某個模型調好的提示詞換到另一個模型上表現可能不同,因此自動路由可能改變輸出特徵。在一致性重要的地方,請固定模型。
它是開發者基礎設施。產品主體是一個供你的應用呼叫的 API,外加圍繞它的路由、計費與可觀測能力。網站上確有一個用於試模型和調提示詞的聊天介面,這也是部分導覽站把它歸錯類的原因,但要真正用起 OpenRouter,仍需要寫程式或設定應用。
不會。文件寫明供應商定價原樣透傳、不做加價,你支付的費率與直連供應商相同。公司的收入來自你購買點數時收取的費用,而不是來自推理本身。
一個輕量分類器會把你的提示詞歸入約三十種細分任務類型之一,隨後路由器按 OpenRouter 社群在該任務類型上過去七天的真實支出對模型排序。它的行為像一個市場指數,會向那些在這類工作上獲得實際採用的模型傾斜。
通常不需要。API 在對話補全端點上實作了 OpenAI 規範,因此既有的 OpenAI SDK 整合一般改一個 base URL 和金鑰即可運行。如果你想要的不止是裸 HTTP,還有型別化用戶端 SDK 與 Agent SDK 可用。
平台會自動回退到下一個供應商,且對你的應用透明。這正是它可靠性論據的核心:你的程式碼不需要自帶重試與改道邏輯,就能扛住單家供應商的當機。
新帳戶會取得少量免費額度,目錄中也包含免費模型。這些免費模型每日請求上限很低,文件也說明它們通常不適合生產。購買點數後免費模型的上限會提高,因此免費檔最好當作評估通道來看待。
可以,而且這是逐請求設定而非帳戶級設定。你可以把資料收集政策設為拒絕可能保留資料的供應商、把路由限制為僅使用零保留端點,並對特定供應商使用允許或忽略名單。企業客戶還可額外要求在歐盟或美國區域內路由。
可以,透過 BYOK。它帶有按訂閱方案分配的免費額度,該額度按目錄價推理成本而非請求次數衡量,超出部分按比例收費並從點數中扣除。這適合已經握有議價合約、但仍希望取得統一路由能力的團隊。
僅限交易後 24 小時內,透過點數頁面的退款按鈕申請。超過該窗口,未使用點數不可退,加密貨幣支付則完全不可退。此外,刪除帳戶也會導致未使用點數作廢。
主要是三點考量。你在推理關鍵路徑上新增了一個第三方。你接受了額外一跳網路開銷及其延遲代價。你還承諾進入一個退款窗口很窄的預付點數模式。如果你已在企業合約下標準化到單一供應商,或者你需要絕對最低的延遲,直連那家供應商可能更適合你。