文档

调用的模型所在位置

  • 在线部署的大模型
  • 本地部署的大模型

LangChain作为一个“工具”,不提供任何 LLMs,而是依赖于第三方集成各种大模型。这里就看大
模型到底部署在哪里。

线上大模型服务平台

有许多提供大模型API服务的平台,使用时只需要注册、充值并创建API-Key,之后即可使用API-Key与
URL来调用平台提供的相应的模型的服务。

平台 网址 备注
OpenRouter https://openrouter.ai/ 全球主流 含国外模型
CloseAI https://platform.closeai-asia.com/ 亚洲最大 含国外模型
阿里云百炼 https://bailian.console.aliyun.com/ 企业端友好
硅基流动 https://www.siliconflow.cn/ 性价比高,适合个人
百度千帆 https://console.bce.baidu.com/qianfan/overview 主打百度生态
火山引擎 https://console.volcengine.com/ark/ 主打字节多模态生态

说明:每个平台配置时,都需要几个要素: 模型名 、 api-key、 base-url 。

如果大家想使用国外的大模型,就选择前两个;如果只使用国内的大模型,可以选择后四个。
阿里云百炼:所有新用户可获得超过5000万Tokens的免费额度及4500张图片生成额度。适合toB
企业用户
硅基流动,号称9B 以下模型永久免费,开源模型价格低,适合个人学习。
此外,还有各个模型自己的厂商平台。比如deepseek、智谱等。

OpenRouter是一个第三方镜像站,专门转发大模型厂商的API服务。通过它我们可以间接调用几
乎所有大模型厂商的API服务。支持国内直连。
OpenRouter支持支付宝或微信充值,最低限额$5,税费$0.8,此外,如果调用的模型禁止在国内
使用,如ChatGPT,则无法通过OpenRouter直接调用(需要Magic),会提示This model is not
available in your region,根据个人情况,决定是否充值并调用OpenRouter API。

本地部署的大模型

  • Ollama
  • vLLM

Ollama是在Github上的一个开源项目,其项目定位是:一个本地运行大模型的集成框架,可以实现如
Qwen、Deepseek 等主流大模型的下载、启动和本地运行的自动化部署及推理流程。
Ollama官方地址:https://ollama.com

申请LANGCHAIN_API_KEY

  1. 打开下面网站
    https://smith.langchain.com/

  2. 登录后,在左边Settings中 API Keys添加api key
    key Type 选择Personnal Access Token
    添加完后保存密钥
    lsv2_pt_73125b34bec64eb49d1fcd63350c9aab_65c4a08f27hmwrwer23sdf

阿里云百炼官方

官网:
https://bailian.console.aliyun.com/?accounttraceid=44d18b4f7096486cb888dab09d8d94f9uzyx#/home
使用支付宝账号注册
ID:2482503
申请api-key1:sk-8168d8dbeda0438b817c72388e42df40haima12ssfd
申请api-key2:sk-haimab2f8fa6c2bd844c68676e0a92d214e4ahm21wef

deepseek

申请api-key:
default : sk-88a7bddc09724dc5a59abb8013dffa23haima233dsdf

申请Qwen的账号

登录官网:https://chat.qwen.ai/
使用github注册登录

安装工具和环境

  • vscode
  • cline(vscode插件)
  • node
  • python
(deepdiff-tool) wanghaima@wanghaimadeMacBook-Pro nvm % uvx pycowsay 'hello world!'
Installed 1 package in 10ms
/Users/wanghaima/.cache/uv/archive-v0/L3xDVmoH1uNcdNGBVz7TZ/lib/python3.13/site-packages/pycowsay/main.py:27: SyntaxWarning: invalid escape sequence '\ '
  \   ^__^

  ------------
< hello world! >
  ------------
   \   ^__^
    \  (oo)\_______
       (__)\       )\/\
           ||----w |
           ||     ||

学习资料


作者:海马  创建时间:2025-08-12 09:58
最后编辑:海马  更新时间:2026-07-13 17:05
上一篇:
下一篇: