Любые завершения чата Mcp Mcp сервер

Что такое Any Chat Completions MCP?

Any Chat Completions MCP — это универсальный сервер, предназначенный для использования любой модели большого языка (LLM) в качестве инструмента. Эта инновационная платформа позволяет разработчикам и пользователям интегрировать различные LLM в свои приложения, улучшая возможности чат-ботов и других разговорных интерфейсов. Используя мощь LLM, пользователи могут создавать более увлекательные и интеллектуальные взаимодействия, что делает его ценным ресурсом как для бизнеса, так и для разработчиков.

Особенности Any Chat Completions MCP

• Поддержка нескольких LLM: Сервер поддерживает несколько LLM, позволяя пользователям выбирать лучшую модель для своих конкретных нужд.
• Легкая интеграция: С помощью простого API разработчики могут легко интегрировать сервер в свои существующие приложения.
• Масштабируемость: Архитектура разработана для обработки большого количества запросов, что делает ее подходящей как для небольших проектов, так и для крупных приложений.
• Настраиваемость: Пользователи могут настраивать поведение LLM в соответствии со своими конкретными случаями использования, улучшая пользовательский опыт.
• Открытый исходный код: Будучи проектом с открытым исходным кодом, он поощряет вклад сообщества и прозрачность.

Как использовать Any Chat Completions MCP

1. Установка: Начните с клонирования репозитория с GitHub и установки необходимых зависимостей.
2. Конфигурация: Настройте свою среду, настроив параметры сервера, чтобы указать, какие LLM вы хотите использовать.
3. Интеграция API: Используйте предоставленные конечные точки API для отправки запросов на сервер и получения ответов от LLM.
4. Тестирование: Протестируйте интеграцию в среде разработки, чтобы убедиться, что все работает как ожидалось.
5. Развертывание: После тестирования разверните сервер в вашей производственной среде и начните использовать LLM в своих приложениях.

Часто задаваемые вопросы

В: Какова основная область применения Any Chat Completions MCP?

О: Основная область применения — улучшение чат-ботов и разговорных интерфейсов путем интеграции различных LLM, что позволяет создавать более интеллектуальные и увлекательные взаимодействия.

В: Бесплатен ли Any Chat Completions MCP для использования?

О: Да, это проект с открытым исходным кодом, что означает, что его можно использовать и модифицировать бесплатно.

В: Могу ли я внести свой вклад в проект?

О: Абсолютно! Вклад приветствуется. Вы можете отправлять проблемы, запросы на функции или пулл-реквесты в репозиторий на GitHub.

В: Какие языки программирования поддерживаются?

О: Сервер разработан так, чтобы быть независимым от языка, но API можно легко использовать с популярными языками программирования, такими как Python, JavaScript и Java.

В: Как я могу сообщить о проблемах или ошибках?

О: Вы можете сообщить о проблемах или ошибках, создав проблему в репозитории на GitHub, предоставив детали о возникшей проблеме.

Используя Any Chat Completions MCP, разработчики могут значительно улучшить разговорные возможности своих приложений, что делает его мощным инструментом в области ИИ и машинного обучения.

any-chat-completions-mcp MCP Server

Integrate Claude with Any OpenAI SDK Compatible Chat Completion API - OpenAI, Perplexity, Groq, xAI, PyroPrompts and more.

This implements the Model Context Protocol Server. Learn more: https://modelcontextprotocol.io

This is a TypeScript-based MCP server that implements an implementation into any OpenAI SDK Compatible Chat Completions API.

It has one tool, chat which relays a question to a configured AI Chat Provider.

<a href="https://glama.ai/mcp/servers/nuksdrfb55"><img width="380" height="200" src="https://glama.ai/mcp/servers/nuksdrfb55/badge" /></a>

Development

Install dependencies:

npm install

Build the server:

npm run build

For development with auto-rebuild:

npm run watch

Installation

To add OpenAI to Claude Desktop, add the server config:

On MacOS: ~/Library/Application Support/Claude/claude_desktop_config.json

On Windows: %APPDATA%/Claude/claude_desktop_config.json

You can use it via npx in your Claude Desktop configuration like this:

{
  "mcpServers": {
    "chat-openai": {
      "command": "npx",
      "args": [
        "@pyroprompts/any-chat-completions-mcp"
      ],
      "env": {
        "AI_CHAT_KEY": "OPENAI_KEY",
        "AI_CHAT_NAME": "OpenAI",
        "AI_CHAT_MODEL": "gpt-4o",
        "AI_CHAT_BASE_URL": "https://api.openai.com/v1"
      }
    }
  }
}

Or, if you clone the repo, you can build and use in your Claude Desktop configuration like this:

{
  "mcpServers": {
    "chat-openai": {
      "command": "node",
      "args": [
        "/path/to/any-chat-completions-mcp/build/index.js"
      ],
      "env": {
        "AI_CHAT_KEY": "OPENAI_KEY",
        "AI_CHAT_NAME": "OpenAI",
        "AI_CHAT_MODEL": "gpt-4o",
        "AI_CHAT_BASE_URL": "https://api.openai.com/v1"
      }
    }
  }
}

You can add multiple providers by referencing the same MCP server multiple times, but with different env arguments:

{
  "mcpServers": {
    "chat-pyroprompts": {
      "command": "node",
      "args": [
        "/path/to/any-chat-completions-mcp/build/index.js"
      ],
      "env": {
        "AI_CHAT_KEY": "PYROPROMPTS_KEY",
        "AI_CHAT_NAME": "PyroPrompts",
        "AI_CHAT_MODEL": "ash",
        "AI_CHAT_BASE_URL": "https://api.pyroprompts.com/openaiv1"
      }
    },
    "chat-perplexity": {
      "command": "node",
      "args": [
        "/path/to/any-chat-completions-mcp/build/index.js"
      ],
      "env": {
        "AI_CHAT_KEY": "PERPLEXITY_KEY",
        "AI_CHAT_NAME": "Perplexity",
        "AI_CHAT_MODEL": "sonar",
        "AI_CHAT_BASE_URL": "https://api.perplexity.ai"
      }
    },
    "chat-openai": {
      "command": "node",
      "args": [
        "/path/to/any-chat-completions-mcp/build/index.js"
      ],
      "env": {
        "AI_CHAT_KEY": "OPENAI_KEY",
        "AI_CHAT_NAME": "OpenAI",
        "AI_CHAT_MODEL": "gpt-4o",
        "AI_CHAT_BASE_URL": "https://api.openai.com/v1"
      }
    }
  }
}

With these three, you'll see a tool for each in the Claude Desktop Home:

And then you can chat with other LLMs and it shows in chat like this:

Or, configure in LibreChat like:

  chat-perplexity:
    type: stdio
    command: npx
    args:
      - -y
      - @pyroprompts/any-chat-completions-mcp
    env:
      AI_CHAT_KEY: "pplx-012345679"
      AI_CHAT_NAME: Perplexity
      AI_CHAT_MODEL: sonar
      AI_CHAT_BASE_URL: "https://api.perplexity.ai"
      PATH: '/usr/local/bin:/usr/bin:/bin'

And it shows in LibreChat:

Installing via Smithery

To install Any OpenAI Compatible API Integrations for Claude Desktop automatically via Smithery:

npx -y @smithery/cli install any-chat-completions-mcp-server --client claude

Debugging

Since MCP servers communicate over stdio, debugging can be challenging. We recommend using the MCP Inspector, which is available as a package script:

npm run inspector

The Inspector will provide a URL to access debugging tools in your browser.

Acknowledgements

• Obviously the modelcontextprotocol and Anthropic team for the MCP Specification and integration into Claude Desktop. https://modelcontextprotocol.io/introduction
• PyroPrompts for sponsoring this project. Use code CLAUDEANYCHAT for 20 free automation credits on Pyroprompts.