Перевод с помощью самостоятельно размещённого LLM

Внедрите самостоятельно размещённый LLM (например: через Ollama) в качестве провайдера перевода в директиву @strTranslate, чтобы переводить значение поля на любой нужный язык.

Описание

Сделайте самостоятельно размещённый LLM доступным в качестве провайдера перевода в директиве @strTranslate.

Добавьте директиву @strTranslate к любому полю типа String, чтобы перевести его на нужный язык.

Например, этот запрос переводит поля title и content записи с английского на французский с помощью вашего самостоятельно размещённого LLM:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

Авторизация

Если вы размещаете LLM на собственном сервере, API-ключ вам не потребуется.

Если вы используете самостоятельно размещённый LLM в облаке (например: при использовании Ollama Cloud), возможно, потребуется указать API-ключ на вкладке Plugin Management > Self-Hosted LLM Translation на странице настроек.

Затем воспользуйтесь одним из описанных ниже методов для ввода значения.

Через настройки

Введите API-ключ в соответствующие поля на странице настроек и нажмите «Save Changes (All)»:

В `wp-config.php`

Добавьте константу GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY в wp-config.php:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

Через переменную окружения

Определите переменную окружения SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY.

Конфигурация LLM

Необходимо настроить следующие значения:

Endpoint URL: URL HTTP-эндпоинта для вашей модели самостоятельно размещённого LLM. Например:
- http://localhost:11434/v1/chat/completions при использовании формата ChatGPT и размещении модели LLM на собственном сервере с помощью Ollama
- http://localhost:11434/v1/messages при использовании формата Claude и размещении модели LLM на собственном сервере с помощью Ollama
- https://ollama.com/v1/chat/completions при использовании формата ChatGPT и Ollama Cloud
- https://ollama.com/v1/messages при использовании формата Claude и Ollama Cloud
Compatible with API endpoint from: С каким провайдером AI-сервиса совместим ваш пользовательский эндпоинт — доступны варианты ChatGPT и Claude
Model: Название модели самостоятельно размещённого LLM, которую следует использовать при переводе контента.
Max tokens: Максимальное количество токенов, которое модель может генерировать в ответе. Оставьте пустым, чтобы не устанавливать ограничение для ChatGPT, или используйте значение по умолчанию для Claude.

Воспользуйтесь одним из описанных ниже методов для ввода значений.

Через настройки

Введите модель в соответствующее поле на странице настроек и нажмите «Save Changes (All)»:

В `wp-config.php`

Добавьте константы в wp-config.php:

GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

Через переменную окружения

Определите переменные окружения:

SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

Через переменную окружения

Определите переменную окружения SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE.