Начинаем работу с YandexGPT API
В прошлом посте я рассказывал про сервис 300 от Яндекса и его использовании через API. Сегодня я расскажу как начать пользоваться лежащими в его основе генеративными моделями через YandexGPT API и сервис Foundation Models.
Итак, для того чтобы начать, нам необходимо:
- Зайти в облачную консоль управления Yandex Cloud.
- Авторизоваться или, если у вас ещё нет аккаунта, зарегистрироваться.
- Среди списка сервисов выбрать и перейти на страницу Foundation Models.
Сервис Foundation Models объединяет в себе несколько больших генеративных нейросетей.
На данный момент нам доступны несколько режимов их использования:
- Первый и самый простой - чат с YandexGPT. Это по сути аналог всем известного ChatGPT.
В этом режиме в модель прокидывается контекст (история предыдущих запросов). Поэтому работа в таком режиме больше похожа на диалог с ИИ, но не всегда подходит для прикладных бизнес задач.
- Второй режим - это YandexART. Генеративная модель для создания изображений из текстового описания.
По умолчанию нейросеть отдаёт изображение размером 1024x1024 пикселя. В формате JPEG.
- Ну и третий режим - это промт-режим. Он позволяет тонко настраивать поведение модели и по сути является песочницей, с помощью которой можно проверить интеграцию с API до того как выкатывать её в продакшен. Контекст не сохраняется автоматически, но вы можете прокидывать его в запросы.
В следующих статьях я подробнее рассмотрю промт-режим. Расскажу про текущие квоты и лимиты, стоимость, синхронный и асинхронный режимы, эмбеддинги, а также про различия в доступных моделях генерации.
Подписывайтесь на мой Youtube канал и на Telegram 🙂