Генерация текстов
Веб-сервис для генерации текстов
Обычно мало натренировать нейросеть – для бизнеса неплохо бы получить что-то вроде конечного результата. Например, сайт, на котором менеджер/клиент может сгенерировать SEO-текст, или веб-интерфейс, который можно подключить к другой системе.
Я готов адаптировать уже существующие варианты такого сайта под ваш запрос.
Существует несколько вариантов развертывания:
- REST/JSON-интерфейс – по запросу на сайт генерируется JSON-ответ, читаемый другой системой. Полезно, если вы хотите связать генерацию с вашими внутренними системами. Варианты: REST-сервис на PHP, REST-сервис на Python (FastAPI)
- Веб-интерфейс пользователя – пользователь пишет начало, задает параметры, система генерирует ответ. Просто и понятно.
- Celery-worker. Позволяет выполнять задачи в рамках фреймворка
Celery (Python). Celery предлагает исполнять задачи через очередь RabbitMQ/Redis. Идеальный вариант, если вы работает в облаке/распределенной системе. Протестирован при работе в AWS.
У меня уже есть многопользовательская веб-система (т.е. возможность ставить задачи в очередь, выполнять их на другой машине, предоставлять доступ по спецссылке / правам доступа и пр.), которую я могу вам поставить.
Пример работы с веб-интерфейсом (видео)
Интерфейс и параметры генерации настраиваются.
При желании вы можете мне написать на janvarev@gmail.com, я вам предоставлю временный доступ для самостоятельного тестирования.
При желании вы можете мне написать на janvarev@gmail.com, я вам предоставлю временный доступ для самостоятельного тестирования.
В моем варианте системы поддерживается масштабируемость – есть центральный управляющий сервер, и ряд серверов, занимающихся генерацией текстов. Это крайне важно, если вы собираетесь использовать сервис для массового обслуживания клиентов, т.к. один сервер позволяет решать по одной задаче генерации текста раз в 5–10 секунд.
Поддерживается горизонтальный облачный подход – при увеличении числа клиентов достаточно запустить несколько дополнительных серверов для обработки их запросов.
Поддерживается горизонтальный облачный подход – при увеличении числа клиентов достаточно запустить несколько дополнительных серверов для обработки их запросов.
Порядок цен:
- веб-сервис REST в дефолтной конфигурации (без доработок) с возможностью масштабирования – 120 000 р.
- веб-сервис с клиентским интерфейсом в дефолтной конфигурации (без доработок) – 120 000 р.
- Сelery-worker сервис – 120 000 р.
- доработка по запросу – 3000 р/час, обычно от 12 часов.
Также надо понять, что это веб-интерфейс, а для непосредственно для нейросети, генерирующей тексты, потребуется отдельная машина (сервер) с CPU (медленнее) или с GPU (быстрее, но дороже). Вы можете настроить её самостоятельно, либо её настроить и за ней смотреть под ключ могу я.
Время генерация текста на rugpt3-large (большая русская нейросеть)
- CPU – 60–90 секунд
- GPU – 3–9 секунд
Стоимость аренды и администрирования веб-машины, осуществляющей генерацию (моя работа под ключ):
- Сервер с CPU – 12 000 р/месяц
- Сервер с GPU – 35 000 р/месяц
Если непонятно, пишите, обсудим детали при контакте