Генерация текстов


Веб-сервис для генерации текстов


Обычно мало натренировать нейросеть – для бизнеса неплохо бы получить что-то вроде конечного результата. Например, сайт, на котором менеджер/клиент может сгенерировать SEO-текст, или веб-интерфейс, который можно подключить к другой системе.

Я готов адаптировать уже существующие варианты такого сайта под ваш запрос.

Существует несколько вариантов развертывания:
  • REST/JSON-интерфейс – по запросу на сайт генерируется JSON-ответ, читаемый другой системой. Полезно, если вы хотите связать генерацию с вашими внутренними системами. Варианты: REST-сервис на PHP, REST-сервис на Python (FastAPI)
  • Веб-интерфейс пользователя – пользователь пишет начало, задает параметры, система генерирует ответ. Просто и понятно.
  • Celery-worker. Позволяет выполнять задачи в рамках фреймворка Celery (Python). Celery предлагает исполнять задачи через очередь RabbitMQ/Redis. Идеальный вариант, если вы работает в облаке/распределенной системе. Протестирован при работе в AWS.

У меня уже есть многопользовательская веб-система (т.е. возможность ставить задачи в очередь, выполнять их на другой машине, предоставлять доступ по спецссылке / правам доступа и пр.), которую я могу вам поставить.

Пример работы с веб-интерфейсом (видео)




Интерфейс и параметры генерации настраиваются.
При желании вы можете мне написать на janvarev@gmail.com, я вам предоставлю временный доступ для самостоятельного тестирования.

В моем варианте системы поддерживается масштабируемость – есть центральный управляющий сервер, и ряд серверов, занимающихся генерацией текстов. Это крайне важно, если вы собираетесь использовать сервис для массового обслуживания клиентов, т.к. один сервер позволяет решать по одной задаче генерации текста раз в 5–10 секунд.
 
Поддерживается горизонтальный облачный подход – при увеличении числа клиентов достаточно запустить несколько дополнительных серверов для обработки их запросов.

Порядок цен:
  • веб-сервис REST в дефолтной конфигурации (без доработок) с возможностью масштабирования – 120 000 р.
  • веб-сервис с клиентским интерфейсом в дефолтной конфигурации (без доработок) – 120 000 р.
  • Сelery-worker сервис – 120 000 р.
  • доработка по запросу – 3150 р/час, обычно от 12 часов.
(технические подробности – JSON-сервис будет на стеке LAMP – PHP+MySQL, или же на Python (FastAPI))

Также надо понять, что это веб-интерфейс, а для непосредственно для нейросети, генерирующей тексты, потребуется отдельная машина (сервер) с CPU (медленнее) или с GPU (быстрее, но дороже). Вы можете настроить её самостоятельно, либо её настроить и за ней смотреть под ключ могу я.

Время генерация текста на rugpt3-large (большая русская нейросеть)
  • CPU – 60–90 секунд
  • GPU – 3–9 секунд

Стоимость аренды и администрирования веб-машины, осуществляющей генерацию (моя работа под ключ):
  • Сервер с CPU – 12 000 р/месяц
  • Сервер с GPU – 35 000 р/месяц

Если непонятно, пишите, обсудим детали при контакте