Модерация контента

Проверяйте пользовательский ввод и ответы моделей на небезопасный контент перед публикацией. Эндпоинт совместим с OpenAI Moderations — те же поля и формат ответа.

Эндпоинт	`POST https://megaapi.ru/v1/moderations`
Модели	`omni-moderation-latest`, `omni-moderation-2024-09-26`, `text-moderation-stable`
Вход	Текст или массив текст/изображений (для `omni-*`)
Цена (с наценкой)	≈ $0.30 / 1M токенов

Запрос

POST https://megaapi.ru/v1/moderations
Authorization: Bearer sk-nexus-...
Content-Type: application/json

{
    "model": "omni-moderation-latest",
    "input": "Текст, который нужно проверить"
}

Мультимодальный вход (текст + изображение)

{
    "model": "omni-moderation-latest",
    "input": [
        { "type": "text", "text": "..." },
        { "type": "image_url", "image_url": { "url": "https://..." } }
    ]
}

Ответ

{
    "id": "modr-...",
    "model": "omni-moderation-latest",
    "results": [{
        "flagged": true,
        "categories": { "violence": true, "hate": false, ... },
        "category_scores": { "violence": 0.91, "hate": 0.02, ... }
    }]
}

flagged — общий вердикт. categories — булевы флаги по категориям (насилие, ненависть, самоповреждение, сексуальный контент, харассмент и т.д.). category_scores — вероятности 0…1: используйте свой порог под задачу.

Как применять

Проверяйте ввод пользователя до отправки в дорогую модель — экономит токены.
Проверяйте ответ модели перед показом в публичном продукте.
Модерация дешёвая и быстрая — её можно вызывать на каждый запрос.

Chat Completions Все модели