Инструмент оценивает входящую информацию по тарифу десять центов за миллион токенов, а за исходящие ответы денег не берет вовсе. Разработчикам разрешили паковать до 400 вопросов в один запрос.
Обычные нейросети тратят секунды на связный текст и тормозят конвейер. Новый интерфейс создан под другую рутину: моментально фильтровать входящие потоки, проверять условия и возвращать сухие оценки.
Решения принимаются до десяти раз быстрее привычной модели GPT-6 Luna — за счет узкой специализации и отказа от длинных ответов.
Заодно снизили чек: кэшированные входящие данные оценили всего в один цент за миллион токенов, если контекст тянет хотя бы на 1024 токена.
На старте поддерживается только gpt-6-luna. В документации описали две базовые механики фильтрации:
- Оценка вероятности: тип predicate возвращает расчет шанса выполнения условия от нуля до единицы;
- Шкалирование: параметр score распределяет входящий запрос по шкале от 2 до 10 заданных уровней.
Интерфейс получил прямую интеграцию с голосовым движком GPT-Live для ассистентов реального времени. Обработку данных разрешили закрепить строго в периметре серверов США или Евросоюза.
Для бизнеса это шанс срезать расходы на рутинную модерацию, техподдержку и скоринг почти до нуля.
Что это значит
Автоматические звонки и боты поддержки станут быстрее: им больше не нужна пауза в пару секунд, чтобы разобрать запрос клиента.
