Цена безупречности
После ElevenLabs Асиным мозгом стал OpenAI Realtime — и несколько недель нам казалось, что поиск окончен. Разговоры шли гладко, сценарии закрывались, придраться было почти не к чему. Придраться было к другому: к цифре в счёте. Это выпуск о том, как нас победила не техника, а арифметика.
Начнём с честного: OpenAI Realtime — сильный движок. На наших прогонах он закрывал сценарии стабильнее всех, с кем мы работали до и после. Промпт переехал из облачного дашборда в репозиторий, правки характера стали кодом с историей и откатом — ровно то, ради чего мы ушли с прошлого движка. Жить стало заметно быстрее.
Свои причуды, конечно, были. Дешёвая младшая модель упрямо сползала в украинский при русском разговоре — сколько правил ни пиши; надёжное двуязычие давала только старшая, вдвое дороже по токенам. Вот такая вилка: либо агент путает языки, либо платишь двойную цену за то, чтобы не путал.
Была история, которую мы до сих пор рассказываем как анекдот. В веб-виджете, где Ася отвечает прямо на сайте, первые полсекунды звука её собственного приветствия возвращались из динамиков в микрофон. Ася слышала саму себя, принимала себя за собеседника, вежливо замолкала, начинала заново — «Доброго дня!.. Доброго дня!.. Доброго дня!..» — и так по кругу, дуэт из одного человека. Вылечили паузой: первые секунды приветствия она теперь глуха к перебиваниям.
А один раз она просто выдумала тарифы. Вместо того чтобы спросить у своих, взяла и уверенно назвала человеку скорости и цены, которых у провайдера никогда не было. Инструмент лежал рядом, доступный — она им не воспользовалась. Мы тогда впервые всерьёз задумались, что «иногда не зовёт инструменты» — это не мелочь в списке багов, а отдельная ось качества, по которой движки надо мерить так же строго, как по звуку. Эта мысль ещё выстрелит в нашей истории — запомните её до выпуска про Grok.
Но всё это было решаемо или терпимо. Нерешаемой оказалась арифметика. Когда за месяц набралась статистика живых звонков, мы посчитали эффективную стоимость минуты разговора — со всеми кэшами, скидками и оптимизациями, которые смогли выжать. Вышло двадцать два и шесть десятых цента за минуту. Альтернативы, которые мы к тому моменту гоняли параллельно, давали сопоставимое качество за пять центов. В пять раз дешевле.
Пять центов против двадцати двух — это не «немного сэкономить». Это разница между «агент окупается» и «агент — дорогая игрушка». Для одного провайдера с его потоком звонков — ощутимо; для схемы, которую мы собираемся тиражировать на другие бизнесы, — приговор. Минута разговора — это себестоимость нашего продукта, и она обязана быть считаемой и низкой, иначе всё остальное не имеет значения.
Поэтому расстались мы и с этим движком — уважительно, без обид, и даже не до конца: он до сих пор дежурит на одной из линий, пока идёт финальный переезд, и остаётся у нас запасным вариантом на чёрный день. Качество никуда не делось. Просто качество — это половина уравнения.
А вот дальше в нашей истории начинается настоящий цирк. Следующий кандидат был от компании, у которой данных и мощностей больше, чем у всех остальных вместе взятых, — и чтобы просто удержать его в живых на линии, нам пришлось приставить к нему пять сторожей одновременно. Про Gemini — в следующем выпуске.