Пост #371

Забавный сдвиг: AI вроде умнеет и ускоряется, а бизнес спотыкается о куда более скучную вещь. О вычисления. В [AI Инструменты](https://t.me/ML_Models_Hub/433) разбирали, как ускоряют Gemma 4 через multi-token prediction: модель пытается выдавать несколько токенов за шаг, чтобы резать задержку на инференсе. Технически красиво. На демке вообще приятно. Но у бизнеса факап обычно не в том, что ответ пришел на 0,7 секунды позже. Факап в другом: ты платишь за доступ, а упираешься в лимит раньше, чем успеваешь доделать работу. В [datapine](https://t.me/datapine/1602) человек пишет, что у него Claude Max за $200 в месяц сгорал примерно за полтора дня. Дальше уже не "вау, какой AI", а старая добрая дисциплина дефицита: сиди и жди ресет, как будто у тебя не 2026-й, а минуты на телефоне закончились. И вот тут спор "какая модель лучше" звучит слегка декоративно. Если доступ к вычислению рвется на лимитах, то твоя проблема не в сравнении бенчмарков. Твоя проблема в том, что часть процессов просто встает. Или дорожает. Или начинает жить по расписанию мощности, а не по расписанию бизнеса. Очень современно, да. Параллельно едет еще одна вещь. Поиск расползается из строки в ответы ассистентов. [Habr](https://habr.com/ru/articles/1033036/?utm_campaign=1033036&utm_source=habrahabr&utm_medium=rss) нормально описывает картину: человек спрашивает не только Google или Яндекс, а еще ChatGPT, Алису, Perplexity, смотрит карты, YouTube, соцсети. То есть невидимость теперь случается не в одном канале, а сразу в нескольких. И деньги текут тоже в нескольких местах сразу: в лимиты в инфраструктуру в отсутствие в новых точках ответа Вот это и надо считать. Не "какой AI самый сильный", а где именно у вас утекают деньги: на токенах, на ожидании, на железе или на том, что вас просто нет в ответе, который клиент уже получил без захода на сайт. Потому что рынок AI сейчас все меньше похож на конкурс умных моделей и все больше на рынок доступа. К мощности. К дистрибуции. К месту, где вообще происходит ответ. Остальное, если честно, уже немного реклама на фоне очереди к стойке выдачи.