Post
This post by its id.
https://api.web3aggregator.io/api/v1/posts/19608 curl -H "Authorization: Bearer $W3A_API_KEY" 'https://api.web3aggregator.io/api/v1/posts/19608'Needs a key: W3A_API_KEY in your environment.
The API gives this message alone: an album's other parts are posts of their own there, linked by album.
API docs🧐 Почему в крипте инференс дешевле
Каждый раз, когда приложение или ИИ-агент обращается к модели, кто-то платит за инференс, то есть за работу модели над запросом. Постепенно инференс превращается в обычный товар: одну и ту же модель продают разные провайдеры, и покупателю прежде всего важна цена. В статье CLR доказывает, что лучшую цену могут дать лишь децентрализованные сети, и разбирает два проекта, Surplus и Engy.
Инференс продают двумя способами, и каждый из них дороже, чем мог бы быть. Первый способ это посредничество. Сервисы вроде OpenRouter подбирают покупателю самого дешевого или быстрого продавца, не запуская модели самостоятельно. Проблема в том, что продавцов OpenRouter одобряет вручную. Из-за этого покупатель видит лучшую цену только среди одобренных поставщиков, а не по всему рынку.
🧐 Surplus работает похожим образом, но без ручного отбора. Многие компании и разработчики заранее покупают кредиты у OpenAI, Anthropic или DeepSeek и не успевают их потратить. На Surplus владелец выставляет остаток на продажу дешевле официальной цены и получает оплату в USDC на Base.
Поскольку расчеты идут ончейн, площадке не нужно проверять каждого продавца через KYC, так что продать кредиты может любой, кто готов дать скидку.
Второй способ это собственные мощности. Компании вроде CoreWeave покупают видеокарты, запускают на них открытые модели и продают доступ с наценкой.
Снизить цену им мешают три вещи:
🔘Настройка: на одинаковых видеокартах с одной и той же моделью хорошо настроенный сервер обрабатывает в пять с лишним раз больше запросов, чем плохо настроенный, а CoreWeave зависит только от своих инженеров
🔘Электричество: дата-центры компании расположены от Техаса до Швеции, и при прочих равных ее обгонит тот, у кого энергия дешевле, например в Парагвае или Казахстане
🔘Деньги: CoreWeave привлекает средства через акции и долг, поэтому должна показывать инвесторам высокую маржу
Engy снимает все три ограничения, потому что вместо одной компании работает сеть независимых майнеров. Проект устроен как сабнет в Bittensor: майнеры обслуживают запросы на своем железе и получают за это токены сабнета.
Они соревнуются между собой, и со временем остаются те, кто лучше настроил сервер, платит меньше за электричество и готов дольше отбивать вложения, ведь отчитываться перед акционерами им не нужно. Спрос на дешевый инференс оказался таким, что Engy даже пришлось поднять цены.
📈 Теорию подтверждает и рост за последние три месяца. Surplus обрабатывает уже больше 570 млрд токенов в день, в 50 с лишним раз больше, чем в начале периода, а число запросов выросло почти в 80 раз. У Engy объем на пике увеличился примерно в 55 раз, до 153 млрд токенов в день, а байбеки, на которые уходит вся выручка, выросли в 20 с лишним раз и превысили $8000 в день.
Автор делает ставку на рост рынка. По оценкам, которые он приводит, инференс сейчас стоит около $160 млрд в год, а в следующем году вырастет до $350 млрд. По данным a16z, большинство пользователей ИИ уже составляют агенты, и они сжигают токенов в 5 раз больше, чем люди. Агенты будут искать самый дешевый инференс, а значит, придут к тем, кто продает дешевле всех.
😫 Стоит учитывать, что перепродажа API-доступа, скорее всего, нарушает правила OpenAI и Anthropic, так что Surplus может работать, пока провайдеры это терпят. Рост идет с низкой базы: даже $8000 байбеков в день дают меньше $3 млн выручки в год на рынке размером $160 млрд. Вдобавок большие объемы токенов могут объясняться дешевыми моделями.
Surplus и Engy уже продают инференс дешевле централизованных конкурентов, и спрос на него за три месяца вырос в десятки раз. Теперь посмотрим, удержат ли они цену, когда объемы продолжат расти.
Подписывайтесь на канал, ставьте лайк, заходите в чат👇
🧑🚀 Канал | Чат | Обменник
Каждый раз, когда приложение или ИИ-агент обращается к модели, кто-то платит за инференс, то есть за работу модели над запросом. Постепенно инференс превращается в обычный товар: одну и ту же модель продают разные провайдеры, и покупателю прежде всего важна цена. В статье CLR доказывает, что лучшую цену могут дать лишь децентрализованные сети, и разбирает два проекта, Surplus и Engy.
Инференс продают двумя способами, и каждый из них дороже, чем мог бы быть. Первый способ это посредничество. Сервисы вроде OpenRouter подбирают покупателю самого дешевого или быстрого продавца, не запуская модели самостоятельно. Проблема в том, что продавцов OpenRouter одобряет вручную. Из-за этого покупатель видит лучшую цену только среди одобренных поставщиков, а не по всему рынку.
🧐 Surplus работает похожим образом, но без ручного отбора. Многие компании и разработчики заранее покупают кредиты у OpenAI, Anthropic или DeepSeek и не успевают их потратить. На Surplus владелец выставляет остаток на продажу дешевле официальной цены и получает оплату в USDC на Base.
Поскольку расчеты идут ончейн, площадке не нужно проверять каждого продавца через KYC, так что продать кредиты может любой, кто готов дать скидку.
Второй способ это собственные мощности. Компании вроде CoreWeave покупают видеокарты, запускают на них открытые модели и продают доступ с наценкой.
Снизить цену им мешают три вещи:
🔘Настройка: на одинаковых видеокартах с одной и той же моделью хорошо настроенный сервер обрабатывает в пять с лишним раз больше запросов, чем плохо настроенный, а CoreWeave зависит только от своих инженеров
🔘Электричество: дата-центры компании расположены от Техаса до Швеции, и при прочих равных ее обгонит тот, у кого энергия дешевле, например в Парагвае или Казахстане
🔘Деньги: CoreWeave привлекает средства через акции и долг, поэтому должна показывать инвесторам высокую маржу
Engy снимает все три ограничения, потому что вместо одной компании работает сеть независимых майнеров. Проект устроен как сабнет в Bittensor: майнеры обслуживают запросы на своем железе и получают за это токены сабнета.
Они соревнуются между собой, и со временем остаются те, кто лучше настроил сервер, платит меньше за электричество и готов дольше отбивать вложения, ведь отчитываться перед акционерами им не нужно. Спрос на дешевый инференс оказался таким, что Engy даже пришлось поднять цены.
📈 Теорию подтверждает и рост за последние три месяца. Surplus обрабатывает уже больше 570 млрд токенов в день, в 50 с лишним раз больше, чем в начале периода, а число запросов выросло почти в 80 раз. У Engy объем на пике увеличился примерно в 55 раз, до 153 млрд токенов в день, а байбеки, на которые уходит вся выручка, выросли в 20 с лишним раз и превысили $8000 в день.
Автор делает ставку на рост рынка. По оценкам, которые он приводит, инференс сейчас стоит около $160 млрд в год, а в следующем году вырастет до $350 млрд. По данным a16z, большинство пользователей ИИ уже составляют агенты, и они сжигают токенов в 5 раз больше, чем люди. Агенты будут искать самый дешевый инференс, а значит, придут к тем, кто продает дешевле всех.
😫 Стоит учитывать, что перепродажа API-доступа, скорее всего, нарушает правила OpenAI и Anthropic, так что Surplus может работать, пока провайдеры это терпят. Рост идет с низкой базы: даже $8000 байбеков в день дают меньше $3 млн выручки в год на рынке размером $160 млрд. Вдобавок большие объемы токенов могут объясняться дешевыми моделями.
Surplus и Engy уже продают инференс дешевле централизованных конкурентов, и спрос на него за три месяца вырос в десятки раз. Теперь посмотрим, удержат ли они цену, когда объемы продолжат расти.
Подписывайтесь на канал, ставьте лайк, заходите в чат👇
🧑🚀 Канал | Чат | Обменник