Search

Лимиты стали лучше в пару раз чем было на той неделе
[photo]
Система кодит НОНСТОП с момента обновления лимитов 23го в 20:15 и сожрала только 38%
x1 скорость, модель 5.4 xhigh, 600k context 475 compact

Лимиты стали лучше в пару раз чем было на той неделе
Система кодит НОНСТОП с момента обновления лимитов 23го в 20:15 и сожрала только 38%
x1 скорость, модель 5.4 xhigh, 600k context 475 compact

Тэкс ребяты а есть новая накопленная инфа у кого-то насколько ускоренный инференс в Codex который х2 токенов стоит факапит процесс?

Помнится в первые пару дней когда всё это появилось в чатике обсуждалось что по ощущениям оно не только стоит в 2 раза дороже, но и кодит в несколько раз хуже, когда врубаешь ускорение. Тогда ускорение все поотключали, как и…

Но с тех пор уже утекло пару недель воды, быть может есть новые вводные? Портит х1.5 инференс реально кодинг или вообще не влияет?

Тэкс ребяты а есть новая накопленная инфа у кого-то насколько ускоренный инференс в Codex который х2 токенов стоит факапит процесс?

Помнится в первые пару дней когда всё это появилось в чатике обсуждалось что по ощущениям оно не только стоит в 2 раза дороже, но и кодит в несколько раз хуже, когда врубаешь ускорение. Тогда ускорение все поотключали, как и…

Но с тех пор уже утекло пару недель воды, быть может есть новые вводные? Портит х1.5 инференс реально кодинг или вообще не влияет?
[poll]

Спасибо всем за советы кстати по распределению тела господнего моего Хэцнер сервачка. В сумме мне дали примерно на 360 градусов советов. Никакая точка зрения ни на грамм не перевешивает.

Облако советов такое:

Хэцнер охуенный просто в докер компоуз проекты складываешь и оркестрацию между ними LLMка чудесно настроить

Хэцнер охуенный с докер компоуз хоть на 100 проектов, но LLMка факапит оркестрацию нагрузки, придется идти на курсы девопса

Хэцнер охуенный, но докер полная хуйня, нужен специальный софт за бабло, которы все делает классно

Хэцнер полная хуйня, надо оставаться на Railway

Хэцнер клауд полная хуйня как и Railway, надо AWS/DO/Cloudflare/Baremetal

Во всех случаях абсолютно все мне сказали что владеть своим серваком это гарантированный взлом через 15 минут, избежать этого невозможно

Пиздец Интернет конечно местечко, абсолютно безопасное)))

Рекомендую детям

Решил пока поднимать по отдельному серваку на задачу, и секьюритизацию настроить таким образом чтобы по мнению LLM ничего тупо в теории не могло произойти. Даже интересно будет посмотреть ломанут или нет) Ну хотя бы телетон сессию я теперь никуда вообще не складываю, если что хотя бы с телегой останусь:D

да прям?
В Ультиме нет ни питона ни ноды, а она даже без юзеров схавала 5 баксов уже)
Один оркестрируемый ящик для рассылки жрет тупо если вообще ничего окромя не брать в расчет около 12-15мб оперативки
итд
Docusign какой-нибудь конечно даже на питоне больше полутора баксов не схавает)
Но сервисы таки разные пилим...
У меня бот пэйвольный кстати…

Интересно как теперь сладенький транслирует миссию компании через название =)

Вообще злорадствовать не будем - это один из самых крупных проебов в истории современного Интернета, думаю многим людям которых мы не знаем и некоторым которых мы знаем от этого нелегко.

Но наверн когда ты делаешь миллиардные ставки лучше сначала убедиться что хоть куда-нибудь полетит, а потом уже переименовывать всю блядскую компанию в которой сто тыщ человек работает =)

Там кстати снова лэйоффы, в мете много корешей трудятся, сказали что ~каждого пятого сотрудника компании уволят на днях.

Вообще повсюду опять лэйоффы какие-то дичайшие. Человек 10 могу сходу из головы перечислить кого сократили за последние пару месяцев из гигантов.

Блин, мне кажется они кстати улучшили токен спенд
У меня тоже таинственным образом хватило токенов на ОДНОМ аккаунте на всю неделю
Но так боязно врубать fast.....
Но так напряжно сука оставаться на Standard. Стандартный инференс мне кажется стал медленнее чем был
Умозрительно конечно, но я это прям ощущаю
Еще какие-то паузы появились
Частенько вижу как модель будто замирает на…

да прям?
В Ультиме нет ни питона ни ноды, а она даже без юзеров схавала 5 баксов уже)
Один оркестрируемый ящик для рассылки жрет тупо если вообще ничего окромя не брать в расчет около 12-15мб оперативки
итд
Docusign какой-нибудь конечно даже на питоне больше полутора баксов не схавает)
Но сервисы таки разные пилим...
У меня бот пэйвольный кстати…

Ну что милые вайбдрочеры, поздравьте меня штоле, впервые в жизни я прикупил себе настоящую VPSку у Hetzner, куда и буду переползать с Railway, который я окончательно прошёл:)

Кодекс настраивает это всё теперь промптом размером с Юпитер под авторством мсье GPT PRO:)

зато будет учет и уважение традиционных российских духовно-нравственных ценностей - обеспечение разработки, внедрения и применения технологий искусственного интеллекта на основе таких ценностей как  жизнь, достоинство, права и свободы человека, патриотизм, гражданственность, служение Отечеству и ответственность за его судьбу, высокие нравственные идеалы, крепкая семья, созидательный труд, приоритет духовного над материальным, гуманизм, милосердие, справедливость, коллективизм, взаимопомощь и взаимоуважение, историческая память и преемственность…

Вообще если удается нормальный луп запустить со всеми реальными тулзами которые модель реально может юзать, то мне кажется любая в итоге справится)
Просто у какой-то будет одна проходка, а у какой-то 30
Печаль приходит когда у модели нет тулзов или ее очень скупо попросили их юзать
Я заметил ща довольно много людей бегает пропагандирует по ютубу что мол…