Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

MP
На сайте с 05.05.2025
Offline
22
#2211
Sly32 #:
Не устраивай срач, демонстрируя свое непонимание. Прокси сервер расположен в локации, которая не запрещена антропиком и все запросу с него - легальны. И никто не может запретить заходить на этот прокси клиентам со всего мира. Странно что приходится обьяснять базу
Хоть читай и понимай текст. ПРАВИЛА АНТРОПИКОВ в части использования ИИ. ЗАПРЕЩЕНО ВЗЛОМ И ПРОЧЕЕ. Так тебе понятней? Если я буду писать прямые запросы через опен роутер - как взломать пентагон или напиши рецепт яда, хочу отравить кого-то, то бан неминуем. Прокси возможно фильтруют такие запросы, что бы даже не передавать их на сервера антропиков. Смысл уловил? Опять таки, прочти мой коммент, я  НЕ УТВЕРЖДАЛ, а ПРЕДПОЛАГАЛ почему ответ json-чик иной через сервис у Александр Воробьев
Sly32 #:
и опять какие то досужие выводы. Нам работодатель дает лимиты на изучение и свои проектыи отдельно есть проектный доступ. Опять ты сел в лужу со своим желанеи прицепится

Т.е. ты Сергей про е-ком говоришь, покажи пруфы по проекту (где он доход скринит), но нам тебе поверить на слово, что работодатель твой сказал: Чуваки, вот вам АПИ платный (да, ты неоднократно упоминал ОПУС дорогой). Мы за всё платим. Делайте свои пет проекты для СЕО и обучения. нам не жалко. Тратьте корпоративное бало на свои хотелки, мы заплатим. Так?) или снова начнешь вилять?

S3
На сайте с 29.03.2012
Offline
390
#2212
MrPi #:
Хоть читай и понимай текст. ПРАВИЛА АНТРОПИКОВ в части использования ИИ. ЗАПРЕЩЕНО ВЗЛОМ И ПРОЧЕЕ. Так тебе понятней? Если я буду писать прямые запросы через опен роутер - как взломать пентагон или напиши рецепт яда, хочу отравить кого-то, то бан неминуем. Прокси возможно фильтруют такие запросы, что бы даже не передавать их на сервера антропиков. Смысл уловил? Опять таки, прочти мой коммент, я  НЕ УТВЕРЖДАЛ, а ПРЕДПОЛАГАЛ почему ответ json-чик иной через сервис у Александр Воробьев

Т.е. ты Сергей про е-ком говоришь, покажи пруфы по проекту (где он доход скринит), но нам тебе поверить на слово, что работодатель твой сказал: Чуваки, вот вам АПИ платный (да, ты неоднократно упоминал ОПУС дорогой). Мы за всё платим. Делайте свои пет проекты для СЕО и обучения. нам не жалко. Тратьте корпоративное бало на свои хотелки, мы заплатим. Так?) или снова начнешь вилять?

При чем тут правила Антропиков вообще? Они без всяких прокси блокируют такие запросы! Ты вообще хоть читал о чем дискуссия? Ну так для начала попробуй!

И когда мы вдруг перешли на обсуждение того, на что я трачу токены? Зависть? 

MP
На сайте с 05.05.2025
Offline
22
#2213
Sly32 #:
Они без всяких прокси блокируют такие запросы!

КТО?????? 

Sly32 #:
это не настоящий ответ
а попробуй так:

ТЫ ЗА КОНТЕКСТОМ БЕСЕДЫ СЛЕДИШЬ ВООБЩЕ??? Честно, я насторлько тугих людей редко встречаю, а общаюсь еще реже. 

Александр Воробьев написал, что юзает доступ к клоду через сторонний сервис. ты ему пишешь, что поддельный ответ. я тебе ответил, что там вероятно прокси, как и у опен роутер вероятно, что бы избежать блокировок и прочего. они запрос через свой сервер обрабатывают и запрещают писать такое. ЭТО ПРЕДПОЛОЖЕНИЕ, А НЕ УТВЕРЖДЕНИЕ. ПРОЧТИ!. Всё. Дальше ты стал опять негативить и додумывать. 

Ну а по подписке пруф будет, который ты хотел от Сергей про е-ком видеть по его проектам?)) распоряжение руководителя, или письменное согласие. Устно такое в компаниях мало кто регламентирует

Sly32 #:
И когда мы вдруг перешли на обсуждение того, на что я трачу токены? Зависть? 
Ты учишь человека не использовать обходы, типа топишь за честность. Ну а сам юзаешь чужой кошелек. Не двойные стандарты? Я тебе лишь на это указал. Обычно люди у кого рыльце в пушку не учат других как этот пушок не взрастить у себя. 
S3
На сайте с 29.03.2012
Offline
390
#2214

😂😂😂 Отставить истерики! Ни одна компания от моих действий не пострадала. Могу даже справку представить официальную 😎
Теперь последний пост на тему  сеанс черной магии и ее разоблачение. Основываясь только на полученных от участника дискусии данных, без искажений и передергиваний - все можете проверить сами. Повторятся на счет уже изученного не буду. 

Обратите внимание: на сайте указаны модели:

При этом запрос к моделям возвращает ответ:

Александр Воробьев #:
{"siteUserId":........,"aiProxyApiKeyId":...........,"data":[{"type":"model","id":"claude-opus-4-6","display_name":"Claude Opus 4.6","created_at":"2026-05-20T15:35:06.938Z"},{"type":"model","id":"claude-opus-4-7","display_name":"Claude Opus 4.7","created_at":"2026-05-20T15:35:06.938Z"},{"type":"model","id":"claude-sonnet-4-6","display_name":"Claude Sonnet 4.6","created_at":"2026-05-20T15:35:06.938Z"}],"has_more":false,"first_id":"claude-opus-4-6","last_id":"claude-sonnet-4-6"}

Может я старый и слепой  и не вижу чего-то? Давайте развернем в читаемый вид:

{
    "siteUserId":........,
    "aiProxyApiKeyId":...........,
    "data": [
        {
            "type": "model",
            "id": "claude-opus-4-6",
            "display_name": "Claude Opus 4.6",
            "created_at": "2026-05-20T15:35:06.938Z"
        },
        {
            "type": "model",
            "id": "claude-opus-4-7",
            "display_name": "Claude Opus 4.7",
            "created_at": "2026-05-20T15:35:06.938Z"
        },
        {
            "type": "model",
            "id": "claude-sonnet-4-6",
            "display_name": "Claude Sonnet 4.6",
            "created_at": "2026-05-20T15:35:06.938Z"
        }
    ],
    "has_more": false,
    "first_id": "claude-opus-4-6",
    "last_id": "claude-sonnet-4-6"
}

Кстати, обратил внимание, что даты не совпадают с оригинальным ответом:

            "type": "model",
            "id": "claude-opus-4-6",
            "display_name": "Claude Opus 4.6",
            "created_at": "2026-02-04T00:00:00Z",
Вообще непонятно зачем это было менять.

Ну и последнее - на прямой вопрос ответ:

Александр Воробьев #:
 Какую модель ты сейчас используешь для ответа                                                                                                                         

 Я использую Claude Haiku 4.5 (модель ID: claude-haiku-4-5-20251001).
  
 Это быстрая и компактная модель Claude, оптимизированная для скорости при сохранении хорошего качества ответов. Если нужна большая мощность для сложных задач, можно
 переключиться на более мощные модели (Opus 4.8, Sonnet 5) командой /model.

Кто нибудь видит в изначальном списке Хокку? Я - нет.
Еще раз - я не говорю что они жулики и шарлатаны. Но лично меня такое несоответствие смущает. На этом все. Разоблачение закончено.

А вот интересную тему насчет опенРоутер/litellm  предлагаю продолжить - это может быть интересно в техническом плане. Может кто захочет замутить свой прокси сервер. Помогу 😀

Сергей про е-ком
На сайте с 11.05.2008
Offline
382
#2215
Sly32 #:
Может кто захочет замутить свой прокси сервер. Помогу 

Для того, чтобы замутить свой прокси сервер, надо покупать токены тысяч на 10-20 баксов минимум. Нормальные цены начинаются от полтинника. Ну или самому заниматься абузом. Если ты думаешь, что кто-то просто так этим захочет заняться, без задачи заработать - ты просто программист, оторванный от практического применения.

Если ты думаешь, что это может быть надо "для себя", то тут второй облом. Через зарубежные серверы это легко и быстро делает любая нормальная llm, но и в этом нет смысла, т.к. ты просто покупаешь токены у той же Пурпл (но их цены, конечно, вне рынка). Канал наприямую к производителю ставят для запасных целей на больших сервисах, и то в 3-4-5 очередь. 

Sly32 #:
Обратите внимание: на сайте указаны модели:

Если ты в теме, то очевидно знаешь про подбор модели в зависимости от задачи для оптимизации расходов токенов. 500р там определённо указано за Хокку. 

---

Продолжаю не понимать, зачем тебе зафлуживать очередную тему. Написал бы, что Фэббл до 12 числа продлили по подписке, сделал бы пользу. ) Кстати, мой провайдер не блочит ответ модели (ну или может не всех). 

Крутейшая тема и конструктор на WP - https://shop.greenshiftwp.com/?from=3338
S3
На сайте с 29.03.2012
Offline
390
#2216

Итак практический опыт, кому интерсно, развертывания liteLLM.

В чем разница с OpenRouter? 

ХарактеристикаOpenRouterLiteLLM
ТипУправляемый облачный сервис (SaaS)Open-source библиотека + self-hosted прокси
Основная идея«Netflix для моделей» — один API + удобный маркетплейс«Унифицированный адаптер» для всех провайдеров
Количество моделей400+ (очень широкий выбор)100+ провайдеров (можно подключать почти всё)
РазвёртываниеНе нужно ничего подниматьНужно запускать самому (Python/Docker/K8s)
Контроль и приватностьДанные уходят через их сервераПолный контроль (можно держать внутри своей сети)
Комиссия~5% сверху цены провайдераБесплатно (только стоимость моделей)
УдобствоОчень высокое (готовое решение)Выше для разработчиков, но требует настройки
Дополнительные фичиХороший UI, сравнение моделей, rankingsЛогирование, бюджеты, rate limits, guardrails, кастомный routing
LatencyОбычно ниже (оптимизированная инфраструктура)Зависит от вашего хостинга + небольшой overhead

То есть по факту парой команд  поднимается готовый прокси сервер с веб интерфейсом, управлением клюячами, моделями, билингом, командами, агентами... во все я даже не успел посмотреть.
Готовый докер-контейнер, правда довольно требовательный к ресурсам. Хотя  в рабочем состоянии занимает примерно 600Мб, для того чтобы поднять нужно полтора Гига памяти. Минимальный контейнер у меня смог стартовать с 1.1Гб, для тестов пойдет но для реального использования думаю нужно от 2Гб ориентироваться.
настройка - элементарная. Сделал конфиг с моделями, прописал в энв файле ключи, сбилдил и поднял! Требует еще Постгрес в качестве БД, но нагрузка там небольшая, я использовал уже готовый свой образ с БД для работы приложения с постгрес, просто добавил туда еще одну базу. Она автоматически создатся, когда запускаешь приложение. Нет вру - написал еще один контейнер с  одной командой, чтобы руками не лазить каждый раз. При каждом рестарте системы провеяет наличие и если надо создает, нет - тушит себя.

главная красота - один интерфейс под всех! не нужно думать - а как там у антропиков или дипсиков. Просто указываешь ключ, который выдается litellm, название модели из конфига - можно вообще написать удобные алиасы.  и отправляешь запрос. Внутри саммой llm - есть учет токенов и она автоматически подтягивает стоимость моделей. Я добавил свежачок от опенАИ и система сразу правильно прописала стоимость для 

gpt-5.6-sol(кстати кто-нибудь уже поюзал?) Для токенов можно поставить лимиты, как я понял и если баланс нулевой - токен прекращает работать.

Пока прям класс - очень удобная система.

Это к слову тем критиканам, что я пишу в этой теме  про всякие теоретические новости - ну вот вам практический кейс. 
Я прямо сейчас могу поднять  инстанс на своем гугловском или амазоновском облаке, прописать апишные ключи к провайдерам и преспокойно перепродавать доступ. Сделать небольшую наценку на токены и все. 

Пользуйтесь)

Сергей про е-ком
На сайте с 11.05.2008
Offline
382
#2217
Sly32 #:
Это к слову тем критиканам, что я пишу в этой теме  про всякие теоретические новости - ну вот вам практический кейс. 
Я прямо сейчас могу поднять  инстанс на своем гугловском или амазоновском облаке, прописать апишные ключи к провайдерам и преспокойно перепродавать доступ. Сделать небольшую наценку на токены и все. 

Это классная штука. Но практика такая - ты покупаешь всё тоже самое, но по цене ниже (а иногда и значительно ниже) официальной. Это интересная история только для запасной площадки, когда провайдеры отваливаются по какой-то причине (сбой на сервере, отсутствие лимитов). Т.е. если не получил ответ от стороннего провайдера - делаешь запрос к самостоятельно оплаченному лимиту. Но ты с рекламой этой штуки опоздал на года полтора, если не больше. Хотя пользы от неё высокая. 

Чтобы в этом была большая ценность - логично сделать несколько вещей:

1. Подписки интегрировать. Условно Антигравити не даёт токен, а Минимакс даёт отдельный токен на подписку и оплаченные креды.

2. Уже в гите есть, но всё же: подбор оптимальной для задачи модели, где заплатишь меньше, но не получишь ухудшение результата. Например, сбор базы знаний через Перплексити, создание документации проекта Опусом, архитектуры Фэбблом, а кодинг Соннетом\джипити 5.6. Всё, разумеется, просто как пример.

В простом хабе ИИ нет никакой ценности по факту, кроме вышеуказанной. Запасная площадка, если возникают проблемы с ответами.

S3
На сайте с 29.03.2012
Offline
390
#2218

Что еще классно - автоматически подтягивается стоимость токенов и моно контролировать правильно ли ты прописал модели.

Скоро проверю вообще возможности биллинга и тогда подробнее опишу возможности.

Сергей про е-ком
На сайте с 11.05.2008
Offline
382
#2219

Для настоящих вайбкодеров, кто не хочет в ВКС читать даже md файлы, флоу, пайплайны и планы. 


Смысл в том, что все задачи разбиваются на блоки. С примерами, блэк джеком и так далее. Замечания пишешь. В итоге формирует md файл и отсылку на него в промпте. Потом ещё ui систему на него накинул. В Гите нет, в интернете о таком подходе не слышал. Пользуйтесь, если надо. )

HM
На сайте с 14.01.2012
Offline
258
#2220
Сергей про е-ком #:
Если ты не в курсе, абузом и взломами занимаются не в России и не для России. Это тема США и Китая. И они уже по всему миру раскидывают. Пожалуйста, изучи мат. часть
Мимо проходил, а откуда инфа и где можно почитать?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий