Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

S3
На сайте с 29.03.2012
Offline
394
#2341
наконец дошли руки пощупать хваленый qwen3-8 локально. Прошка вполне позволяет запускать докально квантованную модель на 8/16 Гиг. Решил  ударить сразу с двух стволов - через ollama для подключения в VSCode через Continue  и собственно чат через LMStudio. выкачал модель настроил - работает без тормозов. Метал отдает 25-30 токенов в секунду, с тестовыми задачами справился норм. думаю вполне можно попробовать его как альтернативу для разработки. 
Про LMStudio напишу как потестирую
A
На сайте с 27.08.2017
Offline
68
#2342
Друзья, а возможно ли  проксировать запросы к Openai из РФ через cloudflare API gateway без раскрытия происхождения сервера? Я сделал тестовый запрос - Openai видит РФ и запрещает доступ...  запрос идет к https://gateway.ai.cloudflare.com/

здесь только openrouter-ы всякие помогут?
Vladimir
На сайте с 07.06.2004
Offline
644
#2343
Assad #:
Друзья, а возможно ли  проксировать запросы к Openai из РФ через cloudflare API gateway без раскрытия происхождения сервера?
Изучи вариант  WARP+ Dedicated Egress IP+ Egress Policy
Задача: на входящий и исходящий траф сервера,  отдавать IP cloud'а нужной страны

К примеру IP моего сервера 
104.28.215.136 located in United States
Название провайдера:Cloudflare, Inc.
 
Аэройога ( https://vk.com/aeroyogadom ) Йога в гамаках ( https://vk.com/aero_yoga ) Аэройога обучение ( https://aeroyoga.ru ) и просто фото ( https://weandworld.com )
master32
На сайте с 09.02.2022
Offline
138
#2344
Vladimir #:
Изучи вариант  WARP+ Dedicated Egress IP+ Egress Policy
Задача: на входящий и исходящий траф сервера,  отдавать IP cloud'а нужной страны

К примеру IP моего сервера 
104.28.215.136 located in United States
Название провайдера: Cloudflare, Inc.
 
а что, на фри тарифе добавили такую возможность?
или это совет купить ентерпрайз против вдски за $3)
Vladimir
На сайте с 07.06.2004
Offline
644
#2345
master32 #:
а что, на фри тарифе добавили такую возможность?
или это совет купить ентерпрайз против вдски за $3)
Если использовать только Warp,   IP будет Cloudflare, но located скорее всего будет РФ ( но вначале можно и проверить). Это совет, что использовать для решения вопроса, а платить или нет, этого в теме нет

PS если у тебя нет маней на cloud, что ты вообще забыл на Openai ( риторический вопрос)
master32
На сайте с 09.02.2022
Offline
138
#2346
Vladimir #:
а платить или нет, этого в теме нет
считаю, что в отношении ентерпрайз тарифа на CF, это чистый троллинг, там такие цены, что не все такие суммы в год зарабатывают)
werut
На сайте с 20.08.2008
Offline
136
#2347
Таки всё зависит от задач и проектов. Кому то будет очень даже в тему.
Vladimir
На сайте с 07.06.2004
Offline
644
#2348
master32 #:
считаю, что в отношении ентерпрайз тарифа на CF, это чистый троллинг, там такие цены, что не все такие суммы в год зарабатывают)
Естественно для чайников это троллинг, особенно если учесть, что WARP блокируется
И перестал работать в этом году🤷 Т.е ты прав и дорого,  и не работает🤔

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий