alexbez

Рейтинг
157
Регистрация
03.02.2007
chaturanga #:

Ну для желающих запускать на мобильниках.

Ryzen7 5700G со встроенной графикой
Модель deepseek-r1:70b
запрос

размышления опустил, там несколько страниц.

Заняло 58 минут

Утилизация проца 72%

Памяти как обещано ~40GB

Наблюдал за размышлениями, верное решение нашла где-то за 15 минут, потом формулировала объяснение, почему других решений нет.
В целом, для 70B, результат достойный, но на телефонах пока запускать рановато.

А вы не пробовали модели поменьше? Интересно, на сколько изменяется время.

Модель deepseek-r1:14b Такой же запрос на 4070 super занял несколько секунд.

Сергей про е-ком #:
Может локальная версия к Oai коннектится через основной сервак?

Локальная она на то и локальная, что работает и на машине без интернета

Delysid #:

А может просто похоже, что их пробуют ломать и ддосят? 

И как ддос может сказаться на вариантах ответа, которые даёт дипсик запущенный локально?

Delysid #:

А, это ВМС США запретили служащим использовать ИИ -модель DeepSeek из-за «соображений безопасности и этики». 😀

Ну вот, а теперь также разберись что там с разницей между CPU и GPU.

не хаос #:
Поучаствовал бы в дискуссиях, но к стыду своему высшую математику учили год всего на первом курсе, программирование - один семестр на втором, поэтому смогу быть только сторонним наблюдателем в прениях сторон.

Да не стесняйтесь) Посмотрите на делюсида! Он в качестве доказательства, что видяхи не нужны приводит скрин, где черным по белому написано, что для дипсинка использовалось 2000 gpu nvidia 😀 И его ничего не смущает)

alek2009ershv82 #:

🤣 вам самим не смешно. Раньше было релевантно, а теперь нет

Даже лучше - 2 недели релевантно, а потом 2 недели - нет.

Да похоже на дефолтную ситуацию с клаудфлером и tls 1.3+ech
Dmitriy_2014 #:
Ну тут как повезет, вот например сайтик на WordPress кстати, - https://lumpics.ru/ около 80К трафика в сутки, классический веб-1.0, статейник, почти как из 90-х, ну с нюансами на современность, больше этому человеку никогда в жизни не нужно искать работу, работать на работе, такой вот никому не нужный статейник на WordPress.

Вы так пишите, что можно подумать у этого сайта 80к трафа в сутки появилось сразу и только из-за того, что был выбран wp. А сайту почти 10 лет и там регулярно выходят новые материалы. Или это по вашему не работа?

А ваш ИИ может вам подсказать, что на форуме можно создать отдельную тему про ИИ? Или даже использовать уже имеющуюся и там все это обсуждать?
Евгений #:

Почему в глазах гугл мой сайт не стал хуже и цены в 4 раза выше?))

Я понял. Йода пытается донести до нас простую вещь - как только на сайте появляется код рекламы рся, то качество такого сайта резко падает и он превращается в гс.
Всего: 216