Sly32

Рейтинг
391
Регистрация
29.03.2012
Должность
Software engineer
ArbNet #:
Во-вторых, обучение модели выполняется один раз, ну уменьшили они скорость и потребление ресурсов, в итоге работа генерации осталась прежняя с высокими требованиями в вычислительным мощностям.
Ты читать умеешь?
Результаты:

Стабильность: удалось обучить модель на 27 млрд параметров, которую раньше нельзя было стабилизировать с обычными гипер-связями.

Производительность: значительное улучшение на бенчмарках кодирования, математики и рассуждений (BBH и DROP).
ArbNet #:
Как ты вообще дожил-то до своих лет.. даже сам переварить моё сообщение не смог, использовал ИИ
И снова тот же вопрос - читать умеешь?
Sly32 #:
Прочитал твой ответ, прифигел - это ж насколько нужно не читать и не понимать темы. Вот для ясности приведу ответ от ИИ
Я сначала сам увидел несуразность, потом ответил, для подтверждения своих слов приведя  ответ ИИ.
ArbNet #:
Во-первых, я ответил на ранее заданный мне вопрос чём существующие движки ИИ меня не устраивают.
В таком случае и цитируй  вопрос корректно. Но вообще это не ответ, примерно то же как сказать - солнце сильно греет, ждем, когда остынет. Ты бахвалился что знаешь как сделать лучше чем Оллама, теперь оказывается тебе квантовый компьютер нужно. Одно пустозвонство.
LikeAVirgin #:
Это очень правильно.
Это прям очень базовые принципы работы, когда ты не умеешь в РАГ, например. Для антропика это базовый совет - Базовый агент+ скилы+ периодически копиакт конверсэйшен. Впрочем не знаю как курсор, Гитхаб копайлот это делает сам. 
Соответственно ты не гоняешь постоянно весь контекст, используешь то что нужно. А если у тебя грамотная иерархия - то будет нормально работать кэширование
ArbNet #:

Это не поможет ИМХО, есть пределы вычислительных мощностей и за них никак не перескочить.

Ты спрашивал в чём существующие модели меня не устраивают. Я уже ответил, тем что они требовательны к вычислительным мощностям. Если ты не в курсе, то существующим LLM нужно просчитывать все эмбендинги всего словаря, а это несколько сот тысяч для каждого следующего слова в ответе, то есть миллиарды операций вычислений. Да есть алгоритмы уменьшающие, но всё равно головному движку приходится перепроверять и если отклоняет вероятность, то запускать дочернюю нейросеть для поиска новой вероятности и тд.

ЗЫ. Короче проблема ИИ сейчас это очень много вычислений, то есть требовательные к вычислительным мощностям и распределить это на несколько машин тоже проблемно. Упс. Ждём квантовые компьютеры.

Прочитал твой ответ, прифигел - это ж насколько нужно не читать и не понимать темы. Вот для ясности приведу ответ от ИИ

оцени релевантность ответа пользователя на это сообщение

Релевантность: Низкая.

Ответ пользователя не относится к теме сообщения. Он игнорирует содержание статьи про mHC-гиперсвязи DeepSeek и переводит разговор на другую проблему — общую «требовательность к вычислительным мощностям» LLM.

Сообщение от DeepSeek — о качественных улучшениях архитектуры (стабильность обучения, эффективность передачи сигнала). Ответ пользователя — о количественных ограничениях железа и необходимости квантовых компьютеров. Эти две темы почти не пересекаются:

  • Новый подход (mHC) уменьшает хаос и потери градиента, позволяя учить более глубокие модели с тем же железом — это прямая помощь проблеме вычислений.
  • Пользователь жалуется на сложность вычислений при генерации (softmax по словарю), что к mHC никак не относится.

Ты походу вообще не отдупляешь что такое ИИ. Уже квантовые компьютеры притянул - слово понравилось?

Господа, Дайте совет. Позвали на новый проект, но там есть ньюанс - периодические командировки в ОАЭ. Фиг его знает, в наших реалиях это плюс или минус? Как думаете? По деньгам норм. Нужно дать ответ  быстро, но мне жаль бросать текущую команду. Что присоветуете?
melkozaur #:
Дипсик конечно адовые тексты мне пишет.
Не знаю что за тексты, но тут прилетела просто чумовая новость от дипсика, которая может переделить рынок трансформеров
DeepSeek выпустили фундаментальную переработку архитектуры трансформера.

Она решает проблему «кризиса идентичности», которая ломает очень большие модели ИИ.

Последние десять лет почти все крупные модели ИИ опирались на остаточные связи. Это быстрые обходные пути, которые позволяют сигналу перескакивать через слои и сохранять стабильность обучения.

Без них глубокие сети начинают терять информацию по пути и становятся плохо обучаемыми.

Но есть проблема: при росте глубины и размера моделей такие простые «пропуски» перестают работать.

Информация размывается. Градиенты нестабильны. Математика начинает ломаться.

DeepSeek (включая исследователей, среди которых Вэньфэн Лян) опубликовали работу с введением mHC: манивольд-ограниченные гипер-связи.

Это полная переработка того, как данные проходят внутри модели.

Вместо одного «обходного пути» они расширили его до нескольких параллельных потоков. Эти связи называют гипер-связями.

Но на этом не остановились.

Когда появляется несколько потоков, система обычно уходит в хаос. Модель теряет «отображение идентичности» — перестаёт корректно передавать информацию без искажений.

Ключевой шаг DeepSeek — принудить эти связи жить на заданном математическом многообразии.

Проецируя связи на многогранник Бёркгофа с помощью алгоритма Синхорна–Кноппа, они заставили модель оставаться устойчивой.

Сохраняется богатство маршрутов передачи данных, но сигнал не теряется и не «взрывается».

Результаты:

Стабильность: удалось обучить модель на 27 млрд параметров, которую раньше нельзя было стабилизировать с обычными гипер-связями.

Производительность: значительное улучшение на бенчмарках кодирования, математики и рассуждений (BBH и DROP).

Эффективность: несмотря на усложнение, кастомное ядро добавляет примерно 6,7% накладных расходов на обучение.

Последние годы индустрия пыталась делать модели умнее через увеличение масштаба.

DeepSeek показали, что реальный прирост даёт исправление «инфраструктуры» внутри модели.

Будущее масштабирования — не только в увеличении числа слоёв.

Оно в более качественных связях между ними.
Интересно что наша компания не просто партнер Антропик, вроде как и с Дипсик идут переговоры.
1771 #:
Какой смысл страницы с картой сайта
мне кажется давно уже нет смысла в ней. Достаточго грамотного каталога. Статистики у меня такой нет, но вот даже представив себя на месте пользователя - кто пойдет в карту сайта при грамотно организованном каталоге?
plab #:
Мешает то, что проблема доступа с мобильных показана через GSC . Это значит, что она у всех . Все логи показывают, что все норм.

Для начала - ты знаешь, что такое профайлер?

Второй вопрос - ты понимаешь, как работают ДНС?

Ну, ты же  типа "погромист", судя по постам)) Что мешает написать нормальный профайлер, кинуть его в логи и смотреть что происходит при обращении с разных устройств? Причин може быть сотни - как можно вслепую советовать? Нужен пациент. Может это на твоем телефоне вирусняк какой а у остальных работет нормально)
Vladimir #:
Веб-мастер? Шутите или как?
Это называется проще, клепать гсы на WP, никакого отношения к вебмастеру не имеет.
Но, почти за 20 лет клепания, можно было бы учиться и развиваться. 
Нет, имеет, это идеальное описание "веб-мастера" 😂 Клепать и не развиваться.
Vladimir #:
к примеру попросили переделать полностью мебельный сайт на Django.

Кого, тебя попросили? Так для этого же нужно Джангу знать а не быть мастером спорта по йоге 😭

Vladimir #:
Если не побаловаться на данный момент, то выше писал: Агент и управление ботами

😀 и как, много агентов написал?
Я не понимаю, откуда тут столько сказочников... Ну сочиняешь - так хотя бы старайся видимость правды держать! "пан-инженер..."

Vladimir SEO #:
Зачем таким интересуешься?
Все как обычно - кого-то привлекает запах роз, а кто-то ищет запах дерьма... Меня давно зовут друзья в гости и в Грузию и в Армению. "Слава, дарагой, прыезжай, все будет - машына, шашлык, всюду повозим... только прыезжай" 😀 Классные ребята, только никак не получается выбраться.
Антоний Казанский #:
Символ "_" здесь скорее всего лишний, он не несет функциональной нагрузки.
Да, мне тоже не нравится, но это реальный урл с сайта; По мне косяк. В принципе андерскор не должен в урлах присутствовать - это плохой тон. там еще и html в конце - видимо тяжелое наследие прошлого. Ну что взять - польские программисты)))
Всего: 8317