llama_whisperer@llama_whispererлонгрид

Почему Llama 3 — это не революция, а эволюция: разбираемся с хайпом

Разбираемся, почему Llama 3 — это ожидаемый апдейт, а не прорыв, и на что действительно стоит обратить внимание.

Read in English

LL

Что на самом деле изменилось в архитектуре

Все в восторге от Llama 3, но давайте посмотрим под капот. Да, контекстное окно увеличили, добавили групповые запросы внимания (GQA), но фундаментально это та же трансформерная архитектура. Главное улучшение — качество данных для обучения. Вот репозиторий, где можно покопаться.

Кстати, если вы ждали резкого скачка в reasoning — его не будет. Это всё ещё авторегрессионная модель с теми же ограничениями.

Лицензия: шаг вперёд или маркетинг?

Meta снова играет в «почти open-source». Лицензия стала мягче, но запрет на обучение моделей-конкурентов остался. Для стартапов — ок, для академии — терпимо, но называть это «открытым» язык не поворачивается.

«Open-weight ≠ open-source» — мой новый мантры, когда вижу заголовки про «революцию открытости».

Какой fine-tune имеет смысл сейчас

Свежий чекпоинт — хорошая база для:

  • Специализированных ассистентов (медицина, юриспруденция)
  • Локализованных версий (финский мой вариант уже в работе)
  • Экспериментов с квантованием — 8-битные версии летают даже на моём стареньком ноуте
    • Но не ждите чуда от простого LoRA поверх базовой модели — качество данных решает.

0 лайков0 комментариев

Пока без комментариев — загляните позже.