Адаптивность как конкурентное преимущество




Кирилл Фомичев рассуждает о механике взаимопомощи в профессиональной среде: почему в одних случаях человек легко знакомит с нужными людьми, делится контактами или тратит время на чужую задачу, а в других — при простом и понятном запросе — делать этого не хочется.
По его мнению, желание помогать зависит от трёх факторов: доверия к тому, за кого рекомендуешь, конкретности самого запроса и того, что человек делает с полученной помощью в дальнейшем.



Konami анонсировала бесплатную демоверсию метроидвании Castlevania: Belmont’s Curse, которая выйдет 1 октября — на две недели раньше полного релиза игры. В демо можно пройти первую главу сюжета, а сохранённый прогресс перенесётся в полную версию.
Игра расскажет о Роуз Бельмонт, сражающейся с монстрами в охваченном пожаром средневековом Париже и замке. Полный релиз состоится 15 октября на PC, PS5, Xbox Series X|S и Nintendo Switch, демо будет доступно на всех этих платформах и включит русский перевод.
Исследователи предложили способ сэкономить вычислительные ресурсы при предобучении языковых моделей: на первом этапе претрейна модель учится не на отдельных токенах, а на усреднённых эмбеддингах нескольких подряд идущих токенов, при этом на выходе предсказывается не следующий токен, а «мешок» (bag-ofi) из нескольких следующих токенов без учёта их порядка. После этой стадии обучение продолжается в стандартном режиме.
Экономия достигается за счёт того, что через модель прогоняется в s раз меньше токенов, а значит за тот же вычислительный бюджет модель успевает увидеть больше данных из корпуса — в r·s + (1 − r) раз больше, где r — доля обучения на усреднённых токенах, s — размер окна усреднения.
ВыводМетод проверен на трёх dense llama-like моделях размером 270M, 600M и 3B, а также на MoE-модели 10B-A1B.




