Title: Openai/6954df4f-8108-8013-8152-3f6ade4423a7 - freem URL Source: https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7 Markdown Content: _This conversation was exported from ChatGPT_[[1]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-1) ## gpt-5-2-pro[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=1 "Edit section: gpt-5-2-pro") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=1 "Edit section's source code: gpt-5-2-pro")] ### User: Сделай по следующему тексту паттерн ML.2 по шаблону из E.8, пиши для инженеров и добавь дидактичность в стиле написани…[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=2 "Edit section: User: Сделай по следующему тексту паттерн ML.2 по шаблону из E.8, пиши для инженеров и добавь дидактичность в стиле написани…") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=2 "Edit section's source code: User: Сделай по следующему тексту паттерн ML.2 по шаблону из E.8, пиши для инженеров и добавь дидактичность в стиле написани…")] Сделай по следующему тексту паттерн ML.2 по шаблону из E.8, пиши для инженеров и добавь дидактичность в стиле написания, пиши по-русски. Учти E.TGA и OEE для понимания, но не повторяй их положений в паттерне, используй обычный язык инженеров, а не лексику FPF. Вот текст со ссылками на технологию: Hypernetworks That Evolve Themselves Joachim Winther Pedersen, Erwan Plantec, Eleni Nisioti, Marcello Barylli, Milton Montero, Kathrin Korte, Sebastian Risi Статья: [https://arxiv.org/abs/2512.16406](https://arxiv.org/abs/2512.16406) Код: [https://github.com/Joachm/self-referential_GHNs](https://github.com/Joachm/self-referential_GHNs) Ревью: [https://arxiviq.substack.com/p/hypernetworks-that-evolve-themselves](https://arxiviq.substack.com/p/hypernetworks-that-evolve-themselves) ### TL;DR[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=3 "Edit section: TL;DR") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=3 "Edit section's source code: TL;DR")] ЧТО сделали: Авторы предложили Self-Referential Graph HyperNetworks (GHNs) — класс нейросетей, способных генерировать параметры не только для решения задачи (policy), но и для создания собственного потомства. Встроив механизм стохастической вариации прямо в архитектуру, система интернализировала эволюционные операторы (мутацию и наследование), которые обычно находятся во внешних алгоритмах. ПОЧЕМУ это важно: Это структурный сдвиг от парадигмы «оптимизации фиксированной модели» к «моделям, которые оптимизируют сами себя». Подход показал превосходную адаптацию в нестационарных средах (где правила игры меняются на лету), обойдя традиционные стратегии вроде CMA-ES или OpenES. Работа доказывает, что «evolvability» (способность к эволюции) — это навык, который можно выучить в зависимости от контекста, а не фиксированная эвристика. Подробнее: [https://t.me/gonzo_ML_podcasts/1895](https://t.me/gonzo_ML_podcasts/1895) ### Assistant: ML.2 - Самореферентная GHN: встроенная «эволюция» для быстрой адаптации в меняющейся среде[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=4 "Edit section: Assistant: ML.2 - Самореферентная GHN: встроенная «эволюция» для быстрой адаптации в меняющейся среде") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=4 "Edit section's source code: Assistant: ML.2 - Самореферентная GHN: встроенная «эволюция» для быстрой адаптации в меняющейся среде")] #### ML.2 - Самореферентная GHN: встроенная «эволюция» для быстрой адаптации в меняющейся среде[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=5 "Edit section: ML.2 - Самореферентная GHN: встроенная «эволюция» для быстрой адаптации в меняющейся среде") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=5 "Edit section's source code: ML.2 - Самореферентная GHN: встроенная «эволюция» для быстрой адаптации в меняющейся среде")] Type: ML / neuroevolution / архитектурный паттерн Status: Draft ##### ML.2:1 - Problem frame — где это применимо на практике[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=6 "Edit section: ML.2:1 - Problem frame — где это применимо на практике") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=6 "Edit section's source code: ML.2:1 - Problem frame — где это применимо на практике")] Вы строите систему, которая должна продолжать работать, когда среда меняется: динамика, правила, инверсия управления, смена сенсоров/актуаторов, внезапный сдвиг распределения. При этом: * Градиенты либо недоступны, либо бесполезны (чёрный ящик, недифференцируемые компоненты, дискретные решения, симулятор как «API»). * Перетренировать модель «с нуля» долго, а надо “откатываться” к хорошему поведению за считанные итерации/поколения. * Вы готовы платить параллельными прогонками (много воркеров, короткие эпизоды/батчи), но хотите экономить на внутреннем обучении каждого кандидата. Типовой пример из статьи — RL-бенчмарки с резкими сдвигами (CartPoleSwitch, LunarLander-Switch) и локомоция (Ant‑v5), где показана адаптация популяции после смены условий. arXiv[[2]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-2) ##### ML.2:2 - Problem — почему «внешняя эволюция» часто не дотягивает[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=7 "Edit section: ML.2:2 - Problem — почему «внешняя эволюция» часто не дотягивает") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=7 "Edit section's source code: ML.2:2 - Problem — почему «внешняя эволюция» часто не дотягивает")] Классические эволюционные стратегии и генетические алгоритмы обычно устроены так: есть оптимизатор (внешний код мутации/наследования/селекции) и есть оптимизируемая модель. Проблемы в инженерном смысле: 1. Мутация слепая к структуре модели. Часто это «гауссов шум по всем весам» с глобальным шагом — без понимания, какие части архитектуры критичны, а какие можно «трясти» сильнее. ArXivIQ[[3]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-3) 2. Шаг мутации приходится тюнить извне. После смены среды/правил оптимизатору нужно время «переобучить» ковариацию/шаг, и вы ловите провал качества. ArXivIQ[[4]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-4) 3. Сложно встроить в продуктовый контур. Внешний оптимизатор живёт отдельным компонентом со своим состоянием, эвристиками и версиями; тяжело обеспечивать воспроизводимость, откат и понятный контроль рисков. ##### ML.2:3 - Forces — компромиссы, которые нужно удерживать[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=8 "Edit section: ML.2:3 - Forces — компромиссы, которые нужно удерживать") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=8 "Edit section's source code: ML.2:3 - Forces — компромиссы, которые нужно удерживать")] | Сила | Напряжение (что конфликтует) | | --------------------------------- | ------------------------------------------------------------------------ | | Скорость адаптации | Быстро “встать на ноги” после сдвига ↔ не разрушить то, что уже работало | | Исследование vs эксплуатация | Сильнее «трясти» модель ↔ удерживать стабильное качество | | Стоимость оценок | Больше эпизодов/прогонов ↔ меньше времени и денег | | Шум в фитнесе | Реальная метрика нестабильна ↔ селекция требует надёжного сигнала | | Управляемость релизов | Онлайн-адаптация ↔ требования к safety/rollback/аудиту | | Структурная осмысленность мутаций | Учитывать граф/архитектуру ↔ усложнять реализацию | ##### ML.2:4 - Solution — что делаем и как это собрать[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=9 "Edit section: ML.2:4 - Solution — что делаем и как это собрать") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=9 "Edit section's source code: ML.2:4 - Solution — что делаем и как это собрать")] Идея в одной фразе: вместо того чтобы держать «мутацию» снаружи, мы делаем так, чтобы модель сама генерировала свои вариации и тем самым “училась быть эволюционируемой”. ###### 4.1. Архитектурный скелет[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=10 "Edit section: 4.1. Архитектурный скелет") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=10 "Edit section's source code: 4.1. Архитектурный скелет")] Берём Graph HyperNetwork (GHN) как генератор весов: он читает вычислительный граф целевой сети и выдаёт параметры для её узлов/операторов (то есть «инициализирует» или «собирает» веса под конкретную архитектуру). OpenReview[[5]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-5) Дальше добавляем самореференцию, как в Self‑Referential GHN: * Детерминированная ветка генерирует веса policy‑сети (или вашей рабочей сети), по которым мы измеряем качество в среде. arXiv[[6]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-6) * Стохастическая ветка генерирует возмущение для копии самой GHN, т.е. создаёт «потомка». Это делается через предсказание параметров шума (например, σ для гаусса с нулевым средним), плюс вводится управляемая интенсивность мутаций на уровне узлов/блоков. arXiv[[7]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-7) Таким образом одна и та же сущность: 1. порождает веса для политики (чтобы играть/управлять), 2. порождает изменения своих же параметров (чтобы эволюционировать). ###### 4.2. Эволюционный цикл (минимально достаточный)[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=11 "Edit section: 4.2. Эволюционный цикл (минимально достаточный)") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=11 "Edit section's source code: 4.2. Эволюционный цикл (минимально достаточный)")] На уровне системы это выглядит как популяционный цикл: 1. Инициализируем популяцию GHN-индивидов (разные веса). arXiv[[8]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-8) 2. Каждый индивид: - генерирует policy‑веса детерминированно, - получает фитнес через прогоны в среде, - делает 1–N потомков: копия + добавление самосгенерированного возмущения. arXiv[[9]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-9) 3. Селекция: выбираем топ‑K по фитнесу (или более мягко: турнир/элитизм), получаем следующее поколение. arXiv[[10]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-10) 4. Ключевой эффект: популяция сама начинает регулировать «силу тряски» — в статье отмечено, что вариативность падает, когда найдено хорошее решение (эксплуатация), и остаётся выше на ранних этапах (поиск) без внешнего расписания. arXiv[[11]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-11) ###### 4.3. Псевдокод (для закрепления)[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=12 "Edit section: 4.3. Псевдокод (для закрепления)") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=12 "Edit section's source code: 4.3. Псевдокод (для закрепления)")] P = init_population(N) # популяция гиперсетей for gen in 1..G: C = [] # кандидаты (родители + потомки) for h in P: # 1) делаем потомков for i in 1..offspring_per_parent: child = copy(h) delta = h.stochastic_self_update(graph_of(h)) # шум/апдейты, сгенерированные самим h child.params += delta C.append(child) C.append(h) # 2) оцениваем всех for h in C: w_policy = h.det_generate(policy_graph) h.fitness = rollout(env, w_policy, seeds, episodes) # 3) селекция P = select_top_k(C, K) (Подробности про то, что именно предсказывается стохастической веткой и как устроена узло‑специфичная интенсивность мутации, см. описание в arXiv‑версии; в частности, используется генерация σ и масштабирование “mutation rate” на узлах. arXiv[[12]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-12)) ###### 4.4. Инженерные правила сборки (то, что обычно ломает внедрение)[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=13 "Edit section: 4.4. Инженерные правила сборки (то, что обычно ломает внедрение)") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=13 "Edit section's source code: 4.4. Инженерные правила сборки (то, что обычно ломает внедрение)")] 1. Версионируйте среду и интерфейсы. Если “среда поменялась”, это должно быть выражено в конфиге/версии, иначе вы смешаете фитнесы из разных миров и селекция станет шумом. 2. Делайте реплей и воспроизводимость. Логи: seed’ы, конфиги, распределение фитнеса, параметры шума/вариативности, идентификатор “чемпиона”, lineage (кто чей потомок). 3. Ограничьте онлайн‑самоизменение в проде. Практика: адаптацию гонять в песочнице/канареечном контуре и «поднимать» нового чемпиона только после регрессионного набора тестов (см. чек‑лист ниже). 4. Сразу проектируйте параллелизм. ES‑подходы масштабируются воркерами; Self‑Referential GHN тоже выигрывает от параллельной оценки популяции. arXiv[[13]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-13) ##### ML.2:5 - Archetypal Grounding — два примера, чтобы “схватить” идею[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=14 "Edit section: ML.2:5 - Archetypal Grounding — два примера, чтобы “схватить” идею") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=14 "Edit section's source code: ML.2:5 - Archetypal Grounding — два примера, чтобы “схватить” идею")] Суть (Tell): мы превращаем «оператор мутации» из внешней эвристики в часть модели. Тогда селекция начинает оптимизировать не только поведение в задаче, но и способ изменения самой модели под контекст. Пример как система (Show #1): Представьте контроллер для робота/дрона/манипулятора, у которого периодически меняются условия: нагрузка, трение, задержки, инверсия оси управления (условно “перепутали полярность”). Вам нужна схема, которая: * быстро перестраивает управление без дифференцирования по физике, * умеет «снизить хаос», когда снова стало стабильно, * не требует ручного тюнинга шага мутации под каждый сценарий. Self‑Referential GHN как раз демонстрируется на задачах с резкими переключениями условий, где популяция восстанавливает качество за несколько поколений. arXiv[[14]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-14) Пример как эпистема/метод (Show #2): Вы строите AutoML/контур оптимизации, где вместо фиксированного “оптимизатора гиперпараметров” хотите, чтобы система сама выучила стратегию исследования (когда агрессивно искать, когда стабилизироваться). Это родственно: * learned optimizers (оптимизатор как обучаемая модель), arXiv[[15]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-15) * популяционным схемам, которые учат расписания гиперпараметров (PBT), arXiv[[16]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-16) * и open‑ended подходам, где важен перенос решений между меняющимися задачами (POET). arXiv[[17]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-17) Разница тут в том, что «правила вариативности» кодируются внутри самой гиперсети и подпадают под отбор. arXiv[[18]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-18) ##### ML.2:6 - Bias-Annotation — где вас может обмануть результат[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=15 "Edit section: ML.2:6 - Bias-Annotation — где вас может обмануть результат") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=15 "Edit section's source code: ML.2:6 - Bias-Annotation — где вас может обмануть результат")] * Байас бенчмарков: “Switch‑среды” могут быть проще реальных сдвигов (в реальности часто медленный дрейф + редкие скачки). arXiv[[19]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-19) * Байас вычислительного бюджета: если у вас меньше воркеров/эпизодов, селекция становится шумной, «саморегуляция вариативности» может не проявиться. * Байас по seed’ам: эволюционные методы чувствительны к шуму оценок; без мультисидов и усреднения вы будете видеть “ложные чемпионы”. * Байас индуктивной структуры: графовое представление архитектуры задаёт, где именно модель может «умно» дифференцировать мутации; при плохом граф‑энкодинге получите почти случайный поиск. OpenReview[[20]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-20) ##### ML.2:7 - Conformance Checklist — что должно быть выполнено[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=16 "Edit section: ML.2:7 - Conformance Checklist — что должно быть выполнено") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=16 "Edit section's source code: ML.2:7 - Conformance Checklist — что должно быть выполнено")] 1. Определён контракт среды: что считается «сменой условий», какие параметры среды/симулятора логируются и сравниваются. 2. Есть воспроизводимость оценки: фиксируем seed’ы, набор эпизодов/сценариев, версию среды, версии кода/модели. 3. Фитнес устойчив: используете либо несколько эпизодов на индивида, либо повторную оценку для топ‑кандидатов (re‑eval), либо бутстрэп/медиану. 4. Явно ограничена вариативность: есть верхние границы на шум/дельты, есть аварийный “стоп” при деградации. 5. Разделены контуры: (а) поиск/адаптация, (б) промоутинг в эксплуатацию. В релиз попадает только проверенный «чемпион». 6. Линейдж и откат: вы можете ответить “из каких родителей получился этот кандидат” и быстро откатиться на стабильного предка. 7. Мониторинг популяции: трекаете распределение фитнеса и показатель “разброса” (вариативности) — иначе вы не заметите коллапс в один клон. 8. Параллелизм не меняет смысл: увеличение воркеров должно давать ускорение, а не менять поведение из-за гонок/асинхронных багов (особенно если делаете асинхронную селекцию). ##### ML.2:8 - Common Anti-Patterns That Break It — типовые способы сломать паттерн[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=17 "Edit section: ML.2:8 - Common Anti-Patterns That Break It — типовые способы сломать паттерн") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=17 "Edit section's source code: ML.2:8 - Common Anti-Patterns That Break It — типовые способы сломать паттерн")] * “Запустим эволюцию прямо в проде без предохранителей.” Итог: дрейф качества, необъяснимые регрессии, невозможность расследования. * Оценка на одном эпизоде. Шум доминирует, селекция выбирает lucky‑run. * Смешивание разных конфигов среды в одной популяции. Фитнесы становятся несравнимы → вы отбираете мусор. * Внешний фиксированный шаг мутации “поверх” саморегуляции. Вы забиваете сигнал отбора: модель не может “научиться трястись” в нужные моменты. * Никакого учёта структуры. Если вы подали неверный граф или упростили до “вектор весов”, вы возвращаетесь к слепому шуму, теряя главную идею GHN. OpenReview[[21]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-21) * Нет чётких ограничений по бюджету. Эволюция легко «съедает» весь compute, если не поставить лимиты на поколения/эпизоды/воркеры. ##### ML.2:9 - Consequences — что получите и чем заплатите[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=18 "Edit section: ML.2:9 - Consequences — что получите и чем заплатите") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=18 "Edit section's source code: ML.2:9 - Consequences — что получите и чем заплатите")] Что выигрываете: * Быстрая адаптация к нестационарности (показано на Switch‑задачах). arXiv[[22]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-22) * Производная не нужна: можно оптимизировать недифференцируемые элементы, дискретные архитектуры, “симулятор как чёрный ящик”. arXiv[[23]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-23) * Самонастройка интенсивности поиска: вариативность может снижаться, когда найдено хорошее семейство решений, и снова расти при необходимости — без внешнего расписания. arXiv[[24]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-24) Цена/риски: * Высокая стоимость оценок: это всё равно популяционный метод; выгоден при хорошей параллелизации. arXiv[[25]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-25) * Сложнее дебажить: у вас одновременно эволюционирует “как действовать” и “как изменяться”. * Риск неконтролируемого дрейфа, если не построить guardrails (лимиты, тесты, промоутинг через гейт). * Инженерная сложность граф‑представления и корректного соответствия “узлы ↔ параметры”. ##### ML.2:10 - Rationale — почему механизм даёт эффект[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=19 "Edit section: ML.2:10 - Rationale — почему механизм даёт эффект") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=19 "Edit section's source code: ML.2:10 - Rationale — почему механизм даёт эффект")] В классической схеме вы фиксируете оператор мутации/наследования и оптимизируете только поведение модели. Здесь вы делаете шаг в сторону “оптимизировать оптимизатор”: способность менять себя становится частью модели и попадает под отбор — ровно то, что давно делается в learned optimizers, но в другом форм‑факторе. arXiv[[26]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-26) Дополнительный усилитель — графовая осмысленность: GHN видит структуру архитектуры, поэтому вариативность можно распределять по узлам/блокам, а не шуметь равномерно по всему вектору весов. OpenReview[[27]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-27) ##### ML.2:11 - SoTA-Echoing — связь с современной линией работ (2016+)[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=20 "Edit section: ML.2:11 - SoTA-Echoing — связь с современной линией работ (2016+)") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=20 "Edit section's source code: ML.2:11 - SoTA-Echoing — связь с современной линией работ (2016+)")] * Graph HyperNetworks (2018): GHN как быстрый генератор весов по вычислительному графу, изначально для удешевления NAS. ML.2 использует тот же “graph‑aware weight generation”, но замыкает петлю на саму гиперсеть. OpenReview[[28]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-28) * Evolution Strategies в RL (2017): масштабируемая производно‑свободная оптимизация, хорошо ложится на параллельные воркеры. ML.2 остаётся в этой семье, но делает вариативность эндогенной (встроенной). arXiv[[29]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-29) * CMA‑ES (tutorial 2016) как представитель “умных” внешних стратегий; в обзоре к статье подчёркивается сравнение с CMA‑ES/OpenES на нестационарности. arXiv[[30]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-30) * Population Based Training (2017): популяция + автоматическое расписание гиперпараметров. ML.2 похож духом (популяция как механизм адаптации), но переносит “расписание” на уровень самой модели (через само‑мутацию). arXiv[[31]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-31) * Self‑reference линия (2018–2024): Neural Network Quine (2018), SRWM (2022), SeRANN (2024) — разные способы сделать модель самореферентной/самоизменяющейся. ML.2 добавляет масштабируемость через GHN‑подход и убирает градиентные апдейты из самого эволюционного цикла. arXiv[[32]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-32) * POET (2019): акцент на смене задач и переносе решений. ML.2 логично комбинируется с такими постановками, потому что показывает сильную сторону именно в нестационарных режимах. arXiv[[33]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-33) * Контекст по гиперсетям в целом: обзорные работы по hypernetworks (2024). Springer Link[[34]](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_note-34) ##### ML.2:12 - Relations — с чем хорошо сочетается в инженерном стеке[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=21 "Edit section: ML.2:12 - Relations — с чем хорошо сочетается в инженерном стеке") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=21 "Edit section's source code: ML.2:12 - Relations — с чем хорошо сочетается в инженерном стеке")] * Детектор дрейфа/смены условий → переключение режима адаптации. (Если просадка качества/анализ телеметрии сигналит о смене, можно временно увеличить допустимую вариативность и расширить поиск.) * Canary/Shadow‑режимы для промоутинга чемпиона. Эволюция остаётся «внутри», но выпуск наружу делается как обычный релиз. * Портфель решений вместо одного. Храните несколько топ‑индивидов под разные «режимы среды» и быстро переключайтесь. * PBT‑подходы и многокритериальные селекторы. Можно селектировать не только по среднему фитнесу, но и по риску/вариативности/стабильности. ##### ML.2:End[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=22 "Edit section: ML.2:End") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=22 "Edit section's source code: ML.2:End")] ## References[[edit](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&veaction=edit§ion=23 "Edit section: References") | [edit source](https://freemwiki.com/index.php?title=Openai/6954df4f-8108-8013-8152-3f6ade4423a7&action=edit§ion=23 "Edit section's source code: References")] 1. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-1 "Jump up")["Самоэволюция нейросетей"](https://chatgpt.com/share/6954df4f-8108-8013-8152-3f6ade4423a7). ChatGPT. Retrieved 2026-01-02. 2. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-2 "Jump up")["arXiv"](https://arxiv.org/abs/2512.16406). arxiv.org. Retrieved 2026-01-02. 3. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-3 "Jump up")["ArXivIQ"](https://arxiviq.substack.com/p/hypernetworks-that-evolve-themselves). arxiviq.substack.com. Retrieved 2026-01-02. 4. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-4 "Jump up")["ArXivIQ"](https://arxiviq.substack.com/p/hypernetworks-that-evolve-themselves). arxiviq.substack.com. Retrieved 2026-01-02. 5. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-5 "Jump up")["OpenReview"](https://openreview.net/pdf?id=rkgW0oA9FX). openreview.net. Retrieved 2026-01-02. 6. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-6 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 7. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-7 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 8. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-8 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 9. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-9 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 10. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-10 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 11. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-11 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 12. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-12 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 13. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-13 "Jump up")["arXiv"](https://arxiv.org/abs/1703.03864). arxiv.org. Retrieved 2026-01-02. 14. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-14 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 15. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-15 "Jump up")["arXiv"](https://arxiv.org/abs/1606.04474). arxiv.org. Retrieved 2026-01-02. 16. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-16 "Jump up")["arXiv"](https://arxiv.org/abs/1711.09846). arxiv.org. Retrieved 2026-01-02. 17. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-17 "Jump up")["arXiv"](https://arxiv.org/abs/1901.01753). arxiv.org. Retrieved 2026-01-02. 18. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-18 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 19. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-19 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 20. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-20 "Jump up")["OpenReview"](https://openreview.net/pdf?id=rkgW0oA9FX). openreview.net. Retrieved 2026-01-02. 21. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-21 "Jump up")["OpenReview"](https://openreview.net/pdf?id=rkgW0oA9FX). openreview.net. Retrieved 2026-01-02. 22. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-22 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 23. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-23 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 24. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-24 "Jump up")["arXiv"](https://arxiv.org/html/2512.16406v1). arxiv.org. Retrieved 2026-01-02. 25. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-25 "Jump up")["arXiv"](https://arxiv.org/abs/1703.03864). arxiv.org. Retrieved 2026-01-02. 26. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-26 "Jump up")["arXiv"](https://arxiv.org/abs/1606.04474). arxiv.org. Retrieved 2026-01-02. 27. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-27 "Jump up")["OpenReview"](https://openreview.net/pdf?id=rkgW0oA9FX). openreview.net. Retrieved 2026-01-02. 28. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-28 "Jump up")["OpenReview"](https://openreview.net/pdf?id=rkgW0oA9FX). openreview.net. Retrieved 2026-01-02. 29. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-29 "Jump up")["arXiv"](https://arxiv.org/abs/1703.03864). arxiv.org. Retrieved 2026-01-02. 30. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-30 "Jump up")["arXiv"](https://arxiv.org/abs/1604.00772). arxiv.org. Retrieved 2026-01-02. 31. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-31 "Jump up")["arXiv"](https://arxiv.org/abs/1711.09846). arxiv.org. Retrieved 2026-01-02. 32. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-32 "Jump up")["arXiv"](https://arxiv.org/abs/1803.05859). arxiv.org. Retrieved 2026-01-02. 33. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-33 "Jump up")["arXiv"](https://arxiv.org/abs/1901.01753). arxiv.org. Retrieved 2026-01-02. 34. [↑](https://freemwiki.com/index.php?oldid=595160&title=Openai%2F6954df4f-8108-8013-8152-3f6ade4423a7#cite_ref-34 "Jump up")["Springer Link"](https://link.springer.com/article/10.1007/s10462-024-10862-8). Springer Link. Retrieved 2026-01-02.