А.В. Гасников (МФТИ). Мини-курс. Лекция 1. Введение в теорию сложности задач невыпуклой оптимизации

Лекция 1. Введение в теорию сложности задач невыпуклой оптимизации
- Градиентный спуск.
- Сходимость градиентного спуска к локальному экстремуму.
- Нижние оценки сложности задач поиска локального и глобального минимума.
- Понятие сопротивляющегося оракула.
- Универсально плохая функция Нестерова-Скокова-Розенброка.

2 лекция - https://youtu.be/wsq74WZvdDA3 лекция - https://youtu.be/sgoxQrJvZTY4 лекция - https://youtu.be/7XIRfV7CG8U5 лекция - https://youtu.be/1OHxD-lG_jE6 лекция - https://youtu.be/uTvErcqG7V47 лекция - https://youtu.be/JhWMjF2Sor88 лекция - https://youtu.be/uZmYqjwdZ9w9 лекция - https://youtu.be/_dfW1FzUb4I
Литература
1. Поляк Б.Т. Введение в оптимизацию. – М.: Наука, 1983. – 384 с. - URL: http://cmcagu.ru/docs/books/Polyak-op...
2. Немировский А.С., Юдин Д.Б. Сложность задач и эффективность методов оптимизации. – М.: Наука, 1979. – 384 с. - URL: http://cmcagu.ru/docs/books/Nemirovsk... Глава 1
3. Нестеров Ю.Е. Введение в выпуклую оптимизацию. – М.: МЦНМО, 2010. – 262 с. – URL: http://cmcagu.ru/docs/books/Nesterov-... Глава 1
4. Allen-Zhu Z. Personal web page. – URL: http://people.csail.mit.edu/zeyuan/
5. Carmon Y., Duchi J.C., Hinder O., Sidford A. Lower bounds for finding stationary points I // arXiv.org e-Print archive. 2017. – URL: https://arxiv.org/pdf/1710.11606.pdf
6. Carmon Y., Duchi J.C., Hinder O., Sidford A. Lower bounds for finding stationary points II: First-order methods // arXiv.org e-Print archive. 2017. – URL: https://arxiv.org/pdf/1711.00841.pdf
7. Гасников А.В. Современные численные методы оптимизации. Универсальный градиентный спуск. – М.: МФТИ, 2018. – 166 с. – URL: https://arxiv.org/pdf/1711.00394.pdf параграф 1(основной источник)

Источник: www.youtube.com

Комментарии: