Математическая постановка задач оптимизации. Пример.
2. Точки локального и глобального минимума, точная нижняя грань функции. Примеры. Теорема Вейерштрасса (без доказательства).
3. Унимодальные функции. Определение. Примеры. Дифференциальные условия унимодальности функции.
4. Выпуклые функции. Определение. Дифференциальные необходимые и достаточные условия выпуклости функций.
5. Условие Липшица. Свойства функций, удовлетворяющих условию Липшица.
6. Одномерная минимизация функций. Метод перебора. Точность метода.
7. Одномерная минимизация функций. Метод поразрядного поиска.
8. Метод деления отрезка пополам (дихотомии). Точность метода. Сравнение с методом перебора.
9. Метод золотого сечения. Точность метода. Сравнение методов перебора, дихотомии и золотого сечения.
10. Полиномиальная интерполяция. Метод парабол.
11. Метод средней точки. Блок-схема метода. Точность метода.
12. Метод хорд. Блок-схема метода.
13. Метод Ньютона. Два способа вывода формул метода Ньютона. Скорость сходимости.
14. Метод Ньютона. Достаточное условие сходимости метода Ньютона. Скорость сходимости.
15. Модификации метода Ньютона. Метод Ньютона-Рафсона. Метод Марквардта. Достоинства и недостатки методов. Скорость сходимости.
16. Методы минимизации многомодальных функций. Метод перебора и метод ломаных. Сравнительные достоинства и недостатки. Точность методов.
17. Сравнительные достоинства и недостатки одномерных методов минимизации. Прямые методы и методы, использующие информацию о производных целевой функции.
18. Общие принципы многомерной минимизации. Определения (локальный и глобальный экстремум, поверхность уровня, градиент функции и матрица Гессе). Примеры.
19. Положительная определенность и полуопределенность квадратичной формы. Определения. Примеры.
20. Выпуклые множества и выпуклые функции. Свойства выпуклых функций. Примеры. Выпуклость функции и матрица Гессе.
21. Безусловный экстремум функции многих переменных. Необходимые условия первого порядка. Достаточные условия. Критерий Сильвестра. Примеры.
22. Безусловный экстремум функции многих переменных. Необходимые условия второго порядка. Критерий проверки необходимых условий второго порядка. Примеры.
23. Выпуклые квадратичные функции. Градиент функции и матрица Гессе. Условие сильной выпуклости квадратичной формы.
24. Общие принципы многомерной минимизации. Минимизирующие последовательности. Скорость сходимости. Примеры.
25. Определение исчерпывающего спуска в итерационных последовательностях рекуррентного вида. Теорема о необходимом условии ортогональности векторов.
26. Теорема о величине шага при исчерпывающем спуске для квадратичной функции.
27. Общие принципы многомерной минимизации. Теорема о достаточном условии направления убывания для дифференцируемой функции. Геометрическая интерпретация.
28. Метод градиентного спуска. Алгоритм метода.
29. Метод градиентного спуска. Теорема о скорости сходимости для квадратичной функции. Примеры.
30. Метод наискорейшего спуска. Алгоритм метода. Формулы для квадратичной функции.
31. Метод сопряженных градиентов. Алгоритм метода.
32. Метод сопряженных градиентов. А — ортогональность векторов. Теорема для квадратичной функции. Пример.
33. Метод Ньютона минимизации функции многих переменных. Обобщенный метод Ньютона. Пример. Достоинства и недостатки метода.
34. Прямые методы многомерной минимизации. Правильный, или регулярный симплекс. Отражения вершин. Правильная нумерация вершин.
35. Прямые методы многомерной минимизации. Редукция правильного, или регулярного симплекса.
36. Метод Нелдера – Мида. Простейшие формулы.
37. Метод циклического покоординатного спуска. Алгоритм. Область эффективной применимости метода. Пример.
38. Метод Хука-Дживса. Алгоритм метода.
39. Условный экстремум функции многих переменных. Определения. Примеры.
40. Условный экстремум с ограничениями типа равенств. Необходимые условия экстремума первого и второго порядка. Пример.
41. Условный экстремум с ограничениями типа равенств. Достаточные условия экстремума. Пример.
42. Условный экстремум с ограничениями типа неравенств. Необходимые условия экстремума первого и второго порядка. Пример.
43. Условный экстремум с ограничениями типа неравенств. Достаточные условия экстремума первого и второго порядка. Пример.
44. Линейное программирование. Задачи об использовании ресурсов. Графический метод решения.