Оптимізація швидкості навчання (learning rate) є однією з ключових задач у глибокому навчанні, оскільки правильно вибрана швидкість навчання може суттєво вплинути на швидкість збіжності моделі та її точність. У цій статті ми розглянемо проблему оптимізації…