Точность модели не является дифференцируемой функцией и не может оптимизироваться напрямую методом градиентного спуска

Точность модели не является дифференцируемой функцией и не может оптимизироваться напрямую методом градиентного спуска. Однако, если внести случайность в предсказания модели, то ситуация в корне меняется.

В своем докладе Иван на недавнем митапе Tinkoff.AI Saint Research рассказал про наши недавние исследования в области оптимизации метрики accuracy. А также показал способы, которые помогут добиться «гладкости» целевой функции и эффективно вычислят градиент.

Презентацию Ивана, а также доклады других спикеров с Tinkoff.AI Saint Research можно посмотреть на странице встречи, а фотографии — в нашем альбоме. Ссылки оставили в первом комментарии

Источник: vk.com

Комментарии: