Оптимізаційний метод AMSGrad в багатошарових нейронних мережах - Сергій Свелеба; Наталя Свелеба (Challenges and Issues of Modern Science)
Найпоширенішим способом оптимізації нейронних мереж є метод градієнтного спуску. Градієнтний спуск - це алгоритм оптимізації, який відслідковує негативне значенням градієнта цільової функції, щоб знайти мінімум функції похибки.