FAD Technique and Differentiation of a Composite Function

Cover Page

Cite item

Full Text

Open Access Open Access
Restricted Access Access granted
Restricted Access Subscription Access

Abstract

Different approaches to the calculation of the gradient of a composite function of several variables are compared, namely, exact analytically derived formulas, formulas based on the fast automatic differentiation (FAD) technique, and standard software packages implementing the ideas of the FAD technique. The approaches are compared as applied to a composite function representing the energy of a system of atoms with the Tersoff interatomic potential. The comparison criterion is the computer time required for computing the gradient of the function. The results show that the FAD technique is superior to the analytical formulas. The standard packages take nearly the same time to compute the function gradient as the FAD technique formulas.

About the authors

A. F. Albu

Federal Research Center “Computer Science and Control,” Russian Academy of Sciences

Email: vladimir.zubov@mail.ru
119333, Moscow, Russia

A. Yu. Gorchakov

Federal Research Center “Computer Science and Control,” Russian Academy of Sciences;
Moscow Institute of Physics and Technology (National Research University)

Email: vladimir.zubov@mail.ru
119333, Moscow, Russia; 141701, Dolgoprudnyi, Moscow oblast, Russia

V. I. Zubov

Federal Research Center “Computer Science and Control,” Russian Academy of Sciences

Author for correspondence.
Email: vladimir.zubov@mail.ru
119333, Moscow, Russia

References

  1. Крылов И.А., Черноусько Ф.Л. О методе последовательных приближений для решения задач оптимального управления // Ж. вычисл. матем. и матем. физ. 1962. Т. 2. № 6. С. 669–683.
  2. Федоренко Р.П. Приближенное решение задач оптимального управления. М.: Наука, 1978.
  3. Моисеев Н.Н. Численные методы в теории оптимальных систем. М.: Наука, 1971.
  4. Албу А.Ф., Зубов В.И. Вычисление градиента функционала в одной задаче оптимального управления, связанной с кристаллизацией металла // Ж. вычисл. матем. и матем. физ. 2009. Т. 9. № 1. С. 51–75.
  5. Евтушенко Ю.Г., Засухина Е.С., Зубов В.И. О численном подходе к оптимизации решения задачи Бюргерса с помощью граничных условий // Ж. вычисл. матем. и матем. физ. 1997. Т. 37. № 12. С. 1449–1458.
  6. Айда-Заде К.Р., Евтушенко Ю.Г. Быстрое автоматическое дифференцирование // Матем. моделирование. 1989. Т. 1. С. 121–139.
  7. Evtushenko Y.G. Computation of exact gradients in distributed dynamic systems // Optimizat. Meth. and Software. 1998. V. 9. P. 45–75.
  8. Евтушенко Ю.Г. Оптимизация и быстрое автоматическое дифференцирование. Научное издание. ВЦ им. А.А. Дородницына РАН. Москва. 2013. 144 с.
  9. Hascoet L., Pascual V. The Tapenade automatic differentiation tool: principles, model, and specification // ACM Transact. on Math. Software (TOMS). 2013. T. 39. №. 3. C. 1–43.
  10. Albring T. et al. An aerodynamic design framework based on algorithmic differentiation // ERCOFTAC Bull. 2015. V. 102. P. 10–16.
  11. Hogan R.J. Fast reverse-mode automatic differentiation using expression templates in C++ // ACM Transact. on Math. Software (TOMS). 2014. V. 40. № 4. P. 26–42.
  12. Албу А.Ф. Применение быстрого автоматического дифференцирования для вычисления градиента потенциала Терсоффа // Информ. технологии и вычисл. системы. 2016. Т. № 1. С. 43–49.
  13. Абгарян К.К., Посыпкин М.А. Программный комплекс для решения задач параметрической идентификации потенциалов межатомного взаимодействия // Inter. J. of Open Inform. Tech. 2014. Т. 2. № 10. С. 14–19.
  14. Евтушенко Ю.Г., Лурье С.А., Посыпкин М.А., Соляев Ю.О. Применение методов оптимизации для поиска равновесных состояний двумерных кристаллов // Ж. вычисл. матем. и матем. физ. 2016. Т. 56. № 12. С. 2032–2041.
  15. Горчаков А.Ю. О программных пакетах быстрого автоматического дифференцирования // Информ. технологии и вычисл. системы. 2018. № 1. P. 30–36.

Supplementary files

Supplementary Files
Action
1. JATS XML
Download
2.

Download (140KB)
Indexing metadata

Copyright (c) 2023 А.Ф. Албу, А.Ю. Горчаков, В.И. Зубов