优化与寻找最小化（或最大化）目标函数的点密切相关。掌握函数值如何随输入的变化而变化是很有用的，因为它告诉我们朝哪个方向移动可以改进先前的设计点。函数值的变化通过一维导数和多维梯度来度量。本章简要回顾微积分[1]的一些基本知识。

[1] 更全面的描述，请参见：

S. J. Colley，Vector Calculus，4th ed.Pearson，2011.