许多学科都以优化为核心。在物理学中,系统根据物理定律达到其最低能量状态。在商业中,企业旨在最大化股东价值。在生物学中,适者更可能存活。本书侧重于从工程角度进行优化,其目标是设计一个系统来优化一组受约束的指标。该系统可以是像飞机那样复杂的物理系统,也可以是像自行车架那样的简单结构。该系统甚至可能不是物理系统,例如,我们可能对设计自动车辆控制系统或检测肿瘤活检图像是否癌变的计算机视觉系统感兴趣。我们希望这些系统尽可能地发挥作用。根据不同的应用,相关指标可能包括效率、安全性和准确性。设计时的约束条件可能包括成本、重量和结构稳固性。

本书所讨论的是算法,或者称之为计算过程。给定有关系统设计的一些特征(要求),例如一组用来表示机翼几何形状的参数,算法将告诉我们如何在可能的设计范围内找到最好的方案。根据不同的应用,相关探索可能涉及进行物理实验(例如风洞测试),也可能涉及评估分析表达式或运行计算机模拟。我们将讨论处理各种挑战的计算方法,例如如何搜索高维空间,如何处理存在多个竞争目标的问题,以及如何兼顾指标中的不确定性。