Otimização contínua de grande porte

Resumo

A minimização de funções diferenciáveis com, eventualmente, um grande número de variáveis em conjuntos convexos é um problema com enorme importância teórica e prática. Dois paradigmas fundamentais em algoritmos numéricos para a resolução desse tipo de problema são o da projeção do gradiente e o paradigma Cauchy-Newton para otimização irrestrita. Ambos os paradigmas podem ser combinados no contexto das estratégias de restrições ativas em otimização. Consideremos primeiro o método de gradientes projetados para a minimização de uma função diferençável em conjuntos fechados e convexos não-vazios. Nas últimas décadas, houve muitas variações diferentes do método de gradientes projetados que podem ser consideradas como as extensões restritas do método do gradiente otimal para minimização sem restrições. Todas elas têm em comum a propriedade de manter a facibilidade dos iterados projetando-os no conjunto viável. Este processo é em geral a parte mais custosa de qualquer método de gradientes projetados. Mais ainda, se projetar não é custoso, como no caso de restrições de caixa, o método é considerado tão lento quanto o seu análogo para minimização sem restrições, o método do gradiente otimal (também conhecido como "método de máxima descida"). O lado positivo é que o método de gradientes projetados é relativamente simples de implementar e muito efetivo para problemas de grande porte. Os fatos acima citados motivaram-nos a combinar o método de gradientes projetados com dois ingredientes recentemente desenvolvidos em otimização. (AU)