String-averaging incremental stochastic subgradient algorithms

Autor(es)

Oliveira, R. M. ^[1] ; Helou, E. S. ^[1] ; Costa, E. F. ^[1]

Afiliação do(s) autor(es)

^[1] Univ Sao Paulo, Dept Appl Math & Stat, Inst Math & Comp Sci, Sao Carlos, SP - Brazil

• Tipo de documento: Artigo Científico
• Fonte: OPTIMIZATION METHODS & SOFTWARE; v. 34, n. 3, p. 665-692, MAY 4 2019.
• Citações Web of Science: 0

Resumo

We present a method to solve constrained convex stochastic optimization problems when the objective is a finite sum of convex functions . Our method is based on Incremental Stochastic Subgradient Algorithms and String-Averaging techniques, with an assumption that the subgradient directions are affected by random errors in each iteration. Our analysis allows the method to perform approximate projections onto the feasible set in each iteration. We provide convergence results for the case where a diminishing step-size rule is used. We test our method in a large set of random instances of a stochastic convex programming problem and we compare its performance with the robust mirror descent stochastic approximation algorithm proposed in Nemirovski et al. (Robust stochastic approximation approach to stochastic programming, SIAM J Optim 19 (2009), pp. 15741609). (AU)

• Processo FAPESP: 15/10171-2 - Métodos incrementais e de média das sequências para otimização convexa não-diferenciável com Subgradientes Inexatos
• Beneficiário: Rafael Massambone de Oliveira
• Linha de fomento: Bolsas no Brasil - Doutorado
• Processo FAPESP: 13/19380-8 - Controle e filtragem de sistemas estocásticos
• Beneficiário: Eduardo Fontoura Costa
• Linha de fomento: Auxílio à Pesquisa - Regular
• Processo FAPESP: 13/07375-0 - CeMEAI - Centro de Ciências Matemáticas Aplicadas à Indústria
• Beneficiário: José Alberto Cuminato
• Linha de fomento: Auxílio à Pesquisa - Centros de Pesquisa, Inovação e Difusão - CEPIDs
• Processo FAPESP: 13/16508-3 - Cálculo rápido do operador generalizado de retroprojeção com aplicações em reconstrução tomográfica de imagens
• Beneficiário: Elias Salomão Helou Neto
• Linha de fomento: Auxílio à Pesquisa - Regular
• Processo FAPESP: 17/20934-9 - Filtragem e controle de sistemas com saltos nos parâmetros
• Beneficiário: Eduardo Fontoura Costa
• Linha de fomento: Auxílio à Pesquisa - Regular