Proximal envelopes: Gladde optimalisatiealgoritmen voor niet-gladde problemen

Nonsmooth optimalisatie problemen ontstaan in een steeds groeiend aantal toepassingen in wetenschap en techniek. Proximale (of splitsende) algoritmes zijn een algemene aanpak voor een verscheidenheid aan niet-moedige problemen, maar zoals bij alle eerste-bestelmethoden, worden hun convergentie-eigenschappen ernstig beïnvloed door slechte conditionering van het probleem. In dit proefschrift wordt een interpretatie van proximale algoritmen aangeboden als onbeperkte gradiëntmethoden over een bijbehorende functiefunctie. Dergelijke functies worden proximale enveloppen genoemd, in analogie met de bekende Moreau envelop. Proximale enveloppen zorgen voor een verband tussen niet-gematigde en gladde optimalisatie, en zorgen voor de toepassing van efficiënter en robuuste gladde optimalisatiealgoritmen voor de oplossing van onbeweeglijke, eventueel beperkte problemen. We beschouwen het geval van de forward-forward en Douglas-Rachford splitsingsmethoden. In het eerste geval, gebaseerd op genereerde differentieerbaarheidseigenschappen op de oorspronkelijke probleemvoorwaarden, ontwerpen we superlinearconvergente lijnzoekalgoritmen op basis van quasi-Newton-richtingen, die hetzelfde orakel gebruiken als de voorwaartse splitsing; Bovendien wordt de analyse uitgebreid naar het geval van het dubbele probleem. In het tweede geval wordt een globale convergentie snelheid verkregen voor de Douglas-Rachford splitsing, terwijl een optimale stappengrootte selectie strategie en een versnelde variant van de methode wordt voorgesteld.