10. prosince 2023
Řečník · 0 sledujících
Řečník · 0 sledujících
Řečník · 0 sledujících
Řečník · 0 sledujících
Řečník · 0 sledujících
In this paper, we study a class of stochastic bilevel optimization problems, also known as stochastic simple bilevel optimization, where we minimize a smooth stochastic objective function over the optimal solution set of another stochastic convex optimization problem. We introduce novel stochastic bilevel optimization methods that locally approximate the solution set of the lower-level problem via a stochastic cutting plane, and then run a conditional gradient update with variance reduction techniques to control the error induced by using stochastic gradients. For the case that the upper-level function is convex, our method requires 𝒪(max 1/ϵ_f^2,1/ϵ_g^2 ) stochastic oracle queries to obtain a solution that is ϵ_f-optimal for the upper-level and ϵ_g-optimal for the lower-level. This guarantee improves the previous best-known complexity of 𝒪(max 1/ϵ_f^4,1/ϵ_g^4 ). Moreover, for the case that the upper-level function is non-convex, our method requires at most 𝒪(max 1/ϵ_f^3,1/ϵ_g^3 ) stochastic oracle queries to find an (ϵ_f, ϵ_g)-stationary point. In the finite-sum setting, we show that the number of stochastic oracle calls required by our method are 𝒪(√(n)/ϵ) and 𝒪(√(n)/ϵ^2) for the convex and non-convex settings, respectively, where ϵ=min ϵ_f,ϵ_g.In this paper, we study a class of stochastic bilevel optimization problems, also known as stochastic simple bilevel optimization, where we minimize a smooth stochastic objective function over the optimal solution set of another stochastic convex optimization problem. We introduce novel stochastic bilevel optimization methods that locally approximate the solution set of the lower-level problem via a stochastic cutting plane, and then run a conditional gradient update with variance reduction tech…
Účet · 648 sledujících
Profesionální natáčení a streamování po celém světě.
Prezentace na podobné téma, kategorii nebo přednášejícího
Hamish Flynn, …
Pro uložení prezentace do věčného trezoru hlasovalo 0 diváků, což je 0.0 %
Pro uložení prezentace do věčného trezoru hlasovalo 0 diváků, což je 0.0 %
Pro uložení prezentace do věčného trezoru hlasovalo 0 diváků, což je 0.0 %
Pro uložení prezentace do věčného trezoru hlasovalo 0 diváků, což je 0.0 %
Tao Fang, …
Pro uložení prezentace do věčného trezoru hlasovalo 0 diváků, což je 0.0 %
Ana Gainaru, …
Pro uložení prezentace do věčného trezoru hlasovalo 0 diváků, což je 0.0 %