Existence of positive solutions for critical p-Laplacian equation with critical Neumann boundary condition

In this article, we consider the existence and nonexistence of positive solutions for the following critical Neumann problem: <m:math xmlns:m="http://www.w3.org/1998/Math/MathML" display="block"> <m:mfenced open="{" close=""> <m:mrow> <m:mtable displaystyle="true"> <m:mtr> <m:mtd columnalign="left"> <m:mo>−</m:mo> <m:msub> <m:mrow> <m:mi>Δ</m:mi> </m:mrow> <m:mrow> <m:mi>p</m:mi> </m:mrow> </m:msub> <m:mi>u</m:mi> <m:mo>+</m:mo> <m:mi>λ</m:mi> <m:msup> <m:mrow> <m:mi>u</m:mi> </m:mrow> <m:mrow> <m:mi>p</m:mi> <m:mo>−</m:mo> <m:mn>1</m:mn> </m:mrow> </m:msup> <m:mo>=</m:mo> <m:msup> <m:mrow> <m:mi>u</m:mi> </m:mrow> <m:mrow> <m:msup> <m:mrow> <m:mi>p</m:mi> </m:mrow> <m:mrow> <m:mo>*</m:mo> </m:mrow> </m:msup> <m:mo>−</m:mo> <m:mn>1</m:mn> </m:mrow> </m:msup> <m:mo>+</m:mo> <m:mi>f</m:mi> <m:mrow> <m:mo>(</m:mo> <m:mrow> <m:mi>x</m:mi> <m:mo>,</m:mo> <m:mi>u</m:mi> </m:mrow> <m:mo>)</m:mo> </m:mrow> <m:mo>,</m:mo> </m:mtd> <m:mtd columnalign="left"> <m:mi>x</m:mi> <m:mo>∈</m:mo> <m:mi mathvariant="normal">Ω</m:mi> <m:mo>;</m:mo> </m:mtd> </m:mtr> <m:mtr> <m:mtd columnalign="left"> <m:msup> <m:mrow> <m:mo>∣</m:mo> <m:mrow> <m:mo>∇</m:mo> </m:mrow> <m:mi>u</m:mi> <m:mo>∣</m:mo> </m:mrow> <m:mrow> <m:mi>p</m:mi> <m:mo>−</m:mo> <m:mn>2</m:mn> </m:mrow> </m:msup> <m:mrow> <m:mo>∇</m:mo> </m:mrow> <m:mi>u</m:mi> <m:mo>⋅</m:mo> <m:mi>ν</m:mi> <m:mo>=</m:mo> <m:msup> <m:mrow> <m:mi>u</m:mi> </m:mrow> <m:mrow> <m:msup> <m:mrow> <m:mi>p</m:mi> </m:mrow> <m:mrow> <m:mi>♯</m:mi> </m:mrow> </m:msup> <m:mo>−</m:mo> <m:mn>1</m:mn> </m:mrow> </m:msup> <m:mo>,</m:mo> </m:mtd> <m:mtd columnalign="left"> <m:mi>x</m:mi> <m:mo>∈</m:mo> <m:mo>∂</m:mo> <m:mi mathvariant="normal">Ω</m:mi> <m:mo>,</m:mo> </m:mtd> </m:mtr> </m:mtable> </m:mrow> </m:mfenced> </m:math> \{{array}{ll}-{Δ }ₚu+λ {u}ᵖ⁻¹={u}^{{p}*-1}+f(x,u),& x∈ Ω ;\\ {| ∇ u| }ᵖ⁻²∇ u· ν ={u}^{{p}-1},& x∈ ∂ Ω ,{array}. where <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:mi mathvariant="normal">Ω</m:mi> <m:mo>⊂</m:mo> <m:msup> <m:mrow> <m:mi mathvariant="double-struck">R</m:mi> </m:mrow> <m:mrow> <m:mi>n</m:mi> </m:mrow> </m:msup> </m:math> Ω ⊂ {{R}}ⁿ is a bounded domain with <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:msup> <m:mrow> <m:mi>C</m:mi> </m:mrow> <m:mrow> <m:mn>1</m:mn> </m:mrow> </m:msup> </m:math> {C}¹ boundary, <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:mi>n</m:mi> <m:mo>≥</m:mo> <m:mn>3</m:mn> </m:math> n≥ 3 , <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:msup> <m:mrow> <m:mi>p</m:mi> </m:mrow> <m:mrow> <m:mo>*</m:mo> </m:mrow> </m:msup> <m:mo>=</m:mo> <m:mfrac> <m:mrow> <m:mi>n</m:mi> <m:mi>p</m:mi> </m:mrow> <m:mrow> <m:mi>n</m:mi> <m:mo>−</m:mo> <m:mi>p</m:mi> </m:mrow> </m:mfrac> </m:math> {p}*=np/n-p , <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:msup> <m:mrow> <m:mi>p</m:mi> </m:mrow> <m:mrow> <m:mi>♯</m:mi> </m:mrow> </m:msup> <m:mo>=</m:mo> <m:mfrac> <m:mrow> <m:mrow> <m:mo>(</m:mo> <m:mrow> <m:mi>n</m:mi> <m:mo>−</m:mo> <m:mn>1</m:mn> </m:mrow> <m:mo>)</m:mo> </m:mrow> <m:mi>p</m:mi> </m:mrow> <m:mrow> <m:mi>n</m:mi> <m:mo>−</m:mo> <m:mi>p</m:mi> </m:mrow> </m:mfrac> </m:math> {p}=(n-1)p/n-p , <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:mn>1</m:mn> <m:mo><</m:mo> <m:mi>p</m:mi> <m:mo><</m:mo> <m:mi>n</m:mi> </m:math> 1< p< n , <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:msub> <m:mrow> <m:mi>Δ</m:mi> </m:mrow> <m:mrow> <m:mi>p</m:mi> </m:mrow> </m:msub> <m:mi>u</m:mi> <m:mo>=</m:mo> <m:mstyle> <m:mspace width="0.1em"/> <m:mtext>div</m:mtext> <m:mspace width="0.1em"/> </m:mstyle> <m:mrow> <m:mo>(</m:mo> <m:mrow> <m:msup> <m:mrow> <m:mo>∣</m:mo> <m:mrow> <m:mo>∇</m:mo> </m:mrow> <m:mi>u</m:mi> <m:mo>∣</m:mo> </m:mrow> <m:mrow> <m:mi>p</m:mi> <m:mo>−</m:mo> <m:mn>2</m:mn> </m:mrow> </m:msup> <m:mrow> <m:mo>∇</m:mo> </m:mrow> <m:mi>u</m:mi> </m:mrow> <m:mo>)</m:mo> </m:mrow> </m:math> {Δ }ₚu={0.1em}div{0.1em}({| ∇ u| }ᵖ⁻²∇ u) is the <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:mi>p</m:mi> </m:math> p -Laplacian operator, <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:mi>ν</m:mi> </m:math> ν denotes the unit outward normal to <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:mo>∂</m:mo> <m:mi mathvariant="normal">Ω</m:mi> </m:math> ∂ Ω , and <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:mi>f</m:mi> <m:mrow> <m:mo>(</m:mo> <m:mrow> <m:mi>x</m:mi> <m:mo>,</m:mo> <m:mi>u</m:mi> </m:mrow> <m:mo>)</m:mo> </m:mrow> </m:math> f(x,u) is a subcritical perturbation. Employing the argument established by Brézis and Nirenberg, we establish the existence and nonexistence of positive solutions for aforementioned equation. Additionally, the extremal functions of the Sobolev constants involving <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:msup> <m:mrow> <m:mi>p</m:mi> </m:mrow> <m:mrow> <m:mi>♯</m:mi> </m:mrow> </m:msup> </m:math> {p} and <m:math xmlns:m="http://www.w3.org/1998/Math/MathML"> <m:msup> <m:mrow> <m:mi>p</m:mi> </m:mrow> <m:mrow> <m:mo>*</m:mo> </m:mrow> </m:msup> </m:math> {p}* are investigated.