根据题意作下图,并设BC=2a,AD=L,取BC的中点O为坐标原点,A点坐标设为(x,y);
其他点坐标B(-a,0)、C(a,0)、D(0,a√3),其中5-3<2a<3+5;
由两点距离公式可得:(x-a)²+y²=5²、(x+a)²+y²=3²、L²=x²+(y-a√3)²;
前两式相减得 4xa=-16,∴x=-4/a,代入第一式得y²=25-(-4/a-a)²=17-a²-16/a²,y=-√(17-a²-4/a²);
将x、y代入最后一式L²=(-4/a)²+(17-a²-16/a²)+2(a√3)*√(17-a²-4/a²)+3a²=17+2a²+2a√3*√(17-a²-4/a²)
→ (L²-17-2a²)=2a√3*√(17-a²-4/a²) → (L²-17-2a²)²=12a²*(17-a²-4/a²)
→ (L²-17)²-4a²(L²-17)+4(a²)²=204a²-12(a²)²-48 → 16(a²)²-[4(L²-17)+204]a²+(L²-17)²+48=0;
若△ABC存在,即a²存在,则上列方程根的判别式不小于0:[4(L²-17)+204]²-4*16*[(L²-17)²+48]≥0;
上式可整理为关于(L²-17)的一元二次不等式:-3(L²-17)²+102(L²-17)+2409≥0;
解得 L²-17≤17+2√273,∴ Lmax=√[34+2√273]≈8.188;
对应 a²=[4(L²-17)+204]/(2*16)=[(17+2√273)+51]/8=(34+√273)/4,∴ a=[√(34+√273)]/2≈3.554;
cosA=(3²+5²-4a²)/(2*3*5)=[34-4*(34+√273)/4]/30=(-√273)/30≈-0.550757,A≈123.419°;
也可以通过求极值来解;将前L计算式改为 L²=34+2(a²-17/2)+2√3√[273/4-(a²-17/2)²];
令 u=a²-17/2 并令 d(L²)/du=0 找极值点:2+(2√3)*(-u)/√[273/4-u²]=0,即 3u²=273/4-u²;
从而得 u=±(√273)/4,a=√(u+17/2)=√[±(√273)/4+17/2]=√[34±(√273)]/2={2.090,3.554};
显然L取极大值对应u=a²-17/2=(√273)/4:
L²max=34+2*(√273)/4+2√3√[273/4-((√273)/4)²]=34+2√273;Lmax≈8.188,对应a=√(34+√273)/2;