Como \(\left( y-x\right) \left( x^{3}-y\right) =0 \) si y sólo si \(y=x \)
o \(\,y=x^{3} \), el dominio de la función es \(\left\{ \left( x,y\right)
\in\mathbb{R}^{2}\,\left\vert \,y\neq x^{3},\,y\neq x\right. \right\}
\cup\left\{ \left( 0,0\right) \right\} . \)
Derivadas parciales de primer orden
Calculamos primero las derivadas parciales de primer orden.
Si \(\left( x,y\right) \neq\left( 0,0\right) \) y \(\left( x,y\right)
\in Dom\,f, \) entonces aplicamos a \(\dfrac{xy^{2}}{\left( y-x\right) \left(
x^{3}-y\right) } \) la regla para derivar un cociente, con respecto a \(x \) y
\(y \), respectivamente.
Así, las derivadas parciales de primer orden son
\[
\dfrac{\partial f}{\partial x}\left( x,y\right) =\left\{
\begin{array}
[c]{ccc}
\dfrac{3x^{4}y^{2}-2x^{3}y^{3}-y^{4}}{\left( \left( y-x\right) \left(
x^{3}-y\right) \right) ^{2}} & & \text{si }\left( x,y\right) \neq\left(
0,0\right) \\[4mm]
0 & & \text{si }\left( x,y\right) =\left( 0,0\right)
\end{array}
\right.
\]
y
\[
\dfrac{\partial f}{\partial y}\left( x,y\right) =\left\{
\begin{array}
[c]{ccc}
\dfrac{x^{4}y^{2}-2x^{5}y+3x^{2}y^{2}}{\left( \left( y-x\right) \left(
x^{3}-y\right) \right) ^{2}} & & \text{si }\left( x,y\right) \neq\left(
0,0\right) \\[4mm]
0 & & \text{si }\left( x,y\right) =\left( 0,0\right)
\end{array}
\right. .
\]
Clase \(C^{1} \)
Veremos si las derivadas parciales son continuas.
Para \(\left( x,y\right) \neq\left( 0,0\right) \) y \(\left(
x,y\right) \in Dom\,f \) las derivadas son continuas por ser cocientes de dos
polinomios en las variables \(x \) y \(y. \) Así, \(f \) es de clase \(C^{1}
\) en \(Dom\,f\diagdown\left\{ \left( 0,0\right) \right\} \) y por tanto,
derivable y continua en cada punto de \(Dom\,f\diagdown\left\{ \left(
0,0\right) \right\} . \)
Para la continuidad de \(\dfrac{\partial f}{\partial x} \) en \(\left(
0,0\right) \) tenemos que probar
\[
\lim\limits_{\left( x,y\right) \rightarrow\left( 0,0\right) }
\dfrac{\partial f}{\partial x}\left( x,y\right) =\dfrac{\partial f}{\partial
x}\left( 0,0\right) =0.
\]
Si nos acercamos por la recta \(x=0 \) tenemos
\[
\lim\limits_{y\rightarrow0}\dfrac{\partial f}{\partial x}\left( 0,y\right)
=\lim\limits_{y\rightarrow0}\dfrac{3\left( 0\right) ^{4}y^{2}-2\left(
0\right) ^{3}y^{3}-y^{4}}{\left( \left( y-0\right) \left( \left(
0\right) ^{3}-y\right) \right) ^{2}}=\lim\limits_{y\rightarrow0}
\dfrac{-y^{4}}{\left( y\left( -y\right) \right) ^{2}}=-1
\]
que no es el valor de la derivada parcial \(\dfrac{\partial f}{\partial x} \) en
el origen, así, la función no es de clase \(C^{1} \) y por tanto,
tampoco de clase \(C^{2}. \)
Continuidad
Veamos si la función \(f \) es continua.
Como la función no está definida en \(y=x \) y \(y=x^{3}, \) entonces
buscaremos funciones que se comporten como ellas en el origen.
Primer caso:
\[
\begin{array}
[c]{lllll}
y=x & & \text{vale cero en cero} & & y=\operatorname*{sen}x\\
y^{\prime}=1 & & \text{vale }1\text{ en cero} & & y^{\prime}=\cos x
\end{array}
\]
Segundo caso:
\[
\begin{array}
[c]{lllll}
y=x^{3} & & \text{vale cero en cero} & & y=\operatorname*{sen}
\nolimits^{3}x\\
y^{\prime}=3x^{2} & & \text{vale cero en cero} & & y^{\prime}
=3\operatorname*{sen}\nolimits^{2}x\cos x\\
y^{\prime\prime}=6x & & \text{vale cero en cero} & & y^{\prime\prime
}=6\operatorname*{sen}x\cos^{2}x-3\operatorname*{sen}\nolimits^{3}x\\
y^{\prime\prime\prime}=6 & & \text{vale }6\text{ en cero,} & &
y^{\prime\prime\prime}=6\cos^{3}x-21\operatorname*{sen}\nolimits^{2}x\cos x
\end{array}
\]
Nos acercaremos al origen usando la primera \(y=\operatorname*{sen}x \) por ser
más sencillos los cálculos, pero se obtiene el mismo resultado si se
usa la segunda.
\[
\lim\limits_{x\rightarrow0}f\left( x,\operatorname*{sen}x\right)
=\lim\limits_{x\rightarrow0}\dfrac{x\operatorname*{sen}\nolimits^{2}x}{\left(
\operatorname*{sen}x-x\right) \left( x^{3}-\operatorname*{sen}x\right) }.
\]
Para calcular el último límite puede aplicarse repetidamente la regla
de L'Hôpital, sin embargo mediante este proceso se obtienen expresiones
sumamente largas, por ello, preferimos primero simplificar la expresión
\begin{align*}
\lim\limits_{x\rightarrow0}\dfrac{x\operatorname*{sen}\nolimits^{2}x}{\left(
\operatorname*{sen}x-x\right) \left( x^{3}-\operatorname*{sen}x\right) } &
=\lim\limits_{x\rightarrow0}\dfrac{\dfrac{x\operatorname*{sen}\nolimits^{2}
x}{x}}{\dfrac{\left( \operatorname*{sen}x-x\right) \left( x^{3}
-\operatorname*{sen}x\right) }{x}}\\
& =\lim\limits_{x\rightarrow0}\dfrac{\operatorname*{sen}\nolimits^{2}
x}{\left( \operatorname*{sen}x-x\right) \left( x^{2}-\dfrac
{\operatorname*{sen}x}{x}\right) }\\
& =\lim\limits_{x\rightarrow0}\left( \dfrac{\operatorname*{sen}
\nolimits^{2}x}{\operatorname*{sen}x-x}\right) \left( \dfrac{1}{x^{2}
-\dfrac{\operatorname*{sen}x}{x}}\right) .
\end{align*}
Claramente
\[
\lim\limits_{x\rightarrow0}\dfrac{1}{x^{2}-\dfrac{\operatorname*{sen}x}{x}
}=-1.
\]
Sólo falta calcular el límite del primer factor
\[
\lim\limits_{x\rightarrow0}\dfrac{\operatorname*{sen}\nolimits^{2}
x}{\operatorname*{sen}x-x},
\]
para lo cual usamos la regla de L'Hôpital dos veces:
\begin{align*}
\lim\limits_{x\rightarrow0}\dfrac{\operatorname*{sen}\nolimits^{2}
x}{\operatorname*{sen}x-x} & =\lim\limits_{x\rightarrow0}\dfrac
{2\operatorname*{sen}x\cos x}{\cos x-1}\\
& =\lim\limits_{x\rightarrow0}\dfrac{\operatorname*{sen}2x}{\cos x-1}\\
& =\lim\limits_{x\rightarrow0}\dfrac{2\cos2x}{-\operatorname*{sen}x}
=\pm\infty,
\end{align*}
de donde,
\[
\lim\limits_{\left( x,y\right) \rightarrow\left( 0,0\right) }\dfrac
{xy^{2}}{\left( y-x\right) \left( x^{3}-y\right) }=\pm\infty
\]
Por tanto, la función no es continua en el origen y en consecuencia no es
derivable en ese punto.
En este ejemplo la función no es de clase \(C^{2} \), no es de clase \(C^{1} \),
no es derivable y no es continua.