La fonction carré est continue sur l'intervalle $[1, \nep]$ donc elle admet des primitives sur cet intervalle et l'intégrale $I_0$ existe.
On a :
\[
I_0=\int_1^\nep x^2 \dd x
=\left[\dfrac{1}{3}x^3 \right]_1^\nep
=\dfrac{\nep^3-1}{3}.
\]

Pour calculer $I_1$, posons
\[
u(x)=\dfrac{1}{3}x^3
\quad
\text{et}
\quad
v(x)=\ln x.
\]
On a alors :
\[
u'(x)=x^2
\quad
\text{et}
\quad
v'(x)=\dfrac{1}{x}.
\]
Les fonctions $u$ et $v$ sont dérivables sur l'intervalle $[1, \nep]$ et les fonctions $u'$ et $v'$ sont continues sur $[1, \nep]$ donc, d'après le théorème d'intégration par parties,
\[
I_1=\int_1^\nep{x^2\ln x \dd x}
=\left[\dfrac{1}{3}x^3\ln x \right]^\nep_1
-\frac13\int^\nep_1 \dfrac{x^3}{x} \dd x
=\dfrac{\nep^3}{3}-\dfrac{1}{3}I_0
=\dfrac{2\nep^3+1}{9}.
\]
