A exceção comum StackOverflowException, em uma applet, é...

applet tenta executar uma ação não permitida pela configuração do browser.

applet tenta armazenar um tipo de dado incorreto em um array.

conversão entre strings e números gera uma falha.

espaço de pilha do sistema se esgota.

espaço de memória para alocar um novo objeto se esgota.