> 題名の件について，間隔が広くなりすぎるのですが，どうすればいいでしょうか。

お示しの方法では ~-3 のように - が 二項演算子と解釈されますね。
少しのスペースを挿入したいのであれば \; または \: を用いる方法がありそうです。

\documentclass[b5paper,10pt]{jarticle}
\usepackage{emathP}
\begin{document}
 \retu{\sqrt3,-3,3\sqrt3,-9,\cdots}
 \par
 \retu<retukugiri={,~}>{\sqrt3,-3,3\sqrt3,-9,\cdots}
 \par
 \retu<retukugiri={\;,\;}>{\sqrt3,-3,3\sqrt3,-9,\cdots}
 \par
 \retu<retukugiri={\:,\:}>{\sqrt3,-3,3\sqrt3,-9,\cdots}
\end{document}

▼関連発言
│
└◆8502:retukugiri={,~}としたときのマイナスと数の間隔について [tanak] 01/07 20:39
　├◆8503:Re:retukugiri={,~}としたときのマイナスと数の間隔について [田中徹] 01/07 22:15
　│└◆8504:Re[2]:retukugiri={,~}としたときのマイナスと数の間隔につ... [tanak] 01/07 22:35
　│　└◆8505:Re[3]:retukugiri={,~}としたときのマイナスと数の間隔に... [田中徹] 01/07 23:32
　│　　└◆8511:Re[4]:retukugiri={,~}としたときのマイナスと数の間隔... [tanak] 01/08 22:41
　└◆8510:Re:retukugiri={,~}としたときのマイナスと数の間隔について [tDB] 01/08 13:38
　　└◆8512:Re[2]:retukugiri={,~}としたときのマイナスと数の間隔につ... [tanak] 01/08 22:47<-last