これは \warizan のせいではありません。

式の横幅が列幅を超過しているためです。

対策は
1. 列数を 3-->2
2. 文字サイズを \LARGE --> \large

下の例は，上記2の場合です。
1. にしたければ，下のリストで
       \large     --> \LARGE
       \retusuu=3 --> retusuu=2
とします。（いずれも2ヶ所あります）

% --- re5056.tex -----------------------------
\documentclass[b5paper,11pt]{jarticle}
\usepackage[papersize]{emath}
\usepackage{emathEy}
\usepackage{emathWs}

\oddsidemargin=-12mm
\evensidemargin=-12mm
\topmargin=-12mm
\headheight=0pt
\headsep=0pt
\textheight=23cm
\textwidth=15cm
\marginparsep=0mm
\marginparwidth=0mm

\pagestyle{empty}

\renewcommand{\labelenumi}{\framebox[5mm][c]{\LARGE{\arabic{enumi}}}~}
\renewcommand{\labelenumii}{(\arabic{enumii})}
\begin{document}
{\LARGE \gt 小５　小数のわり算【１】}

\begin{enumerate}
\item 次のわり算をしなさい。
\begin{edaenumerate}<gyoukan=\vfill,retusuu=3>
\large
\item \warizan<M>{5.38}{23}
\item \warizan<M>{1.234}{56}
\item \warizan<M>{38.6}{61}
\item \warizan<M>{2547}{83}
\item \warizan<M>{832}{57}
\item \warizan<M>{9000}{79}
\end{edaenumerate}

\item 次のわり算をしなさい。
\begin{edaenumerate}<gyoukan=\vfill,retusuu=3>
\large
\item \warizan<M>{234}{35}
\item \warizan<M>{2198}{52}
\item \warizan<M>{980}{77}
\item \warizan<M>{3333}{14}
\item \warizan<M>{439}{48}
\item \warizan<M>{8111}{85}
\end{edaenumerate}
\end{enumerate}
\end{document}

▼関連発言
│
└◆5056:筆算の位置 [MMM] 08/03 12:31
　└◆5057:Re:筆算の位置 [tDB] 08/03 14:18
　　└◆5058:--- [---] 08/03 18:24<-last