numberのnum-が付く単語は他にもinnumerateがあります。これも数を意味する英単語。in-,imは「できない」を意味しています。impossibleはim+possible: 可能ではない→不可能な という意味になることでわかります。
innumerate: 算数の知識がない
innumerable: 無数の 数えきれない
innumerably: 無数に 数えられないほど
innumeracy: 数学の知識がないこと
innumerableness: 数えきれないこと
リテラシー(literacy)は、「読み書きの知識がある 識字の」という意味ですから、innumeracyが「数学の知識がない」となることがわかると思います。
関連リンク:カタカナ語英単語