オーディオプロパティにモデム関係の項目がありませんか？

Win98なら　コントロールパネル　→　モデム
で、モデムが選ばれていると思いますので「プロパティ」のバタンをクリックすると
音量のゲージが出てくるのでそいつを「オフ」にすれば音が出なくなりますよ
あとはスピーカーを殺してしまうとか・・・（ぉぃ

ATコマンドで直接設定してみてはいかがでしょうか。たいていは「ATL0M0」で消えるハズですよ (^^)

外しているかもしれませんが、ダイヤルアップネットワークの中の、
いつも使う接続を右クリックして出るプロパティで、
"接続の方法"内の設定の音量はオフになっているでしょうか。

モデムのスピーカーを取っちゃう、スピーカーにゴムでも貼るとか。