「パスワードをダイジェスト化したBASIC認証」と「DIGEST認証」は別物。
http://tomcat.apache.org/tomcat-6.0-doc/realm-howto.html#Digested%20Passwords
http://www.atmarkit.co.jp/fjava/javatips/054container008.html
http://www.atmarkit.co.jp/fjava/javatips/054container008.html
筆者が確認した限り、Tomcat(Tomcat5.0.19)では現在のところ両者の併用はできないようです。
そのため、パスワードのダイジェスト化をしたうえで通信経路の安全性も確保したければ、SSL(Secure Socket Layer)を導入する必要があります。ここでは、基本認証におけるパスワードのダイジェスト化の方法について説明します。