<input type="file" name="img" size=25 >
<input type="button" value="등록" onclick="_check()">
<script type="text/javascript">
function _check()
{
   if(document.getElementById("img"))
   {
     var str = document.getElementById("img").value;
     dot = str.lastIndexOf(".");
     ext = str.substring(dot).toLowerCase();
     if (ext != ".jpg" && ext != ".JPEG" && ext != ".gif")
     {
        alert("이미지는 업로드 할 수 없는 확장자입니다.");
        document.getElementById("img").select();
        document.selection.clear();
        return false;
      }
   }
</script>

위에 대로 만 하면 업로드 할려는 파일의 확장 자를 체크할 수 있다.