서브넷 마스크에 대해서 알기 위해서는 먼저 서브넷에 대해 알아야 한다. 서브넷(subnet)은 하나의 지역, 한 빌딩 또는 같은 근거리통신망 내에 있는 모든 컴퓨터들을 나타낼 수 있다. 여러 개의 서브넷으로 나뉘어진 어떤 조직의 네트웍은 인터넷에 하나의 공유된 네트웍 주소로 접속될 수 있다. 만약 서브넷이 없다면, 그 조직은 물리적으로 분리된 서브 네트웍마다 하나씩 여러 군데의 인터넷 접속을 가지게 될 것이며, 그렇게 함으로써 한정된 양의 인터넷 주소가 쓸모 없이 낭비될 수도 있다. 인터넷은 네트웍 사용자들 간에 서로 커뮤니케이션을 하기 위한 네트웍의 집합이다. 커뮤니케이션을 위해서는 양측의 사용자 또는 호스트가 관련되어 있는 발신지와 도착지 네트웍, 그리고 네트웍 내의 특정한 컴퓨터의 주소가 있어야 한다. 이 주소를 IP 주소라고 부른다. 32 비트의 IP 주소는 크게 두 부분으로 나뉘는데, 하나는 네트웍을 식별하는 네트웍 번호이고, 다른 하나는 네트웍 내의 특정한 컴퓨터나 호스트를 식별하는 호스트 번호이다. 이러한 서브넷을 네트웍 번호와 호스트 부분으로 구분짓는 역할을 하는 것이 서브넷 마스크이다. 서브넷을 만들었을 때 표시하기 위해 존재하는 것이 서브넷 마스크이다.