핵산 분해효소의 하나. DNA(디옥시리보핵산)의 특정한 염기배열(鹽基配列)을 식별하고 2중사슬을 절단하는 엔도뉴클레아제로서, 유전공학에서 재조합 DNA를 만들기 위해 사용되는 특수한 효소로 알려져 있다.

「제한」이라 함은 이질(異質)의 숙주(宿主) 중에서 증식한 DNA의 침입을 받았을 때 그 DNA와 자기의 DNA를 식별하고 분해하는 현상을 말하며, 그 작용을 하는 효소를 제한효소라고 한다.

제한효소가 인식하는 염기배열 중의 특정한 염기를 메틸화(化)함으로써 제한을 받지 않는 상태로 DNA를 일시적으로 변화시키는 현상은 수식(修飾)이라고 하고, 이러한 작용을 하는 효소를 수식효소라고 한다.

이 현상은 스위스의 미생물학자 W. 아버에 의해 박테리오파지와 대장균의 계(系)에서 해명되었고, 70년 초기에는 미국의 미생물학자 H. O. 스미스와 D. 네이선스 등에 의해 부위특이성(部位特異性) 제한효소의 발견 및 연구, DNA의 구조해석 등이 이루어져 유전공학의 기초가 마련되었다.

이 업적으로 78년 노벨 생리학의학상이 각각 동시에 수여되었다.

제한효소는 그 특성(절단양식 및 활성발현인자 등)에 의해 I , II, III형의 3군으로 대별된다.

I형 효소는 활성 발현에 ATP, S-아데노실메티오닌 및 마그네슘이온()을 필요로 하고, DNA 속의 인식염기배열로부터 떨어진 부위를 절단하는데, 그 위치는 일정하지 않다.

II형 효소는 유전공학에서 널리 사용되는 것으로, 활성발현에 마그네슘이온을 필요로 하며, DNA 분자의 특정한 염기배열을 인식하고 그 부위 또는 인식염기배열로부터 일정염기 떨어진 인접부위를 정확하게 절단한다.

이 효소의 인식염기배열은 3~6개의 2회전 대칭구조를 취하는 경우가 많다.

Ⅲ형 효소는 활성발현에 ATP와 마그네슘이온을 필요로 하고, DNA 속의 인식염기배열로부터 수십 염기 떨어진 부위를 절단한다.

제한효소는 이미 200여 종 이상 발견되었으며 생산균주(生産菌株) 고유의 특이성을 나타내기 때문에 생산균의 속명(屬名)의 머리글자 1문자, 종명(種名)의 머리글자 2문자 및 주명 (株名)을 부기해 표시한다.

동일한 균주가 2종 이상의 제한효소를 생산하는 경우에는 순차적으로 로마 숫자를 첨가한다.

예컨대 대장균 Escherichia coli의 B주에서 발견된 제한효소는 B라고 표기되며, 이것은 I 형 효소이다.

같은 대장균 RY13인 경우에는 RI이고, R245인 경우는 Eco RII가 되며, 모두 II형 효소이다.