선형공간(線形空間)·함수공간(函數空間) 또는 그들의 부분집합 사이의 사상. 사상과 거의 같은 뜻이다. 작용소라고도 한다.

이 사상에서 공간X의 원 u가 공간Y의 원 u에 대응 할 때 이 대응을 함수 기호 v=f(u)로 표시하는 대신 v=Tu라고 표시하고, T를 연산자라고 할 때도 있다.

u의 집합 X’(X’X)을 정의역 v의 집합 Y’(Y’Y)를 치역이라 한다.

함수공간에서의 연산자는 일정한 계산 규칙, 이를테면 g=Tf 두고 g(x)=f(x), g(x)= 등에 의해 정해질 때가 많다.

첫째 것은 미분연산자, 둘째 것은 적분연산자의 예이다.

이런 경우 연산자의 정의역은 경계 조건 등에 따라 적당하게 정해지지만 연산자라는 말은 어느 함수에 다른 함수를 대응시키는 조작은 정의역을 명시하지 않고 막연하게 가리킬 때 쓰는 경우도 있다.

적당한 성질을 가진 공간에 작용하는 어느 두 연산자 상호간에 합?곱 등의 대수적 산법이나 연산자로서의 수렴 개념을 정할 수 있다.