① 물질 또는 장으로 이루어진 계의 상태량의 하나. 엔트로피라는 명칭은 R.클라우지우스가 1865년에 명명했으며 그리스말「τροπ?」(변화)에 유래하는 변화 용량의 뜻이다.

열역학 제2법칙에 의해 그 존재가 증명되었다.

차원은 . 절대온도 T의 준정적 등온변화에서 미소열량 Q를 흡수했을 때의 계의 엔트로피 증가 dS는 dS=dQ/T로 정해지므로 이것을 적분하여 임의의 상태의 그 값을 정할 수 있다.

그때 나오는 상수는 열역학의 제3법칙으로 정해진다.

어느 물질의 각 온도의 비열 C를 알고 또 그것이 ,…의 온도에서 전이를 가져 전이열이 ,…라고 하면 온도 T의 엔트로피 S의 값은

에 의해 구할 수 있다.

열용량의 실측값을 쓸 때 측정하기 어려운 OK 부근은 데바이의 비열식 등으로 외삽한다.

간단한 기제일 때는 스펙트럼분석의 데이터를 써서 통계역학에 따라 엔트로피를 계산하는편이 정확할 때가 많다.

엔트로피에 통계역학적인 뜻을 부여한 사람은 L.볼츠만이다.

볼츠만의 원리에따르면 거시적 조건 하에서가능한 미시적상태의수를 W라 할때 S=k logW의 관계가 있다.

k는 볼츠만상수이다.

또 위상공간 속의 계의 대표점의 분포함수를 P라하면(P는 위상공간의 좌표함수이고 d를 위상공간의 체적요소라 하면이라는조건을 만족시킨다) 계의 엔트로피는

의 형태로 표시된다.

양자통계역학에서는 P 대신 밀도행렬, 위상공간에서의 적분 대신 행렬의 트레이스를 취한다.

W, P 또는 밀도행렬이 각기 계를 구성하는 부분계의 그것의 곱이 될 때는(이를테면 부분계 사이의 상호작용이 무시됨) 계의 엔트로피는 부분계의 합이 된다.

이 상가성(相加性)이 로그함수가 나타나는 이유이다.

엔트로피는 k를 단위로 하여 측정한계의 내부운동의 복잡한 정도를 어느 정도 짐작할수 있게 해 준다.

②몇 개의 가능성 중의 i째의 상태가 나타나는 확률을 P(i)라 하고 비트 단위의 엔트로피를

로 정의한다.

H0일 때 H의 값은 2진신호로 표시되는 정보의 결여의 정도, 따라서 금후 얻어야할 정보량을 나타낸다.

H=0이면 완전한 정보가 입수된 셈이다.

하나 하나의 상태 사이에 상관관계가 있을때는 j의 상태일 때 i의 상태가 나타나는 조건부확률을 P(i)라 하여 조건부엔트로피

를 도입한다.

잡음이 들어오는 통신의 엔트로피도 이 형태로 표시된다.

맥스웰의 마물의 역리논 마물이 가지논 정보의 엔트로피를 음수로 하면 설명 가능하다.

또 확률론 에르고드이론 등과 관련하여 여러가지 형태의 엔트로피가 이용된다.