이는 직관적으로 말하면, x가 c에 한없이 가까워질 때 f(x)도 L에 한없이 가까워진다는 의미이다. 그런데 '한없이 가까워진다'라는 서술은 수학적으로 엄밀한 서술이 아니다.
그림 1. 앞의 서술처럼 극한을 정의하게 되면 위와 같은 그래프는 0으로 갈 때 극한의 정의가 불분명해진다.
예를 들어 구간 위에서 로 정의된 디리클레 함수는 그림 1의 그래프와 같은 모양을 가진다. 그런데 극한을 x가 0으로 갈 때의 극한을 "x가 0에 한없이 가까워질 때의 함숫값"으로 정의한다면 그래프에서 볼 수 있듯이 함숫값 f(x)는 x가 0에 가까워짐에 따라 0과 1을 동시에 끊임없이 반복해서 가지므로, 극한이 존재한다고 봐야할지, 아니면 0과 1 모두 극한값이라고 봐야할지, 아니면 극한이 존재하지 않는다고 봐야할지 불분명해진다. 따라서 극한을 서술하기 위해서는 다른 엄밀한 방법으로 정의해야 하는데, 이때 사용되는 것이 바로 엡실론-델타 논법이다.
그림 2의 그래프처럼 정의된 함수 f에 대해 를 생각해 보자. 직관적으로 보면, x가 a로 갈 때 함숫값 f(x)는 b에 가까워지므로 극한값은 b라고 할 수 있을 것이다. 이 말인즉슨 x가 a에 충분히 가까워질수록 함숫값 f(x)도 b에 원하는 만큼 가까워질 수 있다는 의미이다. 반대로 말하면, 함숫값 f(x)가 b에 원하는 만큼 가까워지게 하려면 x가 a에 충분히 가까운 거리 안에 있도록 해주면 된다. 즉, 임의의 작은 양의 실수ε이 주어져서 f(x)가 b와 ε보다는 가깝게 하고 싶다면, x가 a와 어떤 충분히 작은 양의 실수 δ만큼의 거리 내에 있도록 해주면 된다. 이는 임의의 ε에 대해 |f(x)-b|<ε가 되도록 하려면, 충분히 작은 실수 δ를 잡아서 x가 0<|x-a|<δ를 만족하게 하면 된다는 뜻이다.
위의 서술은 x가 a로 갈 때 함수 f(x)의 극한이 b라는 것을 엄밀한 서술 없이 직관적인 방식으로 이해했을 때 자연스럽게 유도되는 성질이었다. 반대로 함수의 극한을 위의 성질을 만족하도록 하는 방식으로 엄밀하게 정의할 수 있다. 즉 아래처럼 정의할 수 있다.
• x가 a로 갈 때 함수 f(x)의 극한값이 b라는 것은, 임의의 양의 실수 ε이 주어졌을 때 조건을 만족하는 어떤 양의 실수 δ를 항상 찾을 수 있다는 것이다. 이때의 조건이란 0<|x-a|<δ인 모든 x가 |f(x)-b|<ε를 만족하는 것이다.
이러한 방식으로 극한을 정의하는 것을 엡실론-델타 논법이라고 한다.
참고로 x가 a에 가까워지는 상황을 고려하고 있으므로 극한값은 f(x)가 x=a에서 어떤 값을 가지는지와는 무관하다. 이 사실은 |x-a|<δ인 모든 x에 대해서가 아니라 0<|x-a|<δ인 모든 x에 대해서만 조건을 만족하면 된다는 앞의 서술에 잘 나타난다.(즉, x=a일 때는 어떤 조건을 만족할 필요가 없다.) 앞의 엡실론-델타 논법에서 조건을 |x-a|<δ인 모든 x에 대해서 만족하는 것으로 바꾸면, 이는 연속 실함수에 대한 엡실론-델타 논법을 이용한 정의가 된다.
임의의 에 대해, 를 고려하자. 그러면 이면 을 만족한다. 따라서 이 성립하므로 함수의 극한값은 9이다.
한편 개요 문단에서 소개한 디리클레 함수는 모든 점에서 극한이 존재하지 않음을 엡실론-델타 논법으로 증명해보자. 귀류법으로 보이기 위해 어떤 점
에서 극한값이 라 하자.
이때 을 고려하자. 그런데 어떤 값을 잡든지간에 상관없이 을 만족하는 유리수 또는 무리수 가 항상 존재한다. 즉 가 0 또는 1인 가 범위 안에 항상 존재하므로 을 만족할 수 없다. 모든 에 대해 이를 만족하지 않으므로 에서 극한은 존재하지 않는다.