Definicija neprekidnosti pomoću otvorenih skupova
Funkcija \( f : X \to Y \) je neprekidna ako, i samo ako, za svaku tačku \( x \in X \) i svaki otvoreni skup \( U \subset Y \) koji sadrži \( f(x) \), postoji okolina \( V \) tačke \( x \) takva da važi \( f(V) \subset U \).
Ova definicija može djelovati apstraktno, ali njena suština je jednostavna: male promjene ulaza ne smiju proizvesti "skokove" u izlazu. Topologija tu ide korak dalje i ne govori o udaljenostima, već o otvorenim skupovima.
Drugim riječima, funkcija \( f : X \to Y \) je neprekidna ako i samo ako za svaki otvoreni skup \( U \subset Y \), njegova inverzna slika \( f^{-1}(U) \) jeste otvoren skup u \( X \).

Ključna ideja je sljedeća: inverzna slika svakog otvorenog skupa u kodomenu mora biti otvorena u domenu.
Ovaj rezultat daje topološku definiciju neprekidnosti, zasnovanu isključivo na strukturi otvorenih skupova u oba prostora.
Napomena : Ova formulacija je ekvivalentna poznatoj analitičkoj definiciji pomoću \(\varepsilon\)-\(\delta\). Preciznije, funkcija \( f \) je neprekidna u tački \( x_0 \in \mathbb{R} \) ako za svaki \(\varepsilon > 0\) postoji \(\delta > 0\) takav da iz uslova \( |x - x_0| < \delta \) slijedi \( |f(x) - f(x_0)| < \varepsilon \). Ova verzija se uvodi u osnovnim kursevima analize.
Neprekidnost se može opisati i na drugi način: funkcija je neprekidna ako je inverzna slika svakog zatvorenog skupa zatvoren skup. Ove dvije formulacije su potpuno ekvivalentne i često se koriste u zavisnosti od konteksta.
Konkretan primjer
Razmotrimo funkciju \( f : \mathbb{R} \to \mathbb{R} \), definisanu kao \( f(x) = x^2 \).
Želimo provjeriti njenu neprekidnost koristeći upravo definiciju preko otvorenih skupova.
Uzmimo otvoreni skup \( U = (1, 4) \), koji sadrži sve realne brojeve između 1 i 4.

Prvi korak je da odredimo inverznu sliku:
$$ f^{-1}(U) = \{ x \in \mathbb{R} \mid x^2 \in (1, 4) \} $$
Rješavamo nejednakost:
$$ 1 < x^2 < 4 $$
što je ekvivalentno:
$$ 1 < |x| < 2 $$
Odavde slijedi:
$$ x \in (-2, -1) \cup (1, 2) $$
Dobijeni skup je otvoren u \( \mathbb{R} \), što je prvi važan korak.
Sada uzmimo jednu konkretnu tačku iz tog skupa, na primjer \( x = 1{,}5 \).
Tada je:
$$ f(1{,}5) = 2{,}25 \in (1, 4) $$

Sada tražimo malu okolinu oko \( x \) koja ostaje unutar skupa \( U \) nakon primjene funkcije.
Uzmimo interval:
$$ V = (1{,}4, 1{,}6) $$

Izračunajmo vrijednosti na krajevima:
$$ f(1{,}4) = 1{,}96 \quad \text{i} \quad f(1{,}6) = 2{,}56 $$
Vidimo da važi:
$$ f(V) = (1{,}96, 2{,}56) \subset (1, 4) $$
To znači da mala okolina oko \( x \) ostaje unutar \( U \) nakon primjene funkcije, što je upravo ono što definicija traži.
Kako se isti argument može primijeniti na svaku tačku, zaključujemo da je funkcija \( f(x) = x^2 \) neprekidna na cijelom skupu \( \mathbb{R} \).
Napomena : Važno je razumjeti da se neprekidnost ne provjerava u jednoj tački, već u svakoj tački domena. Tek tada možemo reći da je funkcija neprekidna na cijelom prostoru.
Dokaz ekvivalentnosti
Pokazaćemo da su dvije definicije neprekidnosti zaista ekvivalentne.
A] Iz topološke definicije slijedi uslov sa okolinama
Pretpostavimo da je funkcija \( f \) neprekidna u smislu otvorenih skupova.
Neka je \( x \in X \) i neka otvoreni skup \( U \subset Y \) sadrži \( f(x) \).
Definišimo \( V = f^{-1}(U) \). Po pretpostavci, \( V \) je otvoren skup u \( X \).
Pošto je \( x \in V \), skup \( V \) je okolina tačke \( x \), a pritom važi \( f(V) \subset U \).
Time je uslov ispunjen.
B] Obrnuto: iz uslova sa okolinama slijedi topološka definicija
Pretpostavimo sada da za svaku tačku \( x \in X \) i svaki otvoreni skup \( U \subset Y \) koji sadrži \( f(x) \), postoji okolina \( V \) takva da važi \( f(V) \subset U \).
Treba pokazati da je za svaki otvoreni skup \( W \subset Y \), skup \( f^{-1}(W) \) otvoren.
Uzmimo proizvoljnu tačku \( x \in f^{-1}(W) \). Tada je \( f(x) \in W \).
Po pretpostavci, postoji okolina \( V_x \) takva da važi \( f(V_x) \subset W \).
To znači da je \( V_x \subset f^{-1}(W) \).
Drugim riječima, oko svake tačke skupa \( f^{-1}(W) \) postoji otvorena okolina sadržana u tom skupu, što znači da je \( f^{-1}(W) \) otvoren skup.
Zaključak
Obje definicije opisuju istu ideju neprekidnosti, samo iz različitih uglova. Jedna koristi otvorene skupove, druga koristi okoline, ali matematički su potpuno ekvivalentne.
I tako dalje.