Ta có: $x^2 - 2x - 3 = (x + 1)(x - 3)$.

Bảng xét dấu:

| x | -∞ | -1 | 1 | 3 | +∞ |

|-------|----|----|----|----|----|

| x + 1 | - | 0 | + | + | + |

| x - 3 | - | - | - | 0 | + |

| f(x) | + | 0 | - | 0 | + |

Từ bảng xét dấu, ta có:

 $x^2 - 2x - 3 \geq 0$ khi $x \in (-\infty; -1] \cup [3; +\infty)$.

 $x^2 - 2x - 3 < 0$ khi $x \in (-1; 3)$.

a) Với $x \in (-\infty; -1] \cup [3; +\infty)$:

Khi đó, $y = x^2 - 2x - 3$.

 $y' = 2x - 2$.

 $y' = 0 \Leftrightarrow x = 1$ (loại vì không thuộc khoảng đang xét).

Ta có bảng biến thiên:

| x | -∞ | -1 | 3 | +∞ |

|-------|----|----|----|----|

| y' | - | - | + | + |

| y | +∞ | 0 | 0 | +∞ |

Vậy hàm số đồng biến trên $(3; +\infty)$ và nghịch biến trên $(-\infty; -1)$.

b) Với $x \in (-1; 3)$:

Khi đó, $y = -(x^2 - 2x - 3) = -x^2 + 2x + 3$.

 $y' = -2x + 2$.

 $y' = 0 \Leftrightarrow x = 1$ (thuộc khoảng đang xét).

Ta có bảng biến thiên:

| x | -1 | 1 | 3 |

|-------|----|----|----|

| y' | + | 0 | - |

| y | 0 | 4 | 0 |

Vậy

đồng biến trên các khoảng $(-1; 1)$ và $(3; +\infty)$.

nghịch biến trên các khoảng $(-\infty; -1)$ và $(1; 3)$.