Escribir un vector é extremadamente sinxelo, basta empregar vec:

$\vec{u}$

Pero en canto o vector inclúe máis dun caracter queda bastante antiestético:

Así que neses casos é recomendable empregar overrightarrow:

$\overrightarrow{AB}$

Módulo dun vector

O módulo do vector pode escribirse directamente introducindo a barra vertical do teclado, ou ven empregando os comando dos símbolos incluidos no paquete amsmath (que é probable que xa estés empregando para outras cousas). O resultado é basicamente o mesmo.

$|\vec{u}|$

\usepackage{amsmath} % necesario para lvert, rvert
$\lvert \vec{u} \rvert$

Ao igual que ocorre cos paréntesis e outros símbolos similares, a altura da barra vertical é fixa.
Se precisamos que sexa máis longa debemos especificalo cos comandos left e right.

$\left| \dfrac{\vec{u}}{2} \right|$

\usepackage{amsmath} % necesario para lvert, rvert
$\left\lvert \dfrac{\vec{u}}{2} \right\rvert$

E se imos empregalo con certa frecuencia, probablemente o máis cómodo sexa facer un comando:

\usepackage{amsmath}
\newcommand{\modulo}[1]{\left\lvert #1 \right\rvert}

E será moi sinxelo escribir os módulos de tódolos vectores do documento.

$\modulo{\vec{u}}$

Operacións con vectores

Xa que estou, completarei a entrada cos símbolos das operacións, aínda que sexan unha cousa ben básica.

O producto escalar escríbese con cdot.

$\vec{u}\cdot\vec{v}=\modulo{\vec{u}} \modulo{\vec{v}} \cos{\theta}$

O producto escalar escríbese con times.

$\vec{u}\times\vec{v}=\modulo{\vec{u}} \modulo{\vec{v}} \sen{\theta} \cdot \vec{n}$