サイズがm×nm\times nm×nで、全ての要素が000である行列を零行列zero matrixと言い、Om×nO_{m\times n}Om×nまたは簡単にOOOと表記する。
他の表記方法にはZm×nZ_{m \times n}Zm×n、ZZZ、0m×n\mathbf{0}_{m\times n}0m×n、または0\mathbf{0}0などがある。数字000と間違えないように太字で書く方が良い（実際には、ただOOOを使うのが良い）。零行列は行列の加算における単位元である。つまり、任意のm×nm\times nm×n行列AAAに対して、以下の式が成立する。
A+Om×n=A=Om×n+A A + O_{m\times n} = A = O_{m\times n} + A A+Om×n=A=Om×n+A
