ベクター空間 VVVの部分集合MMMに対して、次の式が成り立つ場合、MMMを凸集合convex setと言う。
λx+(1−λ)y∈M,∀λ∈[0,1], ∀x,y∈M \lambda x +(1-\lambda)y \in M,\quad \forall \lambda\in[0,1],\ \forall x,y \in M λx+(1−λ)y∈M,∀λ∈[0,1], ∀x,y∈M
この式を言葉で解くなら、「MMMが凸集合だとは、MMMに含まれる任意の二つのベクターの間にある全てのベクターもまたMMMに属している」という意味だ。また、MMMが部分空間であれば、足し算とスカラーの掛け算に対して閉じているので、凸集合である。