Para averiguar la version del SO instalado en el dispositivo donde corre nuestra app hay una sencilla linea

Log.d("DEBUG", "OS VERSION", Build.VERSION.RELEASE);

El resultado podra ser 3.1, 2.2, 1.6, etc. Recordemos que nos devuelve un String y si lo quereremos usar para comparaciones les recomiendo pasarlo a entero. Entonces seria if (osVersion>2) ...
osVersion seria una variable donde convertimos entero
Build.VERSION.RELEASE