Der Kleine Wannsee ist im Süden des Berliner Bezirkes Steglitz-Zehlendorf südwestlich von der Wannseebrücke gelegen. Als Bestandteil des Griebnitzkanals stellt er die Verbindung zwischen Großem Wannsee und dem Pohlesee dar. Das Wasser fließt vom Teltowkanal über den Kleinen Wannsee in den Großen Wannsee.
Im Nordwesten grenzt der Kleine Wannsee an den Berliner Ortsteil Wannsee, im Südosten an die Ortslage Berlin-Düppel.
Am Ufer befinden sich neben zahlreichen Rudervereinen sowie dem Kleist-Grab überwiegend repräsentative Anwesen auf sehr begrünten Grundstücken. Da die jeweiligen Ufergrundstücke Privateigentum sind, gibt es keinen öffentlich zugänglichen Uferweg.
Siehe auch: Liste der Seen in Deutschland