Ba Khin werd geboren in Yangon tijdens het Britse koloniale bewind in maart 1899. In januari 1937 ontmoette Ba Khin een leerling van Saya Thet Gyi. Thet Gyi was een rijke boer en leerling van de vermaarde meester Ledi Sayadaw, die hem anapana-sati leerde, een vorm van meditatie onderwezen door de Boeddha.
Toen Ba Khin het probeerde, ervoer hij een goede concentratie, die zoveel indruk op hem maakte dat hij besloot een volledige cursus in vipassana-meditatie te volgen die Thet Gyi hem aanbood. Ba Khin boekte goede vooruitgang en zette zijn beoefening voort tijdens regelmatige bezoeken aan het centrum van zijn leraar en ontmoetingen met Thet Gyi.
In 1941 ontmoette hij Webu Sayadaw, een monnik die algemeen erkend werd als een arahant. Webu Sayadaw was onder de indruk van Ba Khin’s vaardigheid in meditatie, en drong er bij hem op aan om les te geven. De monnik was de eerste die Ba Khin aanspoorde om les te gaan geven.
In 1950 stichtte hij de Vipassana Vereniging van het Kantoor van de Boekhouder-Generaal waar leken, voornamelijk werknemers van dat kantoor, Vipassana meditatie konden leren. In 1952 werd het Internationaal Meditatie Centrum (I.M.C.) geopend in Rangoon waar vele Birmese en buitenlandse studenten onderricht kregen in de Dhamma van Ba Khin. Hij was ook actief in de planning van het Zesde Boeddhistische Concilie bekend als Chaṭṭha Saṅgāyana (Zesde Recitatie) die in 1954-56 in Yangon werd gehouden.