Il étudie le droit en Inde, puis à Londres et devient avocat. Au cours de longs séjours en Afrique du Sud (entre 1893 et 1914), il défend les Indiens, hindouistes et musulmans, contre les discriminations raciales. Il élabore alors sa doctrine de l'action non violente, inspirée de l'hindouisme, du christianisme et de penseurs tels que Tolstoï. Revenu en Inde, il s'engage dans la lutte contre les Britanniques, qui l'emprisonnent à plusieurs reprises. En 1920, il devient le leader incontesté de la lutte nationale, dont il fait un mouvement de masse. Il prône le retour à un passé idéalisé, préconisant le filage et le tissage à la main. À partir de 1922, il se consacre à l'éducation du peuple et aux problèmes des intouchables. Le leadership du mouvement national étant assuré à partir de 1928 par J. Nehru, il n'intervient plus que comme caution morale pour des mouvements de masse (désobéissance civile de 1930, campagne Quit India de 1942) ou pour calmer les violences entre hindous et musulmans (1946-1947). Il est assassiné en 1948 par un extrémiste hindou.