अगस्त 1932 ई. में अंग्रेजों की बांटो और राज करो (Divide and Rule) की नी​ति का एक और असली सच सामने आया। दरअसल ब्रिटीश सरकार द्वारा प्रत्येक अल्पसंख्यक समुदाय के लिए विधानमंडलों की कुछ सीटें आरक्षित कर दी गई थीं, जिनके लिए सदस्यों का चुनाव पृथक निर्वाचन मंडलों में होना सुनिश्चित था- यानि मुसलमान सिर्फ मुसलमानों को और सिख केवल सिख को ही वोट दे सकता था। बता दें कि मुसलमान, सिख और ईसाई पहले से ही अल्पसंख्यक माने जाते रहे थे। अब इस नए कानून के तहत दलित वर्ग (वर्तमान में अनुसूचित जाति) को भी अल्पसंख्यक घोषित कर उन्हें हिन्दू समाज से अलग कर दिया गया। 

अंग्रेजों द्वारा मुसलमानों, सिखों और ईसाईयों के साथ-साथ दलित वर्ग के लिए भी पृथक निर्वाचन मंडल के सिद्धान्त का वास्तविक उद्देश्य भारतीय जनता के बीच फूट डालना था, ताकि आमजन के बीच राष्ट्रीय चेतना विकसित ​न हो।  हांलाकि 1916 ई. में मुस्लिम लीग के साथ हुए एक समझौते में कांग्रेस ने मुसलमानों के लिए पृथक निर्वाचन मंडल की बात मान ली थी लेकिन दलित वर्ग को शेष हिन्दू समाज से अलग करने के प्रयास का लगभग सभी राष्ट्रवादी नेता​ओं ने विरोध किया।

महात्मा गांधी उस समय यरवदा जेल में कैद थे। यह खबर मिलते ही उन्होंने इसका कड़ा विरोध किया। गांधीजी ने इसे भारतीय एकता पर हमला बताया और हिन्दूवाद तथा दलित वर्ग दोनों के लिए खतरनाक कहा। गांधीजी का कहना था कि पृथक निर्वाचन मंडल में दलित वर्गों की सामाजिक हालत सुधारने के बारे में कुछ भी नहीं कहा गया है। एक बार यदि पिछड़े और ​दलित वर्ग को पृथक समुदाय का दर्जा दिया गया तो फिर छूआछूत को खत्म करने का मामला ही दब जाएगा और हिन्दू समाज में सुधार का काम रूक जाएगा।

गांधीजी का यह ​तर्क था कि पृथक निर्वाचन मंडल से मुसलमानों या सिखों को, चाहे जो नुकसान पहुंचे, यह तथ्य तो अप्रभावित रहेगा कि मुसलमान मुसलमान हैं और सिख सिख-जैसा कि पृथक निर्वाचन मंडल न बनने पर भी है। लेकिन पृथक निर्वाचन मंडल का सबसे बड़ा खतरा यह है कि यह अछूतों को अछूत बने रहने की बात सुनिश्चित करता है। दलितों के हितों की सुरक्षा के नाम पर विधानमंडलों में या नौकरियों में सीटें सुरक्षित करने की जरूरत नहीं, उन्हें अलग समुदाय बनाने की जरूरत नहीं, जरूरत है समाज से छुआछूत की कुरीति को जड़ से उखाड़ फेंकने की।

इसलिए गांधीजी 20 सितम्बर 1932 को दलितों के लिए अलग निर्वाचक मंडल के विरुद्ध आमरण अनशन पर बैठ गए। गांधीजी द्वारा प्रेस को दिए गए एक बयान के मुताबिक, “मुझे अपने जिन्दगी की परवाह नहीं। इस पवित्र उद्देश्य के लिए यदि ऐसी सैकड़ों जिंदगियां कुरबान हो जाएं तो भी उस जुल्म का प्रायश्चित नहीं हो सकता, जो हिन्दुओं ने अपने ही गरीब और असहाय भाइयों पर ढाए हैं।”

कई राजनीतिज्ञों ने गांधीजी के इस आमरण अनशन को राजनीतिक आन्दोलन की सही दिशा से विमुख होना कहा। पं. नेहरू की प्रतिक्रिया थी, “इस तरह के सुरक्षित और ​पवित्र काम को वृद्ध महिलाओं के लिए छोड़ देना चा​हिए।”  बावजूद इसके लोगों ने इसे गम्भीरता से लिया। देश में जगह-जगह जनसभाएं हुईं। 20 सितम्बर का दिन उपवास और प्रार्थना दिवस के रूप में मनाया गया। देश में कुएं, मंदिर वगैरह दलितों के लिए खोल दिए गए थे। रविन्द्रनाथ टैगोर ने गांधीजी को एक संदेश भेजकर कहा, ‘भारत की एकता और उसकी सामाजिक अखण्डता के लिए यह उत्कृष्ट बलिदान है। हमारे व्यथित हृदय आपकी इस महान तपस्या का आदर और प्रेम के साथ अनुकरण करेंगे।’

आमरण अनशन के कारण गांधीजी का स्वास्थ्य काफ़ी तेज़ी से गिरने लगा था। ऐसे में मदन मोहन मालवीय, डॉक्टर राजेन्द्र प्रसाद, पुरुषोत्तम दास टंडन, सी. राजगोपालाचारी आदि के प्रयासों से गाँधी जी और अम्बेडकर के मध्य 26 सितम्बर, 1932 ई. को एक समझौता हुआ जिसे 'पूना समझौता' के नाम से जाना जाता है। इस समझौते के तहत दलित वर्ग के लिए पृथक निर्वाचन मंडल समाप्त कर दिया गया लेकिन प्रान्तीय विधानमंडलों में दलितों के लिए सुरक्षित सीटों की संख्या 71 से बढ़ाकर 147 कर दी गई।

आमरण अनशन तोड़ने के बाद गांधीजी ने पूना समझौते के बारे में कहा कि ‘मैं अपने हरिजन भाइयों को इसके पूरी तरह से पालन का विश्वास दिलाता हूं।’ गांधीजी लगभग दो साल तक सभी कामकाज छोड़कर केवल छूआछूत निवारण आन्दोलन में ही जुटे रहे। यरवदा जेल से रिहा होने के पूर्व ही साप्ताहिक हरिजन जनवरी 1933 ई. का प्रकाशन आरम्भ किया गया। 7 नवम्बर 1933 को वर्धा से गांधीजी ने हरिजन यात्रा शुरू की, अगस्त 1934 के बीच उन्होंने 12,500 मील (तकरीबन 20 हजार किमी.) की यात्रा तय की।  ट्रेन, कार, बैलगाड़ी और जहां कुछ न मिला वहां गांधी पैदल ही गए।

15 जनवरी 1934 को बिहार में जो भयंकर भूकम्प आया उसे ‘सवर्ण हिन्दुओं के पापों का दैवी दंड’ कहा, -यह एक सुधार विरोधी पुरातनपंथी बात थी जिससे रवीन्द्रनाथ टैगोर को गहरा सदमा लगा। धीरे-धीरे सविनय अवज्ञा आन्दोलन को पृष्ठभूमि में जाने दिया गया, आखिरकार अप्रैल 1934 में सविनय अवज्ञा आन्दोलन औपचारिक रूप से वापस ले लिया गया।

कांग्रेस के कुछ जुझारू नेताओं का मानना था कि गांधीजी का हरिजन आन्दोलन साम्राज्यवाद विरोधी संघर्ष के मुख्य कार्य से एक हानिकारक भटकाव है। कांग्रेस के भीतर मौजूद कुछ रूढ़िवादी हिन्दुओं को भी यह नई बात अधिकाधिक खल रही थी। 1920 के दशक के मध्य में मदन मोहन मालवीय गांधीजी के अत्यन्त निकट रहे थे, अब उनसे दूर जाने लगे थे। बंगाल के रूढ़िवादी हिन्दुओं को इस बात पर आपत्ति थी कि पूना समझौते ने सदा के लिए सवर्णों को अल्पसंख्यकों की हैसियत प्रदान कर दी थी।

जून 1934 में कांग्रेस वर्किंग कमेटी ने एक समझौतापूर्ण न स्वीकार न इनकार का उपाय अपनाया जिसके फलस्वरूप मालवीय ने एक अलग कांग्रेस नेशनलिस्ट पार्टी बनाई। अप्रैल और जुलाई में 1934 ई. में बक्सर, जसीडीह और अजमेर में गांधीजी की हरिजन सभाओं को भंग किया गया। इतना ही नहीं पूना में 25 जून को गांधीजी की कार पर बम से हमला भी किया गया। संयोगवश गांधीजी उस कार में मौजूद नहीं थे, इसमें सवार सात व्यक्ति घायल हो गए।

हरिजन आन्दोलन के दौरान गांधीजी को पग-पग पर कट्टरपंथियों और सामाजिक प्रतिक्रियावादियों के विरोध का सामना करना पड़ा। गांधीजी को काले झण्डे दिखाए गए, उनकी सभाओं में उत्पात मचाया गया। गांधीजी के खिलाफ अपमानजनक परचे निकाले गए, यहां तक कि अपशब्द भी कहे गए।

गांधीजी अपने लेखों और भाषणों में बार-बार कहते थे कि “हम हिन्दू लोग सदियों से हरिजन और दलितों पर जो अत्याचार ढाते आए हैं, अब हमें उसका प्रायश्चित करना चाहिए।” शायद यही बात थी कि गांधीजी ने अम्बेडकर व अन्य हरिजन नेताओं की आलोचना का कभी बुरा नहीं माना। डॉ. अम्बेडकर तो गांधीजी के आलोचक थे, उन्हें गांधीजी पर विश्वास नहीं था। इस संबंध में गांधीजी का कहना था कि मुझ पर भरोसा न करने का उन्हें पूरा हक है। आखिर मैं भी उसी तथाकथित उच्चवर्गीय हिन्दू समाज का ही हूं जिसने हरिजनों पर अत्याचार किए हैं, उनका शोषण किया है। गांधीजी ने ​हिन्दू समाज को चेतावनी दी कि यदि छुआछूत का रोग खत्म नहीं हुआ तो हिन्दू समाज खत्म हो जाएगा। यदि हिन्दुवाद को जीवित रखना है, तो छुआछूत के रोग को समाप्त करना ही होगा।

यदि हरिजन आन्दोलन को दूरगामी परिणामों की दृष्टि से देखें तो गांधीवादियों द्वारा किए जाने वाले हरिजन कल्याण के कार्यों ने ग्रामीण समाज के सबसे निम्नतम और सबसे शोषित वर्गों तक राष्ट्रवाद का संदेश पहुंचाने का कार्य किया। इसमें कोई संदेह नहीं कि देश के अधिकांश भागों के हरिजन कांग्रेस के साथ निष्ठा की भावना से जुड़ गए जो आजादी के बाद भी कांग्रेस पार्टी के लिए अत्यंत सहायक सिद्ध होने वाली थी।