러시아의 귀족 출신으로 1814년 러시아 프랴무히노에서 태어났다. 모스크바와 상트페테르부르크에서 공부한 그는 독일로 건너가, 베를린에서 헤겔 철학을 무신론적이고 혁명적으로 해석하던 좌파 헤겔주의자들과 교류했다. 이후 취리히와 파리로 거처를 옮겨 마르크스와 엥겔스는 물론 프루동과도 만나 사회주의 운동에 참여하게 된다.
1849년 드레스덴 봉기에 참여한 혐의로 체포되어 사형을 선고받지만, 종신형으로 형이 감형되었고 시베리아 유형소로 보내졌다. 이후 1861년에 탈출하여 천신만고 끝에 도착한 유럽에서 망명 생활을 시작한다.
1860년에는 마르크스와 엥겔스의 『공산당 선언』을 러시아어로 최초로 번역해 소개했으며, 1869년에는 계급 폐지를 주요 목표 중 하나로 삼는 국제사회민주주의동맹을 창립했다. 이 단체는 제1인터내셔널에 가입하게 된다. 바쿠닌과 마르크스는 다른 개혁주의자들에 맞선 공동 투쟁을 벌이기도 했지만, 여러 이견이 있었고 결국 바쿠닌은 1872년에 제1인터내셔널에서 제명된다. 바쿠닌은 1876년 스위스 베른에서 생을 마감했다.