Родился в Одессе, в семье врачей Мане (Эммануила) Моисеевича Жванецкого и Раисы Яковлевны Жванецкой. Рос в Томашполе, где отец работал терапевтом, а мать стоматологом. Семья вернулась в Одессу из эвакуации после освобождения города в 1944 году. Окончил 118-ю среднюю школу для мальчиков.
В 1956 году окончил ОИИМФ — Одесский институт инженеров морского флота по специальности «Инженер-механик подъёмно-транспортного оборудования портов». После окончания ОИИМФа работал в Одесском порту вместе с Виктором Ильченко: Михаил – механиком по кранам, а Виктор — механиком по автопогрузчикам[7].
В студенческие годы участвовал в самодеятельности, где начал писать миниатюры и монологи, которые часто сам и исполнял. В 1963 году во время гастролей в Одессе Ленинградского театра миниатюр познакомился с Аркадием Райкиным, который взял его произведения в репертуар театра, а в 1964 году пригласил его в свой театр на должность заведующего литературной частью.
Вместе со Жванецким Райкин поставил в 1969 году программу «Светофор», в которой впервые прозвучали миниатюры Жванецкого «Авас», «Дефицит», «Век техники».
В период работы в театре А. И. Райкина, творчески сотрудничал с Романом Карцевым и Виктором Ильченко, для которых написал более трёхсот миниатюр и монологов.
Затем самостоятельно выступал в Одесской филармонии, потом в Московском театре «Эрмитаж», где приобрел популярность.
С 1988 года художественный руководитель созданного им Московского театра миниатюр. В 1991 году снялся камео в эпизоде фильма «Гений».
С 2002 года по настоящее время является постоянным ведущим в ежемесячной телепередаче «Дежурный по стране», оригинального формата на канале Россия 1.
