Родился в семье врачей Мане (Эммануила) Моисеевича Жванецкого и Раисы Яковлевны Жванецкой. В 1956 году окончил ОИИМФ — Одесский институт инженеров морского флота по специальности «Инженер-механик подъёмно-транспортного оборудования портов». После окончания ОИИМФа работал в Одесском порту вместе с Виктором Ильченко: Михаил механиком по кранам, а Виктор — механиком по автопогрузчикам[6]. В студенческие годы участвовал в самодеятельности, где начал писать миниатюры и монологи, которые часто сам и исполнял. В 1963 году во время гастролей в Одессе Ленинградского театра миниатюр познакомился с Аркадием Райкиным, который взял его произведения в репертуар театра, а в 1964 году пригласил его в свой театр на должность заведующего литературной частью. Вместе со Жванецким Райкин поставил в 1969 году программу «Светофор», в которой впервые прозвучали миниатюры Жванецкого «Авас», «Дефицит», «Век техники». В период работы в театре А. И. Райкина, творчески сотрудничал с Романом Карцевым и Виктором Ильченко, для которых написал более трёхсот миниатюр и монологов. Затем самостоятельно выступал в Одесской филармонии, потом в Московском театре «Эрмитаж», где приобрел популярность. С 1988 года художественный руководитель созданного им Московского театра миниатюр. В 1991 году снялся в эпизоде фильма «Гений». С 2002 года по настоящее время является постоянным ведущим в ежемесячной телепередаче «Дежурный по стране», оригинального формата на канале Россия 1.