Родился 22 января (официально — 10 февраля) 1952 года в селе Полудино Полудинского района Северо-Казахстанской области в семье педагогов.Является почти слепым от рождения.
В 1970 году окончил с отличием музыкальную школу Омска по классу баяна. С золотой медалью окончил омскую специальную школу-интернат № 95 для слепых и слабовидящих детей.
Поступил на исторический факультет Омского государственного педагогического института имени А. М. Горького. В 1974 году окончил вуз, получив диплом с отличием. С 1974 по 1976 год работал преподавателем в Омской школе рабочей молодёжи. С 1976 года работает ассистентом в Омском государственном педагогическом институте. В 1976—1991 годах — член КПСС.
1 декабря 1979 года избран старшим преподавателем Омского государственного педагогического института. 1 ноября 1981 года — 1 ноября 1982 года прикомандирован в аспирантуру УрГУ.
В 1982 году под научным руководством Л. Н. Когана защитил кандидатскую диссертацию «Культурная революция как фактор формирования социалистического образа жизни» по специальности «философия» в Уральском государственном университете. 30 марта 1984 года избран доцентом Омского государственного педагогического института.
В 1989—1991 годах член реформистского партийного клуба в Омске. 18 марта 1990 года избран народным депутатом РСФСР. Член фракции «Россия».
С 1 сентября 1992 года — член Комитета по науке и народному образованию ВС РСФСР на постоянной основе. 12 декабря 1993 года избран депутатом Совета Федерации Федерального Собрания РФ. 1 марта 1994 года избран председателем подкомитета по образованию и подготовке кадров Комитета Совета Федерации по вопросам науки, культуры и образованию.
17 декабря 1995 года избран депутатом Государственной Думы второго созыва. Член депутатской группы «Народовластие». 23 января 1996 года избран заместителем председателя Комитета Государственной Думы второго созыва по образованию и науке. 1 февраля 1996 года избран председателем подкомитета по образованию.
19 декабря 1999 года избран депутатом Государственной Думы третьего созыва. Член Агропромышленной депутатской группы. 24 января 2000 года избран заместителем председателя Комитета Государственной Думы по образованию и науке.
В 2001 году защитил докторскую диссертацию по теме «Социально-философские аспекты государственной образовательной политики в условиях радикальной трансформации российского общества» в МПГУ.
В Госдуме занимался проблемами образования, был разработчиком таких базовых для системы образования законов, как Закон «Об образовании», Закон «О высшем и послевузовском профессиональном образовании», «Об утверждении федеральной программы развития образования», а также Национальной доктрины образования в Российской Федерации, одобренной Всероссийским совещанием работников образования в Кремле 15 января 2000 года.
12 сентября 2001 года избран председателем правления Омского регионального отделения Народно-патриотического союза России (НПСР).
7 декабря 2003 года избран депутатом Государственной Думы четвёртого созыва. Член фракции КПРФ. 16 января 2004 года избран первым заместителем председателя Комитета по образованию и науке Государственной Думы.
23 апреля 2004 года избран членом-корреспондентом Российской академии образования.
2 декабря 2007 года избран депутатом Государственной Думы 5 созыва от Коммунистической партии Российской Федерации. В январе 2008 года стал заместителем председателя Комитета Государственной Думы по образованию
26 февраля 2009 года избран президентом общества «Знание». В сентябре 2009 года Смолин подвергся ограблению. Представители КПРФ не исключали политических причин ограбления.
4 декабря 2011 года избран депутатом Государственной Думы 6 созыва от КПРФ, член фракции «КПРФ», первый заместитель председателя Комитета ГД по образованию.
В 2013 году вошёл в состав Оргкомитета по подготовке и проведению памятных мероприятий, посвященных 20-летию расстрела Съезда народных депутатов России и Верховного совета РФ.
Профессор, академик Академии гуманитарных наук и Академии педагогических и социальных наук. Автор более 700 научных, научно-публицистических и публицистических работ, в том числе 7 авторских книг; соавтор 4 книг.
Первый вице-президент Паралимпийского комитета России, вице-президент Всероссийского общества слепых (ВОС), почётный член Всероссийского общества инвалидов.
Женат. Имеет сына и внука.