Он родился в поселке Усть-Камзас Кемеровской области, окончил Красноярский педагогический институт. Еще учась в школe, увлекся вольной борьбой. В 1968 году к Ивану приходят первые весомые успехи: он поочередно выигрывает молодежные чемпионаты сначала России, а затем Советского Союза. Чемпионат СССР 1970 года собрал весь цвет борьбы и являлся первым этапом отбора на Олимпийские игры в Мюнхене. Ярыгин довольно успешно дошел до финала чемпионата страны, но не менее уверенно попал в финал чемпион мира киевлянин Владимир Гулюткин. Совершенно неожиданно для многих Ярыгин одерживает победу над именитым соперником и попадает в число кандидатов в олимпийскую сборную.
Выступления Ярыгина на Олимпийских играх можно занести в Книгу рекордов Гиннесса. Он одержал чистые победы во всех схватках, то есть тушировал соперников на олимпийском ковре. На пути к Олимпийской вершине Иван Ярыгин установил своеобразный рекорд — на все поединки он затратил времени меньше, чем длится одна схватка. Затем Ярыгин выигрывает и Монреальскую Олимпиаду.
В 1977 году в сборной СССР по вольной борьбе был проведен неофициальный опрос: кого хотят видеть старшим тренером главной команды страны? Большинство борцов ответили:
«Ивана Сергеевича Ярыгина». Являясь старшим тренером сборной страны по вольной борьбе, он тем не менее готовится к третьей своей олимпиаде — Московской. Но неожиданно в самый последний момент уступает место в сборной своему ученику Илье Мате, который и стал Олимпийским чемпионом.
В 1970 году Иван Ярыгин впервые приезжает в Дагестан для участия в чемпионате СССР по вольной борьбе. Здесь он становится победителем, а его манера проведения схваток, мощный напор и постоянные атаки полюбились дагестанским болельщикам. И ведь недаром он получил прозвище «Рыжий Шамиль». Дагестан и его болельщики полюбились ему, и он стал приезжать сюда регулярно, сначала для участия в соревнованиях, а потом в качестве почетного гостя. В один из таких приездов он был удостоен звания «Почетный гражданин города Махачкалы»
Вклад Ивана Сергеевича Ярыгина в развитие российского и международного спорта в качестве главного тренера сборной СССР ещё более весом, чем его личные победы. Двенадцать лет он занимался со сборной страны, и в этот период “вольники” собирали самые богатые урожаи медалей всех достоинств на чемпионатах Европы и мира, на Олимпийских играх.
Подобных результатов за всю историю спорта в СССР не добивался ни один из тренеров. В этом достижении суть второго спортивного подвига Ивана Ярыгина.