Тяга к спорту проявилась у Ивана с самого детства – в школе, а затем в техникуме, он всерьез увлекался игрой в футбол. Причем на поле занимал самую ответственную позицию – вратаря. Молодой человек намеревался связать свою жизнь с этим видом спорта, если бы не Владимир Чарков – известный тренер по вольной борьбе, который увидел в долговязом юноше будущего чемпиона.
Занятия борьбой практически сразу принесли результат. Ярыгин довольно быстро получил звание мастера спорта, параллельно победив на первенстве вооруженных сил по самбо. Затем ему покорилось первенство РСФСР, а потом – и СССР. После этого спортсмен вошел в сборную Союза по вольной борьбе и вышел на мировую арену.
В 1970 году Иван Ярыгин занял второе место на чемпионате Европы, что воспринял как личное поражение, и ещё больше усилил свою подготовительную деятельность. Это принесло свои плоды, и в 1972 году, на очередном чемпионате Европы, Ярыгин смог стать первым. А через несколько недель после этого, на Олимпиаде в Мюнхене, советский борец завоевал золотую медаль!
Год спустя, на чемпионате мира, Иван Сергеевич снова стал сильнее остальных, завоевав еще одну золотую медаль. Однако после этого в карьере спортсмена началась черная полоса. В 1974 году Ярыгин проиграл ряд поединков, после чего решил завершить карьеру. Но проведя несколько лет в родном селе, вдалеке от больших городов и соревнований, Иван Сергеевич принял решение вернуться.
Возвращение получилось триумфальным. Уже в 1976 году, на Олимпийских играх в Монреале, несмотря на невероятную боль от перелома сразу двух рёбер, Иван Ярыгин совершил настоящий спортивный подвиг и завоевал второе олимпийское золото в своей карьере! Руководство сборной оценило волю к победе и мужество борца, и на закрытии Игр именно ему была доверена честь нести флаг страны.
Окончательно спортивную карьеру Иван Ярыгин завершил в 1980 году. После этого он перешел на тренерскую работу, в 33 года став главным тренером сборной команды СССР по вольной борьбе. Этот пост Иван Сергеевич занимал с 1982 по 1992 год.
В 1993 году возглавил Федерацию спортивной борьбы России, которой руководил вплоть до своей трагической гибели в автомобильной катастрофе в 1997 году. Легендарному спортсмену, неоднократному чемпиону мира и Европы, легенде вольной борьбы было всего 48 лет…