Детские годы О.Ю. Шмидта прошли в Могилеве на Днепре, затем в Одессе. Семья Шмидтов была мало обеспеченной и существовала, в основном, на доход от мелкой торговой деятельности, которой занимался отец. Судьба одаренного, любознательного и безудержно стремящегося к знаниям Отто Шмидта решалась на семейном совете. Под влиянием деда со стороны матери, который очень любил внука, решено было помочь способному мальчику получить образование.

Неудачи отца в торговле и необеспеченность семьи заставляли переезжать Шмидтов из города в город в поисках лучшей жизни, поэтому Отто Шмидт сменил три гимназии. В 1900 г. он начал учиться в могилевской классической гимназии, куда был принят сразу во второй класс. Продолжил учебу в одесской гимназии, переехав с родителями в морской город в 1901 г. В 1907 г. семья Шмидтов переехала в Киев, где в 1909 г. Отто Шмидт с золотой медалью окончил 2-ю мужскую классическую гимназию.

В том же году О.Ю. Шмидт становится студентом физико-математического факультета Киевского университета. Он слушает лекции Д.А. Граве, В.Я. Букреева и других видных профессоров. К окончанию университета О.Ю. Шмидт был автором трех печатных работ по математике, почти законченной была его книга "Абстрактная теория групп".

После окончания университета в 1913 г. О.Ю. Шмидт был оставлен в нем для подготовки к профессорскому знанию. В 1915–1916 гг. в связи с временной эвакуацией Киевского университета О.Ю. Шмидт жил в Саратове. После возвращения в университет он начинает в нем преподавательскую деятельность.

В 1916 г. была опубликована монография О.Ю. Шмидта "Абстрактная теория групп", за которую ученый был награжден премией профессора механики Киевского университета Рахманинова (большая золотая медаль) еще до ее выхода из печати.

В университетский период проявились и организационные способности О.Ю. Шмидта, стремление сочетать научную работу с общественной. В 1915 г. он был избран председателем общества преподавателей киевских высших учебных заведений; в конце 1916 г. участвовал в организации и управлении университетским кооперативом, а в начале 1917 г. поступил на службу в продовольственную часть Киевской городской управы.

В июне 1917 г. О.Ю. Шмидт уехал в Петроград для участия в работе Всероссийского съезда по делам высшей школы. 14 июля 1917 г. О.Ю. Шмидт был зачислен на должность старшего делопроизводителя по вольному найму отдела снабжения тканями, кожей и обувью Управления по снабжению предметами первой необходимости министерства продовольствия. При этом он оставался в должности приват-доцента Киевского университета.

После октября 1917 г. министерство продовольствия было ликвидировано. С образованием Наркомата продовольствия (Наркопрода) О.Ю. Шмидт был назначен начальником Управления по продуктообмену.

В марте 1918 г. по решению СНК советское правительство переезжает из Петрограда в Москву. Вместе с другими руководителями Наркомпрода в Москву переезжает и О.Ю. Шмидт.

В начале 20-х гг. О.Ю. Шмидт работал не только в государственных структурах, связанных с экономикой. Как член коллегии, затем заместитель председателя Главного управления по профессионально-техническому образованию Наркомата просвещения (Наркомпроса), О.Ю. Шмидт вплотную занимался реформированием профессионально-технического и высшего образования. Он выступает с рядом докладов и публикует статьи в прессе по вопросам перестройки просвещения в стране: "О значении профессионально-технического образования", "О задачах профессионального образования", "О высшей школе", "О единой трудовой школе и профессионально-техническом образовании", "Реформа школьной системы" и др.

Несмотря на большую загруженность государственной работой, О.Ю. Шмидт находит время готовить интереснейшие лекции по истории и методологии естествознания и математики в Коммунистическом университете, выступать в Московском научно-техническом клубе с докладами о применении методов математики к теоретической экономике. Кроме того, он ведет большую преподавательскую работу – с 1920 г. в Лесотехническом институте, с 1923-го – во 2-ом МГУ, с 1919 г. читает лекции по математике и с 1930 г. ведет алгебраический семинар в Московском университете. О.Ю. Шмидт выступал также и в институте Красной профессуры, и в Коммунистической академии, где с 1925 г. возглавлял секцию естественных и точных наук.

В 1921 г. О.Ю. Шмидт был назначен заведующим Государственным издательством РСФСР (Госиздатом). С октября 1921 г. по октябрь 1923 г. объем издательской продукции вырос в десять раз, книгоиздательство стало безубыточным. Сознавая важность насыщения рынка книгами, О.Ю. Шмидт поддержал инициативы создания издательств "Московский рабочий" и "Молодая гвардия".

Работая в Госиздате, О.Ю. Шмидт задумал издание большого универсального справочника. В апреле 1924 г. он принял на себя обязанности главного редактора Большой Советской Энциклопедии. О.Ю. Шмидт возглавлял БСЭ до 1942 г. Личное знакомство О.Ю. Шмидта с крупными учеными, видными политическими деятелями позволяло привлекать их к участию в БСЭ. Военный отдел вели М.В. Фрунзе, М.Н. Тухачевский; над медицинскими статьями работали Н.Н, Бурденко, Н.А. Семашко; естествознанием и точными науками занимался академик А.Ф. Иоффе; историей – М.Н. Покровский и др.

Летом 1927 г. О.Ю. Шмидт едет в научную командировку в Германию, где делает доклад на немецком языке в Геттингенском математическом обществе "О бесконечных группах с конечной цепью" с формулировкой т. н. теоремы Шмидта. Теоремы такого ранга и значения, как теорема Шмидта, насчитываются в каждой области математики единицами.

Огромную славу О.Ю. Шмидту принесли экспедиции на Памир и в Арктику. В 1927 г. Академия наук СССР приступила к организации совместной советско-германской Памирской экспедиции (1928). Возглавлял экспедицию Н.П. Горбунов, О.Ю. Шмидт руководил альпинисткой группой. К тому времени он уже имел альпинистский опыт, на его счету было несколько восхождений на Кавказе и в Альпах. В результате работы группы О.Ю. Шмидта впервые был пройден и нанесен на карту горный ледник Федченко, самый большой в мире (77 км).

Вернувшись с Памира, О.Ю. Шмидт начал готовиться к новым путешествиям: он задумал исследовать Арктику. Дважды выходил в неисследованные районы Карского моря на ледоколе "Георгий Седов" (1929–1930), где открыл несколько островов. Впервые прошел за одну навигацию Северный морской путь от Северной Двины до Берингова пролива на ледоколе "Сибиряков" (1932).

Важнейшим его достижением в изучении и освоении Арктики была подготовка и организация первой в истории дрейфующей научной станции "Северный полюс-1" (1937). Основание полярной станции было отмечено высокой наградой – 27 июня 1937 г. О.Ю. Шмидту было присвоено звание Героя Советского Союза.

О.Ю. Шмидт создал одну из гипотез происхождения Земли и всей Солнечной системы. Основной идеей теории происхождения Земли и планет Солнечной системы О.Ю. Шмидта является захват Солнцем пылевой и метеорной материи из Галактики и последующее слияние этой мелкораздробленной материи в планеты. В 1949 г. вышла книга О.Ю. Шмидта "Четыре лекции о теории происхождения Земли".

В формировании О.Ю. Шмидта как видного ученого и организатора науки большую роль сыграла Академия наук.

В 1933 г. О.Ю. Шмидт был избран членом-корреспондентом АН СССР.

В мае 1934 г. на заседании президиума Академии наук Украины О.Ю. Шмидт был избран почетным членом Института математики, а через месяц зачислен туда же как новоизбранный академик.

В 1935 г. О.Ю. Шмидт стал действительным членом АН СССР.

28 февраля 1939 г. О.Ю. Шмидт был единогласно избран первым вице-президентом АН СССР и сразу же включился в работу по перестройке аппарата президиума академии и ее учреждений. Особое значение О.Ю. Шмидт придавал разработке комплексных тем.

2 июля 1941 г. О.Ю. Шмидт был утвержден уполномоченным Совета по эвакуации Академии наук СССР. С первых дней прибытия в Казань он занимался размещением академических учреждений в Казахском университете.

После возвращения в Москву (1943), О.Ю. Шмидт входил в бюро Отделения физико-математических наук, руководил Геофизическим институтом, был членом Комиссии по физическим методам разведки полезных ископаемых, участвовал в Экспертной комиссии по выборам в Академию наук.

За большие научные заслуги и руководство экспедициями О.Ю. Шмидт был награжден орденами Ленина (1932, 1937, 1953), Красной Звезды (1934), Трудового Красного Знамени (1936, 1945), а также медалями.

Умер О.Ю. Шмидт 7 сентября 1956 г. в Мозжинке под Москвой, похоронен на Новодевичьем кладбище в Москве.

Именем Шмидта названы: остров в северной части Карского моря, полуостров в северной части Новой Земли, мыс на побережье Чукотского моря, район в Чукотском автономном округе Магаданской области, одна из вершин и перевал в горах Памира; первый в мире научно-исследовательский ледокол "Отто Шмидт"; одна из малых планет.

Его имя присвоено Объединенному институту физики Земли АН СССР (с 1992 – РАН).

В честь ученого Российской академией наук учреждена премия имени О.Ю. Шмидта (1995).