Начало изучения геомагнитного поля в России относится к эпохе Петра I (1672–1725 годы) и связано с развитием морской навигации. Ещё в 1701 году была создана обсерватория при Навигацкой школе в Москве.

Важным шагом в развитии геомагнитных исследований был Указ Петра I об учреждении в 1724 году Петербургской Академии наук. На первом торжественном заседании наука о земном магнетизме была отнесена Академией к числу самых важных. В 1728 году закончилось строительство здания Кунсткамеры, где расположилась астрономическая лаборатория.

В 1829 году Петербургская академия наук приняла решение о строительстве первых магнитных обсерваторий в России. Инициаторами проекта были географ, натуралист и путешественник барон Александр фон Гумбольдт и профессор Казанского университета, разносторонний физик, научные интересы которого были чрезвычайно широки, — Адольф Яковлевич Купфер.

По инициативе Купфера была подготовлена и 13 (25) апреля 1834 года доложена Николаю I записка «Об учреждении магнитных и метеорологических наблюдений», на которой Император наложил резолюцию «Согласен», придав этому документу силу закона. Эта дата и считается датой создания Гидрометеослужбы России. Указом Николая I в Санкт-Петербурге при Горном институте была учреждена Нормальная магнитно-метеорологическая обсерватория с филиалами в Барнауле, Нерчинске, Златоусте, Колывани, Богословске, Екатеринбурге и Луганске.

Новым шагом в создании российской метеорологической службы стало создание в столице Главной физической обсерватории, на которую возлагалось «производство физических наблюдений и испытаний в обширном виде и вообще для исследования России в физическом отношении».

Двухэтажное здание обсерватории начали возводить по проекту архитектора Гельшера на пустыре Васильевского острова, на углу 23-й линии и Масляного канала. Объясняя выбор места для обсерватории, петербургская печать сообщала: «Местность эта по направлению к морю мало застроена, езда экипажей по немощённым улицам незначительна, не производит сотрясений в грунте и не препятствует наблюдениям».

Здание строили три года. Лаборатория начала работать 13 (1) апреля 1849 года. С самого начала Главная физическая обсерватория под руководством академика Купфера вела широкое наблюдение природных явлений.

Первоначально штат состоял из семи сотрудников: директора, смотрителя, двух старших и трёх младших наблюдателей. Директору ГФО поручалось осуществлять «надзор за всеми магнитными и метеорологическими заведениями, которые учреждены или впредь учредятся по другим ведомствам в той мере, как эти ведомства того пожелают». В функции ГФО входили разработка приборов и составление инструкций по проведению наблюдений, снабжение станций приборами, обработка и издание материалов наблюдений, инспектирование станций и поверка приборов.

Уже 14 сентября 1849 года французская газета Siècle заключила: «…мы не замечаем, как иностранцы нас опережают в науках. Вот Россия основала без всякого шума Главную физическую обсерваторию, имеющую огромное значение; ничего подобного нет до сих пор нигде в Европе».

Спустя год после основания ГФО начала публиковать «Метеорологическое обозрение России», содержавшее данные наблюдений о ежедневном состоянии погоды по всей стране.

Среди важнейших достижений обсерватории — создание глобальной модели общей циркуляции атмосферы. Такая модель позволяла составлять долгосрочный прогноз погоды и предсказывать изменения климата.

С 1856 года обсерваторией был организован сбор метеосводок с других станций по телеграфу — так была организована служба погоды. К 1856 году в России действовало 13 метеорологических станций, к 1872 году их количество возросло в два раза. В январе 1872 года вышел первый номер «Ежедневного метеорологического бюллетеня». ГФО принимала активное участие в становлении и развитии международного сотрудничества в области метеорологии.

Вскоре после октябрьской революции 1917 года ГФО была передана в ведение Народного комиссариата просвещения, при этом она продолжала выполнять функции руководства и контроля за работой службы. В 1924 году обсерватория получила название Главной геофизической обсерватории. С момента своего основания и до образования в 1929 году Гидрометеорологического комитета СССР ГГО выполняла функции руководящего органа Гидрометеорологической службы России. К столетию со дня основания обсерватории в 1949 году обсерватории присвоили имя выдающегося российского климатолога Александра Ивановича Воейкова. Это старейшее метеорологическое учреждение России, активно работающее и сегодня.