Советский учёный, член-корреспондент АН УССР, профессор, к 1951 г. — руководитель отдела технической физики Киевского Института физики АН УССР. Годы его учения совпали с войной и революцией. Гимназию сменила советская школа, вторую ступень которой он окончил в 1921 году. В 1922 году он поступил в Петроградский электротехнический институт, а с 1924 года начинает свой трудовой путь, совмещая его с учебой. В течение пяти лет А.А. Харкевич работает монтером в аккумуляторной лаборатории, практикантом, техником и руководителем работ на заводе. Обучение в институте затянулось, но практическая работа не пропала даром. Александр Александрович становится квалифицированным инженером-практиком. Однако широта интересов и творческое начало влекут дальше, и он вступает на путь исследователя. В 1928 году выходит из печати его первая научная работа «Экспериментальное исследование некоторых свойств репродукторов». В 1929 году он оставляет завод и поступает в Центральную радиолабораторию, в которой за три года проходит путь от старшего лаборанта до старшего инженера. В 1930 году он оканчивает институт и исследовательскую работу совмещает с преподаванием. С 1932 года основным занятием Александра Александровича становится педагогическая деятельность. Он работает сначала ассистентом, затем становится доцентом, а потом исполняющим обязанности профессора Военной электротехнической академии. В 1938 году он уже доктор технических наук и профессор. В это время он получает кафедру в Институте связи в Ленинграде, где работает до 1941 года.

На первом этапе научной деятельности А.А. Харкевич работает над теорией расчета и конструированием электроакустической аппаратуры. В 34 года Александр Александрович уже имеет около 30 печатных научных работ и становится крупным специалистом в области теоретической и прикладной акустики. Результаты исследований этого периода изложены в монографиях «Электроакустическая аппаратура» (1933 г.), «Примеры технических расчетов в области акустики» (1938 г.) и «Теория электроакустических аппаратов» (1940 г.). Теоретические исследования А.А. Харкевич сочетал с практическими разработками. В 1929 году он разработал первый отечественный диффузорный динамический громкоговоритель («Рекорд»), а позднее участвовал в разработке рупорных громкоговорителей. В 1930-х годах пятисотваттные громкоговорители такой конструкции применялись для озвучивания Красной площади в Москве и Дворцовой площади в Ленинграде. В 1941 году, накануне Великой Отечественной войны, Александр Александрович полностью посвящает себя научной деятельности в Физико-техническом институте АН СССР, где он заведует лабораторией. Главным в его творчестве этого периода является работа над созданием общей теории преобразователей энергии, в том числе пьезоэлектрических и магнитострикционных. В 1948 году выходит монография «Теория преобразователей», в которой особое место занимают исследования переходных процессов, связанных с преобразованием энергии.

В конце войны, в 1944 году, Александр Александрович был направлен во Львовский политехнический институт в качестве профессора, заведующего кафедрой. В 1948 году он был избран членом-корреспондентом АН Украинской ССР. В связи с этим А.А. Харкевич переехал в Киев, где организовал отдел технической физики в Институте физики АН УССР. Украинский период работы Александра Александровича связан с глубокими теоретическими исследованиями волновых процессов. В этот период он издаёт монографию «Неустановившиеся волновые явления» (1950 г.), которая является полным и систематическим изложением этого специального раздела теории поля. Другая замечательная книга А.А. Харкевича «Спектры и анализ» (1952 г.) посвящена спектральным представлениям в теории колебаний, акустике и радиотехнике. Эта книга отличалась актуальностью содержащегося в ней материала, а также исключительной четкостью и краткостью изложения. В ней впервые были рассмотрены анализ как измерительный процесс и особенности анализатора как измерительного прибора. Была установлена связь между разрешающей способностью анализатора и временем анализа. Введены понятия динамической и статической разрешающей способности анализатора. Рассмотрен процесс анализа коротких одиночных импульсов, введены условия, которым должен удовлетворять идеальный анализатор, и указаны поправки, которые следует вводить в показания реального анализатора. Книга выдержала четыре издания в нашей стране и была переведена в США и Китае. Третья книга украинского периода работы А.А. Харкевича – «Автоколебания» (1952 г.), в которой даётся исключительно яркое и оригинальное изложение одного из наиболее интересных и сложных вопросов нелинейной теории, практически без применения математического аппарата. Предельно ясное качественное объяснение сути автоколебательных процессов самого различного типа (механических, акустических, электромагнитных) с единых энергетических позиций, блестящая физическая трактовка этого явления, многочисленные примеры, наряду с применением нового метода исследования, основанного на использовании «анализа фаз», резко выделяют эту книгу среди обширной литературы, посвященной теории автоколебаний. Книга «Автоколебания» получила широкую известность и была переведена на польский и китайский языки.

В 1952 году А.А. Харкевич переезжает в Москву. Ему 48 лет, он завоевал имя крупного ученого, блестящего организатора и руководителя научных коллективов. Ему принадлежит более 70 печатных работ, среди которых видное место занимают обобщающие монографии. За последний, московский, период жизни Александр Александрович опубликовал еще более 30 научных работ, среди которых 5 книг. Всего же им было написано 13 книг, 86 научных и 11 обзорных статей. Переезд А.А. Харкевича в Москву, где он возглавил кафедру теоретической радиотехники Московского электротехнического института связи, стимулировал его работу в области теоретической радиотехники, многие аспекты которой тесно смыкались с его ранними исследованиями по теории колебаний. Итогом этой деятельности было создание трех замечательных учебников по теоретическим основам радиосвязи «Нелинейные и параметрические явления в радиотехнике» (1956 г.), «Теоретические основы радиосвязи» (1957 г.) и «Основы радиотехники» (1962 г.). Эти книги, написанные с исключительной ясностью, завоевали широкую популярность в нашей стране и за рубежом. Первая из трех названных книг была переведена и издана в США и во Франции.

Свойственный Александру Александровичу Харкевичу интерес ко всему новому, прогрессивному, исключительное умение предвидеть особенно перспективные направления в науке и технике очень быстро заставили его перейти от исследований классических проблем радиотехники к общим вопросам передачи информации. Начиная с 1954 года А.А. Харкевич начал работать в качестве старшего научного сотрудника в Лаборатории по разработке научных проблем проводной связи Академии Наук СССР, и его научные интересы сосредоточились, главным образом, на общей теории связи. Выпущенная им в 1955 году книга «Очерки общей теории связи» была первым сочинением на русском языке, в котором последовательно излагались важнейшие идеи теории передачи информации. Эта книга, наряду с другими работами Александра Александровича, в которых широко применялись и популяризировались геометрические методы исследования в теории связи и которые по характеру изложения отличались от работ Шеннона, была основным источником ознакомления широкого круга советских инженеров и научных работников с важнейшими идеями теории передачи информации. А.А. Харкевич непосредственно занимался проблемами обнаружения и приёма слабых сигналов, сжатия спектра сигналов, статистическим и помехоустойчивым кодированием. Ему принадлежат исследования, относящиеся к теории идеального приёмника, пропускной способности систем связи, методам построения оптимальных систем связи. Александр Александрович изучал помехоустойчивость различных видов модуляции и искажающее действие помех различного типа (аддитивной коррелированной помехи, мультипликативной помехи и др.), впервые поставил вопрос о количественном измерении ценности информации и на простейших примерах показал принципиальную возможность разумного построения меры ценности информации.

Научная инициатива А.А. Харкевича привела к развитию ряда важных научных направлений. Александр Александрович сплотил вокруг себя работоспособный творческий коллектив молодых сотрудников и вскоре стал директором лаборатории, которая стала называться Лабораторией систем передачи информации. На базе этой лаборатории по его инициативе в 1961 году был создан Институт проблем передачи информации АН СССР. Среди задач нового института были развитие теории передачи информации и её приложений, разработка принципиальных вопросов единой системы передачи и распределения информации (структуры сетей и узлов связи, коммутации, автоматического управления, теории телетрафика), разработка теории и методов распознавания образов. На посту директора Института Александр Александрович Харкевич проявил себя крупным организатором научных исследований. Им были получены важные и глубокие результаты, многие из которых явились отправными пунктами самостоятельных исследований его учеников, сотрудников и последователей. По его инициативе и под его руководством в Институте получили дальнейшее развитие ряд новых направлений исследований, в том числе по помехоустойчивому кодированию и распознаванию образов. А.А. Харкевич отчетливо понимал необходимость модернизации средств связи в стране и выступил в 1962 году инициатором постановки проблемы Единой автоматизированной сети связи (ЕАСС), по которой было принято важное правительственное решение. В последующие годы он выступал в качестве организатора и активного участника её разработки.

С 1965 года под редакцией А.А. Харкевича начинает издаваться журнал «Проблемы передачи информации», на страницах которого выступали крупнейшие отечественные ученые (академик А.Н. Колмогоров, профессора Р.Л. Добрушин, М.С. Пинскер, Э.Л. Блох, Л.М. Финк, и многие другие), а также ученые из других стран. В 1963 году вышла последняя замечательная книга А.А. Харкевича «Борьба с помехами», в которой были изложены важные вопросы теории помехоустойчивости и намечен ряд перспективных направлений дальнейших исследований. В 1960 году А.А. Харкевич был избран членом-корреспондентом АН СССР, а в 1964 году – действительным членом Академии наук СССР. За выдающиеся заслуги перед наукой Александр Александрович был награжден орденами Ленина и Трудового Красного Знамени.

Президиум АН СССР вынес решение о посмертном издании трудов А.А. Харкевича. В результате большой работы, проведенной специально созданной комиссией, были подготовлены три тома, в которые вошли все наиболее важные труды ученого.